Judith Miller obtuvo los resultados de sus imágenes el año pasado. Ella no los archivó simplemente. Le preguntó a Claudio.
La IA, construida por Anthropic, le provocó un colapso. Miller entró en su seguimiento armado con preguntas. Se sintió lista. El chatbot “me permitió comprender mejor”, dijo. No se trataba de reemplazar a su médico. Se trataba de una toma de decisiones compartida.
Esta es la nueva normalidad.
Las encuestas dicen que un tercio de los adultos ha pedido a un LLM que le explique los análisis de laboratorio o diagnostique los síntomas. Robert Wachter, médico de la UCSF, cree que se duplica cada año. “Sospecho que se duplicarán otra vez el próximo año”.
Claude no está diseñado ni comercializado para diagnóstico clínico.
Anthropic está de acuerdo con esa postura. La herramienta te prepara. No te trata.
¿Por qué hacemos esto? Por los datos.
La Ley Cutes del Siglo XXI arrojó nuestros registros en línea. Resultados de la prueba. Notas clínicas. Un exceso de jerga. Dave deBronhart conoce la sensación. Leíste el informe. La gran pregunta está ahí. ¿Qué quiere decir esto?
Antes había que esperar a que un médico lo tradujera. ¿Ahora? Los chatbots lo hacen en segundos. El miedo cae. La ansiedad disminuye.
Pero a veces se equivocan.
Los LLM alucinan. Confirman sesgos. Presentan conjeturas como hechos. Cait DesRoches advierte sobre la falta de barandillas. No hay mucha investigación sobre lo que sucede cuando tratamos un algoritmo como un médico.
“No creo que tengamos una idea real de qué tan bien funciona esto para el paciente promedio”.
Los riesgos son reales. Un hombre de Seattle murió recientemente. Leucemia. Tratable. Se negó a recibir atención porque AI le dijo que tenía una complicación rara que en realidad no tenía. Ese es un mal final.
Un estudio de Nature Medicine encontró que los usuarios acertaron en el diagnóstico sólo un tercio de las veces con la ayuda de modelos.
¿Deberíamos dejar de usarlos? La mayoría de los expertos dicen que no.
Úsalos con los ojos abiertos. Adam Rodman considera que los LLM son la mejor herramienta de empoderamiento jamás inventada. Con una gran salvedad: debes utilizarlos adecuadamente.
Así es como la gente intenta arreglar las piezas rotas.
- Imagina que el robot es un médico. Recopila datos de manera diferente.
- Pídale que reconsidere su respuesta.
- Obtener una segunda opinión de un modelo diferente.
- Nunca escriba su número de seguro social. Proteja su privacidad.
¿El objetivo? Mejores preguntas para el verdadero médico humano.
Watcher llama a esto saludable. Pero consume tiempo. Pasa diez minutos desacreditando al Dr. Chatbot antes de que la cita llegue a la mitad. “Tengo quince minutos. ”
¿Para quienes no tienen seguro o están atrapados en listas de espera? La IA podría ser todo lo que hay.
Laura Adams dice que el acceso se encuentra en un nivel de crisis. No compares al robot con un médico perfecto. Compárelo con nada en absoluto. Es mejor que no preocuparse.
El caballo está fuera del granero. Necesitamos alfabetización ahora. No ignorancia. Educación. Enseñe a la gente cómo hacerlo bien.
Se vienen nuevos modelos. ¿Quizás los certificados por la junta? Watcher sugiere que podría suceder.
¿Por ahora? Sea escéptico. Miller sabe la verdad. El chatbot une palabras a partir de patrones estadísticos. Es impresionante. También es simplemente predecir la siguiente palabra probable.
“No es una verdad absoluta”, dijo Miller.
