Judith Miller obteve seus resultados de imagem no ano passado. Ela não apenas os arquivou. Ela perguntou a Cláudio.
A IA, construída pela Anthropic, deu-lhe um colapso. Miller entrou em seu acompanhamento armado com perguntas. Ela se sentia pronta. O chatbot “permitiu-me compreender melhor”, disse ela. Não se tratava de substituir seu médico. Tratava-se de tomada de decisão compartilhada.
Este é o novo normal.
As pesquisas dizem que um terço dos adultos pediu a um LLM para explicar os laboratórios ou diagnosticar sintomas. Robert Wachter, médico da UCSF, acha que esse número dobra a cada ano. “Suspeito que eles dobrarão de novo no próximo ano.”
Claude não foi concebido nem comercializado para diagnóstico clínico.
A Antrópica concorda com essa postura. A ferramenta prepara você. Isso não trata você.
Por que estamos fazendo isso? Por causa dos dados.
O 21st Century Cutes Act despejou nossos registros online. Resultados do teste. Notas clínicas. Um excesso de jargão. Dave deBronhart conhece o sentimento. Você leu o relatório. A grande questão está aí. O que isto significa?
Anteriormente, era necessário esperar que um médico o traduzisse. Agora? Os chatbots fazem isso em segundos. O medo cai. A ansiedade diminui.
Mas eles estão errados às vezes.
LLMs alucinam. Eles confirmam preconceitos. Eles apresentam suposições como fatos. Cait DesRoches alerta sobre a falta de guarda-corpos. Não há muitas pesquisas sobre o que acontece quando tratamos um algoritmo como um médico.
“Acho que não temos nenhuma ideia real de quão bem isso funciona para o paciente médio.”
Os riscos são reais. Um homem de Seattle morreu recentemente. Leucemia. Tratável. Ele recusou atendimento porque a IA lhe disse que ele tinha uma complicação rara que na verdade não tinha. Esse é um final ruim.
Um estudo da Nature Medicine descobriu que os usuários acertavam os diagnósticos apenas um terço das vezes com a ajuda de modelos.
Devemos parar de usá-los? A maioria dos especialistas diz que não.
Use-os com os olhos abertos. Adam Rodman considera os LLMs a melhor ferramenta de capacitação já inventada. Com uma grande ressalva: você deve usá-los de forma adequada.
Veja como as pessoas tentam consertar as peças quebradas.
- Finja que o bot é um médico. Ele coleta dados de maneira diferente.
- Peça-lhe para repensar a sua resposta.
- Obtenha uma segunda opinião de um modelo diferente.
- Nunca digite seu número de segurança social. Proteja sua privacidade.
O objetivo? Melhores perguntas para o verdadeiro médico humano.
Wachter chama isso de saudável. Mas consome tempo. Ele passa dez minutos desmascarando o Dr. Chatbot antes mesmo da metade da consulta. “Tenho quinze minutos. ”
Para os não segurados ou presos em listas de espera? A IA pode ser tudo o que existe.
Laura Adams diz que o acesso está em crise. Não compare o bot a um médico perfeito. Compare isso com nada. É melhor do que não ter nenhum cuidado.
O cavalo está fora do celeiro. Precisamos de alfabetização agora. Não ignorância. Educação. Ensine as pessoas como fazer isso direito.
Novos modelos estão chegando. Talvez aqueles certificados pelo conselho? Wachter sugere que isso pode acontecer.
Por agora? Seja cético. Miller sabe a verdade. O chatbot une palavras a partir de padrões estatísticos. É impressionante. Também está apenas prevendo a próxima palavra provável.
“Não é verdade absoluta”, disse Miller.
