Judith Miller a obtenu ses résultats d’imagerie l’année dernière. Elle ne s’est pas contentée de les classer. Elle a demandé à Claude.
L’IA, construite par Anthropic, lui a donné une panne. Miller est entrée dans sa suite armée de questions. Elle se sentait prête. Le chatbot « m’a permis de mieux comprendre », dit-elle. Il ne s’agissait pas de remplacer son médecin. Il s’agissait d’une prise de décision partagée.
C’est la nouvelle normalité.
Les sondages indiquent qu’un tiers des adultes ont demandé à un LLM d’expliquer les laboratoires ou de diagnostiquer les symptômes. Robert Wachter, médecin à l’UCSF, pense que ce chiffre double chaque année. “Je soupçonne qu’ils doubleront encore l’année prochaine.”
Claude n’est pas conçu ni commercialisé pour le diagnostic clinique.
Anthropic est d’accord avec cette position. L’outil vous prépare. Cela ne vous traite pas.
Pourquoi faisons-nous cela ? À cause des données.
Le 21st Century Cutes Act a mis nos dossiers en ligne. Résultats des tests. Notes cliniques. Une surabondance de jargon. Dave deBronhart connaît ce sentiment. Vous avez lu le rapport. La grande question est là. Qu’est-ce que cela signifie?
Auparavant, il fallait attendre qu’un médecin le traduise. Maintenant? Les chatbots le font en quelques secondes. La peur tombe. L’anxiété s’atténue.
Mais ils se trompent parfois.
Les LLM hallucinent. Ils confirment les biais. Ils présentent des suppositions comme des faits. Cait DesRoches alerte sur le manque de garde-corps. Il n’existe pas beaucoup de recherches sur ce qui se passe lorsque nous traitons un algorithme comme un clinicien.
“Je ne pense pas que nous ayons une idée réelle de l’efficacité de cela pour le patient moyen.”
Les risques sont réels. Un homme de Seattle est décédé récemment. Leucémie. Traitable. Il a refusé les soins parce qu’AI lui a dit qu’il souffrait d’une complication rare qu’il n’avait pas réellement. C’est une mauvaise fin.
Une étude Nature Medicine a révélé que les utilisateurs obtenaient des diagnostics corrects seulement un tiers du temps avec l’aide de modèles.
Faut-il arrêter de les utiliser ? La plupart des experts disent non.
Utilisez-les les yeux ouverts. Adam Rodman considère les LLM comme le meilleur outil d’autonomisation jamais inventé. Avec une grande mise en garde : vous devez les utiliser de manière appropriée.
Voici comment les gens essaient de réparer les éléments cassés.
- Imaginez que le robot est un médecin. Il collecte les données différemment.
- Demandez-lui de repenser sa réponse.
- Obtenez un deuxième avis d’un autre modèle.
- Ne saisissez jamais votre numéro de sécurité sociale. Protégez votre vie privée.
Le but ? De meilleures questions pour le vrai médecin humain.
Wachter appelle cela sain. Mais ça prend du temps. Il passe dix minutes à démystifier le Dr Chatbot avant même la moitié du rendez-vous. “J’ai quinze minutes. ”
Pour les personnes non assurées ou celles bloquées sur des listes d’attente ? L’IA pourrait être tout ce qui existe.
Laura Adams dit que l’accès est à un niveau de crise. Ne comparez pas le robot à un médecin parfait. Comparez cela à rien du tout. C’est mieux que de ne pas s’en soucier.
Le cheval est sorti de la grange. Nous avons besoin d’alphabétisation maintenant. Pas d’ignorance. Éducation. Apprenez aux gens à bien faire les choses.
De nouveaux modèles arrivent. Peut-être des certifiés par le conseil d’administration ? Wachter suggère que cela pourrait arriver.
Pour l’instant? Soyez sceptique. Miller connaît la vérité. Le chatbot assemble des mots à partir de modèles statistiques. C’est impressionnant. Il s’agit également simplement de prédire le prochain mot probable.
“Ce n’est pas la vérité absolue”, a déclaré Miller.
