Judith Miller kreeg vorig jaar haar beeldresultaten. Ze heeft ze niet zomaar opgeborgen. vroeg ze aan Claude.
De AI, gebouwd door Anthropic, bezorgde haar een inzinking. Miller liep haar vervolggesprek binnen, gewapend met vragen. Ze voelde zich er klaar voor. Dankzij de chatbot ‘kon ik het beter begrijpen’, zei ze. Het ging niet om het vervangen van haar arts. Het ging om gedeelde besluitvorming.
Dit is het nieuwe normaal.
Uit peilingen blijkt dat een derde van de volwassenen een LLM heeft gevraagd om laboratoriumonderzoek uit te leggen of symptomen te diagnosticeren. Robert Wachter, arts bij UCSF, denkt dat het elk jaar verdubbelt. “Ik vermoed dat ze volgend jaar opnieuw zullen verdubbelen.”
Claude is niet ontworpen of op de markt gebracht voor klinische diagnose.
Anthropic is het met dat standpunt eens. De tool bereidt je voor. Het behandelt je niet.
Waarom doen we dit? Vanwege gegevens.
De 21st Century Cutes Act heeft onze gegevens online gedumpt. Testresultaten. Klinische aantekeningen. Een overvloed aan jargon. Dave deBronhart kent het gevoel. Je leest het rapport. De grote vraag blijft daar hangen. Wat betekent dit?
Voorheen moest je wachten op een arts om het te vertalen. Nu? Chatbots doen het binnen enkele seconden. De angst daalt. De angst neemt af.
Maar soms hebben ze het mis.
LLM’s hallucineren. Ze bevestigen vooroordelen. Ze presenteren gissingen als feiten. Cait DesRoches waarschuwt voor het ontbreken van vangrails. Er is niet veel onderzoek gedaan naar wat er gebeurt als we een algoritme als een arts behandelen.
“Ik denk niet dat we enig idee hebben hoe goed dit werkt voor de gemiddelde patiënt.”
De risico’s zijn reëel. Een man uit Seattle is onlangs overleden. Leukemie. Behandelbaar. Hij weigerde zorg omdat AI hem vertelde dat hij een zeldzame complicatie had die hij in werkelijkheid niet had. Dat is een slecht einde.
Uit een onderzoek van Nature Medicine bleek dat gebruikers slechts in een derde van de gevallen de juiste diagnose kregen met behulp van modellen.
Moeten we stoppen met het gebruik ervan? De meeste deskundigen zeggen nee.
Gebruik ze met je ogen open. Adam Rodman noemt LLM’s het beste instrument voor empowerment dat ooit is uitgevonden. Met een groot voorbehoud: u moet ze op de juiste manier gebruiken.
Hier ziet u hoe mensen de kapotte onderdelen proberen te repareren.
- Doe alsof de bot een dokter is. Het verzamelt gegevens op een andere manier.
- Vraag het om zijn antwoord te heroverwegen.
- Vraag een second opinion aan bij een ander model.
- Typ nooit uw burgerservicenummer in. Bescherm uw privacy.
Het doel? Betere vragen voor de echte menselijke arts.
Wachter noemt dit gezond. Maar het kost tijd. Hij besteedt tien minuten aan het ontmaskeren van Dr. Chatbot voordat de afspraak zelfs maar halverwege is. “Ik heb vijftien minuten. ”
Voor onverzekerden of mensen die op wachtlijsten staan? De AI is misschien alles wat er is.
Laura Adams zegt dat de toegang zich op een crisisniveau bevindt. Vergelijk de bot niet met een perfecte arts. Vergelijk het met helemaal niets. Het is beter dan geen zorgen te hebben.
Het paard is uit de stal. We hebben nu geletterdheid nodig. Niet onwetendheid. Onderwijs. Leer mensen hoe ze het goed kunnen doen.
Er komen nieuwe modellen. Misschien board-gecertificeerde? Wachter suggereert dat dit zou kunnen gebeuren.
Voor nu? Wees sceptisch. Molenaar kent de waarheid. De chatbot voegt woorden samen vanuit statistische patronen. Het is indrukwekkend. Het is ook alleen maar het voorspellen van het volgende waarschijnlijke woord.
“Het is geen absolute waarheid”, zei Miller.
