Judith Miller ha ottenuto i risultati dell’imaging l’anno scorso. Non li ha semplicemente archiviati. Ha chiesto a Claude.
L’intelligenza artificiale, costruita da Anthropic, le ha dato un guasto. La Miller si presentò al seguito armata di domande. Si sentiva pronta. Il chatbot “mi ha permesso di capire meglio”, ha detto. Non si trattava di sostituire il suo medico. Si trattava di un processo decisionale condiviso.
Questa è la nuova normalità.
I sondaggi dicono che un terzo degli adulti ha chiesto a un LLM di spiegare i laboratori o diagnosticare i sintomi. Robert Wachter, medico dell’UCSF, ritiene che raddoppi ogni anno. “Sospetto che raddoppieranno di nuovo l’anno prossimo.”
Claude non è progettato o commercializzato per la diagnosi clinica.
Anthropic è d’accordo con questa posizione. Lo strumento ti prepara. Non ti tratta.
Perché lo stiamo facendo? A causa dei dati.
Il 21st Century Cutes Act ha messo i nostri dischi online. Risultati dei test. Note cliniche. Un eccesso di gergo. Dave deBronhart conosce la sensazione. Hai letto il rapporto. La grande domanda è lì. Cosa significa questo?
Prima dovevi aspettare che fosse un medico a tradurlo. Ora? I chatbot lo fanno in pochi secondi. La paura cala. L’ansia si attenua.
Ma a volte si sbagliano.
Gli LLM hanno allucinazioni. Confermano i pregiudizi. Presentano ipotesi come fatti. Cait DesRoches mette in guardia sulla mancanza di guardrail. Non c’è molta ricerca su cosa succede quando trattiamo un algoritmo come un medico.
“Non credo che abbiamo alcuna idea reale di quanto funzioni bene per il paziente medio.”
I rischi sono reali. Un uomo di Seattle è morto di recente. Leucemia. Trattabile. Ha rifiutato le cure perché l’IA gli ha detto che aveva una rara complicanza che in realtà non aveva. Questo è un brutto finale.
Uno studio di Nature Medicine ha rilevato che gli utenti ottengono diagnosi corrette solo un terzo delle volte con l’aiuto di modelli.
Dovremmo smettere di usarli? La maggior parte degli esperti dice di no.
Usateli con gli occhi aperti. Adam Rodman definisce gli LLM il miglior strumento di empowerment mai inventato. Con un enorme avvertimento: devi usarli in modo appropriato.
Ecco come le persone cercano di riparare i pezzi rotti.
- Fai finta che il bot sia un dottore. Raccoglie i dati in modo diverso.
- Chiedigli di ripensare la sua risposta.
- Ottieni una seconda opinione da un modello diverso.
- Non digitare mai il tuo numero di previdenza sociale. Proteggi la tua privacy.
L’obiettivo? Domande migliori per il vero medico umano.
Wachter lo definisce salutare. Ma ci vuole tempo. Trascorre dieci minuti a sfatare il dottor Chatbot prima ancora che l’appuntamento sia a metà. “Ho quindici minuti. ”
Per i non assicurati o quelli bloccati nelle liste d’attesa? L’intelligenza artificiale potrebbe essere tutto ciò che c’è.
Laura Adams afferma che l’accesso è a un livello di crisi. Non paragonare il bot a un medico perfetto. Confrontatelo con niente. È meglio non avere preoccupazioni.
Il cavallo è fuori dalla stalla. Abbiamo bisogno di alfabetizzazione adesso. Non l’ignoranza. Istruzione. Insegna alle persone come farlo nel modo giusto.
Nuovi modelli stanno arrivando. Forse quelli certificati a bordo? Wachter suggerisce che potrebbe accadere.
Per ora? Sii scettico. Miller conosce la verità. Il chatbot unisce le parole partendo da modelli statistici. È impressionante. Sta anche solo prevedendo la prossima parola probabile.
“Non è la verità assoluta”, ha detto Miller.
