W ubiegłym roku Judith Miller odebrała wyniki egzaminu instrumentalnego. Nie tylko umieściła je w archiwum, ale zapytała o to Claude’a.
Szczegółową analizę zapewniła jej sztuczna inteligencja opracowana przez firmę Anthropic. Na następną wizytę Miller weszła do biura przygotowana, uzbrojona w konkretne pytania. Poczuła się pewnie. „Chatbot pozwolił mi lepiej zrozumieć sytuację” – powiedziała. Nie chodziło o wymianę lekarza, ale o wspólne podejmowanie decyzji.
To staje się nową normalnością.
Badania pokazują, że jedna trzecia dorosłych prosi o duże modele językowe (LLM), aby rozszyfrować testy lub wyjaśnić objawy. Robert Watcher, lekarz z Uniwersytetu Kalifornijskiego w San Francisco, uważa, że liczba ta podwaja się co roku. „Podejrzewam, że w przyszłym roku liczba ta ponownie się podwoi”.
Claude nie jest przeznaczony ani sprzedawany jako narzędzie do diagnostyki klinicznej.
Anthropic podziela to stanowisko. To narzędzie pomaga się przygotować, ale nie leczy.
Dlaczego to robimy? Ze względu na dane.
Ustawa o lekach XXI wieku umieściła naszą dokumentację medyczną w Internecie. Wyniki testu. Notatki kliniczne. Bogactwo złożonej terminologii. David deBronhart zna to uczucie. Czytasz raport. A główne pytanie wisi w powietrzu: co to oznacza?
Wcześniej trzeba było czekać, aż lekarz przetłumaczy ten „język medyczny” na ludzki. Teraz? Chatboty radzą sobie z tym w ciągu kilku sekund. Strach ustępuje. Niepokój ustępuje.
Ale czasami się mylą.
LLM mogą „halucynować”, potwierdzać istniejące uprzedzenia i przedstawiać domysły jako fakty. Kate DesRoches ostrzega przed brakiem odpowiednich mechanizmów obronnych. Praktycznie nie ma badań na temat tego, co się stanie, gdy zaczniemy traktować algorytm jak lekarz.
„Nie sądzę, abyśmy mieli prawdziwe pojęcie o tym, jak dobrze to działa w przypadku przeciętnego pacjenta”.
Ryzyko jest realne. Niedawno zmarł mężczyzna z Seattle. Miał białaczkę, którą można było wyleczyć. Odmówił terapii, ponieważ sztuczna inteligencja stwierdziła, że ma rzadkie powikłanie, którego nie miał. To smutne zakończenie.
Badanie opublikowane w Nature Medicine wykazało, że użytkownicy stawiali prawidłową diagnozę, korzystając z modeli tylko w jednej trzeciej przypadków.
Czy powinienem przestać ich używać? Większość ekspertów twierdzi, że nie.
Używaj ich z otwartymi oczami. Adam Rodman nazywa LLM najlepszym narzędziem wzmacniającym pozycję pacjenta, jakie kiedykolwiek stworzono. Ale z ogromnym zastrzeżeniem: trzeba ich używać poprawnie.
Oto, jak ludzie próbują naprawić te zaniedbania:
- Traktuj bota inaczej niż lekarza. Inaczej zbiera dane.
- Poproś go, aby ponownie rozważył odpowiedź.
- Uzyskaj drugą opinię od innego modelu.
- Nigdy nie podawaj swojego numeru ubezpieczenia społecznego. Chroń swoją prywatność.
Jaki jest cel? Otrzymuj pytania lepszej jakości do prawdziwego lekarza.
Watcher uważa, że jest to zdrowy trend, jednak jest czasochłonny. Spędza dziesięć minut na obalaniu wniosków lekarza-bota, zanim wizyta dobiegnie jeszcze do połowy. „Mam tylko piętnaście minut. ”
A co z tymi, którzy nie mają ubezpieczenia lub utknęli na listach oczekujących? Sztuczna inteligencja może być jedyną dostępną opcją.
Laura Adams twierdzi, że dostęp do opieki zdrowotnej jest na poziomie kryzysowym. Nie należy porównywać bota z idealnym lekarzem. Warto porównać to z całkowitym brakiem pomocy. Lepsze to niż nic.
Koń uciekł już ze stodoły. Potrzebujemy teraz umiejętności czytania i pisania. Nie ignorancja. Edukacja. Naucz ludzi, jak robić to dobrze.
Pojawiają się nowe modele. Może nawet certyfikowany? Watcher sugeruje, że jest to całkiem możliwe.
Do tego czasu? Bądź sceptyczny. Miller zna prawdę. Chatbot po prostu łączy słowa w oparciu o wzorce statystyczne. To robi wrażenie. Ale jest to także tylko przewidywanie następnego najbardziej prawdopodobnego słowa.
„To nie jest prawda absolutna” – stwierdził Miller.
