Judith Miller loni obdržela výsledky svého přístrojového vyšetření. Nejenže je dala do archivu, ale zeptala se na to Clauda.
Umělá inteligence vyvinutá společností Anthropic jí poskytla podrobný rozbor. Při další schůzce vešla Millerová do kanceláře připravená, vyzbrojená konkrétními otázkami. Cítila se sebevědomě. “Chatbot mi umožnil lépe porozumět situaci,” řekla. Nešlo o výměnu lékaře, ale o společné rozhodování.
To se stává novým normálem.
Průzkumy ukazují, že třetina dospělých žádá velké jazykové modely (LLM), aby dešifrovaly testy nebo vysvětlily příznaky. Robert Watcher, lékař z Kalifornské univerzity v San Franciscu, věří, že toto číslo se každým rokem zdvojnásobuje. “Mám podezření, že se příští rok zase zdvojnásobí.”
Claude není určen ani prodáván jako klinický diagnostický nástroj.
Anthropic sdílí tuto pozici. Tento nástroj vám pomůže připravit se, ale nevyléčí vás.
Proč to děláme? Kvůli datům.
Zákon o léčení 21. století zpřístupnil naše lékařské záznamy online. Výsledky testů. Klinické poznámky. Množství složité terminologie. David deBronhart ten pocit zná. Čtete zprávu. A ve vzduchu visí hlavní otázka: co to znamená?
Dříve jste museli čekat, až lékař přeloží tento „lékařský jazyk“ do člověka. Teď? Chatboti to zvládnou během několika sekund. Strach ustupuje. Úzkost ustupuje.
Ale někdy se mýlí.
LLM mohou „halucinovat“, potvrzovat existující předsudky a vydávat dohady za fakta. Kate DesRoches varuje před nedostatkem správných obranných mechanismů. Prakticky neexistuje žádný výzkum toho, co se stane, když s algoritmem začneme zacházet jako s lékařem.
“Nemyslím si, že máme skutečnou představu o tom, jak dobře to funguje u průměrného pacienta.”
Rizika jsou reálná. Nedávno zemřel muž ze Seattlu. Měl leukémii, která se dala léčit. Odmítl terapii, protože AI řekla, že má vzácnou komplikaci, kterou nemá. Tohle je smutný konec.
Studie zveřejněná v Nature Medicine zjistila, že uživatelé stanovili správnou diagnózu pomocí modelů pouze ve třetině případů.
Mám je přestat používat? Většina odborníků tvrdí, že ne.
Používejte je s otevřenýma očima. Adam Rodman nazývá LLM nejlepším nástrojem pro posílení postavení pacientů, jaký byl kdy vytvořen. Ale s velkým upozorněním: musíte je správně používat.
Zde je návod, jak se lidé snaží tato opomenutí napravit:
- Zacházejte s robotem jinak než s lékařem. Sbírá data jinak.
- Požádejte ho, aby přehodnotil odpověď.
- Získejte druhý názor od jiného modelu.
- Nikdy nezadávejte své rodné číslo. Chraňte své soukromí.
co je cílem? Získejte kvalitnější otázky pro skutečného lidského lékaře.
Watcher si myslí, že je to zdravý trend, ale je to časově náročné. Stráví deset minut vyvracením závěrů doktora chatbota, než je schůzka ani v polovině. “*Mám jen patnáct minut.”
A co ti, kteří nemají pojištění nebo jsou uvízlí na čekacích listinách? AI může být jedinou dostupnou možností.
Laura Adams říká, že přístup ke zdravotní péči je na krizových úrovních. Neměli byste srovnávat robota s ideálním lékařem. Stojí za to to porovnat s úplným nedostatkem pomoci. Je to lepší než nic.
Kůň už utekl ze stodoly. Nyní potřebujeme gramotnost. Ne nevědomost. Školství. Naučte lidi, jak to dělat správně.
Objevují se nové modely. Možná dokonce certifikované? Watcher naznačuje, že je to docela možné.
Do té doby? Buďte skeptičtí. Miller zná pravdu. Chatbot jednoduše spojuje slova na základě statistických vzorů. To je působivé. Ale je to také jen předpověď dalšího nejpravděpodobnějšího slova.
“Toto není absolutní pravda,” řekl Miller.
