Минулого року Джудіт Міллер одержала результати свого інструментального обстеження. Вона не просто відклала їх до архіву, а запитала про це Claude.
Штучний інтелект, розроблений Anthropic, надав їй детальний аналіз. На наступному прийомі Міллер увійшла до кабінету підготовленої, озброєна конкретними питаннями. Вона почувала себе впевненою. “Чат-бот дозволив мені краще розібратися в ситуації”, – сказала вона. Не йшлося про заміну лікаря, а про спільне прийняття рішень.
Це стає новою нормою.
Опитування показують, що третина дорослих просять великі мовні моделі (LLM) розшифрувати аналізи чи пояснити симптоми. Роберт Вотчер, лікар з Каліфорнійського університету в Сан-Франциско, вважає, що ця цифра подвоюється щороку. «Я підозрюю, що наступного року вона подвоїться знову».
Claude не призначений і не позиціонується як інструмент клінічної діагностики.
Anthropic поділяє цю позицію. Цей інструмент допомагає вам підготуватись, але не лікує вас.
Чому ми так робимо? Через дані.
Закон про захист та економію пацієнтів 21 століття (21st Century Cures Act) вивантажив наші медичні записи в онлайн. Результати випробувань. Клінічні нотатки. Велика кількість складної термінології. Девід де Бронхарт знає це почуття. Ви читаєте звіт. І головне питання висить у повітрі: що це означає?
Раніше вам доводилося чекати, поки лікар переведе цю «лікарську мову» на людську. Зараз? Чат-боти справляються із цим за секунди. Страх відступає. Тривога спадає.
Але вони іноді помиляються.
LLM можуть “галюцинувати”, підтверджувати існуючі упередженості та видати здогади за факти. Кейт ДесРош попереджає про відсутність належних захисних механізмів. Практично немає досліджень, що відбувається, коли ми починаємо ставитися до алгоритму як до лікаря.
«Я не думаю, що у нас є реальне уявлення про те, наскільки добре це працює для середнього пацієнта».
Ризики є реальними. Нещодавно померла людина з Сіетлу. Він мав лейкоз, який піддавався лікуванню. Він відмовився від терапії, тому що ІІ заявив, що має рідкісне ускладнення, якого насправді не було. Це сумний фінал.
Дослідження, опубліковане в Nature Medicine, показало, що користувачі ставили правильний діагноз за допомогою моделей лише в третині випадків.
Чи варто припинити їхнє використання? Більшість експертів кажуть «ні».
Використовуйте їх із відкритими очима. Адам Родман називає LLM найкращим інструментом для розширення прав та можливостей пацієнтів, коли-небудь створених. Але з величезним застереженням: ви повинні використовувати їх правильно.
Ось як люди намагаються виправити ці недогляди:
- Ставитися до боту не як до лікаря. Він збирає дані інакше.
- Попросити його переглянути відповідь.
- Отримати другу думку від іншої моделі.
- Ніколи не вводити номер соціального страхування. Захищайте свою конфіденційність.
Яка мета? Отримати якісніші питання для справжнього лікаря-людини.
Уотчер вважає це здоровою тенденцією, але вона забирає час. Він витрачає десять хвилин на спростування висновків «лікаря-чата», поки прийом ще не дійшов навіть до середини. «У мене є лише п’ятнадцять хвилин. »
А для тих, хто не має страховки, або хто застряг у списках очікування? ІІ може бути єдиним доступним варіантом.
Лаура Адемс каже, що доступність медичної допомоги на рівні кризи. Не варто порівнювати робота з ідеальним лікарем. Варто порівняти його з повною відсутністю допомоги. Це краще ніж нічого.
Кінь уже вирвався з комори. Нам потрібна грамотність зараз. Чи не невігластво. Освіта. Вчити людей, як це робити правильно.
З’являються нові моделі. Можливо, що навіть мають сертифікацію? Уотчер припускає, що це цілком можливо.
А поки що? Будьте скептиками. Міллер знає істину. Чат-бот просто зшиває слова разом на основі статистичних патернів. Це вражає. Але це також лише передбачення наступного найбільш ймовірного слова.
“Це не абсолютна істина”, – сказала Міллер.
