В прошлом году Джудит Миллер получила результаты своего инструментального обследования. Она не просто отложила их в архив, а спросила об этом Claude.
Искусственный интеллект, разработанный Anthropic, предоставил ей подробный разбор. На следующему приеме Миллер вошла в кабинет подготовленной, вооруженная конкретными вопросами. Она чувствовала себя уверенной. «Чат-бот позволил мне лучше разобраться в ситуации», — сказала она. Речь не шла о замене врача, а о совместном принятии решений.
Это становится новой нормой.
Опросы показывают, что треть взрослых людей просят большие языковые модели (LLM) расшифровать анализы или объяснить симптомы. Роберт Уотчер, врач из Калифорнийского университета в Сан-Франциско, полагает, что эта цифра удваивается каждый год. «Я подозреваю, что в следующем году она удвоится вновь ».
Claude не предназначен и не позиционируется как инструмент для клинической диагностики.
Anthropic разделяет эту позицию. Этот инструмент помогает вам подготовиться, но не лечит вас.
Почему мы так делаем? Из-за данных.
Закон о защите и экономии пациентов 21 века (21st Century Cures Act) выгрузил наши медицинские записи в онлайн. Результаты тестов. Клинические заметки. Обилие сложной терминологии. Дэвид деБронхарт знает это чувство. Вы читаете отчет. И главный вопрос висит в воздухе: что это значит?
Раньше вам приходилось ждать, пока врач переведет этот «врачебный язык» на человеческий. Сейчас? Чат-боты справляются с этим за секунды. Страх отступает. Тревога спадает.
Но они иногда ошибаются.
LLM могут «галлюцинировать», подтверждать существующие предвзятости и выдать догадки за факты. Кейт ДесРош предупреждает об отсутствии надлежащих защитных механизмов. Практически нет исследований о том, что происходит, когда мы начинаем относиться к алгоритму как к врачу.
«Я не думаю, что у нас есть реальное представление о том, насколько хорошо это работает для среднего пациента».
Риски реальны. Недавно умер человек из Сиэтла. У него был лейкоз, который поддавался лечению. Он отказался от терапии, потому что ИИ заявил, что у него редкое осложнение, которого на самом деле не было. Это печальный финал.
Исследование, опубликованное в Nature Medicine, показало, что пользователи ставили правильный диагноз с помощью моделей лишь в трети случаев.
Стоит ли прекратить их использование? Большинство экспертов говорят «нет».
Используйте их с открытыми глазами. Адам Родман называет LLM лучшим инструментом для расширения прав и возможностей пациентов, когда-либо созданным. Но с огромной оговоркой: вы должны использовать их правильно.
Вот как люди пытаются исправить эти упущения:
- Относиться к боту не как к врачу. Он собирает данные иначе.
- Попросить его пересмотреть ответ.
- Получить второе мнение от другой модели.
- Никогда не вводить номер социального страхования. Защищайте свою конфиденциальность.
Какая цель? Получить более качественные вопросы для настоящего врача-человека.
Уотчер считает это здоровой тенденцией, но она отнимает время. Он тратит десять минут на опровержение выводов «доктора-чатбота», пока прием еще не дошел даже до середины. «У меня есть всего пятнадцать минут. »
А для тех, у кого нет страховки, или кто застрял в списках ожидания? ИИ может быть единственным доступным вариантом.
Лаура Адэмс говорит, что доступность медицинской помощи находится на уровне кризиса. Не стоит сравнивать бота с идеальным врачом. Стоит сравнить его с полным отсутствием помощи. Это лучше, чем ничего.
Конь уже вырвался из амбара. Нам нужна грамотность сейчас. Не невежество. Образование. Учить людей, как делать это правильно.
Появляются новые модели. Возможно, даже имеющие сертификацию? Уотчер предполагает, что это вполне возможно.
А пока? Будьте скептиками. Миллер знает истину. Чат-бот просто сшивает слова вместе на основе статистических паттернов. Это впечатляет. Но это также всего лишь предсказание следующего наиболее вероятного слова.
«Это не абсолютная истина», — сказала Миллер.
