В начале октября 68-летняя пенсионерка из Москвы попала в больницу с кровавой рвотой после того, как воспользовалась «лечебным» рецептом ИИ-«знахарки» из соцсетей. Женщина была уверена, что подписывается на реальную целительницу, но за аватаром скрывалась нейросеть. Случай произошёл на фоне массового роста обращений к чат-ботам за медицинскими советами — и эксперты предупреждают, что последствия могут быть опаснее, чем кажется.
- Сгенерировано с помощью ИИ
Московская пенсионерка нашла в соцсетях профиль нейросетевой «травницы». В своём аккаунте она выкладывала разные видеорецепты для здоровья, в том числе и тот, что обещал прочистить кишечник. Следуя инструкциям, 68-летняя женщина сделала отвар с лимоном и чёрным перцем.
Около трёх ночи, по информации SHOT, у женщины упало давление, начались сильные боли в животе, и она начала задыхаться. Позднее добавилась кровавая рвота. Родственники вызвали пенсионерке скорую, и её экстренно отвезли в больницу.
Гастроэнтеролог Анастасия Соловьёва предупреждает: в домашних условиях «прочищать кишечник» категорически нельзя. «От такого отвара в любом случае будет раздражение желудка. Если у женщины что-то болело, то сначала ей нужно было сделать гастроскопию», — сказала врач RT.
Галлюцинации ИИ
По мнению опрошенных RT экспертов, к советам ИИ надо подходить с осторожностью, поскольку он может поддерживать ошибочные суждения и выдавать непроверенные данные.
«Основная опасность возникает тогда, когда информационный ответ воспринимается как медицинская консультация и руководство к действию, — говорит ассистент кафедры физиологии ИФ РНИМУ им. Н. И. Пирогова Станислав Шилейко. — ИИ не может провести полноценный физикальный осмотр, а пользователь может не сообщить ему важную деталь, или может неправильно описать симптом, так как не обладает нужным опытом».
При этом языковая модель, по словам эксперта, «способна уверенно выдать ошибочную информацию — этот феномен часто называют «галлюцинацией» ИИ».
Особую тревогу у врачей вызывают ошибки при рекомендации лекарственных препаратов, оценке их дозировок, противопоказаний и взаимодействий. Другая проблема — неверная оценка срочности состояния. «Человек с опасными симптомами может получить успокаивающий ответ и отложить обращение за медицинской помощью», — предупреждает эксперт. Возможна и обратная ситуация: ИИ способен перечислить редкие и тяжёлые заболевания, вызвав панику.
«Врач при нехватке исходной информации продолжит сбор анамнеза, проведёт осмотр или назначит дополнительное исследование, тогда как ИИ может попытаться сформулировать готовый вывод», — добавляет Шилейко.
Ещё одна распространённая ошибка — неправильная интерпретация лабораторных показателей без учёта возраста, пола, метода исследования, сопутствующих заболеваний и других обстоятельств.
За последние четыре-пять месяцев ИИ стал более осторожен в медицинских советах и советует при возникновении каких-либо симптомов обращаться к врачу, признаёт главный редактор аналитического издания Runet Владимир Зыков. Однако, поскольку при подготовке ответа модель опирается на доступные в сети данные, а они далеко не всегда проверены, то и совет может оказаться в лучшем случае бесполезным, а то и вредным. Хуже всего в этом отношении боты. По словам Зыкова, в них обычно ставят самую дешёвую и старую модель ИИ, у которой нет доступа ко всем поисковым системам и которая не была обучена так, как более современная версия.
«Четвёртое мнение»
Одна из причин, почему люди обращаются к ИИ за медицинскими советами, — доступность. Чтобы задать вопрос ИИ, не нужно записываться к врачу, ждать приёма или даже выходить из дома. Ответ можно получить практически мгновенно и в любое время суток. К тому же использование модели либо бесплатно, либо недорого в сравнении со стоимостью платных консультаций врача.
Также человеку зачастую проще рассказать чат-боту о симптомах, которые он стесняется обсуждать с другим человеком. ИИ отвечает на дополнительные вопросы и может объяснить незнакомый медицинский термин простыми словами — и всё это в не ограниченное рамками приёма время.
Однако делать ИИ основным доктором нельзя. «ИИ должен и может выступать только как второе мнение, или третье, или четвёртое. ИИ как агрегатор большого количества знаний способен помогать. Но это инструмент, которым надо уметь пользоваться», — считает Владимир Зыков.
При этом, как поясняет Станислав Шилейко, в медицинском сообществе действительно используется ИИ. Но это специализированные программы и боты, анализирующие данные исследований, зарегистрированные как медицинские изделия и состоящие в отдельном перечне Росздравнадзора.
Эксперт констатирует, что прогресс неумолим: врачам важно учитывать, что пациенты уже используют ИИ, и не отмахиваться от этого. «Технология уже стала массовой, и простой запрет вряд ли заставит людей перестать задавать медицинские вопросы чат-ботам. ИИ способен помочь человеку структурировать жалобы, вспомнить вопросы, которые он хочет задать врачу, или перевести сложное заключение на более понятный язык. Это потенциально делает разговор с врачом продуктивнее, — отмечает он. — Однако пока что врачам приходится объяснять, почему предполагаемый диагноз от ИИ маловероятен, а какие-то анализы и лечение на самом деле не нужны».
По словам экспертов, специализированные медицинские нейросети попадают в область действия ряда законов РФ, чего нельзя сказать о чат-ботах. «В России регулирования контента ИИ-медицинских советов не существует, — говорит президент Лиги защитников пациентов Александр Саверский. — Но проблема даже не в ИИ, а в том, что он опирается на источники, которые не верифицированы. Таким образом, ответственность за нежелательный эффект от «медицинского» совета, полученного в боте, лежит в первую очередь на авторе материала, который использовался как источник для ответа, и на том, кто допустил размещение этой статьи в информационном поле».
Саверский отмечает, что причинно-следственную связь между «рецептом здоровья» и попаданием в больницу надо ещё доказать: «Это не так просто. Все понимают, что назначение препаратов и любых других терапевтических веществ — это прерогатива врача. Эффект лекарств известен, они проходят клинические испытания. А если это отвар, то как доказать, что он сработал не так, как надо? Мы все пьём чай, но не попадаем из-за этого в больницы. Что пила та пенсионерка, в какой концентрации — это всё вопрос экспертного уровня».