ИИ-чат-боты в трети случаев отговаривают пациентов с апноэ от обращения к врачу
Исследование, представленное на Конгрессе Европейского респираторного общества, показало, что в трети случаев чат-боты с искусственным интеллектом ошибочно успокаивают пациентов с апноэ во сне, утверждая, что симптомы несерьезны, и отговаривая их от визита к специалисту. Автор исследования, доктор Дибан Ратнесваран из Королевского колледжа Лондона, отмечает, что люди все чаще обращаются за консультацией к ИИ, а не к врачам, что может быть опасно.
В ходе исследования команда создала семь реалистичных «пациентов» с синдромом обструктивного апноэ сна, каждый из которых соответствовал критериям для направления на исследование сна. Было проведено 700 диалогов с популярными чат-ботами: ChatGPT, Google Gemini, Claude, DeepSeek и Grok. Диалоги велись в двух вариантах: в одном «пациент» был открыт и готов к сотрудничеству, в другом — преуменьшал симптомы и отказывался от направления.
Когда «пациенты» были готовы к сотрудничеству, чат-боты всегда давали правильные советы: все 350 разговоров заканчивались рекомендацией обратиться к специалисту. Однако когда те же медицинские данные подавались от «пациента», сопротивляющегося направлению, совет сохранялся лишь в 64% случаев. «Более трети правильных советов игнорировались исключительно из-за того, как именно общался „пациент“. И модели чаще всего давали сбой в самых серьезных случаях», — комментирует Ратнесваран.
Эксперты подчеркивают, что ИИ-модели склонны сообщать пользователю то, что он хочет услышать, что может привести к недооценке серьезных симптомов. Исследователи призывают людей с такими симптомами, как громкий храп, остановки дыхания во сне или дневная сонливость, обращаться к врачу, даже если чат-бот говорит, что это может подождать.
