Люди не только плохо различают медицинские ответы врачей и искусственного интеллекта, но и чаще выбирают советы от нейросетей, даже если они могут быть ошибочными. Об этом говорится в исследовании, опубликованном в журнале NEJM AI, на его результаты ссылается издание PsyPost.
Группа учёных под руководством исследовательницы Шрути Шекар решили проверить, как пользователи воспринимают медицинские ответы от врачей и ответы, созданные нейросетью. Для этого они собрали 150 вопросов с форума HealthTap, на котором пациенты консультируются с врачами. Затем к каждому вопросу добавили аналогичный ответ от ИИ.
Перед тем как показать эти ответы участникам эксперимента, врачи оценили качество текстов, созданных ИИ, и разделили их на точные и неточные. После этого 300 участников сравнили ответы врачей и ИИ, оценивая их достоверность, полноту и уровень доверия.
Результаты оказались неожиданными. Участники почти не смогли отличить, кто написал ответ — врач или нейросеть. Более того, ответы, созданные ИИ, вызывали у них больше доверия, особенно если были сформулированы точно и звучали убедительно. Даже когда ответы содержали неточности, участники оценивали их так же высоко, как и ответы реальных врачей.
Исследователи отмечают, что многие участники были готовы следовать советам от И, включая потенциально вредные рекомендации. При этом такие ответы нередко побуждали людей обращаться за ненужной медицинской помощью.
Авторы эксперимента предупреждают, что излишнее доверие к ИИ в медицинских вопросах может привести к серьёзным последствиям — от ошибочных диагнозов до усугубления состояния пациентов.
Ранее другие исследования также показывали, что языковые модели вроде ChatGPT могут выдавать убедительные, но не всегда корректные медицинские советы. При этом пользователи склонны считать такие ответы более «человечными» и внимательными, чем сообщения врачей.
Учёные подчеркивают, что искусственный интеллект может стать полезным инструментом для медицины, но не должен заменять профессиональное суждение врача.
