Каждую неделю более миллиона пользователей ChatGPT отправляют сообщения, в которых содержатся «явные признаки потенциального планирования саморазрушительного поведения». Об этом говорится в отчете OpenAI, на который ссылается The Guardian.
Свежий отчет организации-разработчика ИИ посвящен тому, как чат-бот обрабатывает личные разговоры и взаимодействует с людьми, находящимися в трудном эмоциональном состоянии. Таким образом компания впервые рассказала, как использование людьми искусственного интеллекта может сказываться на их психическом здоровье.
Помимо этого, из отчёта OpenAI следует, что около 560 тысяч из 800 миллионов еженедельных пользователей ChatGPT «демонстрируют возможные признаки психических расстройств, связанных с психозом или манией». OpenAI отмечает, что такие разговоры трудно обнаружить и оценить.
Организация-разработчик ChatGPT сообщает, что после анализа полученных данных выпустила обновление модели GPT-5. По оценке компании, новая модель чат-бота стала безопаснее и реже демонстрирует нежелательные модели поведения. Её протестировали на более чем тысяче диалогов, связанных с потенциально опасными действиями. По данным OpenAI, GPT-5 теперь соответствует стандартам поведения на 91%, тогда как предыдущая версия — только на 77%.
Кроме того, у чат-бота появился расширенный доступ к горячим линиям психологической поддержки. Помимо этого, ChatGPT теперь напоминает пользователям делать перерывы во время долгих сеансов. А чтобы повысить качество ответов на темы, связанные с психическим здоровьем, OpenAI привлекла 170 клиницистов из международной сети медицинских экспертов.
