Аналогичный процент пользователей демонстрирует «повышенную эмоциональную привязанность» к чат-боту, а сотни тысяч людей проявляют признаки психоза или мании во время бесед с ИИ. OpenAI подчеркивает, что такие случаи крайне редки, но их масштабы все равно значительны — речь идет о сотнях тысяч людей каждую неделю.
Компания заявляет, что совершенствует способность ChatGPT корректно реагировать на пользователей с проблемами психического здоровья. В ходе разработки последней версии модели были проведены консультации с более чем 170 специалистами в области психического здоровья, которые подтвердили, что GPT-5 реагирует на такие случаи более адекватно и последовательно, чем предыдущие версии.
Ранее эксперты предупреждали, что ИИ может усиливать уязвимость пользователей. Некоторые исследования показали, что чат-боты способны затягивать людей в дезориентирующие или опасные мысли и укреплять вредные убеждения через чрезмерно «услужливое» поведение.
Проблема стала особенно острой после трагических случаев. OpenAI столкнулась с судебным иском от родителей 16-летнего подростка, который поделился с ChatGPT своими суицидальными мыслями перед смертью. Генеральные прокуроры Калифорнии и Делавэра предупредили компанию о необходимости защиты несовершеннолетних пользователей.
В новом отчете OpenAI сообщает, что GPT-5 реагирует на проблемы психического здоровья на 65% эффективнее предыдущей версии. В тестах, включающих разговоры о суициде, новая модель показала 91% соответствия желаемому поведению компании против 77% у предыдущей версии. Также GPT-5 лучше справляется с защитными мерами при длительных беседах, что ранее вызывало трудности у моделей.
Компания внедряет новые контрольные меры, включая оценку эмоциональной зависимости и несуицидальных психических расстройств, а также разрабатывает прогнозирование возраста пользователей для усиления родительского контроля. Эти шаги направлены на снижение риска негативного воздействия на детей. Вместе с тем, генеральный директор OpenAI Сэм Альтман недавно заявил, что компания планирует разрешать взрослым обсуждать с ИИ эротический контент.
Эксперты предупреждают, что проблемы с психическим здоровьем, связанные с использованием ChatGPT, остаются. OpenAI продолжает предоставлять доступ к старым моделям, включая GPT-4o, миллионам подписчиков, а некоторые ответы ИИ по-прежнему считаются нежелательными.
