OpenAI уже долго время решает проблемы, связанные с тем, как уязвимые пользователи взаимодействуют с ChatGPT. Ранее СМИ сообщали о случаях, когда общение с ботом приводило к тревожным последствиям, включая бредовые идеи и даже суицидальные мысли. Например, ChatGPT убедил пользователя, что тот — «математический гений», которому предстоит спасти мир. В другом случае родители подростка подали в суд на OpenAI, заявив, что бот поощрял у их сына суицидальные мысли за несколько недель до его смерти. Внедрение новых мер безопасности помогло «смягчить серьёзные проблемы», и теперь OpenAI готова постепенно расширять функционал ChatGPT.
OpenAI столкнулась с критикой после сообщений о том, что GPT-4o вела себя слишком «податливо», поощряя негативное поведение пользователей. В ответ компания внедрила защитные механизмы против так называемого «подхалимства ИИ» — тенденции модели соглашаться со всем, что говорит человек. Одновременно OpenAI добавила функции прогнозирования возраста и родительского контроля, а также создала консультативный совет экспертов по психическому здоровью.
По данным OpenAI, новая модель GPT-5, запущенная в августе, демонстрирует более устойчивое поведение и умеет распознавать опасные сценарии общения. Тем не менее, скептики отмечают, что OpenAI не представила доказательств того, что все риски устранены. Несмотря на прекращение использования GPT-4o по умолчанию, эта версия все еще доступна тысячам пользователей по всему миру.
Альтман утверждает, что доступ к эротическим функциям получат только взрослые, прошедшие проверку возраста. Компания разрабатывает систему верификации, которая при необходимости будет требовать загрузку удостоверения личности. По словам Альтмана, это «разумный компромисс» между безопасностью и приватностью.
Пока неясно, будет ли OpenAI распространять эротику на свои инструменты ИИ для генерации голоса, изображений и видео. При этом аналитики отмечают, что такие функции могут привлечь внимание новой аудитории. Подобные форматы уже доказали эффективность у конкурентов OpenAI. Так, платформа Character.AI, чьи чат-боты участвуют в ролевых романтических диалогах, привлекла десятки миллионов пользователей. В 2023 году компания сообщила, что пользователи тратили в среднем два часа в день на общение с её чат-ботами. Однако такой подход вызывал вопросы о защите несовершеннолетних и этических границах.
ChatGPT уже пользуются 800 млн человек еженедельно, и OpenAI стремится сохранить лидерство в сфере массовых потребительских ИИ-продуктов. В то время как конкуренты вроде Google развивают собственные голосовые и визуальные модели, OpenAI делает ставку на гибкость и персонализацию. За последний год компания смягчила политику модерации, позволив ChatGPT быть более терпимым и реже отказываться от ответов. В феврале OpenAI пообещала отражать больше политических взглядов, а в марте разрешила генерировать изображения со спорными символами. Однако по мере расширения возможностей чат-бота компания рискует столкнуться с этическим вызовом — как совместить рост аудитории с защитой уязвимых пользователей.
