Hitech logo

Тренды

OpenAI начала обучать новую модель, стремясь получить универсальный ИИ

TODO:
Екатерина Смирнова29 мая, 09:07

OpenAI приступила к обучению своей новой «пограничной» модели, и ожидает, что полученные системы приблизят достижение общего искусственного интеллекта. Чтобы решить проблемы, связанные с потенциальными рисками мощного ИИ, OpenAI создала новый комитет, посвященный безопасности. Этот орган будет консультировать совет директоров по важным решениям, касающимся безопасности проектов и операций OpenAI. Сообщается, что для оценки рисков нужно 90 дней, а значит, новый продукт компании не появится раньше этого срока. Решение о создании комитета вызвало критику: некоторые считают, что он не является независимым, так как состоит исключительно из «своих» руководителей OpenAI, в частности, в него входит Сэм Альтман.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Компания подчеркивает важную роль нового комитета в развитии пограничной модели искусственного интеллекта: «Первой задачей комитета по безопасности и защите станет оценка и дальнейшее развитие процессов и мер безопасности OpenAI в течение следующих 90 дней. По завершении этого периода комитет поделится своими рекомендациями с советом директоров. После рассмотрения OpenAI публично поделится информацией о принятых рекомендациях».

«Если ИИ — это мозг робота, то RPA — его руки». Что умеют программные роботы

Можно сделать вывод, что независимо от того, как будет называться новая модель — GPT-5 или как-то иначе — она не будет выпущена в течение как минимум 90 дней. Это время необходимо новому комитету по безопасности и защите для «оценки и дальнейшего развития процессов и мер безопасности OpenAI» и подготовки рекомендаций для Совета директоров. Таким образом, Совет директоров OpenAI должен получить рекомендации нового комитета не позднее 26 августа 2024 года.

Во главе комитета — Брет Тейлор, председатель совета директоров OpenAI, соучредитель Sierra AI, бывший руководитель Google Maps и бывший технический директор Facebook (компания Meta признана экстремистской и запрещена в РФ). Также в нем состоят генеральный директор Quora и создатель приложения-агрегатора моделей искусственного интеллекта Poe Адам Д’Анджело, бывший исполнительный вице-президент и главный юрисконсульт Sony Corporation Николь Селигман и нынешний генеральный директор и соучредитель OpenAI Сэм Альтман.

Новость вызвала критику, поскольку новый комитет состоит из «собственных руководителей» OpenAI. Это означает, что оценка мер безопасности компании не будет независимой. По мнению некоторых экспертов, это проверенный подход к саморегулированию в сфере технологий, который не имеет ничего общего с реальным надзором.

Ранее совет директоров OpenAI уже был источником споров. В ноябре 2023 года они уволили Сэма Альтмана с поста генерального директора, но под давлением сотрудников и инвесторов были вынуждены восстановить его. Совет директоров также подвергался критике за то, что он полностью состоял из мужчин. Два соруководителя команды суперсогласования OpenAI — Илья Суцкевер, участвовавший в смещении Альтмана, и Ян Лейке — недавно подали в отставку. Команда, которая фокусировалась на смягчении рисков сверхинтеллектуального ИИ, была расформирована. Лейке публично раскритиковал OpenAI, обвинив их в том, что они ставят «блестящие продукты» выше безопасности.

Новый ИИ OpenAI, GPT-4o, оказался в центре PR-скандала. Несмотря на инновационные возможности модели, она вызвала критику со стороны Скарлетт Йоханссон. Актриса обвинила OpenAI в том, что для озвучки ассистента модели использовался голос, очень похожий на ее (а конкретно голос ее персонажа из фильма «Она»). OpenAI отрицает эти обвинения, утверждая, что голос был записан отдельно и не было намерения копировать Йоханссон. Между тем, OpenAI заключила новые соглашения с медиакомпаниями, которые предоставляют обучающие данные и авторитетную журналистику для ChatGPT. Модель генерации видео Sora привлекла большое внимание со стороны музыкантов и кинематографистов. Поскольку Голливуд ищет способы оптимизации и сокращения затрат в кино- и телепроизводстве, ИИ предлагает перспективные возможности.