Среди достижений Лилиан Венг — создание и руководство командой систем безопасности OpenAI, которая сегодня насчитывает более 80 ученых, исследователей и экспертов по корпоративной политике. В 2023 году она была назначена на эту должность после запуска GPT-4 и сыграла ключевую роль в разработке систем, обеспечивающих безопасность технологий компании. OpenAI подчеркнула, что команда продолжит работать и развиваться, несмотря на уход лидера: «Мы уверены, что команда систем безопасности продолжит играть важную роль в обеспечении надежности наших технологий для сотен миллионов пользователей».
Уход Венг стал частью тенденции. За последний год компанию покинули Илья Суцкевер и Ян Лейке, руководители распущенной команды Superalignment, а также Майлз Брандидж, бывший советник команды AGI Readiness, которая также была расформирована. Некоторые эксперты выразили опасения, что OpenAI уделяет больше внимания коммерческим продуктам, чем безопасности. Такого же мнения придерживается часть общественности, которая опасается, что Сэм Альтман попросту убирает всех, кто посмеет ему перечить. Однако до сих пор значимых проблем с безопасностью продуктов компании не наблюдалось.
Венг начала работу в OpenAI в 2018 году, присоединившись к команде, которая разработала роботизированную руку, способную собрать кубик Рубика. С 2021 года она входила в команду, которая занималась ИИ, а затем перешла к разработке систем безопасности. Ее достижения включают создание строгих технических стандартов для работы с моделями и разработку защитных механизмов для передовых систем, таких как GPT-4.
Критики утверждают, что недавние кадровые изменения могут повлиять на безопасность разработок OpenAI. Среди других громких уходов из компании за последние месяцы значатся технический директор Мира Мурати, директор по исследованиям Боб Макгрю и вице-президент по исследованиям Баррет Зоф. Некоторые из них, включая Лейке и Джона Шульмана, ушли в Anthropic, конкурента OpenAI, тогда как другие основали собственные компании.
Несмотря на череду увольнений, OpenAI продолжает укреплять свои позиции на рынке, внедряя системы глобального масштаба. Однако изменения в команде безопасности вызвали вопросы о том, насколько компания способна удерживать баланс между инновациями и ответственностью при разработке сверхмощных ИИ-технологий.
