В анонсе, опубликованном на сайте новорожденной компании, основатели написали, что создание сверхчеловеческого интеллекта — это «самая важная техническая проблема нашего времени». И далее:

«Мы подходим к вопросам безопасности и возможностей как к единому целому, как к технической проблеме, которую предстоит решить посредством революционных инженерных и научных прорывов. Мы планируем продвигаться вперед как можно быстрее, не забывая о том, что безопасность всегда остается главным приоритетом».

Под сверхразумным ИИ понимают обычно гипотетического агента, интеллект которого намного превосходит способности самого умного человека. Эта задача занимала Суцкевера и в бытность главным ученым OpenAI, где он возглавлял соответствующий отдел. Однако после его ухода команда была расформирована.

Новая команда Суцкевера сотоварищи попытается достичь сверхразумного ИИ «прямым подходом, сосредоточившись на одной цели, на одном продукте», пишет Verge. Также из анонса следует, что стартап постарается не повторять ошибок, которые часто совершают в крупных компаниях вроде OpenAI, Google или Microsoft: одна-единственная цель позволит избежать отвлекающего от работы менеджмента и «продуктовых циклов».

«Наша бизнес-модель означает, что безопасность, конфиденциальность и прогресс изолированы от краткосрочных коммерческих требований, — говорится в пресс-релизе. — Таким образом, мы можем спокойно развиваться».

Группа из 9 нынешних и бывших сотрудников OpenAI опубликовала открытое письмо с призывом защитить информаторов в индустрии ИИ. Они утверждают, что OpenAI ставит прибыль и рост выше безопасности и этики, что создает потенциальные угрозы для человечества. Сотрудники готовы дать показания против компании, если им обеспечат защиту.