Маск считает, что закрытость разработок OpenAI представляет угрозу
Logo
Cover

Некоммерческая организация OpenAI работает над созданием искусственного интеллекта, построенного с соблюдением принципов прозрачности и безопасности. Однако один из ее основателей, Илон Маск, не уверен в том, что это получится. За 5 лет, прошедших с момента основания компании, ее настоящие, а не декларируемые, принципы и подходы радикально изменились, и сегодня никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ.

Илон Маск, сооснователь OpenAI, покинувший ряды компании около года назад, подверг свое детище критике. Он заявил в Twitter, что организации «следует быть более открытой» и уделять больше внимания безопасности. В частности, он усомнился в том, что эти задачи важны для Дарио Амодеи, бывшего инженера Google, который сейчас отвечает за стратегию OpenAI, пишет TechCrunch.

Критика Маска появилась в ответ на статью Карен Хао в издании MIT Technology Review, которая вскрыла культуру секретности в OpenAI, противоречащую декларируемому стремлению к прозрачности.

OpenAI была основана в 2015 с миссией создать «сильный» искусственный интеллект и собрала $1 млрд от группы первых инвесторов: Сэма Альтмана, Питера Тиля, Ильи Шустера, Грэга Брокмана, Войцеха Зарембы, Джона Шульмана и того же Маска. В начале своего пути она отмежевывалась от других ИИ-лабораторий, культивируя прозрачность, но из статьи Хао следует, что организация постепенно отошла от своих обещаний и предпочла спрятать свои исследования от общественности и конкурентов.

В частности, в 2019 было сформировано коммерческое подразделение внутри некоммерческой организации, которое получило $1 млрд от Microsoft, а также заключило партнерские соглашения, идущие вразрез с изначальными принципами OpenAI.

Одной из причин ухода Маска из OpenAI в феврале 2019 было как раз несогласие с направлением развития компании и некоторыми планами, которые собирались реализовать ее инженеры. О чем именно шла речь, Маск не говорит.

По мнению Маска, «все организации, разрабатывающие передовой ИИ, должны регулироваться, в том числе Tesla».

Это высказывание вполне согласуется с позицией Маска по поводу искусственного интеллекта и рисков, связанных с его развитием. Он неоднократно предупреждал, что ситуация может зайти настолько далеко, что возникнет опасность для существования человеческой цивилизации.

В частности, для того чтобы хоть как-то уровнять шансы человека в соревновании с всесильным машинным разумом, стартап Маска Neuralink создает нейроинтерфейс.