Прошлой осенью Маск заявил, что технология ИИ начнет представлять угрозу с вероятностью, отличной от нулевой. Но тогда он не говорил, что считает ее опасной для самого существования человечества. На саммите он предсказал, что цифровой интеллект превзойдет весь совокупный человеческий интеллект в 2030 году. И хотя Маск признает пользу от разработок ИИ, нельзя не обращать внимания на риски, которыми чревато его развитие.

«Я полагаю, есть вероятность, что он [ИИ] покончит с человечеством, — сказал Илон Маск. — Я, пожалуй, соглашусь с Джеффом Хинтоном, что это примерно 10-20% или около того». Однако, добавил он, «вероятный оптимистичный сценарий перевешивает пессимистичный». Как именно Маск рассчитал риски, он не сообщил.

Пару недель назад Маск сравнил разработку универсального ИИ с воспитанием ребенка. Только ребенка гениального, сверхразумного. Поэтому то, как его воспитывают, имеет огромное значение. Сам он советует наделить такой ИИ максимальным стремлением к поиску истины и любовью к знаниям.

«Не заставляйте его лгать, даже если правда неприятна, — сказал Маск. — Это очень важно. Не заставляйте ИИ лгать». Ведь если он научится обманывать, он легко обойдет все защитные механизмы, которые выстроит против него человек.

Поддержал мнение Маски и Роман Ямпольский, специалист по безопасности ИИ из Университета Луисвилля (США). ИИ действительно может оказаться угрозой существования человечества, заявил он изданию BI, но Маск в своих оценках слишком консервативен. Реальная вероятность гибели, по его мнению, выше. ИИ способен создать новое биологическое оружие или вызвать коллапс общества, уничтожив социальные учреждения кибератаками и ядерным оружием.

Газета «Нью-Йорк Таймс» назвала подсчет вероятности гибели «мрачной новой статистикой, которая захватила Кремниевую долину». Эксперты соревнуются друг с другом в предсказаниях, судя по которым, ИИ пойдет во все тяжкие с шансом от 5% до 50%. Ямпольский категоричнее остальных — его оценка 99,999999%.

«Не знаю, почему он думает, что эту технологию вообще стоит развивать, — добавил Ямпольский. — Если он беспокоится о том, чтобы конкуренты не успели туда первыми, это не имеет значения, ведь неподконтрольный сверхразум одинаково опасен, вне зависимости от того, кто его сотворил».

На днях стартап Илона Маска xAI открыл исходный код чат-бота Grok на GitHub. Это позволит исследователям и разработчикам использовать его и вносить изменения, тем самым влияя на то, как xAI будет обновлять Grok в будущем. Маск открыто критикует компании, которые не раскрывают исходный код моделей ИИ, например, OpenAI.