Hitech logo

искусственный интеллект

Маск уверен, что ИИ от DeepMind станет угрозой цивилизации уже через 5 лет

TODO:
Георгий Голованов28 июля 2020 г., 11:24

Разработчик алгоритмов, победивших человека в го, шашки, сеги и Starcraft II, выращивает, по мнению главы Tesla и SpaceX, опасную для человечества технологию, способную дестабилизировать ситуацию во всем мире. Это произойдет уже через пять лет, но мы можем этого даже не заметить.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Совсем недавно предприниматель Илон Маск вновь поднял тему опасностей искусственного интеллекта для человечества, когда заявил, что многие умные люди — в силу своего высокомерия — не признают возможности того, что ИИ сможет когда-либо превзойти их.

«Насколько я вижу, больше всего ошибаются насчет ИИ очень умные люди, потому что они не могут представить себе, что компьютер сможет стать намного умнее их. В этом недостаток их логики. Они попросту намного глупее, чем думают», — написал он на прошлой неделе в Твиттере.

Маск бьет тревогу уже давно. В 2016 он предупреждал, что человек может стать домашним питомцем для машин, захвативших власть. И с тех пор регулярно призывает к регулированию технологии ИИ. Кроме того, он стал сооснователем некоммерческой организации OpenAI, с которой порвал, когда стало ясно, что ее реальные принципы отличаются от декларируемых, и никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ.

Но, как пишет BI, среди всех разработчиков ИИ больше всего Маска беспокоит DeepMind, подразделение Google.

«Сама природа всех ИИ, которые они создают, в том, чтобы побеждать человека во всех играх, — сказал глава Tesla в интервью The New York Times. — Я имею в виду, это же основной сюжет „Военных игр“.

В этом фильме времен холодной войны хакер-подросток подключается к правительственному суперкомпьютеру, которым управляет ИИ и который обучается на симуляторах военных действий. В ходе игры ИИ убеждает власти, что ядерная атака со стороны СССР неизбежна.

Сравнивая алгоритмы DeepMind с «Военными играми» Маск утверждает, что уже в ближайшие пять лет ИИ превзойдет человека по интеллекту и мы, скорее всего, этого даже не заметим.

«Это не значит, что через пять лет все отправится в ад, — пояснил он. — Только то, что ситуация станет нестабильной и странной».

Маск сам был одним из ранних инвесторов в стартап DeepMind, который в 2014 приобрела за $500 млн Google. В интервью 2017 года он объяснил, что пошел на этот шаг не ради прибыли, а чтобы присматривать за развитием ИИ ресурсами одной из самых сильных инженерных команд в мире. «Это дало мне возможность лучше понять скорость, с которой улучшались все алгоритмы ИИ, и я думаю, что они действительно улучшаются все быстрее, гораздо быстрее, чем думают люди», — объяснил свои действия Маск.

Команда DeepMind приобрела известность как разработчик алгоритма AlphaStar, гроссмейстера шахмат, го, сеги, а также 57 классических игр Atari и стратегической многопользовательской игры StarCraft II. В начале года стало известно, что ученые взялись за одну из самых сложных задач биологии — процесс сворачивания белка. Они намерены использовать принципы вероятностного подхода для моделирования системы вознаграждения, основанной на дофамине.