Сегодняшние системы искусственного интеллекта не способны реализовать даже малую часть того, что Амодей описывает в своих прогнозах. По его оценкам, для обучения моделей общего искусственного интеллекта (AGI) потребуются вычислительные ресурсы, стоимость которых составит сотни миллиардов долларов. Кроме того, для создания инфраструктуры необходимы центры обработки данных стоимостью в триллионы долларов, потребляющие энергию, которой хватят для обеспечения миллионов домов. При этом нет полной уверенности в том, что создание искусственного общего интеллекта вообще возможно. Сам Амодей признает, что его прогнозы основаны на догадках, поскольку предсказать будущее развития технологий с такой высокой степенью неопределенности крайне сложно.
Руководители компаний, занимающихся разработкой ИИ, мастерски овладели искусством делать громкие заявления перед тем, как приступить к сбору инвестиций. Ярким примером служит Сэм Альтман из OpenAI, чье эссе The Intelligence Age предшествовал привлечению рекордных $6,6 млрд инвестиций. В этом тексте Альтман утверждал, что создание сверхинтеллекта — вопрос нескольких лет и что это событие приведет к беспрецедентному процветанию человечества. Это классический маркетинговый ход: рисуется картина утопического будущего, где искусственный интеллект станет панацеей от всех бед человечества — от смерти до нищеты. Затем утверждается, что для достижения этой цели необходимо снять существующие ограничения и вложить огромные средства в развитие технологий. Такой подход позволяет сыграть на самых глубоких надеждах и страхах людей, при этом не требуя предоставления каких-либо убедительных доказательств.
Публикация Амодея наглядно демонстрирует высокую конкуренцию в сфере искусственного интеллекта. Для Anthropic, известной своей сдержанностью и фокусом на безопасности, такой масштабный утопический манифест нетипичен.
Компания была основана бывшими сотрудниками OpenAI, обеспокоенными рисками развития ИИ. Однако, чтобы не отстать от конкурентов, Anthropic вынуждена использовать более агрессивные маркетинговые стратегии. В отрасли появляются новые игроки: Илья Суцкевер, ранее работавший в OpenAI, запустил собственный проект. То же самое, по слухам, готовится сделать бывший технический директор Мира Мурати.
Автор, хотя и заявляет, что не любит разглагольствовать о далеком будущем, сам же посвящает огромную часть текста описанию того, как ИИ может перевернуть весь наш мир. Получается, что он невольно подражает Альтману, который известен своими эффектными презентациями. Интересно, что в эссе почти нет упоминаний о безопасности ИИ и о том, как сделать так, чтобы искусственный интеллект служил на благо людей.
Это показывает, насколько жесткая конкуренция в этой сфере: даже те, кто обеспокоен рисками, вынуждены делать громкие заявления, чтобы получить деньги на свои проекты.
Между реальными возможностями искусственного интеллекта и амбициозными прогнозами его создателей огромный разрыв. Критики справедливо указывают на этот дисбаланс: как ИИ сможет преобразить мир, если он пока не может ответить, сколько «r» в слове «strawberry»? На самом деле, сильные стороны ИИ сегодня — это автоматизация рутины и анализ больших данных. Эти навыки уже находят применение в финансах, медицине и других сферах. Однако утверждения о том, что ИИ способен «структурно поддерживать демократию», выглядят преждевременными.
Запись в блоге Амодея не является убедительной дорожной картой будущего ИИ. Это питч для инвесторов: поддержите Anthropic, и вы не просто профинансируете компанию; вы приобретете долю в светлом будущем человечества. Это то, что обещает каждый руководитель ИИ — Альтман в OpenAI, Илон Маск в xAI, Сергей Брин в Google. Несмотря на всю новизну ИИ, технологические титаны давно рекламируют свои инновации как решения, спасающие мир. Брин однажды заявил, что Google может «вылечить смерть», а Маск представил межпланетные амбиции SpaceX как запасной план для нашего вида.
Амодей отдает себе отчет в том, что его высказывания могут показаться преувеличенными. Он признает: «Компании, занимающиеся искусственным интеллектом, зачастую чрезмерно хвалят свои разработки, создавая впечатление, что они скрывают какие-то негативные аспекты». И тем не менее, он сам не удержался от подобного подхода. «Это поистине грандиозное явление», — заключает Амодей. — «И у нас есть уникальная возможность внести свой вклад в его воплощение».
