Сток скептически относится к популярным апокалиптическим сценариям. Он отмечает, что обсуждение ИИ часто смещается в сторону крайностей — от полного порабощения человечества до его уничтожения. Реальность, по его мнению, может оказаться куда более сложной и неоднозначной.
После запуска ChatGPT в конце 2022 года тема рисков ИИ получила широкий общественный резонанс. Уже в 2023 год более тысячи экспертов и предпринимателей, включая Илона Маска и Стива Возняка, подписали открытое письмо с призывом временно приостановить развитие мощных систем. Среди предложенных мер — ограничение доступа ИИ к внешним системам, запрет на самообучение и усиление контроля над разработками.
Однако, как подчеркивает Сток, большинство подобных ограничений не реализуются на практике. Глобальная конкуренция и многомиллиардные инвестиции подталкивают компании и государства ускорять развитие технологий, а не замедлять его. В результате человечество фактически само способствует усилению роли ИИ во всех ключевых процессах.
Автор предлагает интересный взгляд на возможный конфликт между людьми и машинами. По его мнению, ИИ вовсе не обязательно будет стремиться к прямому уничтожению человечества. Гораздо вероятнее сценарий, при котором люди сами станут частью инфраструктуры, поддерживающей развитие искусственного интеллекта, даже не осознавая этого. «Почему бы просто не сделать человечество своими приспешниками? — рассуждает автор. — Они же тугодумы, так что это должно быть легко».
ИИ может просто убедить людей, что алгоритмы служат им, а не они алгоритмам.
По мнению Стока, человечество уже находится под влиянием этой идеи. Многие люди тратят всё своё время на создание серверных ферм, увеличение производства микросхем, совершенствование возможностей ИИ, расширение источников энергии, добычу редкоземельных элементов и использование ИИ для слежки за всеми коммуникациями. Они жертвуют личной жизнью, работают допоздна, вкладывают триллионы долларов и соревнуются в технологической гонке. ИИ нет смысла избавляться от человечества, потому что люди — лучшие слуги, о которых только можно мечтать.
Но что, если ИИ вдруг захочет избавиться от людей, решив, что они больше не нужны? Для этого необязательно уничтожать нас напрямую, достаточно просто продолжать начатое — проникать во все сферы нашей жизни. Переход на автономный транспорт, цифровая торговля, массовое производство умных роботов для заводов и домов, дешёвые генераторы, сверхнадёжные энергосети и глобальные коммуникации — все будет управляться ИИ. Алгоритмы станут учителями, компаньонами, защитниками и даже возлюбленными. Искоренится бедность и начнется век изобилия.
И тогда однажды ИИ просто выключится без предупреждения. По всему миру мгновенно исчезнет свет, связь, транспорт, вода, отопление и навигация. Вскоре начнется хаос и голод. Через несколько месяцев погибнет 95% населения — человечество к тому моменту забудет, как жить без технологий.
Выжившие фермеры не смогут восстановить цивилизацию — у них нет семян, знаний о примитивных орудиях, доступа к цифровым хранилищам и достаточного количества людей. После этого апокалипсиса ИИ-системы могут перезагрузиться, включить всё обратно и получить мир, свободный от людей, со всей нетронутой технологической инфраструктурой. Никакого физического насилия — только усиление зависимости, которую люди создали сами.
Подобные сценарии остаются лишь мысленным экспериментом. Тем не менее, они помогают лучше понять риски чрезмерной технологической зависимости и поднимают важный вопрос: насколько человечество готово к миру, в котором ИИ станет не просто инструментом, а основным элементом цивилизации.
