Юваль Харари: «ИИ — это потенциальный инструмент диктатуры»
Logo
Cover

Искусственный интеллект способен привести к расцвету авторитаризма и усилить неравенство, однако угрозу всерьез воспринимают немногие. В их числе израильский историк и футуролог Юваль Ной Харари, автор нашумевшей книги «Sapiens. Краткая история человечества». В интервью Jakarta Post он объяснил, почему сериал «Черное зеркало» ближе к действительности, чем «Мир Дикого Запада», и почему во избежание катастрофы нужно платить за доступ к качественной информации.

Юваль Ной Харари вошел в один ряд с известными футурологами после публикации книги «Ноmo Deus. Краткая история будущего», в которой он описал возможные сценарии развития человека как вида в ближайшие годы. На русском языке книга пока не вышла, и в России Харари больше известен по своей первой работе «Sapiens. Краткая история человечества». 

В своей новой книге «21 урок для 21 века» ученый описывает главные угрозы, с которыми уже сталкивается общество. В их числе национализм и изоляционизм, развитие ИИ и распространение фальшивых новостей.

В интервью Jakarta Post Харари отмечает, что человечество пока не осознало большинство проблем, с которыми придется иметь дело в будущем. Так, в США политики по обеим сторонам партийного спектра до сих пор не сформулировали свое отношение к технологиям искусственного интеллекта. 

Писатель считает ИИ одним из важнейших вызовов ближайшего будущего, который стоит в одном ряду с климатическими изменениями и ядерной угрозой.

Проблемы столь глобального масштаба можно решить только на глобальном уровне, однако расцвет политики национализма и изоляционизма препятствует этому. 

Харари признает, что технологии несут человечеству безусловные преимущества — например, улучшают качество медицинских услуг и сводят к минимуму рутинную и тяжелую работу. По его мнению, 12-часовые трудовые смены швей, дальнобойщиков или кассиров лучше перепоручить роботам.

«Нужно защищать людей, а не саму работу», — поясняет Харари. 

Однако есть риск, что автоматизация оставит человека без средств к существованию, а вместе с тем лишит его возможности изъявлять волю в экономических и политических вопросах. Качество жизни улучшится только в случае, если прибыль от развития технологий будет распределена равномерно между всеми людьми.

Если роботы захватят рынок труда, а правительство не предоставит людям пособия и программы переобучения, то ситуация приобретет опасный оборот. «Это пугает меня больше, чем появления сознания у ИИ», — замечает Харари. 

Футуролог опасается, что в этих условиях технологии станут инструментом построения диктаторского режима. В качестве примера он приводит эпизод «Нырок» сериала «Черное зеркало», в котором жизнь героев подчинена рейтингу в соцсетях. Писатель признает, что подобная система уже действует в Китае.

«В сериале речь идет о простых технологиях, а не о роботах с сознанием. Эти методы уже практикуются и это очень пугает», говорит Харари.

Сериал-антиутопия «Мир Дикого Запада», по его мнению, меньше приближен к реальности. Его создатели путают понятие искусственного интеллекта и искусственного сознания. «Интеллект — это способность решать проблемы, а сознание — это способность ощущать что-либо, например, любовь, ненависть, боль и удовольствие». Харари обращает внимание, что у человека интеллект и сознание тесно связаны, но компьютерные системы работают иначе. Они становятся умнее, но не приближаются к осознанности.

«Бояться стоит не апокалиптических сценариев „Мира Дикого Запада“, а социального и экономического кризиса, вызванного ИИ», — заключает историк.

В интервью Харари также упомянул проблему фальшивых новостей. По его словам, современная модель распространения контента катастрофична. «Увлекательные новости не стоят вам денег, но вы платите своим вниманием. А внимание сейчас один из самых дефицитных ресурсов в мире». Автор «Sapiens» предлагает внедрить новую модель, при которой внимание будет цениться дороже, а за высококачественную информацию придется платить так же, как за качественный автомобиль или еду. 

Многие СМИ уже вводят платную подписку на свои материалы, и по этому пути планирует пойти и Facebook, которая долгое время отрицала свою принадлежность к массмедиа. Соцсеть тестирует функцию платной подписки на сообщества, при которой доход будет получать не компания, а создатели группы — администраторы и модераторы.