Угрозы и риски ближайшего будущего описывает в своей новой книге «21 урок для 21 века» израильский историк Юваль Ной Харари, который получил известность после выхода в свет «Sapiens: Краткая история человечества». В своей новой работе исследователь и футуролог обращается к проблемам, с которыми людям придется иметь дело в будущем. 

Бесполезные люди

В своей книге Харари описывает образ человека в Германии, США и СССР в конце 30-х годов. В тот период многие едва сводили концы с концами, однако людям внушали, что от них зависит настоящее и именно им предстоит строить будущее. На агитационных плакатах тех лет изображали шахтеров и металлургов, так что даже обычный рабочий мог почувствовать себя героем.

В 2018 году человек чувствует себя все менее значимым и все более неуместным. Разговоры об ИИ, блокчейне, генной инженерии и машинном обучении только усиливают ощущение неприкаянности. 

«Обыватель может не разбираться в нюансах искусственного интеллекта и биотехнологий, но он ощущает, что будущее проходит мимо него», — пишет Харари.

Именно эта тревога заставляет человека поддаваться очарованию популистских лозунгов, поддерживать Дональда Трампа и голосовать за Брекзит. В 21 веке, отмечает историк, население восстанет не против элиты, которая эксплуатирует граждан, а против элиты, которой эти граждане в принципе не нужны. И исследователь считает, что бороться с этим намного сложнее, чем с эксплуатацией.

Историк не поддерживает аргументы в пользу незаменимости человека. Чаще всего речь идет о креативности и способности принимать нестандартные решения. Однако в этом ИИ уже начинает добиваться впечатляющих результатов.

Харари приводит в пример шахматы. Сегодня на крупных соревнованиях слишком экстраординарный ход игрока могут воспринять за нечестную игру. Считается, что если шахматист выходит за рамки привычной стратегии, то возможно, он консультируется с алгоритмом. Так что даже творческий подход уже нельзя считать прерогативой человека.

Цифровая диктатура

Люди теряют свою значимость на рынке труда, а вместе с тем и политическую власть. В то же время они становятся объектом непрерывной слежки и контроля. Масштабные системы наблюдения за гражданами разворачивают даже демократические страны.

Историк приводит в пример свой родной Израиль, который «превратил западный берег реки Иордан в рабочий прототип общества тотальной слежки«. Израильские микрофоны, камеры, дроны и шпионское ПО следят за палестинцами, отслеживая потенциальную угрозу. „То, с чем палестинцы сталкиваются сейчас на западном берегу, может стать реальностью миллиардов людей по всей планете“, — предупреждает Харари.

Футуролог предлагает также представить, что было бы, если бы Северная Корея вооружилась передовыми технологиями. Например, биометрическими браслетами, которые считывают эмоции. 

«Если кореец гневно взглянет на портрет Ким Чен Ына и биометрический датчик считает повышенное давление или усиленную активность миндалевидного тела, то человек окажется в концлагере уже на следующий день».

Харари подводит к тому, что технологии дают авторитарному правительству дополнительные рычаги влияния. В этих условиях конфликт между демократией и диктатурой — это не более чем конфликт двух систем обработки данных. Демократия дает распределенный доступ к обработке информации и позволяет людям самостоятельно принимать решения. Диктатура концентрирует и первое, и второе в одних руках. И если раньше ни одно государство не могло обрабатывать колоссальные объемы информации единолично, теперь благодаря ИИ такая возможность есть.

Если натренировать алгоритм на данных миллиардов людей без каких-либо ограничений, то он будет более совершенен, чем ИИ, обученный на скромной и этичной базе данных. Именно неконтролируемым доступом к персональным данным объясняется успех Китая на рынке ИИ.

Блокчейн вряд ли хоть сколько-то поспособствует децентрализации, считает Харари. Технологию может постичь та же судьба, что и интернет. Когда-то сеть считали «либертарианской панацеей», которая освободит человечество от гнета централизованных институтов. Однако теперь интернет только усиливает централизацию.

Власть машинам

Человечество постепенно привыкает все больше и больше доверять алгоритмам и делегировать им власть — хотя бы частично. «Уже сейчас „правда“ для нас определяется результатами, которые поисковик Google выводит в первую очередь», — отмечает историк. Это же касается и наших способностей ориентироваться на местности. Робомобили и ИИ-доктора поставят нас в еще большую зависимость от алгоритмических решений.

Для человека жизнь неизбежно сопряжена с драматизмом принятия решений. Эта мысль лежит в основе мировых религий, произведений искусства, либеральной демократии и рыночных отношений.

Если люди передадут полномочия в принятии решений ИИ, то сама концепция жизни изменится. Демократические выборы и свободный рынок лишатся смысла. Религии и произведения искусства тоже. 

«Представьте, что Анна Каренина взяла бы смартфон и спросила Siri, стоит ли ей остаться с Карениным или лучше сбежать со Вронским. Гамлету и Макбету было бы проще жить, но какой была бы эта жизнь? Есть ли у нас рабочие модели того, как жить такой жизнью?» — задается вопросом Харари. .

Однако историк уверен, что искусственный интеллект не обзаведется сознанием, как пророчат многие эксперты. Илон Маск, например, всерьез опасается, что алгоритмы выйдут из-под контроля и поработят человечество.

«Нужно бояться, что ИИ как раз таки всегда будет подчиняться человеку и не сможет поднять бунт. Тогда искусственный интеллект может стать самым мощным оружием в истории, которые даст власть имущим еще больше власти».

Как избежать апокалипсиса

Люди рискуют стать подобием одомашненных животных. Как корова, которая дает молоко, человек будет безропотно отдавать свои данные и станет еще одной шестеренкой в огромном механизме обработки данных.

«Если мы ничего не предпримем, то получим отупевших людей, которые используют поумневшие компьютеры, разрушая себя и мир вокруг», — заключает Харари.

Единственная возможность избежать этого сценария — это ввести новую политику в отношении данных, которая, подобно земельному кодексу, строго и четко регулировала бы, кому и как передается информация в сети.