В западной прессе китайская система тотальной слежки за гражданами чаще всего упоминается как непременная часть сценария по воплощению тоталитарной антиутопии в стране, где проживает 1,3 млрд человек. Обозреватель MIT Technology Review Кристина Ларсон обращает внимание на другой аспект: сбор и обобщение огромного количества данных о жизни граждан для властей подменяет одну из самых ценных черт демократии — обратную связь.

Одна из основных проблем авторитарного режима — это получение достоверной информации о происходящем. Запретив свободные СМИ, общественные дискуссии и посадив в тюрьмы оппозиционеров, вы укрепите властную вертикаль. Но придется придумать, как сориентироваться в происходящем и собрать необходимые для принятия управленческих решений данные.

Предыдущий председатель КНР Ху Цзиньтао пытался осторожно внедрять демократические механизмы. Си Цзиньпин, который управляет страной с 2012 года, опирается на высокие технологии: тотальную видеослежку, ИИ-алгоритмы и большие данные.

В мае на встрече в Китайской академии наук Си Цзиньпин назвал технологии ключом к «достижению великой цели создания социалистического и современного общества». При Ху Цзиньтао вы могли надеяться доставить гневную петицию в Пекин. При Си Цзиньпине система социального рейтинга просто не продаст вам билет на поезд.

Китай стремится стать мировым лидером в области ИИ к 2030 году и выделяет на реализацию этой цели $146,6 млрд — и лидерство это должно быть не только технологическим. Эксперт из вашингтонского Института Петерсона Мартин Шорземпа подчеркивает: «Ни у одного правительства в мире больше нет таких амбициозных и далеко идущих планов по использованию данных для того, чтобы изменить методы государственного управления».

Однако пока единой системы нет, а информация об эффективности отдельных опытов, которые проводят по всей стране, крайне ограничена. Каковы критерии оценки, как долго храниться персональной информации и какие ведомства могут ею воспользоваться — все это тайна. На фоне закрытости системы наибольшую огласку получают различные черные списки, на основании которых ограничивают права граждан. Результат их действия, по крайней мере, нагляден.

Значительная часть публикации посвящена использованию новых механизмов слежки в Синьцзян-Уйгурском автономном районе, где живут преимущественно мусульмане. Там на смартфоны граждан принудительно требуют установить приложение, которое распознает исламский контент и сообщает об этом в полицию. Обмен запрещенными материалами и подозрительные звонки жестко караются. По оценкам опрошенных MITTR экспертов, в спецлагерях содержат до 10% уйгуров, а усеянные камерами улицы крупнейших городов опустели.

Точные критерии оценки благонадежности неизвестны, по некоторым данным, система может присвоить повышенный ранг риска после получения емейла из-за рубежа или покупки слишком большого числа книг.

Тотальная слежка — один из пяти пугающих прогнозов о развитии ИИ, и в Китае он уже воплощается в жизнь.