Hitech logo

слежка

ИИ-система «Зоркие глаза»: как Китай выстраивает кибер-антиутопию

TODO:
Юлия Красильникова24 июля 2018 г., 14:59

В романе «1984» Джорджа Оруэлла главные герои находились под присмотром Большого брата, а за жителями современного Китая бдительно наблюдает система «Зоркие глаза». Миллионы камер с распознаванием лиц и походки, сотни тысяч доносчиков в интернете и отряды полицейских в умных очках — система слежения в КНР приобретает все черты полицейского ИТ-государства.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

В эпоху Мао Цзэдуна сотни распределенных партийных ячеек вели слежку за гражданами и незамедлительно сообщали властям о неподобающем поведении и опрометчивых высказываниях, рассказывает Financial Times. Традиции времен Мао в современном Китае обретают новую жизнь с поправкой на технологический прогресс. Гражданам уже присваивается рейтинг благонадежности, а к 2020 году система тотальной слежки и социальной маркировки охватит все население КНР — почти 1,4 млрд человек. 

Однако в 21 веке стране меньше приходится полагаться на отряды информаторов — теперь их задачи выполняют камеры слежения с системой распознавания лиц и походки. Как передает FT, контроль внедряется повсеместно — под надзор попадают не только диссиденты и жители этнически не китайского Синьцзян-Уйгурского автономного района, но и обычные школьники.

Так, в одной из школ в городе Ханчжоу за тысячей учеников наблюдают камеры слежения, оснащенные ИИ и системой распознавания лиц. Они не только выявляют прогульщиков и опоздавших, но также контролируют диету учеников в столовой и определяют степень старания в учебе по выражению лица. 

В случае с диссидентами и другими «подозрительными лицами» китайское правительство применяет смарт-камеры, которые учитывают сотни параметров. Хайтек+ уже писал о камере с девятнадцатью объективами, которая была разработана для Пентагона, но в итоге стала экспортироваться в Китай.

Об одной из футуристических камер рассказал уйгурский поэт и режиссер Тагир Хамут, который недавно покинул КНР и проживает теперь в США. По его словам, однажды его с женой привели в полицейский участок. Сотрудники попросили пару предоставить запись их голосов, данные ДНК и отпечатки пальцев. Также Хамута сняли на видеокамеру — в процессе поэта просили менять выражение лица, пока камера снимала его с разных ракурсов. «Я работаю в кинематографе, но таких камер я никогда не видел», — признал Хамут. По его словам, у некоторых «подозрительных лиц» на эту запись уходил целый час.

Эксперты объясняют широчайшее распространение ИИ-систем слежения в Китае идеологическими особенностями. По мнению голландского исследователя Рогира Кримерса, в либерально-демократических странах принято считать, что власть принадлежит людям. И есть сферы, в которые государственное влияние не проникает. «Китай считает, что сильное и свободное государство ведет население за собой. Государство должно защищать людей и слежка логично проистекает из этого обязательства», — поясняет эксперт.

Скрыться от высокотехнологичной слежки, как когда-то от обычной, уже нельзя. Некоторые аналитики отмечают, что даже за пределами обзора камер в руках у людей остаются смартфоны, которые также становятся инструментом наблюдения и контроля. 

В Синьцзян-Уйгурском автономном районе на смартфоны граждан принудительно требуют установить приложение, которое распознает исламский контент — ключевые слова и изображения — и сообщает об этом в полицию. Обмен запрещенными материалами и подозрительные звонки жестко караются — по словам источников FT, в спецлагерях содержатся десятки тысяч уйгуров. 

Появляются и новые технологические решения. Китайская компания Hanwang Technology уже тестирует систему распознавания человека по походке. По словам представителей предприятия, правительство КНР уже собрало базу данных о миллионах граждан и сможет с помощью ИИ-камер идентифицировать их личность, даже если они попытаются скрыть лицо. 

Аналоговые методы Китай также применяет — в одном только Пекине работает около 850 тысяч профессиональных доносчиков, не считая волонтеров. Они патрулируют улицы и отслеживают подозрительную активность. В уйгурском регионе и в Тибете на многих перекрестках установлены полицейские будки.

«Зоркие глаза» обходятся Китаю недешево — в 2017 году на общественную безопасность только в Синьцзян-Уйгурском автономном районе потратили более $9 млрд — в 10 раз больше, чем в 2007. Всего в год Китай тратит около $30 млрд на обеспечение внутренней безопасности.

Частные компании на волне этой тенденции зарабатывают все больше. Неудивительно, что крупнейшим мировым стартапом по объему инвестиций стал китайский разработчик систем распознавания лиц SenseTime.

Некоторые компании уже работают над инновационными полицейскими системами. Один из стартапов разрабатывает дроны, вооруженные гранатами. По словам представителей, их главным клиентом должны стать власти Синьцзян-Уйгурского района. Другая компания, которая создает системы блокировки сигнала, получает финансирование от местной пограничной службы. 

Правозащитники и эксперты единогласно признают тотальные системы слежения инструментом дискриминации. Особенно если учесть высокую вероятность ошибки — современные методы идентификации все еще несовершенны и склонны к предвзятости. Однако правительство КНР это не останавливает. Местные компании уже выводят свои технологии на рынки других странах.

Система социального рейтинга также выходит за границы Китая — власти уже отчитались о миллионах граждан, которые из-за низких баллов благонадежности не смогли сесть на самолет и поезд. Но рейтинг доверия, согласно внутренним документам, касается не только жителей Китая, но и этнических китайцев, где бы они ни находились.