Logo
Cover

Антиутопия тотального контроля личности со стороны государства в ушедшем году сошла со страниц фантастических романов и стала частью жизни миллионнов людей в разных частях света. Китай — самый обсуждаемый пример построения IT-диктатуры будущего, но далеко не единственный.

44123

Распознавание лиц — одно из самых бурно развивающихся приложений ИИ в 2018 году. В этой точке сошлись интересы ведущих разработчиков и крупнейших заказчиков — государств. Эксперты насчитали множество причин для превращения распознавания лиц в инструмент тирании и тотальной дискриминаци. И Китай в течение года прошел этот путь полностью.

«Зоркий глаз» китайца

Система «Зоркий глаз» не просто следит за гражданами КНР. А социальный рейтинг — не просто поощряет их и наказывает. Председателю Си Цзиньпину передовые технологии помогли прекратить игры в «регулируемую демократию», которые затевал его предшественник Ху Цзиньтао.

Запретив свободные СМИ, общественные дискуссии и посадив в тюрьмы оппозиционеров, вы укрепите властную вертикаль. Но придется придумать, как сориентироваться в происходящем и собрать необходимые для принятия управленческих решений данные.

Выход найден: система тотальной слежки в Китае заменяет диалог с обществом и представляет полноценную альтернативу демократии.

Основа системы — алгоритмы распознавания лиц, а они в Китае лучшие в мире: нужного человека они находят за доли секунды из миллионов вариантов. Ожидается, что к 2020 году система слежки и социальной маркировки охватит все население КНР — почти 1,4 млрд человек.

Но уже сейчас самая темная версия такого будущего воплотилась в отдельной провинции страны — Синцзян, где живут преимущественно мусульмане. Там камеры следят всегда и за всеми, а неясные условия снижения рейтинга порождают атмосферу вечного страха. О масштабах хайтек-репрессий в провинции за этот год вышло несколько резонансных расследований. Вот два наиболее полных и интересных: на английском языке от ВВС и на русском — от «Медузы».

При этом китайские ИИ-стартапы активно продвигаются за рубеж: ради избавления от пробок умные камеры готовы устанавливать во многих мегаполисах Азии, а в Венесуэле китайская ZTE воплотила даже более «внимательную» систему, чем на родине.

Запад на распутье

Созерцая плоды прогресса установления технологической диктатуры в Китае, Запад пока не может сформулировать единой позиции. Руководители Microsoft — одни из немногих, кто опасается, что 2024 год будет похож на 1984 из романа Оруэлла. Они призывают очертить рамки использования опасной технологии. Но обычно технологические компании акцентируют внимание на выгодах технологии.

Некоторые уверяют, будто они будут настолько велики, что люди осознанно примут решение пожертвовать приватностью.

За год, впрочем, наметилась важная область консенсуса: биометрию введут 80% аэропортов, что избавит крупнейшие воздушные гавани от традиционных очередей и большинства проверок. Российский «Аэрофлот» в новом году начнет применять биометрию при оформлении пассажиров в Шереметьево. Так мы сможем ощутить на себе первые выгоды умной слежки.

Однако, проходя на посадку, не предъявляя паспорт, стоит помнить о стратегических последствиях. Футуролог Юваль Харари описывает будущее цифровой диктатуры, где человек не будет представлять особой ценности. А сооснователь Microsoft Билл Гейтс добавляет в картину нищету и бесконтрольный ИИ. Мощный настолько, что будет казаться, будто корпорации получили контроль над нашими мыслями.

Москва: кадры решают все

В термине «цифровая диктатура» первое слово означает не только опору на передовые технологии, но и то, что вся система обходится чрезвычайно дорого. Поэтому в России китайский тренд готов подхватить пока лишь самый богатый город — Москва.

В начале декабря 2018-го мэр Сергей Собянин заявил, что пилотный проект был полностью успешным и в следующем году с помощью камер с распознаванием лиц будут ловить преступников по всей Москве.

Для этого мэрии понадобилось обновить около 100 тысяч камер наблюдения, а на всю систему в 2019 году столица готова выделить 7,5 млрд рублей. Еще 6 млрд — на общегородские центры обработки данных. Взамен Собянин обещает «новый уровень безопасности».

Однако идентифицировать московские камеры будут не только преступников из баз данных правоохранительных органов. Судя по комментариям чиновников, в мэрии хотят собрать огромную базу всех, кто живет в городе, через камеры, установленные в подъездах жилых домов: «Если один и тот же человек появляется в доме каждый день, система решит, что он там живет. Если гражданин бывает по адресу редко, его определят как гостя. Путем анализа можно понять, что в подъезде почему-то слишком много проживающих. Это может означать, что есть „резиновые“ квартиры. А если много чужих — в подъезде могут быть незаконные хостелы или что-то еще». Тогда поступит сигнал в правоохранительные органы.

Конкурс по выбору самой системы распознавания пока не прошел, но СМИ считают фаворитом компанию NTechLab — московский стартап, который создал очень эффективный алгоритм, отказался продавать его за рубеж и вместо этого выстраивает отношения с госзаказчиками, включая спецслужбы.

Стремительное развитие технологий слежки в 2018-м году кардинально изменит нашу жизнь достаточно скоро — любые перемещения человека в крупных городах станут абсолютно прозрачны для систем постоянного контроля.

Любой будет находиться в поле зрения камер все время с момента выхода из подъезда, где он живет, — будут фиксироваться (и, очевидно, храниться) все перемещения по городу. Лица, имеющие доступ к системе, смогут знать о человеке все без каких-либо санкций суда — от графика посещения стоматолога и любимых торговых центров до нетипичных случаев отклонения от привычных маршрутов. И такие системы активно строятся не только в Китае, Венесуэле или Москве — ими уже охвачены все крупнейшие мировые столицы. Разница пока только в том, кто и как регламентирует к ним доступ и в каких целях использует.