О феномене преображения богатой демократической страны благодаря новым технологиям на службе государства рассказывает Business Insider.

«Зоркие глаза» по-европейски

Большинство стран Европы консервативно подходит к изменению систем социальных гарантий и, в частности, социальной защиты. В редких случаях некоторые государства решаются на эксперименты, например, вводят системы выплат по принципу безусловного дохода. Однако Дания пошла по другому пути.

Власти коммуны Гладсаксе в тестовом режиме запустили алгоритм, который на основе большого количества данных определяет вероятность жестокого обращения с детьми.

Система учитывает десятки факторов и по своему принципу напоминает ИИ-сервисы для прогнозирования преступлений.  

Алгоритм собирает информацию из государственных баз данных: медицинские записи, сведения о работе и другие материалы, привязанные к личному идентификационному номеру гражданина. По совокупности факторов ИИ выявляет семьи, которые входят в группу риска. Прогноз позволяет датским соцработникам вмешаться в ситуацию на самом раннем этапе и, например, забрать ребенка из семьи.

О практике Китая напоминает то, что администрация Гладсакса тоже не поясняет, как именно работает алгоритмическая система. Известны лишь некоторые факторы риска, на которые обращает внимание ИИ. К ним относятся пропущенные визиты к врачам, жалобы на детей, поступающие от учебных заведений, а также сведения о родителях. Получатели пособий по безработице, а также граждане, которые стоят на учете из-за прошлых правонарушений, попадают под прицел первыми.

Как отмечают датские эксперты по праву Якоб Макхангама и Лю Хиньянь, жители Гладсакса не поддержали инициативу правительства, и пилотный проект пока так и не вышел за рамки эксперимента.

Это, однако, не помешало правительству Дании заявить о планах запуска аналогичной системы в масштабах всей страны.

Власти Дании также применяют машинное обучение и большие данные для контроля за получателями соцпособий. Агентство Udbetaling Danmark, которое занимается выдачей пособий, составляет списки получателей, которые вызывают у государства недоверие.

При этом учитываются данные из разных ведомств, в том числе сведения о браке и наличии детей, а также информация, предоставленная банками. Агентство планировало даже учитывать потребление электроэнергии, чтобы вычислять людей, которые проживают не по месту регистрации.

«Дания — тюрьма»

Эксперты признают, что такие меры нарушают права человека и вторгаются в его личную жизнь. В долгосрочной перспективе системы контроля и слежки способны привести к «самоубийству либеральной демократии», пишут Макхангама и Хиньянь.

«Все больше признаков указывает на движение Запада к алгократии. Такая форма власти помогает строить „дивный новый мир“, в котором многие аспекты жизни человека контролируются с помощью цифрового кода — зачастую втайне от граждан», — замечают авторы статьи.

Особую тревогу вызывает проблема «черного ящика» — то, что мы знаем лишь о решениях алгоритма, а не о логике, которой он руководствовался.

Даже сами разработчики не всегда понимают, почему ИИ делает тот или иной вывод на основе набора данных. В социальном секторе последствия таких решений особенно серьезны.  

Кроме того, граждане — по крайней мере в Дании — не знают, в какой момент они попадают под контроль алгоритма. Об этом никто не извещает. «В конечном счете это сказывается на личной и семейной жизни, а также на свободе слова», — предупреждают эксперты.

Как ни парадоксально, но алгократия — это не ветвь авторитаризма, а власть, порожденная благими намерениями. Однако без строгого контроля над такими методами есть риск, что демократию принесут в жертву технологическому превосходству.

Историк Юваль Харари прогнозирует возможное наступление цифровой диктатуры. Искусственный интеллект может стать оружием авторитарных режимов. Он позволит элите манипулировать сознанием общества. Демократия в этих условиях окажется в невыгодном положении. Впрочем, на нее уже покушаются продукты технологического прогресса, например, социальные сети и дипфейки.