Использование алгоритмов машинного обучения при осуществлении функций государства одна из сложнейших проблем современности, убеждены эксперты Всемирного экономического форума. С одной стороны, ИИ может оптимизировать множество процессов взаимодействия граждан с чиновниками. С другой — и выгоды, и риски этого подхода мы только начинаем осознавать, особенно когда потенциал воздействия выходит за рамки бизнеса отдельной компании, подчеркивает ВЭФ.

«Растущая обеспокоенность общественности в отношении предвзятости, конфиденциальности, подотчетности и прозрачности технологии добавила дополнительный уровень сложности для потенциального внедрения на национальном уровне», — указывают аналитики.

Эксперты форума разработали руководство по внедрению ИИ для правительств и запускают пилотный проект в Великобритании: там на основании этих инструкций новые технологии будут внедрять в ряде департаментов. Помимо ВЭФ, в разработке участвовала компании Sаlesforce и Splunk, а также инвестбанк Deloitte. Работа над документом заняла 10 месяцев, он включает в себя два больших раздела: принципы внедрения и руководство (workbook), которое проводит чиновников по всем его стадиям.

Для эффективного использования машинного обучения правительствам нужно изменить сам механизм принятия решений, подчеркивают в ВЭФ. Когда речь идет об ИИ, чиновники не должны просить предоставить конкретное решение, словно в рядовом тендере. Вместо этого надо четко сформулировать проблему и оценить предложенные технологичные решения.

Предпочтение стоит отдать алгоритмам, где можно проследить за механизмом принятия решений. Но при этом стоит избегать привязки к конкретному поставщику программ и «железа» — например, умных камер слежения.

«Правительства не должны использовать непостижимые алгоритмы „черного ящика“, которые все чаще характеризуют ИИ, развертываемый промышленностью. Без четких указаний о том, как обеспечить подотчетность, прозрачность и обоснованность, правительства могут не выполнить свои обязательства по удовлетворению общественных ожиданий как экспертного, так и демократического контроля за принятием алгоритмических решений», — подчеркивает ВЭФ. 

В пресс-релизе не сказано, какие департаменты британского правительства будут использовать предложенный план и когда можно будет оценить первые результаты взаимодействия.

Пока правительства присматриваются к нынешним методам машинного обучения, эксперты уже предрекают следующую революцию.  Руководитель ИИ-разработок Facebook Ян Лекун считает, что она связана со спонтанным обучением — тогда нейросети научатся формировать картину мира так же легко, как это получается у ребенка.