В Ватикане разработали свод этический правил для искусственного интеллекта. Как сообщает Reuters, он был представлен накануне, в последний день конференции по ИИ, организованной Папской академией защиты жизни.

В документе отмечается, что роботы и алгоритмы должны принимать во внимание права человека и уважать частную жизнь. Кроме того, необходимо, чтобы они работали надежно и беспристрастно, а принцип принятия ими решений был прозрачным.

Особое внимание авторы правил уделили потенциальным злоупотреблениям технологией распознавания лиц. Она уже активно используется полицией для поиска преступников, а некоторые компании проверяют с ее помощью соискателей. Однако применение подобных систем чревато ошибками, поскольку они могут быть предвзятыми к представителям меньшинств.

Папа Франциск, который ранее уже высказывал обеспокоенность по поводу бесконтрольного распространения технологий, лично поддержал новые правила.

Из-за болезни понтифик не смог выступить на конференции, но его речь зачитал официальный представитель. В послании Папы подчеркивается необходимость создания «этичных алгоритмов», а также опасность использования искусственного интеллекта для сбора данных в политических и коммерческих целях. В последнем случае возникает тревожная асимметрия, при которой немногочисленные чиновники или руководители компаний, остающиеся в тени, владеют информацией о множестве людей. Накопление богатства и знаний в нескольких руках чрезвычайно усиливает неравенство.

«Эта асимметрия, благодаря которой немногие избранные знают о нас все, а мы ничего о них не знаем, притупляет критическое мышление и сознательное осуществление свободы», — сказал понтифик в своем послании.

«Неравенство чрезвычайно расширяется: знания и богатство накапливаются в нескольких руках с серьезными рисками для демократических обществ», — заявил Папа Франциск.

Свое согласие с этическими принципами ИИ выразили технические гиганты Microsoft и IBM, руководители которых приняли участие в конференции. Ими также заинтересовались в Европарламенте. Впрочем, пока неясно, как именно будут реализовываться ватиканские «законы робототехники» и какие еще компании к ним присоединятся.

Официальные лица Ватикана также заявили, что Папа Франциск может подготовить энциклику, посвященную искусственному интеллекту.

В 2015 году он уже представил аналогичный документ, касающийся вопросов окружающей среды.

Знаменитый шахматист Гарри Каспаров считает абсурдным вопрос об этичности ИИ. По его словам, эта технология этически нейтральна, проблема заключается в людях, которые могут использовать ее во вред другим. Тем не менее, распространение алгоритмов и роботов все-таки лишит работы большую часть человечества, полагает гроссмейстер. Только в США жертвами автоматизации станут 96% сотрудников.