Технология распознавания лиц открывает широкие возможности для создания тоталитарной антиутопии, предупреждают IT-эксперты. В Microsoft и других корпорациях разделяют эти опасения и призывают действовать, пока не поздно.
«Мы считаем важным, чтобы в 2019 году правительства начали принимать законы для регулирования этой технологии. Джина распознавания лиц, если можно так выразиться, только выпускают из бутылки. Если мы не будем действовать, мы можем через пять лет обнаружить, что использование технологий распознавания лиц только усугубляет социальные проблемы», — отмечает президент Microsoft Брэд Смит.
По его словам, с помощью современных технологий можно воплотить в жизнь то, о чем писал Джордж Оруэлл 70 лет назад, — систему тотальной слежки за гражданами.
«Но это не является неизбежным сценарием. Мы должны убедиться, что 2024 год не будет похож на страницу из романа „1984“», — подчеркивает Смит.
Представители Microsoft в этом году провели исследование вопроса, поговорили с техноэкспертами, правозащитниками, учеными и чиновниками. Они обсудили проблему предвзятости алгоритмов, нарушения права на частную жизнь, перспективы массовой слежки и угрозы демократии.
В результате в Microsoft сформулировали шесть принципов разработки систем распознавания лиц, которые должны взять за основу и технологические компании, и государственные власти:
1. справедливость — алгоритмы должны быть одинаково непредвзяты к любому человеку;
2. прозрачность — процесс разработки ИИ должен быть задокументирован;
3. подотчетность — контроль за тем, в какой мере система распознавания лиц влияет на жизнь людей;
4. отсутствие дискриминации — запрет на использование систем распознавания лиц для ограничения прав и свобод отдельных категорий граждан;
5. уведомление и согласие — Microsoft будет поощрять своих клиентов оповещать людей о применении технологии распознавания лиц;
6. наблюдение на законных основаниях — отказ от использования систем распознавания в случаях, когда это нарушает демократические свободы.
Опасения Microsoft разделяют и другие лидеры отрасли. Институт исследования проблем искусственного интеллекта AI Now в Нью-Йорке опубликовал доклад с рекомендациями для урегулирования применения алгоритмов. В составлении этого отчета принимали участие исследователи из Microsoft и Google, отмечает Guardian.
В этом году Google опубликовал кодекс разработчиков ИИ, который во многом похож на принципы Microsoft. Однако скептики утверждают, что на самом деле этические кодексы бесполезны.
