Hitech logo

Искусственный интеллект

Законы робототехники: составлены 12 принципов этичного использования ИИ

TODO:
Георгий Голованов30 октября 2018 г., 11:06

Несколько месяцев обсуждений понадобилось группе правозащитников, чтобы составить руководство, защищающее человечество от угрозы бесконтрольного искусственного интеллекта. Теперь активисты предлагают правительству США принять эти принципы как руководящие.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Обойтись тремя законами робототехники, как у Айзека Азимова, у правозащитников не вышло. Список из двенадцати правил, обнародованный на встрече коалиции Public Voice, созданной в 1996 году для содействия участию общества в принятии решений о будущем интернета, призван «информировать и улучшать разработку и применение ИИ».

Поскольку искусственный интеллект становится все более широко распространенным явлением, плоды его деятельности оказывают все большее влияние на жизнь человека — от выдачи кредита до получения работы или судебного приговора, пишет TechCruch.

Созданные организацией руководящие принципы должны обеспечить защиту прав человека. В это понятие входит право знать факторы, логику и технологии, которые использовались для принятия машиной решения; гарантии справедливости; и обязательства по защите от нарушения кибербезопасности. Также к ним относится запрет на присвоение гражданам рейтингов или баллов со стороны правительства — того, что происходит в Китае.

Некоторые другие важные принципы:

  • Право на человеческое решение — только люди, а не алгоритмы, имеют право на финальное решение.
  • Требование идентификации — организация, ответственная за ИИ, должна быть известна обществу.
  • Требования качества данных — компании должны указывать источник данных и обеспечивать их качество и релевантность.
  • Требование прекращения работы — компания, разработавшая ИИ, должна прекратить деятельность системы, если человеческий контроль над ней более невозможен.
  • Эти принципы почти полностью совпадают с национальным стратегическим планом исследования ИИ, которым руководствуется Национальный научный фонд США. Обращение подписали свыше 200 экспертов и 50 организаций, в том числе, Федерация американских ученых и Управление подотчетности правительства. Полный текст обращения можно прочитать по ссылке.

    На днях специалисты MIT опубликовали данные масштабного опроса об этических правилах эксплуатации робомобилей. Ответы респондентов показали, что в случае необходимости машина должна спасать человека, а не животное, группу людей, а не одного, и ребенка, а не старика.