Hitech logo

искусственный интеллект

Google разрабатывает этический кодекс для работы с Пентагоном

TODO:
Ольга Гоголадзе31 мая 2018 г., 08:43

Руководство компании не хочет отказываться от выгодного сотрудничества с военными и собирается успокоить негодование сотрудников, составив свод правил, которые будут запрещать использование ИИ в военных целях, пишет Engadget.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Контракт Google с Пентагоном и ее участие в проекте Maven вызвали ожесточенные споры внутри компании. Узнав о том, что Google будет поставлять Пентагону ИИ для классификации изображений, полученных с дронов, около дюжины сотрудников уволились в знак протеста.

Еще 4000 инженеров компании подписали петицию против подобного сотрудничества, в которой требовали «установить четкие правила, запрещающие Google и всем ее подрядчикам создавать любые технологии для ведения войны».

Столкнувшись с такой бурей негодования, руководство решило составить этический кодекс для работы с Пентагоном. На прошлой неделе глава Google Сундар Пичаи объявил, что компании потребуется некоторое время на разработку свода правил, которые «выдержат испытание временем». Их основой станет запрет на использование ИИ в военных целях. Что конкретно будет представлять из себя этический кодекс, пока не совсем ясно. Но сотрудники потребовали обнародовать его не позже, чем через пару недель.

Однако, строгая регламентация работы с Пентагоном вряд ли смягчит отношение инженеров Google к столь спорному решению руководства. Даже если ИИ не будут напрямую использовать в военных целях, его опосредованное участие может привести к бомбардировкам деревень, в которых якобы скрываются террористы, и, соответственно, к гибели невинных жителей.

«Люди все больше опасаются, что ИИ будет не только предвзятым, но и вооруженным. В такой ситуации Google будет очень трудно сохранить доверие граждан, — сказано в петиции сотрудников. — И аргументы, что Microsoft и Amazon тоже участвуют в этой программе, для нас неубедительны, а для Google — не менее рискованы. У нашей компании уникальная история, ее девиз — „Не будь злым“, и миллиарды пользователей во всем мире доверяют нам свои данные».

Тем временем, проект Maven высоко оценили в военных кругах. ИИ дал возможность за несколько минут получать данные разведки, над которыми аналитикам пришлось бы работать несколько дней. В результате разведка стала вестись чуть ли не в прямом эфире. Военные почувствовали вкус к технологиям Google. Теперь в каждом подразделении есть запрос на те или иные инструменты, работающие на основе ИИ.