Logo
Cover

Значимость открытия канадских ученых трудно переоценить.Созданный ими ИИ, который, скорее всего, появится в виде приложения, сделает невозможным анализ ваших фото другими ИИ-системами, которые сейчас легко могут по ним определить не только возраст или этническую принадлежность человека, но и выяснить все его персональные данные, а также потребительские и политические предпочтения.

4

Вскоре, чтобы вырваться из поля зрения Старшего брата, будет вовсе не обязательно отказываться от социальных сетей и прятать лицо, гуляя по городу. Как сообщает Science Daily, ученые из Университета Торонто нашли способ обмануть ИИ-систему распознавания лиц. Для этого они создали другой ИИ. Чтобы натренировать его, исследователи применили метод глубокого обучения, основанный на состязательности.

Они заставили конкурировать между собой два алгоритма, первый из которых идентифицировал лица, а второй стремился ему помешать.

Благодаря постоянной гонке вооружений эволюция обеих систем была стремительной. ИИ, мешающий распознаванию лиц, анализировал механизмы работы конкурента и вносил соответствующие искажения в фотографии. Например, если алгоритм идентифицировал людей по углу поворота глаз, его соперник изменял его на фото.

В результате в руках у ученых оказался инструмент, способный эффективно обманывать систему распознавания лиц. Искажения, которые он вносит в фотографии, незначительны и почти незаметны для человека, но они способны сбить с толку нейросеть. Это очень мощный алгоритм, при этом применить его к своим фото не сложнее, чем фильтр Insagram.

Исследования показали, что инструмент способен снизить эффективность распознавания лиц с почти 100% до 0,5%.

Более того, технология также мешает поиску по изображениям, идентификации эмоций на фото и определению этнической принадлежности. В ближайшее время разработчики намерены сделать свой продукт общедоступным. Инструмент станет приложением или будет доступен через веб-сайт.

Некоторые специалисты полагают, что вред от социальных сетей намного выше, чем просто потеря личных данных. Люди, живущие в эпоху Facebook, разучились глубоко и критично думать. По мнению Джеймса Уильямса, некогда сотрудника Google, а ныне философа, интернет-гиганты негативно воздействуют на ценности отдельных людей и всего общества.