Имитирующий голос ИИ помог мошенникам украсть $243 тыс.
Logo
Cover

Подделать подпись или товар достаточно просто, но до недавнего времени некоторые вещи — например, наши голоса — оставались уникальными. Теперь верить нельзя даже этому. СМИ узнали о крупной афере с использованием голосового имитатора — одного из достижений машинного обучения.

Вместе с развитием голосовых технологий появился и новый вид киберпреступлений, совершаемых при помощи искусственного интеллекта. Мы уже не можем вполне доверять тому, что видят наши глаза и что слышат наши уши. Недавнее дело о мошенничестве на сумму $243 000 служит тому доказательством, пишет Quartz.

В марте злоумышленники использовали алгоритмы ИИ для того, чтобы выдать себя за исполняющего директора немецкой компании — партнера одной британской энергетической фирмы, название которой не разглашается. По телефону они обманом заставили его подчиненного, директора по энергетике, сделать крупный денежный перевод. Жертва совершила трансфер венгерской компании-поставщику и получила соответствующее подтверждение.

Однако, когда поступил третий звонок из Австрии, и звонящий снова выдал себя за исполнительного директора родительской компании и запросил еще один денежный перевод, подчиненный засомневался. Несмотря на то, что он узнал голос босса, он отказался выполнить его указание.

Впоследствии выяснилось, что деньги были переведены на счет в Мексику и в другие точки. Правоохранительным органам еще предстоит арестовать подозреваемых.

Рюдигер Кирш, эксперт по мошенничествам из страховой компании Euler Hermes, которая обслуживает пострадавшую компанию, рассказал Wall Street Journal, что до этого никогда не сталкивался с аферой, совершенной при помощи ИИ. Он заявил, что хакеры применили купленную программу генерации голоса.

В прошлом году компания Pindrop, создатель ПО и протоколов для колл-центров, сообщила о росте числа случаев голосового мошенничества на 350% с 2013 до 2017. Чаще всего мошенники нацеливаются на кредитные союзы, банки, страховые компании, брокеры и компании-эмитенты платежных карт.

Нейросеть, меняющую возраст или пол голоса, разработали в США в начале года. Ее создатели, разумеется, не ставят целью подделывать голоса знаменитостей, как это происходит с «дипфейками», однако нельзя гарантировать, что эта или подобная технология не будет применяться для дезинформации.