Хотя дипфейки существуют уже давно, развитие текстовых генеративных систем искусственного интеллекта способствовало тому, что они наводнили интернет. Популярные инструменты, подобные продуктам Microsoft и ElevenLabs, позволяют легко имитировать голос и видео известных личностей. Это создает благодатную почву для распространения дезинформации и мошенничества. Согласно исследованию Pindrop, 12 млн американцев уже сталкивались с дипфейками знакомых людей. Для борьбы с этой проблемой Pindrop разработала пакет продуктов Pulse. Первое решение помогало обнаруживать поддельные звонки в колл-центрах. Новый продукт, Pulse Inspect, позволяет анализировать любые аудио- и видеофайлы на наличие признаков искусственного интеллекта.
Сервис доступен в виде веб-приложения, где пользователи могут загрузить для проверки любой подозрительный файл. Раньше, чтобы найти следы подделки в аудио или видео, требовалась долгая судебная экспертиза. Теперь же инструмент анализирует аудио всего за несколько секунд, определяет уровень вероятности подделки и указывает на участки с искусственной речью. Благодаря этому компании могут быстро реагировать на угрозы и защищать свою репутацию.
Помимо веб-приложения, поддерживающего ручную загрузку файлов, Pulse Inspect также может быть интегрирован в пользовательские процессы с помощью API. Это позволяет автоматизировать обработку больших объемов данных, например, для обнаружения и удаления вредоносных видео, созданных с помощью искусственного интеллекта, в социальных сетях.
Функция доступна в бета-версии в рамках платформы Pindrop Pulse. Она позволяет обнаружить сгенерированную искусственным интеллектом речь, независимо от того, каким инструментом или моделью ИИ она была создана. Этот шаг идет вразрез с обычной практикой в отрасли, когда разработчики ИИ выпускают инструменты для обнаружения фейков, созданных только их собственными технологиями.
Pindrop обучила модель на более чем 350 инструментах генерации дипфейков, 20 млн уникальных высказываний и более чем 40 языках. Технология построена на последних достижениях в области глубоких нейронных сетей и сложного спектрально-временного анализа. Обработав 200 тысяч звуковых образцов, система обнаружила дипфейк-аудио с точностью 99%. Модель проверяет медиафайлы на наличие синтетических артефактов каждые четыре секунды. Это позволяет точно классифицировать дипфейки, особенно в случаях смешанных медиа, содержащих как искусственно сгенерированные, так и подлинные элементы. Инструмент может не распознать дипфейк, если файл содержит менее двух секунд чистой речи или имеет очень высокий уровень фонового шума. Компания работает над устранением этих недостатков и дальнейшим повышением точности обнаружения.
Pindrop предлагает Pulse Inspect по годовой подписке организациям, которым необходимо регулярно выявлять дипфейки. Среди них — медиакомпании, некоммерческие организации, государственные учреждения, фирмы по управлению репутацией знаменитостей, юридические фирмы и социальные сети. Точное количество клиентов неизвестно. Генеральный директор Виджай Баласубраманьян заявил, что компания может ввести более доступные ценовые планы с ограниченным количеством проверок медиафайлов и для потребителей.
В планах Pindrop — улучшить интерпретируемость результатов анализа, добавив функцию отслеживания источника создания дипфейков. Кроме того, компания намерена расширить поддержку различных типов данных, которые могут быть проанализированы с помощью этих инструментов.
