Безопасность данных в приложениях на основе ИИ давно тревожит разработчиков — злоумышленники выманивают у нейросетей информацию, используя обходные пути. Новый чип способен противостоять двум наиболее частым типам атак, сохраняя при этом высокую эффективность работы моделей ИИ. По словам Майтрейи Ашок, аспирантки кафедры электротехники и информатики в MIT, оптимизированный ускоритель минимально влияет на скорость работы устройства и не снижает точность вычислений.

Разработка предусматривает защиту от таких угроз, как атаки через каналы побочной информации и атаки по компьютерной шине (bus probing attacks). В первом случае данные разбиваются на случайные части, из-за чего злоумышленник не может получить всю информацию с устройства жертвы. Во втором случае шифруются данные, хранящиеся вне чипа, а расшифровывают их только при необходимости.

Ключ для расшифровки генерируется непосредственно на чипе с использованием физически не клонируемой функции, основанной на случайных изменениях, которые происходят в процессе производства микросхемы. Команда провела тесты, в ходе которых не удалось восстановить никакой информации или извлечь данные, несмотря на миллионы попыток. Это подтвердило высокую степень защиты нового ускорителя.

Такой подход не только повышает уровень безопасности устройств, но и открывает новые возможности для использования мощных приложений искусственного интеллекта. Небольшое увеличение стоимости и снижение энергоэффективности устройства компенсируется значительным повышением уровня безопасности данных.

Исследование было представлено на конференции IEEE Custom Integrated Circuits Conference и получило финансирование от лаборатории MIT-IBM Watson AI Lab и Национального научного фонда.