В блоге Google подчеркивается, что презентация Edge TPU завершает формирование сквозной инфраструктуры, которая сделает обучение и применение ИИ простым и понятным процессом. TPU — это сокращение от Tensor Processing Units. Ранее Google создал фреймворк Tensorflow, а TPU были предназначены для оптимизации обучения нейросетей и использовались в серверах компании. Сейчас этими услугами можно воспользоваться через облако Google Cloud.
Но обучить нейросеть — лишь часть задачи. Edge — это финальная часть пазла, он оптимизирован для применения моделей — части, которую Google называет «выводом» (inference).
Edge настолько мал и экономичен, что найдет применение не только в цехах современных предприятий, но и в устройствах интернета вещей (IoT). Компания, впрочем, специально оговаривается, что пока не стоит ждать появления ее миниатюрных ИИ-процессоров в смартфонах.
А вот бизнес сможет применять модели «на месте» — без необходимости обращения к серверам и передачи туда большей части данных. Помимо скорости, это также надежнее и значительно безопаснее, отмечает Verge.
В Google акцентируют внимание на широту вариантов применения Edge: по утверждению компании, с таким «железом» внедрить промышленные варианты ИИ можно повсеместно. На производстве он может предсказывать поломки, указывать на изъяны в деталях, использоваться для классификации образов или распознавания голоса, а также в робототехнике.
Сферы применения тоже разнообразны: в Google мечтают о внедрении ИИ на производстве, в здравоохранении, розничной торговле, в умных пространствах, на транспорте и т. п.
Впрочем, главным преимуществом применения Edge должна стать легкая интеграция. Специализированные процессоры для работы ИИ-алгоритмов предлагают многие производители — ARM, Qualcomm, Mediatek. В обучении ИИ Google тоже отстает. Лидеры продаж в этом сегменте — решения от Nvidia.
Но пока эти компании не предлагают всей инфраструктуры. А клиент Google, оставаясь в привычном окружении, может написать модель на Tensorflow, обучить ее на серверах Cloud, а затем легко применить, отдав команду Edge TPU.
Для вовлечения новых компаний в свою экосистему Google также предлагает Edge в виде решения для разработчиков. Помимо Edge, на плате есть процессор от NXP, микросхема безопасности от Microschip и передатчик Wi-Fi. Систему можно подсоединить к компьютеру через USB или слот PCI-E и испытать в деле. Verge подчеркивает важность этого момента: до настоящего момента у клиентов Google не было возможности покрутить в руках «железо» для работы ИИ.
Недавно исследователи из Стэнфорда доказали возможность обучения искусственной нейронной сети на оптическом чипе. Это упрощает процесс, делает его точнее, а также экономит уйму энергии.