Компания Cerebras Systems показала рекордно большой процессор для задач искусственного интеллекта на конференции Hot Chips в Калифорнии. В процессоре Cerebras Wafer Scale Engine 1,2 трлн транзисторов. Для сравнения: в первом процессоре Intel 4004, выпущенном в 1971 году, было 2300 транзисторов, а в недавно вышедшем чипе AMD — 32 млрд, сообщает VentureBeat.
Большинство процессоров это на самом деле набор из нескольких чипов, собранных воедино на фабрике. Но у Cerebras все вычисления выполняются на одной плате. Такая конфигурация обеспечивает высокую скорость работы. С этой точки зрения новый процессор действительно самый большой из существующих, и предназначен специально для обработки алгоритмов ИИ.
У Samsung тоже есть модуль флэш-памяти с 2 трлн транзисторов, но там данные лишь хранятся. А чип Cerebras создан для обработки данных и содержит 400 000 ядер на площади в 42 225 кв. мм. Это в 56,7 больше, чем самый большой графический процессор Nvidia, у которого 21,1 млрд транзисторов на 815 кв. мм.
Также у WSE в 3000 раз выше быстродействующая память и в 10 000 раз больше пропускная способность памяти.
Размер процессора — очень важный параметр для ИИ: чем больше чип, тем быстрее результат. Сокращение времени ожидания позволит ученым работать продуктивнее, решать больше задач. Многие исследователи из Google, Facebook, OpenAI, Tencent, Baidu и других компаний называют низкую скорость обучения моделей фундаментальным ограничением современного ИИ.
Процессор создан командой, возглавляемой Эндрю Фельдманом, основателем SeaMicro, компании по разработке микросерверов, которую он продал AMD за $334 млн. Сейчас в Cerebras Systems работает 194 сотрудника.
В конце мая Intel представила десятое поколение процессоров на основе 10-нанометрового техпроцесса, архитектуры ядра Sunny Core и нового графического движка Gen11. Его производительность по сравнению с прошлым поколением выросла на 18%.
