Hitech logo

Кейсы

AMD представила новые чипы для ускорения обучения ИИ

TODO:
Екатерина Шемякинская7 декабря 2023 г., 13:58

Американская компания AMD на мероприятии Advance AI представила ускоритель вычислений Instinct MI300X и гибридный процессор Instinct M1300A, которые предназначены для обучения и управления больших языковых моделей. Оба новых продукта имеют больший объем памяти и более энергоэффективны, чем их предшественники. Компания также анонсировала последнее дополнение к процессорам Ryzen — Ryzen 8040. Серия 8040 предлагает в 1,6 раза большую производительность обработки ИИ, чем предыдущие модели. Все это является частью гонки в области чипов для искусственного интеллекта между AMD, Nvidia и Intel.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Во время презентации генеральный директор AMD Лиза Су назвала MI300X самым производительным ускорителем в мире. MI300X сравним с чипами Nvidia H100 в обучении больших языковых моделей. Но новинка AMD в 1,4 раза более эффективна при выводе данных в LLM с 70 млрд параметров. AMD и Microsoft заключили партнерское соглашение, согласно которому ускоритель MI300X будет интегрирован в виртуальные машины Azure. Технический директор Microsoft Кевин Скотт также объявил, что Azure ND MI300X, впервые представленные в ноябре, теперь доступны в предварительной версии.

«Если ИИ — это мозг робота, то RPA — его руки». Что умеют программные роботы

AMD также разработала гибридный процессор MI300A для использования в центрах обработки данных. Прогнозируется, что он увеличит общий адресный рынок до $45 млрд. Гибридные процессоры объединяют в себе центральные и графические процессоры для ускорения обработки данных. MI300A обеспечивает более высокую производительность вычислений, быстрое обучение моделей и увеличение энергоэффективности в 30 раз. Память MI300A в 1,6 раза больше, чем у H100. Процессор оснащен унифицированной памятью, что устраняет необходимость перемещения данных между различными устройствами. MI300A находится в производстве и встраивается в центры обработки данных.

MI300A будет использоваться в суперкомпьютере El Capitan, построенном Hewlett Packard Enterprise. El Capitan считается одним из самых мощных суперкомпьютеров в мире. Ожидается, что его производительность составит более двух эксафлопс.

Помимо прочего, AMD анонсировала последнее дополнение к своим процессорам Ryzen — Ryzen 8040, которое добавит в мобильные устройства больше встроенных функций искусственного интеллекта. Серия 8040 предлагает в 1,6 раза большую производительность обработки ИИ, чем предыдущие модели, и включает в себя нейронные процессоры (NPU). Ryzen 8040 не будет ограничиваться обработкой искусственного интеллекта. Редактирование видео станет на 65% быстрее, а игры — на 77%, чем с конкурирующими продуктами вроде чипов Intel. AMD ожидает, что производители Acer, Asus, Dell, HP, Lenovo и Razer выпустят продукты, интегрирующие чипы Ryzen 8040, в первом квартале 2024 года. Следующее поколение процессоров Strix Point NPU будет также выпущено в 2024 году.

Платформа программного обеспечения Ryzen AI теперь доступна широкому кругу пользователей. Она позволит разработчикам, использующим ноутбуки на базе процессоров Ryzen, выгружать модели искусственного интеллекта в нейронный процессор. Это снизит энергопотребление центрального процессора. Пользователям также предоставляется поддержка базовых моделей искусственного интеллекта.

Развитие больших языковых моделей требует огромных объемов памяти и вычислений. Доступность графических процессоров является самым важным фактором внедрения ИИ. Компании AMD, Nvidia и Intel соревнуются в сегменте чипов для искусственного интеллекта. Наибольшую долю рынка захватила Nvidia со своими графическими процессорами H100, которые широко используются для обучения моделей, таких как GPT от OpenAI.