Проект Colossus выделяется своим стремительным запуском: по словам Маска, его команда собрала и ввела систему в эксплуатацию всего за 122 дня, хотя обычно на создание подобных суперкомпьютеров уходят годы. На текущий момент Colossus состоит из 100 000 GPU Nvidia H100, общая стоимость которых составляет минимум $3 млрд. Маск планирует дополнить кластер ускорителями H200, стоимостью около $40 000 каждый, что потребует дополнительных многомиллиардных инвестиций, помимо расходов на электроэнергию.
Проект Colossus используется для разработки ИИ-технологий xAI, включая улучшение чат-бота Grok. В будущем Маск намерен модернизировать суперкомпьютер с помощью новейших ускорителей Nvidia Blackwell B200, чтобы достичь мощности в 300 000 GPU. Таким образом, Colossus станет одной из самых мощных вычислительных систем для нейросетей.
Также на этой неделе в интернете появилось видео, демонстрирующее кластер Colossus изнутри: помещение заполнено серверными стойками с ускорителями Nvidia, что подчеркивает впечатляющие масштабы технологического проекта.