Цель инициативы — создать варианты инфраструктуры, которые будут обеспечивать простоту, эффективность и производительность ИИ-процессоров при сниженных затратах. При этом очень важно не полагаться на передовые производственные мощности. Идеи для проектов предлагают подсмотреть у природы: например, человеческий мозг — сверхпроизводительный «процессор», который не нуждается в редких и дорогостоящих ресурсах.
Сурадж Брамхавар, директор программы ARIA по масштабированию вычислений, считает, что у человечества больше не получится экспоненциально увеличивать вычислительную мощность при меньших затратах. Кроме того, на рынке возник дефицит чипов — то есть мощности для ИИ не только стоят дорого, их ещё и невозможно достать. Брамхавар отметил, что такое опасное сочетание технологической значимости и дефицита будет иметь не только экономические, но и геополитические, социальные последствия. В будущем человечество может столкнуться даже с войнами за чипы для ИИ.
Создание и эксплуатация систем искусственного интеллекта — дорогостоящий бизнес, требующий тысяч чипов. Лучшая модель для ИИ от Nvidia, H100, стоит до $40 тысяч за чип. Более старый графический процессор этой же компании, A100, стоит около $10 тысяч долларов. Его использовали для обучения популярных моделей, таких как GPT-4 от OpenAI.
Генеральный директор OpenAI Сэм Альтман заявил в прошлом году, что обучение GPT-4 обошлось его компании более чем в $100 миллионов, и что для создания модели потребовалось 25 тысяч чипов A100.
Кроме технологий, для ИИ нужны огромные природные ресурсы. Например, стандартный центр обработки данных может в день требовать до 1,1 миллиона литров воды — примерно столько же поглощают 100 тысяч домов.