Новый суперкомпьютер Google A3 GPU с графическими процессорами Nvidia H100 будет доступен в следующем месяце.

Несмотря на цену более 30 000 долларов, графические процессоры Nvidia H100 являются ходовым товаром — до такой степени, что их обычно заказывают заранее. Ранее в этом году Google Cloud объявила о закрытом предварительном запуске своих виртуальных машин с графическим процессором A3 на базе H100, которые сочетают в себе чипы Nvidia и специально разработанные Google инфраструктурные процессоры (IPU) со скоростью 200 Гбит/с. Теперь, на своей конференции Cloud Next, Google объявил, что выпустит A3 в широкую доступность в следующем месяце.

Нам еще предстоит посмотреть, сможет ли Google Cloud удовлетворить спрос на эти чипы, учитывая, что их основное внимание уделяется обучению и обслуживанию генеративных моделей искусственного интеллекта и больших языковых моделей.

Когда в прошлом году компания анонсировала A3, Google Cloud заявила, что она обеспечит производительность искусственного интеллекта до 26 эксафлопс и, отчасти благодаря специальным IPU, до 10 раз большую пропускную способность сети по сравнению с машинами A2 предыдущего поколения.

«A3 действительно создан специально для обучения, настройки и обслуживания невероятно требовательных и масштабируемых рабочих нагрузок генеративного ИИ и больших языковых моделей», — заявил Марк Ломейер, вице-президент и генеральный директор по компьютерной и ML-инфраструктуре в Google Cloud, во время пресс-конференции перед сегодняшним мероприятием. объявление. «Он использует ряд уникальных инноваций Google, включая сетевые технологии Google, такие как инфраструктурная обработка и разгрузка, которые помогают поддерживать масштабность и производительность, необходимые для этих рабочих нагрузок».