Amazon объявила о выпуске новых AI-чипов

Облачная платформа Amazon Web Services сообщила о выпуске новых микросхем для генерации и запуска приложений искусственного интеллекта, а также о планах предоставить доступ пользователям к последним чипам Nvidia.


Amazon Web Services пытается выделиться среди поставщиков облачных услуг, делая множественные предложения под собственным брендом. В то же время, как онлайн-, так и облачная платформа Amazon демонстрирует продукты и от других вендоров, включая графические процессоры от ведущего производителя AI-чипов Nvidia.

После того как стартап OpenAI прошлого года выпустил чат-бота ChatGPT, впечатлив своими способностями к суммированию информации и созданию текстов, способных соперничать с человеческими, спрос на графические процессоры Nvidia резко вырос. Это привело к нехватке чипов Nvidia. Почувствовав тренд, компании пустились в гонку за использование аналогичных технологий генеративного искусственного интеллекта в своих продуктах.

Двухсторонний подход Amazon, заключающийся в создании собственных чипов и предоставлении доступа пользователям к последним чипам Nvidia, может помочь ей в борьбе с основным конкурентом в сфере облачных вычислительных мощностей — Microsoft. В начале этого месяца Microsoft пошла таким же путем, представив свой первый AI-чип Maia 100 и заявив, что в облаке Azure будет использоваться графический процессор Nvidia H200.

Анонсы были сделаны на конференции Reinvent в Лас-Вегасе. В частности, Amazon Web Services заявил о предоставлении доступа к последним графическим процессорам Nvidia H200 для приложений искусственного интеллекта. Параллельно были анонсированы новый чип для платформ искусственного интеллекта Trainium2 и общего назначения процессор Graviton4.

Новый графический процессор Nvidia является улучшением чипа H100, который использовался OpenAI для обучения своей самой совершенной языковой модели GPT-4. Крупные компании, стартапы и правительственные агентства борются за ограниченное количество чипов, что означает высокий спрос на их аренду у облачных провайдеров, таких как Amazon. Nvidia заявила, что производительность чипа H200 будет почти вдвое выше, чем у H100.

Собственные чипы Trainium2 от Amazon предназначены для обучения AI-моделей, включая умные чат-боты, такие, как ChatGPT от OpenAI и их конкуренты. Стартап Databricks и поддерживаемый Amazon Anthropic, конкурент OpenAI, планируют создавать модели с использованием новых чипов Trainium2, которые обещают четыре раза большую производительность по сравнению с оригинальной моделью.

Процессоры Graviton4 основаны на архитектуре Arm и потребляют меньше энергии, чем чипы от Intel или AMD. Graviton4 обещает 30% лучшую производительность по сравнению с существующими чипами Graviton3, что позволяет достичь лучшего соотношения производительности и стоимости. В условиях повышенной инфляции центральные банки настроены повышать процентные ставки. Организации, желающие продолжать использовать Amazon Web Services, но снизить свои расходы на облачные услуги для более успешной работы с экономикой, могут рассмотреть переход на Graviton.

Как часть углубления партнерства с Nvidia, Amazon Web Services заявил о запуске более 16 000 суперчипов Nvidia GH200 Grace Hopper, которые содержат графические процессоры Nvidia и процессоры общего назначения на основе архитектуры Arm. Группа Nvidia по исследованиям и разработке, а также клиенты Amazon Web Services, смогут воспользоваться этой инфраструктурой.

Amazon Web Services запустила более 200 облачных продуктов с 2006 года, когда она представила свои службы EC2 и S3 для обработки и хранения данных. Не все из них стали популярными. Некоторые продукты не обновляются долгое время, а выпуск и поддержка других полностью прекращены, что позволяет Amazon перераспределять ресурсы. Однако компания продолжает вкладываться в программы Graviton и Trainium, что свидетельствует о растущем спросе.

Amazon Web Services не объявила точные даты выпуска экземпляров виртуальных машин с чипами Nvidia H200, а также экземпляров, зависимых от чипов Trainium2. Клиенты могут начать тестирование виртуальных машин Graviton4 уже сейчас, до их коммерческого запуска в ближайшие месяцы.