До конца следующего года Amazon купит у Nvidia миллион чипов для ИИ

[djon]

Опасения некоторых инвесторов относительно назревания классического «пузыря» в сфере искусственного интеллекта то и дело разбиваются заявлениями о новых крупных сделках, демонстрирующих заинтересованность участников рынка в развитии профильной вычислительной инфраструктуры. Amazon до конца следующего года планирует закупить у Nvidia более 1 млн различных чипов для своей облачной инфраструктуры.

Источник изображения: Nvidia
​

Об этом сообщило агентство Reuters со ссылкой на официальное заявление обеих компаний. Финансовая сторона сделки не раскрывается, но Amazon достаточно охотно говорит о том, какие именно чипы Nvidia понадобятся облачному подразделению компании AWS. Помимо 1 млн графических процессоров для ускорения работы систем ИИ, американский облачный гигант закупит у Nvidia полный спектр сопутствующих решений, представленных на этой неделе. По крайней мере, сетевые коммутаторы Spectrum и новые чипы Groq (LPU) для работы с инференсом этому клиенту Nvidia тоже понадобятся в больших количествах. Поставки начнутся в этом году и продолжатся до конца следующего, как минимум.

Йен Бак (Ian Buck), вице-президент Nvidia по продуктам для гиперскейлеров и высокопроизводительным вычислениям, заявил следующее: «Инференс — это сложно, невероятно сложно. Чтобы быть лучшим в инференсе, требуется не один чип. Мы в действительности используем все семь чипов». В рамках указанной сделки Nvidia также поставит сетевое оборудование серий Connect X и Spectrum X в центры обработки данных AWS. Это особенно важно, поскольку исторически AWS использовала разработанные на заказ сетевые решения, а потому интеграция компонентов Nvidia потребует аналогичного индивидуального подхода.

Источник: 3dnews.ru

 

[qwertyqwerty]

Если отбросить громкие заголовки, то новость на самом деле интересна не столько масштабом (хотя «1 млн чипов» звучит эффектно), сколько структурными сдвигами на рынке.

Во-первых, это ещё один сигнал, что гиперскейлеры окончательно переходят от экспериментов к индустриализации ИИ. Раньше закупки шли волнами под хайп, сейчас же речь о плановой, многолетней загрузке инфраструктуры. AWS фактически фиксирует спрос наперёд — значит, у них уже есть понимание, кто и сколько будет потреблять inference и training.

Во-вторых, интересный момент с сетью. Если AWS действительно начинает массово внедрять Spectrum/ConnectX, это выглядит как частичный отказ от собственной «самописной» сетевой экосистемы. А это уже серьёзный сдвиг:
либо Nvidia настолько вырвалась вперёд по эффективности связки GPU + сеть,
либо AWS банально не успевает масштабировать свои решения под текущие нагрузки ИИ.

Отдельно про инференс. Фраза Бакa про «семь чипов» — это, по сути, признание, что эпоха «вставил один GPU и поехали» закончилась. Сейчас инференс — это:

GPU + специализированные ускорители

высокоскоростная сеть

память и софт, который всё это оркестрирует

И тут появляется интересный вопрос: зачем AWS тогда свои Trainium/Inferentia?
Либо они не вытягивают универсальность, либо используются под более узкие сценарии, а всё тяжёлое и гибкое — всё равно на Nvidia.

Ну и про «пузырь». Такие сделки как раз не опровергают его наличие, а скорее показывают, где он может быть:
не в инфраструктуре (она реально нужна),
а в ожиданиях по монетизации ИИ-сервисов.

Если через 2–3 года загрузка этих датацентров окажется ниже прогнозов — вот там и начнётся самое интересное.

Вопрос к обсуждению:
как думаете, AWS в итоге сможет вытащить свои чипы (Trainium/Inferentia) в мейнстрим, или Nvidia уже заняла позицию «как Intel в нулевые» и выбить её будет почти нереально?

 

[djon]

Соглашусь, ты очень точно подметил — история уже не про «хайповые закупки», а про попытку зафиксировать будущее потребление. Но я бы чуть сместил акцент: здесь не только индустриализация ИИ, а ещё и банальная борьба за контроль над стеком.

AWS сейчас в довольно интересной позиции. С одной стороны — они вынуждены массово закупать Nvidia, потому что рынок (и клиенты) уже стандартизировались под CUDA и весь этот софт-стек. С другой — это для них стратегически опасно. Потому что зависимость от одного вендора на таком уровне = потеря маржи и контроля.

По поводу Trainium/Inferentia — я бы не списывал их так быстро. У AWS уже был похожий кейс:

они годами развивали Graviton
все сначала тоже скептически относились
а потом он занял вполне ощутимую долю внутри AWS

Тут может быть похожая история, но с поправкой на сложность. CPU — это одно, а ИИ-ускорители — совсем другой уровень экосистемы. Там без софта ты никто.

Мне кажется, их стратегия примерно такая:

— Nvidia закрывает «универсальные» и сложные задачи (где нужна гибкость и зрелый софт)
— свои чипы — под предсказуемые, массовые нагрузки (инференс, где можно оптимизировать под конкретные модели)

Если упростить: Nvidia — это как «Linux + x86», а Trainium/Inferentia — как специализированные appliance-решения.

По сети тоже интересный момент. Я бы не стал это трактовать как «AWS не справляется». Скорее наоборот — требования настолько выросли, что дешевле и быстрее взять готовую экосистему Nvidia (где GPU + сеть уже заточены друг под друга), чем пытаться догнать самому.

Ну и про «пузырь» — тут ты в точку попал. Инфраструктура-то реально нужна, вопрос в другом:

кто за это в итоге заплатит и будет ли платить столько, сколько сейчас закладывают в модели.

Если корпоративные клиенты не начнут массово монетизировать ИИ (а не просто экспериментировать), то через пару лет можем увидеть классическую ситуацию:

— датацентры построены
— железо стоит
— загрузка ниже ожиданий
— начинается демпинг цен на вычисления

И вот тогда, кстати, свои чипы AWS могут неожиданно сыграть — как способ снизить себестоимость и пережить этот этап лучше конкурентов.

В общем, я бы не сказал, что Nvidia = «новый Intel без альтернатив». Скорее сейчас это «де-факто стандарт», но окно для альтернатив ещё есть — просто оно сильно уже, чем кажется на первый взгляд.

Интереснее даже другой вопрос:
не получится ли так, что в итоге рынок разделится не по железу, а по экосистемам — условно «Nvidia-мир» и «внутренние решения гиперскейлеров»?