Компания AMD представила новую флагманскую серию ИИ-ускорителей для дата-центров MI350. В неё входят два продукта: ускорители Instinct MI350 и MI355X. Они основаны на одинаковой архитектуре CDNA 4, однако Instinct MI355X предлагают более высокие тепловые и энергетические характеристики, что по словам главы AMD Лизы Су (Lisa Su), позволяет добиться более высокой производительности.
Ускорители серии Instinct MI350 основаны на 3-нм техпроцессе и содержат 185 млрд транзисторов в составе 10 чиплетов. Для производства Instinct MI350 компания использует технологию гибридной склейки. При этом чиплеты Accelerator Compute Die (XCD) в составе этих графических процессоров производятся с использованием техпроцесса N3P компании TSMC, а чиплеты ввода-вывода I/O Die — на базе 6-нм техпроцесса TSMC N6.
В составе Instinct MI350 присутствуют 256 исполнительных блоков, содержащие в общей сложности 16 384 графических ядра, что на самом деле меньше, чем у GPU MI325X, в которых содержатся 19 456 ядер. Архитектура CDNA 4 была обновлена для поддержки новых типов данных FP4 и FP6 для выводов ИИ. Ускорители серии Instinct MI350 предлагают до 288 Гбайт памяти HBM3E с пропускной способностью до 8 Тбайт/с.
AMD сосредоточилась на повышении энергоэффективности своих новых графических процессоров для центров обработки данных. Однако, чтобы соответствовать конкурентам, компания увеличила потребление энергии до 1000 Вт для Instinct MI350X и до 1400 Вт для Instinct MI355X. Ускорители будут выпускаться в формфакторе ODM-модулей.
По словам AMD, ускорители серии Instinct MI350 обеспечат трёхкратный прирост чистой производительности, четырёхкратный прирост производительности в ИИ-задачах по сравнению с предшественниками и 35-кратный прирост в производительности рассуждающего ИИ по сравнению с предыдущим поколением ускорителей Instinct MI300X. Компания также утверждает, что её ускорители серии Instinct MI350 превосходят решения Nvidia в сопоставимых тестах вывода до 1,3 раза и опережают их до 1,13 раза в выборочных рабочих нагрузках обучения. Производство ускорителей серии Instinct MI350 началось в прошлом месяце. Доступными они станут в третьем квартале текущего года.
Особенности и производительность ИИ-ускорителей AMD Instinct MI350
AMD также анонсировала ускорители Instinct MI400, которые будут использовать архитектуру CDNA-Next (неофициальное название, вероятно, это будет CDNA 5). Их выпуск ожидается в 2026 году. Эти ИИ-ускорители предложат до 432 Гбайт памяти HBM4, что вдвое больше объёма памяти, доступного у Instinct MI355X. Память у Instinct MI400 обеспечит пропускную способность до 19,6 Тбайт/с.
По словам AMD, новые флагманские ускорители Instinct MI400 будут до 10 раз мощнее Instinct MI300. Они также будут до двух раз производительнее Instinct MI355X, получат до 50 % больше памяти и более чем вдвое увеличенную пропускную способность памяти. Если те же Instinct MI355X обеспечивают производительность 10 PFLOPS в операциях FP4, то для Instinct MI400X прогнозируется производительность в 20 PFLOPS в вычислениях FP4.
Ускорители Instinct MI400X также превзойдут по производительности недавно представленные ИИ-ускорители Nvidia Blackwell Ultra. Однако в сравнении с анонсированными ускорителями Nvidia Rubin R200, которые предложат 50 PFLOPS в операциях FP4, новые AMD Instinct MI400X будут в 2,5 раза медленнее. Правда, всех подробностей о Instinct MI400 компания не раскрыла.