AMD Instinct MI350 Serie: 288 GByte HBM3E, CDNA-4-Architektur und bis zu 1.400 Watt

Zwei Tage vor dem AMD-Event sind zur ISC 2025 in Hamburg viele Daten der neuen Instinct-Serie bereits publik. Ein Überblick von der Messe zeigt beispielsweise die Aufteilung in ein klassisches Modell MI350X, aber auch direkt eine schnellere Lösung MI355X – beide gibt es jeweils auch als Plattform mit 8 GPUs.

Offiziell wird AMD die neuen Instinct MI350 in diversen Varianten am Donnerstag in einem Livestream ab 18:30 Uhr deutscher Zeit enthüllen. Dass eine Messe rund um das Thema High Performance und Supercomputer, wofür exakt diese Karte letztlich auch gedacht ist, zwei Tage zuvor kaum ohne Informationen diesbezüglich auskommt, war erwartet worden – und wird vor Ort auch bestätigt. Ob dabei letztlich aber alles stimmt, steht auf einem anderen Papier.

Neue Datenformate und 288 GByte HBM3E

Die neuen AI-Beschleuniger der Familie AMD Instinct MI350 werden auf die optimierte CDNA-4-Architektur aufbauen. Diese greift insbesondere bei den unterstützten Formaten an, hier hatte AMD bisher das Nachsehen. Neben FP16 wird nicht nur FP8 unterstützt, sondern auch FP6 und FP4, die im AI-Umfeld an Bedeutung gewonnen haben. Gegenüber FP8 soll hier die theoretisch doppelte Leistung zur Verfügung stehen.

Ein Datenblatt auf dem ISC-Showfloor untermauert das, was bisher bereits über die neuen Instinct MI350 gesagt wurde. 288 GByte HBM3E sind mit dabei, daraus resultiert eine hohe Speicherbandbreite von 8 TByte/s pro OAM (OCP Accelerator Module). Produktmatrizen beispielsweise bei Dell (PDF-Dokument) bestätigen zudem, dass die Varianten MI350X als auch MI355X kommen werden. MI355X ist dabei eine leicht höher getaktete Variante mit bis zu 1.400 statt 1.000 Watt, die so primär für den Einsatz in flüssiggekühlten Umgebungen (DLC) gedacht ist.

Plötzlich doppelt so schnell wie gedacht?

Soweit, so gut. Bei den theoretischen Leistungswerten gibt es nun gemäß des anscheinend ausgedruckten Info-Blatts von AMD eine Überraschung: die Werte sind unterm Strich stets rund doppelt so hoch, wie bisher vermittelt. Hier und da gibt es leichte Abweichungen, was ganz normal ist, aber bereits der FP16-Wert ist gemäß der in der Ausstellung gezeigten Darstellung nun doppelt so hoch wie bisher, er entspricht dem, was AMD bisher als FP8-Leistung für MI355X verkauft hat.

Das Spiel setzt sich bei FP8 fort, 9,3 bis 10,1 PFLOPs entsprechen dem, was AMD bisher für FP6 und FP4 mit 9,3 PFLOPS bezifferte. FP4/FP6 wäre gemäß dem Schaubild dann also mit 18 bis 20 PFLOPS dabei. Inwiefern diese Angaben letztlich stimmen, wird AMD in zwei Tagen entweder bestätigen oder dementieren. Dass Dokumente vor einer offiziellen Vorstellung durchaus auch noch Fehler enthalten können, wäre schließlich keine neue Erkenntnis.

Ein Herausforderer für Nvidia GB200 oder gar GB300 ist Instinct MI350 aber noch nicht respektive nur in gewissen Bereichen. Nach wie vor fehlt AMD die Skalierbarkeit über acht GPUs in einem System hinaus, Nvidia druckt sprichwörtlich primär das Geld mit Systemen wie NVL36 oder NVL72, in denen die namensgebende Anzahl an GPUs zu finden ist. Diesen Punkt wird erst die MI400-Serie angehen, ein Job für das Jahr 2026 und darüber hinaus. Auch in diesem Punkt dürfte es übermorgen weitere offizielle Informationen geben.