AMD-Logo

AMD hat seinen ROCm-Stack aktualisiert. Dieser unterstützt einige neuere Radeon-Grafikkarten, bringt ein Power-Management für Multi-GPU-Knoten, umfasst das Toolkit AMD ROCm Simulation und hat erstmals das Werkzeug ROCm Optiq an Bord.

ROCm heißt AMDs Gegenstück zur CUDA-Schnittstelle: Über die Komponenten des ROCm-Stacks können Anwendungen unter anderem KI-Berechnungen an die AMD-Hardware delegieren. Die Version 7.2.0 unterstützt jetzt auch die Grafikkarten Radeon AI PRO R9600D, Radeon RX 9060 XT LP und Radeon RX 7700. Auf Rechnern mit Suses Distribution SLES 15 SP7 spannt ROCm auch die KI-Beschleuniger Instinct MI355X und MI350X ein.

Auf Systemen mit mehreren GPUs in einem Knoten optimiert das Node Power Management (NPM) die Leistung und die GPU-Frequenzen. Als Basis dienen mitgelieferte Telemetriedaten und spezielle Kontrollalgorithmen. Diese Funktion steht allerdings nur auf AMD Instinct MI355X und MI350X GPUs zur Verfügung.

Für die KI-Beschleuniger der Instinct MI350-Reihe und MI300X hat AMD zudem bekannte KI-Modelle optimiert. Für den MI355X ist dies etwa Llama 3.1 in der 405B-Fassung (also mit 405 Milliarden Parametern). Auf dem MI300X laufen die Modelle GLM-4.6 und DeepEP flotter.

Mit dabei ist jetzt AMD ROCm Simulation. Das Toolkit soll vor allem Physik-basierte und numerische Simulationen erleichtern. Zum Lieferumfang gehören unter anderem Mathematik-Bibliotheken, die optimierte Physik-Kernel und numerische Lösungsverfahren bereithalten. ROCm 7.2.0 kommt dabei mit den ROCm Simulation 25.11, die als größte Neuerung eigentlich ROCm 7.0.0 unterstützen. Das Release erschien zudem bereits im November und beinhaltet im Wesentlichen die Programmiersprache Taichi Lang sowie GSplat, das 3D-Szenen anhand von mehreren 2D-Bildern generiert.

Komplett neu ist ROCm Optiq, das bei der Performance-Analyse hilft. Im Wesentlichen visualisiert das Tool die mit dem ROCm Systems Profiler aufgezeichneten Trace-Daten. Auf diese Weise sollen Entwickler schnell Flaschenhälse aufspüren können. ROCm Optiq liegt allerdings erst in einer Beta-Version vor.

ROCm bringt noch zahlreiche weitere kleinere Neuerungen mit, die ausführlich die Release Notes in der Dokumentation beschreiben.