AMD-Logo
Die KI- und Rechenfähigkeiten moderner AMD GPUs nutzen Entwickler über das Toolkit ROCm. Dessen neue Major-Version kennt die KI-Beschleuniger Instinct MI350X und MI355X, legt bei den unterstützten KI-Frameworks nach und führt einen neuen Fortran-Compiler ein.
Schon die ellenlange Liste mit den „Release Highlights“ rechtfertigt den Sprung auf die Version 7.0.0. Die läuft jetzt offiziell auch unter Ubuntu 24.04.3 (mit den Kerneln 6.8 und 6.14) sowie Rocky Linux 9 (Kernel 5.14.0-570). Im Gegenzug fallen Ubuntu 24.04.2 und SLES 15 SP6 aus dem Support. Für die erstmals unterstützten AMD Instinct MI350X und MI355X gibt es KVM Passthrough, das allerdings den GIM SR-IOV-Treiber in Version 8.4.0.K voraussetzt.
Die Entwicklung von KI-Anwendungen vereinfachen Frameworks wie PyTorch. Hier unterstützt ROCm 7.0.0 jetzt im Einzelnen PyTorch 2.7, JAX 0.6.0, TensorFlow 2.19.1, ONNX Runtime 1.22.0, Megatron-LM und Triton 3.3.0. Erstmals offiziell dabei sind Ray und vor allem Llama.cpp.
ROCm 7.0.0 enthält den AMD Fortran-Compiler „llvm-flang“. Bei ihm handelt es sich um eine Re-Implementierung des LLVM-Fortran-Frontends. Es ersetzt „classic-flang“, die Entwicklung treibt AMD zudem direkt beim LLVM-Projekt voran.
Auch bei den Tools hat sich einiges getan. So unterstützt der Debugger ROCgdb auf AMD Instinct MI350 GPUs die Micro-Scaling (MX) Datentypen FP4, FP6 und FP8, während der ROCm Compute Profiler eine neue Text-basierte Benutzeroberfläche (TUI) spendiert bekommen hat.
Bei der Portierung von Programmen für NVIDIA- und andere Programmiermodelle hilft die Zwischenschicht HIP. Die unterstützt jetzt unter anderem die Open Compute Project (OCP) MX Floating-Point-Datentypen FP4, FP6 und FP8.
