ROCm7 Logo (Bild © AMD)
Umstellung auf modulare Architektur
Die wichtigste Neuerung in Version 7.14.0 ist die Umstellung auf ein schlankeres Core-SDK, das nur die wesentlichen Laufzeit- und Entwicklungskomponenten enthält. Um spezifische professionelle Arbeitsabläufe zu unterstützen, hat AMD optionale, domänenspezifische Erweiterungen für künstliche Intelligenz (KI), Data Science und High-Performance-Computing (HPC) eingeführt. Dieser modulare Ansatz ermöglicht es dir, nur die für dein spezifisches Projekt erforderlichen Komponenten zu installieren, was den Gesamtplatzbedarf der Software reduziert und den Installationsprozess vereinfacht.
Erweiterte Hardware- und Betriebssystemkompatibilität
Die neueste Version erweitert die Unterstützung auf mehrere GPU-Architekturen, Betriebssysteme und Virtualisierungsumgebungen:
GPU- und APU-Unterstützung
ROCm 7.14.0 bietet nun Kompatibilität für verschiedene Ryzen-AI-Prozessoren, darunter:
- Ryzen AI MAX+ PRO 495, MAX PRO 490 und MAX PRO 485 (gfx1151)
- Ryzen AI 5 435, 5 430, 5 PRO 435 (gfx1153) und Ryzen AI 7 445 (gfx1153)
Betriebssystem-Updates
Die Unterstützung für RHEL 10.2 und RHEL 9.8 auf Instinct- und Radeon-GPUs wurde erweitert. Außerdem werden Debian 13 sowie SUSE Linux Enterprise Server (SLES) 16 und 15 SP7 nun auf dem Instinct MI350P unterstützt.
Virtualisierung und Partitionierung
Für Radeon-GPUs wurden neue Virtualisierungskonfigurationen hinzugefügt, darunter KVM-Passthrough für die Radeon AI PRO R9700S und SR-IOV für die Radeon PRO V710 unter Ubuntu 24.04. Für Instinct MI355X- und MI350X-Bereitstellungen optimiert das Update die Multi-VF-Partitionsmodi speziell für DPX- und CPX-Rechenpartitionen mit NPS2-Speicherpartitionierung.
KI-Frameworks und Inferenz
Das Release aktualisiert die Kompatibilität für mehrere wichtige KI-Frameworks, um Stabilität und Leistung zu gewährleisten:
- PyTorch: 2.12.0
- TensorFlow: 2.21
- JAX: 0.10.0
- vLLM: 0.23.0
- SGLang: 0.5.13
Entwickler-Tools und Verbesserungen beim Profiling
AMD hat mehrere Updates für die HIP-API und die Profiling-Suite eingeführt, um die Arbeitsabläufe für Entwickler zu verbessern.
Verbesserungen an der HIP-API
Das Update führt Execution-Context-APIs ein, die eine effizientere Partitionierung der GPU-Rechenressourcen auf einem einzelnen Gerät ermöglichen. Um eine bessere Kompatibilität mit CUDA zu erreichen, wurden neue APIs für die asynchrone Batch-Speicherverwaltung sowie Funktionen zur Bibliotheksverwaltung hinzugefügt. Zudem wurde die HIP-Graph-Wiedergabe optimiert, um den Overhead bei asynchronen Speicherzuweisungen zu reduzieren.
Profiling und Telemetrie
Das ROCprofiler-SDK ist ab Version 2.12 nun das Backend für den PyTorch-Profiler. Zu den wichtigsten Neuerungen gehören:
- B Streaming Performance Monitors (SPM)B: Beta-Unterstützung für zeitaufgelöste Hardware-Zählerdaten auf Instinct MI300X, MI325X, MI350X und MI355X.
- B Selektives ProfilingB: Du kannst jetzt ROCTx-Marker verwenden, um die GPU-Aktivität nur in bestimmten Anwendungsbereichen zu erfassen.
Der ROCm Systems Profiler bietet nun ein einheitliches Speicher-Profiling zur Verfolgung von Seitenmigrationen und -fehlern sowie ein Profiling der SDMA-Engine-Aktivität, um Engpässe beim Datentransfer in Multi-GPU-Konfigurationen zu identifizieren.
Systemverwaltung und Telemetrie
Das AMD SMI-Tool wurde aktualisiert und liefert nun GPU-Metriken für Temperatur, Taktrate und Auslastung pro Partition. Es enthält jetzt APU-spezifische CLI-Metriken und ermöglicht die VRAM-Zuweisung sowie die GTT-Optimierung direkt über die Befehlszeile. Für Unternehmensumgebungen fügt das ROCm Data Center (RDC)-Tool 59 neue Telemetriefelder hinzu, die Energie-, PCIe-Aktivitäts- und Zustandsmetriken abdecken, um nahezu die gleiche Funktionsumfang wie der Device Metrics Exporter zu erreichen.
Bibliotheks-Updates und veraltete Funktionen
Mehrere Kernbibliotheken wurden aktualisiert:
- hipFile: Eine neue Bibliothek für Direct Storage I/O ist im Core SDK enthalten und ermöglicht Datenübertragungen zwischen Speicher und GPU-Speicher, wodurch hostseitige Kopiervorgänge auf Instinct-GPUs umgangen werden.
- hipSPARSE: Unterstützt nun das Block Sparse Row (BSR)-Format in generischen Routinen.
- RCCL: Führt einen hierarchischen AllGather-Algorithmus für große Jobs mit mehreren Knoten ein und lagert kollektive Datenübertragungen auf die GPU-Kopier-Engine von MI355X-GPUs aus.
- rocSPARSE: Bietet nun Unterstützung für unvollständige LDLT-Faktorisierung.
Schließlich hat der ROCm Bandwidth Test (RBT) das Ende seiner Lebensdauer erreicht und wird in dieser Version nicht mehr unterstützt; Benutzern wird empfohlen, auf TransferBench oder die ROCm Validation Suite umzusteigen.
