AMD ROCm 10.0 Release bringt einheitlichen GPU-Compute-Stack für agentenbasierte KI

Das ROCm 10.0 Core SDK basiert vollständig auf TheRock, einem automatisierten Open-Source-Build- und Release-System. Diese Pipeline stellt sicher, dass Primitive, Bibliotheken und Framework-Wheels vor der Verteilung über den gesamten Stack hinweg validiert werden. Die Plattform bietet einen einheitlichen Quellcode-Baum, der Instinct-Beschleuniger, Radeon-Grafikkarten und integrierte Ryzen-Grafik sowohl unter Linux- als auch unter Windows-Betriebssystemen unterstützt.

Um die Softwarebeschaffung zu vereinfachen, hat AMD die Bereitstellung seiner GPU-Software in einem einzigen Repository unter repo.amd.com zusammengefasst. Diese Neugestaltung integriert ROCm-Pakete, den amdgpu-Treiber und öffentliche GPU-Tools an einem Ort mit einer einheitlichen Struktur, sodass Teams mehrere Versionen und Architekturen parallel verwalten können.

ROCm.AI Developer Experience

Ein zentrales Merkmal dieser Version ist ROCm.AI, eine KI-native Entwicklerumgebung, die darauf ausgelegt ist, manuelle Konfigurationen zu reduzieren. Dieses Ökosystem besteht aus drei Hauptkomponenten:

• ROCm CLI: Eine einheitliche Befehlszeilenschnittstelle zur Installation, Aktualisierung und Fehlerbehebung von KI-Workloads. Sie umfasst Funktionen wie rocm serve für die Modellinferenz über PyTorch und rocm examine für die Umgebungsdiagnose.
• AMD Skills: Eine Sammlung validierter Wissensmodule, die mit KI-Programmierassistenten wie Claude und Cursor kompatibel sind. Diese Skills bieten automatisierte Anleitungen für Aufgaben wie das Ausführen von LLMs auf Instinct-GPUs oder die Quantisierung von Modellen für EPYC-CPUs.
• Hyperloom: Ein Open-Source-Agentensystem, das die Optimierung von Inferenz-Workloads automatisiert. Hyperloom nutzt einen Zyklus aus Profiling, Analyse und Validierung, um Kernel ohne manuelle Eingriffe durch Ingenieure zu optimieren.

Framework-Unterstützung und Modelloptimierung

ROCm 10.0 bietet produktionsreife Unterstützung für vLLM und SGLang, sodass Anwender LLM-Inferenz auf Instinct-, Radeon- und Ryzen-Hardware über validierte Container ausführen können.

Für die lokale Entwicklung fügt das Update Unterstützung für Unsloth auf Ryzen-AI-Max-Plattformen hinzu, was eine speichereffiziente Feinabstimmung mittels LoRA und QLoRA ermöglicht. Darüber hinaus enthält die Version Leistungsoptimierungen für ComfyUI, insbesondere für Modelle wie Wan2.2, FLUX.2 KLEIN und Stable Diffusion 3.5 Medium.

Kommunikations- und Mathematikbibliotheken

An den Kommunikationsbibliotheken wurden wesentliche Aktualisierungen vorgenommen, um die Skalierbarkeit zu verbessern. RCCL umfasst nun Unterstützung für symmetrischen Speicher bei der Peer-to-Peer-Kommunikation mit mehreren GPUs sowie eine GPU-initiierte Netzwerk-API. Ebenso wurde rocSHMEM aktualisiert, um es besser an NVSHMEM 3.6.5 anzupassen, wobei Host-AMO- und Kontext-APIs hinzugefügt wurden.

Im Bereich der mathematischen Bibliotheken führt hipBLASLt einen GEMM-Kernel-Optimierer für die lokale Workload-Optimierung ein. rocSPARSE fügt einen intelligenten SPMM-Selektor hinzu, um anhand der Matrixstruktur automatisch den effizientesten Algorithmus zu ermitteln.

Entwicklerwerkzeuge und Windows-Integration

Die Version enthält mehrere Verbesserungen bei der Diagnose und Profilierung:

• Roofline-Analyse: Jetzt auf GFX11xx-Architekturen für Radeon-Hardware erweitert.
• ROCm Optiq 1.0: Eine einheitliche Visualisierungsumgebung, die Traces auf Systemebene und Leistungsanalysen auf Kernel-Ebene kombiniert.
• Speichersicherheit: ASAN-instrumentierte Pakete sind nun als Standardinstallationen verfügbar, um Entwicklern bei der Identifizierung von Fehlern im Bereich der Speichersicherheit zu helfen.

Unter Windows wurde das HIP-SDK eingestellt und in das ROCm Core SDK integriert. Durch diesen Übergang werden Windows und Linux unter einer einzigen SDK-Definition und Release-Kadenz vereinheitlicht, wodurch die Funktionsparität zwischen beiden Betriebssystemen gewährleistet wird.