AMD Threadripper Halo Station auf IFA gezeigt für massive loakle LLMs

Zu den eigentlichen Spezifgikationen hielt sich AMD eher bedeckt bei der Pressekonferenz, da der Fokus schnell Richtung SUSE-Linux und deren Kooperation geshiftet wurde. Die genaue Konfiguration ist dabei wohl nicht final, doch die Basis bilde der Ryzen Threadripper PRO 9995WX mit seinen 96 Zen-5-Kernen und 192-Threads. Hinzu kommt, dass das System mi maximal 2 TB an DDR5-RDIMM-RAM bestückt werden wird. Der RDIMM-RAM bietet eine Bandbreite von 410 GB/s und die gesamte Systembadbreite soll 16,4 TB/s erreichen können. Das deutet darauf hin, dass diese Systeme sicher weit jenseits der 10.000 €-Marke liegen werden. Einen Preis nannte AMD nicht.

Erkennbar war, dass sowohl der Threadripper PRO 9995WX als auch die beiden Instinct Beschleuniger über einen 360er-Flüssigkühler auf niedrigen Temperaturen gehalten werden. AMD will damit sicherstellen, dass volle Leistung gehalten werden kann, da alle drei Komponenten massiv Abwärme produzieren. Welche Instinct Beschleuniger es sind, hat AMD bisher nicht verraten. Zusammen sollen sie aber 576 GB an HBM3e-Speicher, also 288 GB pro Karte, verfügen. Die Bandbreite der GPUs soll dabei 16 TB/s im Durchschnitt erreichen.

Die Threadripper Halo Station wird 2027 auf den Markt kommen und wir gehen davon aus, dass AMD auf der CES weitere Informationen bereitstellen wird, da das Produkt noch nicht final spezifiziert ist.