HighPoint stellt P2P- und GPU-Direct-Storage-Hardware für KI-Infrastrukturen vor

In herkömmlichen Serverkonfigurationen müssen Daten, die von NVMe-Flash-Arrays übertragen werden, den Arbeitsspeicher (RAM) und die CPU des Hostsystems durchlaufen, bevor sie die GPU erreichen. Dieser Routing-Prozess verursacht Latenz und schränkt den Durchsatz ein, was die Effizienz von GPU-Beschleunigern verringern kann. Zwar ermöglicht die GDS-Software eine direktere Kommunikation zwischen Speicher und GPUs, doch ist eine physische Hardware-Fabric erforderlich, um diese Pipelines voneinander zu isolieren und maximale Leistung zu erzielen.

Die neue Produktreihe von HighPoint nutzt die PCIe-Switch-Engines PEX89048 (Gen5) und PEX88048 (Gen4) von Broadcom. Diese Komponenten unterstützen eine Übertragungsbandbreite von bis zu 64 GB/s bei einer Latenz im Mikrosekundenbereich und werden in zwei unterschiedlichen Hardwaretopologien angeboten.

CPU-geroutete Speicher-Feeders auf der Hauptplatine

Die erste Topologie ist für Plattformen konzipiert, die integrierte PCIe-Steckplätze auf der Hauptplatine nutzen. Bei diesem Ansatz kommen Speicher-Add-in-Karten (AICs), Adapter und Gehäuse mit hoher Packungsdichte zum Einsatz, um Flash-Speicher unter einer einheitlichen Switch-Architektur zu konsolidieren und lokale GPUs über einen gemeinsamen CPU-Root-Complex auszulasten.

PCIe-Gen5-Infrastruktur (bis zu 64 GB/s):

• NVMe-AICs: Rocket 1608A (8x M.2-Steckplätze) und Rocket 1604A (4x M.2-Steckplätze).
• NVMe-Adapter: Rocket 1628A (4x interne MCIO 8i) und Rocket 1624A (4x interne MCIO 4i). PCIe-Gen4-Infrastruktur (bis zu 32 GB/s):
• NVMe-AICs: SSD7749M2 (16x M.2-Steckplätze), SSD7749M (8x M.2-Steckplätze), Rocket 1508 (8x M.2-Steckplätze) und Rocket 1504 (4x M.2-Steckplätze).
• NVMe-Adapter: Rocket 1528D (4x interne SlimSAS 8i).
• Externe Speichergehäuse: RocketStor 6542AW (8-Bay U.2/U.3) und RocketStor 6541AW (4-Bay M.2/U.2).

Diese Matrizen sind mit verschiedenen Formfaktoren kompatibel, darunter Standard-NVMe-, M.2-, E1.S- und U.2/U.3-Module.

Hardware-isolierte Rechen- und Speicherkreisläufe

Die zweite Topologie wurde für virtualisierte Umgebungen entwickelt, in denen eine geschäftskritische Isolation erforderlich ist. In dieser Konfiguration werden die GPU und der NVMe-Speicher auf demselben physischen PCIe-Switch gehostet. Diese Architektur ermöglicht Datenübertragungen lokal auf dem Switch-Adapter, wobei die Host-CPU vollständig umgangen wird. Diese Methode beseitigt häufige Leistungsengpässe, die durch Hypervisor-IOMMU oder ACS-Sicherheitssperren in den über das Motherboard geführten Pfaden verursacht werden.

Wichtige Hardwarekomponenten:

• Rocket 1628A: Eine Single-Slot-GDS-Matrix mit vier internen MCIO-8i-Ports. In Kombination mit einer MCIO-PCIe-x16-G5-Brückenkarte stellt sie einer GPU Gen5-x16-Bandbreite zur Verfügung und unterstützt gleichzeitig bis zu 16 NVMe-Geräte über UBM-Backplane-Konnektivität.
• Rocket 7638D und Rocket 7634D: Diese externen Brücken nutzen CDFP-CopprLink-Konnektivität, um lokale Hochgeschwindigkeits-Speicher-Arrays mit externen Gen5-x16-eGPU-Gehäusen wie dem RocketStor 8631D und dem RocketStor 8631C zu verbinden.

Produktverfügbarkeit

Die für P2P und GDS optimierten Gen4- und Gen5-Switch-AICs, Adapter und Konnektivitätszubehör sind über das globale Distributornetzwerk von HighPoint und über Systemintegrationspartner erhältlich.