ADATA TRUSTA AI Scaler Extended Memory Solution Bild © ADATAADATA TRUSTA AI Scaler Extended Memory Solution (Bild © ADATA)

Aktuelle KI-Infrastrukturen erfordern oft teure High-End-GPUs, da große Sprachmodelle enorme Speicheranforderungen stellen. Diese Abhängigkeit schafft erhebliche Einführungshürden für Unternehmen, die auf On-Premises- und Edge-KI umsteigen. Der TRUSTA AI Scaler löst dieses Problem durch eine skalierbarere Speicherkonfiguration.

Durch die Verteilung der Modelldaten auf GPU-Speicher, DRAM und SSDs ermöglicht das Toolkit eine effizientere Ressourcennutzung. In der Praxis ermöglicht dies die Ausführung von Modell-Inferenz-Aufgaben, für die normalerweise ein Multi-GPU-Cluster erforderlich wäre, auf einer einzigen GPU. Für das Modell-Fine-Tuning weist das System Rechenressourcen dynamisch zu, was laut TRUSTA die Gesamtkosten für die Bereitstellung um mehr als 50 % senkt.

Open-Source-Integration und Modellunterstützung

Das AI Scaler Toolkit wird als kostenlose Open-Source-Plattform bereitgestellt. Dieses Design stellt sicher, dass Unternehmen und Forschungseinrichtungen ihre KI-Ressourcen konfigurieren können, ohne an bestimmte Hardware-Anbieter gebunden zu sein.

Die Plattform ist mit mehreren gängigen Modellfamilien kompatibel, darunter Llama, Mistral, DeepSeek und Gemma. Darüber hinaus ist das Toolkit in Agentic-KI-Workflows integriert und unterstützt Anwendungen wie Hermes Agentic und NemoClaw. Diese Flexibilität soll die Integration von KI-Agenten in Unternehmensumgebungen beschleunigen.

Synergie zwischen Unternehmensspeicher und Hardware

Neben dem Software-Toolkit stellt TRUSTA die TD7P51 ECO PCIe Gen5 Enterprise-SSD vor. Um die hohen Datenanforderungen des AI Scaler zu erfüllen, bieten diese SSDs Kapazitäten von bis zu 15,36 TB und sind in den Formfaktoren U.2, E1.S und E3.S erhältlich. Ein wichtiges technisches Merkmal der TD7P51 ECO ist die Implementierung von Flexible Data Placement (FDP), das durch intelligentes Datenmanagement die Zuverlässigkeit und Stabilität der Laufwerke verbessert. Diese Laufwerke wurden auf zahlreichen globalen Serverplattformen getestet, um die Kompatibilität in Rechenzentrums- und Cloud-Umgebungen sicherzustellen.