NVIDIA Jetson AGX Thor Dev Kit (Bild © NVIDIA)
Das Herzstück des Boards ist ein einzelnes Paket, das eine 14-Core Arm Neoverse CPU mit einer Blackwell-GPU mit 2.560 CUDA-Kernenverbindet - ein Grafikdurchsatz, der in der Nähe eines Geräts der RTX 5050-Klasse liegt, mit einem ganz anderen Software- und I/O-Fokus. Die GPU verfügt außerdem über 96 Tensor Cores, um moderne Transformator-Workloads, klassische Bildverarbeitung und Mixed-Precision-Inferenz zu beschleunigen, die in Robotik-Stacks üblich sind.
Das Kit wird mit einem 128 GB großen LPDDR5X-Speicher geliefert, eine Kapazität, die es sofort auf das Radar von Entwicklern bringt, die größere lokale Modelle oder multimodale Pipelines am Rande des Systems betreiben. Dieser Speicher wird von CPU und GPU gemeinsam genutzt, ein Kompromiss, der die Programmierbarkeit und die gemeinsame Nutzung von Daten verbessert, während er auf LPDDR-Bandbreite statt auf diskreten GDDR setzt. Für die größten LLMs kann sich diese Bandbreite - und die 128-GB-Obergrenze in einigen Konfigurationen - als begrenzender Faktor erweisen, selbst wenn Blackwell die Rohdatenverarbeitung anhebt.
Wo Thor sich am deutlichsten von Desktop-Silizium unterscheidet, ist die I/O. Die Plattform ist darauf ausgelegt, Daten von bis zu 20 physischen Kameras über Hochgeschwindigkeitsschnittstellen aufzunehmen und zu synchronisieren, mit bis zu 32 virtuellen Kanälen für komplexe Perception Stacks. Gepaart mit fortschrittlichen Kodier-/Dekodier-Engines eignet sich das Kit für Humanoide, mobile Roboter und stationäre Bildverarbeitungssysteme, die mehrere hochauflösende Datenströme mit einem engen Latenzbudget verarbeiten müssen.
Im Vergleich zu AGX Orin (Ampere) erhöht AGX Thor die Anzahl der Kerne, die Taktrate und den KI-Durchsatz und passt damit zu dem Sprung, den NVIDIA in seiner gesamten Blackwell-Produktreihe macht. Das Format des Developer Kits ermöglicht Teams, die SLAM, Navigation, Manipulation oder multimodales Reasoning im Edge-Bereich entwickeln, einen frühen Zugang zu dieser Architektur. Wie bei früheren Jetson-Generationen wird das für Roboter und eingebettete Systeme bestimmte Produktionsmodul kleiner sein als das hier gezeigte Dev-Kit.
Mit einem Preis von 3.065 € liegt der Jetson AGX Thor über einigen rechenintensiven Alternativen, die von KI-Bastlern und -Laborteams oft genannt werden, wie z. B. GB10 Blackwell Superchip-basierte DGX Spark-Systeme und Ryzen AI MAX+-Konfigurationen, die je nach Arbeitsspeicher und Speicherplatz für weniger Geld zu haben sind.