LattePanda Sigma 2: Neuer x86-Embedded-KI-Server mit Core Ultra X7 358H und 64 GB RAM

Der LattePanda Sigma 2 fungiert als eingebetteter KI-Server und kombiniert drei unterschiedliche Rechenelemente – CPU, GPU und NPU –, um seine Nennleistung von 180 TOPS zu erreichen.

Die technische Aufschlüsselung der KI-Leistung sieht wie folgt aus:

• GPU: Die Intel Arc B390 verfügt über 12 Xe-Kerne, die bis zu 122 TOPS (INT8) beitragen.
• NPU: Die integrierte Neural Processing Unit liefert zusätzliche 50 TOPS.
• CPU: Ein 16-Kern-Prozessor (bestehend aus 4 Performance-Kernen, 8 Efficiency-Kernen und 4 Low-Power-Efficiency-Kernen) mit Taktraten von bis zu 4,8 GHz.

Um anspruchsvolle lokale KI-Workloads zu bewältigen, unterstützt das System bis zu 64 GB LPDDR5X-8533-RAM mit einer Speicherbandbreite von 136,5 GB/s. Ein wichtiges Merkmal für KI-Entwickler ist die Möglichkeit, bis zu 59 GB VRAM zuzuweisen. Diese Kapazität reicht aus, um quantisierte „Mixture-of-Experts“ (MoE)-Modelle der 35B-Klasse auszuführen und den KV-Cache zu verwalten, der von KI-Agenten mit langen Kontextfenstern benötigt wird. Unter Verwendung der INT4-Quantisierung und von OpenVINO kann das System das Modell „Qwen3.6-35B-A3B“ lokal mit etwa 30 Tokens pro Sekunde ausführen.

Die Platine wurde für Konnektivität der Serverklasse in einer einbaufähigen Größe entwickelt, sodass sie direkt in ein Produkt integriert werden kann, anstatt als eigenständige externe Einheit zu fungieren.

Das System ist mit zwei 10-GbE-Ethernet-Anschlüssen ausgestattet, um Netzwerkumgebungen mit hoher Bandbreite zu unterstützen. Für externe Erweiterungen und den Anschluss von Peripheriegeräten verfügt es über:

• Thunderbolt 4: Zwei Typ-C-Anschlüsse.
• OCuLink: PCIe 4.0 x2-Schnittstelle zum Hinzufügen von KI-Beschleunigern.
• M.2-Steckplätze: Drei M.2-M-Key-Steckplätze und ein M.2-E-Key-Steckplatz für Speicher und drahtlose Erweiterungen.
• USB-Anschlüsse: Zwei USB 3.2 Gen 2- und zwei USB 2.0-Anschlüsse.

Für die Systemintegration und -überwachung bietet die Platine HDMI 2.1, DisplayPort 2.1 über USB Typ C und eDP 1.5.

Im Gegensatz zu herkömmlichen Mini-PCs verfügt der LattePanda Sigma 2 über einen integrierten RP2350-Mikrocontroller. Dieser Co-Prozessor bietet GPIO-Anschlussmöglichkeiten und ermöglicht es dem KI-System, in Echtzeit direkt mit physischen Sensoren und Aktoren zu interagieren. Die Platine wird mit vorinstallierter MicroPython-Firmware ausgeliefert und bietet eine programmierbare Schnittstelle für die Automatisierung und die Entwicklung intelligenter Geräte.

Die Plattform unterstützt Windows 11 und Ubuntu 24.04 LTS (oder höher). Um die Bereitstellungszeit zu verkürzen, wird das System mit Ubuntu, GPU- und NPU-Treibern, dem OpenVINO Model Server (OVMS) und OpenClaw ausgeliefert. Auf der integrierten SSD sind mehrere lokale KI-Modelle vorinstalliert. Das System ist vollständig kompatibel mit branchenüblichen Tools wie llama.cpp, Ollama und OpenVINO.

Industrielle Anwendung und Lebenszyklus

Das LattePanda Sigma 2 wurde für den langfristigen professionellen Einsatz konzipiert und bietet einen garantierten Produktlebenszyklus von mindestens drei Jahren. Für Systemintegratoren bietet das Unternehmen Optionen zur BIOS-Anpassung sowie die Möglichkeit, benutzerdefinierte Startlogos zu implementieren.

Die Hardware ist auf verschiedene Anwendungsfälle mit hohem Rechenaufwand ausgerichtet:

• Lokale KI-Appliances: Ausführung privater RAG- (Retrieval-Augmented Generation) und KI-Agenten, um sensible Daten vor Ort zu behalten.
• Autonome Robotik: Integration von Wahrnehmung, Navigation und Echtzeitsteuerung auf einer einzigen Plattform.
• Professionelle Messtechnik: Verarbeitung von Hochgeschwindigkeits-Datenströmen in kompakten Messgeräten.
• Heimlabore: Kombination von NAS, Virtualisierung und lokalen KI-Diensten.

Technische Daten

• Prozessor: Intel Core™ Ultra X7 358H
• KI-Leistung: Bis zu 180 TOPS (CPU + GPU + NPU, INT8)
• NPU: Bis zu 50 TOPS
• CPU: 16 Kerne (4P + 8E + 4LPE), bis zu 4,8 GHz, 18 MB Cache
• GPU: Intel Arc™ B390, 12 Xe-Kerne, bis zu 122 TOPS (INT8)
• Speicher: Bis zu 64 GB LPDDR5X-8533 RAM, 136,5 GB/s Bandbreite
• Speicher & Erweiterung: 3× M.2 M-Key, 1× M.2 E-Key, OCuLink PCIe 4.0 x2
• Netzwerk: 2× 10GbE RJ45
• Thunderbolt: 2× Thunderbolt 4 Typ-C
• USB Typ-A: 2× USB 3.2 Gen 2, 2× USB 2.0
• Display: HDMI 2.1, DP 2.1 über USB Typ-C, eDP 1.5
• Co-Prozessor: RP2350
• Betriebssystem: Windows 11, Ubuntu 24.04 LTS oder höher
• Abmessungen: 146 × 102 mm

Preise und Verfügbarkeit

Der LattePanda Sigma 2 kann derzeit vorbestellt werden. Bis Mitte November wird er zu einem Aktionspreis von 2.599 USD angeboten. Nach Ablauf der Vorverkaufsphase gilt wieder der reguläre Verkaufspreis von 2.799 USD.