Sapphire EDGE AI 370 im Test - Review der Ryzen AI 9 HX 370-Variante

Sapphire EDGE AI 370 im Detail

In dem Segment von Mini-PCs will Sapphire Fuß fassen und hat dafür kürzlich seinen EDGE AI Mini-PC vorgestellt. Für solche Systeme werden für gewöhnlich verlötete CPUs für platzsparende Konstruktionen aus dem Notebook-Segment verwendet. Der EDGE AI von Sapphire ist mit den Maßen 117 x 111 x 30 mm besonders kompakt und braucht damit auf dem Tisch kaum Platz. Auch wenn der Mini-PC klein ausfällt, soll er gute Leistung bieten, was die moderne APU von AMD richten soll.

Ryzen AI 9 370

Bei unserem Testmuster ist der Ryzen AI 9 HX 370 verlötet. Bei dieser CPU wird ein Mix aus vollwertigen Kernen und sparsamen bzw. energieeffizienten Kernen unterschieden, wie es auch bei Intel schon länger der Fall ist. So verfügt der Ryzen AI 9 HX 370 über 4C-Performance-Kerne und 8c-Efficiency-Kerne. Insgesamt bietet die CPU aber 24 Threads für Multi-Thread-Arbeitslasten. Die CPU ist Teil der Strix Point-Generation, die den Mix aus Zen 5 für Performance-Kerne und sparsamen Zen 5c-Kernen aufbaut, den man auch schon bei Server-CPUs wiederfindet. Gefertigt werden die Dies bei TSMC in 4 nm.

Die Kerne können dynamisch von 2.000-MHz-Basistakt auf bis zu 5.100 MHz hochtakten, wobei wir im OCCT-Tool auch höhere Taktraten von 5.150 MHz gemessen haben. Bei voller CPU-Last kann sich der Takt der Kerne stark unterscheiden, da die Zen5c-Kerne anders verhalten und meist nicht über 3,1 GHz gehen, wogegen die Zen5-Kerne auch auf die besagten 5 GHz hochtakten. Man kann hier aber noch etwas nachhelfen, worauf wir im BIOS-Segment eingehen. Als Sockel wird FP8 genutzt, auf dem die CPU aufgelötet ist.

Die Cache-Konfiguration besteht aus einem L1 Data-Cache aus 48 KB pro Kern (576 KB gesamt) und L1 Instruction Cache von 32 KB pro Kern (384 KB gesamt) sowie weiteren 1 MB Level 2-Cache, gefolgt von 24 MB Level 3 Cache.

Die festgelegte TDP beträgt 28 Watt, wobei die cTDP sich zwischen 15 und 54 Watt bewegt. Mit OCCT hat die CPU aber die 45 Watt nicht überschreiten wollen, wonach es wohl noch Reserven gibt. Im BIOS konnte man hier nicht nachjustieren. Der Verbrauch des gesamten PCs lag aber bei ca. 70 Watt.

XDNA 2 NPU

Im Namen des EDGE AI Mini-PCs steckt das Wort „AI“, was auf die integrierte NPU hinweisen soll. In dem Kontext des Ryzen AI 9 HX 370 bedeutet das aber, dass wir hier eine XDNA2-NPU bekommen, die laut AMD 50 TOPS und Gesamthöchstleistung von 80 TOPS erreichen soll. Sie ist für Microsoft Copilot+-Funktionen gedacht und konnte leider nicht dediziert mit Benchmarks wie Geekbench AI getestet werden, was schade ist. Hier konnten wir nur CPU und GPU auswählen. Auch ML-Studio konnte mit der NPU nichts anfangen – wenn wir die Ergebnisse der Benchmarks deuten. Die NPU steht noch am Anfang, denn die reine Berechnung das eine, aber die Limitierung ist der Speicher, denn solche PCs haben 16 bis 32 GB und hier sprechen wir von DDR5 und nicht von GDDR6, GDDR7 oder HBM. So mangelt es an Speicher für ernsthafte AI-Modelle.

Benchmarks erkennen die NPU nur selten und ein Vergleich wird schwer, denn selbst Procyon AI bietet angepasste Modelle, was einen Vergleich verwässert. Aus dem Grund konnten wir bei GeekBench AI benchmarken, aber in macOS und Windows unterscheiden sich die unterliegenden Frameworks.

Radeon 780M iGPU

Von Notebooks ist eine sparsame, in der CPU integrierte Grafikeinheit die Grundausstattung und sie wird bei teureren Modellen durch eine dedizierte Grafikkarte mit eigenem Speicher ergänzt. Sapphire setzt auf die erstere, was bei dem Ryzen AI 9 HX 370 heißt, dass wir eine Radeon 890M iGPU bekommen. Sie besteht aus 16 Compute Units mit insgesamt 1.024 SPs, 32 ROPs und 64 TMUs. AMD erlaubt bei der iGPU einen maximalen Takt von 2,9 GHz. Da es sich hier um eine Strix Point APU handelt, setzt die iGPU auf RDNA 3.5 als Architektur.

Den Speicher teilt sie sich mit der CPU, da sie über keinen eigenen verfügt. Dadurch werden von dem Systemspeicher insgesamt 4 GB an Arbeitsspeicher abgezwackt und der iGPU zugewiesen. Aus diesem Grund kommt man auf seltsam aussehende RAM-Kapazitäten von 28 GB oder 12 GB im Betriebssystem. Die Leistung der iGPU ist damit aber auch direkt mit der Leistung des DDR5-Speichers verbunden. Da die GPU auf dem gleichen Package ist, ist sie nicht direkt auf dem Chip erkennbar, wird aber über 16 PCI-Express 4.0-Lanes mit der CPU verbunden. Die Bandbreite ist für eine iGPU überdimensioniert, da der DDR5-Speicher in dem Aufbau ganz klar der limitierende Faktor ist.

DDR5-RAM nicht dabei

Sapphire verkauft den EDGE AI offiziell als Barebone, was bedeutet, dass es keinen RAM und keine SSD gibt. Man muss diese beiden Komponenten also selbst noch dazu kaufen und dann einbauen. Wir haben ein Testmuster mit zwei DDR5-5600-SO-DIMMN-Riegeln mit je 16 GB-Kapazität bekommen.

Der Speicher setzt auf Micron-Speicherchips mit „5AD75 D8DKS“-Kennung, was bedeutet, dass es Micron 16Gb (1Gb x 16) DDR5 SDRAM ist, der mit 1α (1-alpha) Node gefertigt wird.

Auf den Speicher ist die Kennung CBD56S46BS8MD angebracht, wobei es sich hier wohl um den KVR56S46BS8-16 von Kingston handelt. Die Ankündigung der neuen Mini-PCs kam noch bevor die Speicherkrise begann und nun kostet einer der Speichermodule 193 € (Affiliate), also kosten zwei davon 386 €, was die meisten Nutzer wohl nicht zahlen wollen werden.

Man kann auch anderen DDR5-SO-DIMM-Speicher nutzen und dieser dient hier eher der Leistungsermittlung. Betrachtet wird das Gesamtsystem, auch wenn wir den RAM extra einpreisen müssen.

NVMe-SSD-Slots

Leicht erreichbar sind auch die NVMe-Slots, von denen es drei gibt. Der erste M.2 2280 PCIe Slot war bei uns mit einer Kingston 1 TB-SSD mit Kennung OM8TAP41024K1-A00 belegt. Sie schafft bei sequenziellem Lesen 6.100 MB/s und sequenziellen Schreiben 5.300 MB/s. Es handelt sich damit um eine PCI-Express 4.0-NVMe, die somit durchschnittlich ist.

Unter dem ersten M.2-Slot befindet sich noch ein kurzer M.2 2230 PCIe-Slot, der ebenfalls belegt ist. Die Standard-Konfiguration sieht hier ein WLAN-Module vor, dass den WiFi6e und Bluetooth 5.2 unterstützt.

Für weitere SSDs gibt es dann noch einen kürzeren M.2 2242 PCIe Slot, der bei uns nicht belegt war. Für beide diese Slots sind Wärmeleitpads auf dem Deckel angebracht, damit die Abwärme abgeführt werden kann.

WLAN 6e und Bluetooth 5.2

WLAN und Bluetooth ist bei Mini-PCs gängig und so verbaut Sapphire auch ein Combo-Modul in seinem EDGE AI-System. Das Modul setzt auf MediaTek MT7922 als Karte, die Wifi 6e, bzw. IEEE 802.11ax realisiert und dazu gibt es dann noch Bluetooth 5.2 für Abindung von Peripherie oder anderen Gerären.

Design und Äußeres

Wenn es um Design geht, hat Sapphire über die Jahre seinen eigenen Stil entwickelt und setzt diesen auch beim EDGE AI Mini-PC ansprechend um. Wie die meisten Mini-PCs, ist auch der EDGE AI ein kleiner, viereckiger Würfel. Das Gehäuse setzt auf eine Schwarz-Gold-Kombination. Die Kühlelemente und Akzente werden dabei in dem Gold-Ton gehalten und auch einige Texte auch.

Der obere schwarze Teil des Gehäuses ist magnetisch angebracht und besteht aus Metall, wodurch das Element effektiv zur Kühlung der SSDs genutzt wird und nicht nur schön aussieht. Nur der Aufkleber von AMD und die Schriftzüge von Sapphire prägen diese Abdeckung.

Unten finden wir ein Lochraster, durch das kühle Luft eingesaugt und dann nach hinten hin abgeführt wird. Neben zwei Aufklebern finden wir hier noch Gummifüße, die für einen stabilen Stand des Mini-PCs sorgen sollen.

Die Verarbeitungsqualität würden wir als sehr gut einstufen, denn die Bauteile sind sauber und präzise gefertigt worden. Dazu kommt, dass die Lackierung ebenfalls ordentlich gemacht wurde und alles gut zusammenpasst.

Anschlüsse

Die Front des EDGE AI 370 ist eher unauffällig. Ganz links finden wir einen Power-Knopf, der weiß aufleuchtet, wenn der Mini-PCs eingeschaltet ist. Rechts davon befindet sich der 3,5-mm-Klinke-Kopfhöreranschluss. Direkt daneben finden wir noch zwei USB 3.2 Type-A Gen 2-Anschlüsse.

Die Rückseite bietet etwas Anschlüsse, auch wenn wir uns hier noch mehr USB-Ports wünschen würden. Für die Stromversorgung wird ein DC Jack ganz rechts eingesteckt und der ganze untere Bereich dient der Luftkühlung. Sapphire verbaut gleich zwei HDMI 2.1-Ports und sogar zwei vollwertige USB-Typ-C-4.0-Ports mit PowerDelivery 3.0. Weiterhin bietet der EDGE AI 370 noch einen USB 3.2 Type-A Gen 2- und einen USB 2.0 Type-A Gen 2-Port. Der obligatorische RJ 45-Port darf auch hier nicht fehlen. Dieser unterstützt sogar 1 Gbit und 2,5 Gbit LAN.

Verpackung und Lieferumfang

Die Verpackung würden wir als “sehr schlicht” einstufen. Fast der gesamte Karton ist weiß gehalten und nur einge Designelemente und der Namensschriftzug prägen die Front. Der Karton ist sehr dick und bietet guten Schutz beim Transport.

Der obere Teil des Kartons muss nach oben hin weggezogen werden, um an den EDGE AI Mini-PC zu gelangen. Dieser kommt einem dann direkt entgegen, wobei er gut durch eine dicker Schicht Schaumstoff geschützt wird.

Neben dem PC befindet sich ein kleiner Karton mit dem Netzteil und HDMI-Kabel. Dazu gibt es dann nch eine VESA-Halterung, falls man den PC an einer Halterung anbringen will.

Windows 11 vorinstalliert

Der EDGE AI wird mit vorinstalliertem Windows 11 Pro ausgeliefert und bietet ein modernes Betriebssystem. Mit fortschrittlichen Funktionen, die auf professionelle Umgebungen zugeschnitten sind, können die Nutzer nahtloses Multitasking und einen robusten Schutz vor modernen Bedrohungen genießen, da die von Microsoft selbst gepflegte Antivirus-Lösung besser ist als viele der anderen Tools auf dem Markt. Wenn man regelmäßig patcht, ist man auch auf der sicheren Seite.

Auffällig ist an dem Testsystem, dass der Standardnutzer direkt Administrator war und dass der Copilot aktiv war, da der PC wohl die Copilot+-Anforderungen erfüllt hat. Andere Bloatware konnten wir nicht finden.

BIOS

Das BIOS des EDGE AI-Systems ist ein modernes AMI-BIOS. Das User Interface ist sehr hell und die Farbe Weiß dominiert. Der Aufbau ist logisch mit einer Seitenleiste links, durch die man zu den Untermenüs rechts kommt.

Unter Main gibt es Informationen zum System und der Uhrzeit. Unser Exemplar hatte das BIOS mit der Version 2.02, das mit dem AGESAS StrixKrackenPI-FP8 in der Version 1.1.0.1 kombiniert wird.

In dem Untermenü „Advanced“ finden wir die sinnvollsten Optionen, die die CPU und die Konfiguration betreffen. Sapphire bietet Nutzern einige Anpassungsmöglichkeiten und so ist das System nicht zu restriktiv gestaltet.

So kann man einige CPU-Features deaktivieren, weil sie alle an sind. AMD SVM, IOMMU für Virtualisierung ist sinnvoll und auch SMT Hyper-Threading würden wir empfehlen eingeschaltet zu lassen, weil man einfach mehr Leistung hat.

Wer mehr Leistung will, kann auch von Balanced-Power-Management auf Silent oder Performance gehen. Wir haben die Benchmarks mit Performance und Balanced durchgeführt und es gab einen messbaren Unterschied.

Man hat noch begrenzte Optionen bei der Anpassung der Lüfterdrehzahl, wobei man von höherer Lautstärke ausgehen kann, wenn man den PC immer an der Grenze fährt – wie bei einem Notebook das auch der Fall ist.

Es gibt noch das Security Menü, in dem wir die üblichen Einstellungen für TPM und UEFI-Secure-Boot-Sicherheitsoptionen finden. Wenn man Desktop-Motherboard-BIOS‘ gewohnt ist, würde man meinen, dass hier wenig enthalten ist, doch für Mini-PCs ist das BIOS durchaus umfangreich. Bei Bedarf kann man auch weitere Funktionen über einen USB-Stick erreichen, jedoch könnten einige davon gesperrt sein.

Sapphire EDGE AI 370 Benchmarks

Mit Hilfe von Benchmarks testen wir den Mini-PC auf seine Leistung in Arbeitslasten und Spielen.

Nachfolgend noch Anmerkungen zum Test auf dem EDGE AI 370 Mini-PC:

• SAPPHIRE EDGE AI 370 (Performance): Hierbei handelt es sich nicht um die Windows-Power-Management Option, sondern die BIOS-Einstellung, die das System so optimiert, dass der Fokus auf Leistung liegt und nicht auf Lautstärke oder Stromsparsamkeit.
• SAPPHIRE EDGE AI 370 (Balance): Das ist die Standard-Option des Mini-PCs und das ist die Leistung, die man bekommt, wenn man den PC auspackt und so benutzt, wie er voreingestellt ist.

Hinweis zum Vergleichssystem

Beim Testen des AMD Ryzen 7 3700X nutzten wir das Standardsystem für Desktops.

• Mainboard: ASUS ROG Strix X570-I Gaming
• Grafikkarte: GeForce RTX 3090 Founders Edition
• SSD: Samsung SSD 840 PRO 256 GB, Samsung 850 EVO 500 GB
• m.2 SSD: Sabrent Rocket 4 Plus 1 TB
• RAM: G.SKILL Trident Z DDR4 F4-3600C14D-32GTZN bei DDR4-3600
• CPU-Kühler: MSI MEG CORELIQUID S360
• Netzteil: Corsair RM-750X - 750 W
• Lüfter: 0
• Gehäuse: Offener Aufbau
• Betriebssystem: Windows 11 21H2

Sapphire EDGE AI 370 Benchmark (Synthetische)

In synthetischen Benchmarks kann man relativ gut Vergleiche zwischen den unterschiedlichen CPU-Architekturen ziehen. Je nach Benchmark liegt der Fokus auf bestimmten Work-Loads und darin kann dann die jeweilige CPU seine Leistung zeigen.

Cinebench R15

Cinebench R20

HandBrake

Geekbench 5 CPU-Benchmark

POV-Ray v3.7

7-Zip

WinRAR

Corona 1.3

3DMark CPU Benchmark

3DMark Time Spy

PCMark 10

Bei PCMark ist zu beachten, dass die Grafikkarte eine wichtige Rolle spielt und beim Ryzen 7 3700X die RTX 3090 FE verwendet wurde. Der Vergleich ist also nicht direkt anwendbar. Später werden weitere MiniPCs verglichen, die einen besseren Vergleich ergeben, da hier das gesamte System bewertet wird.

Unigine Superposition (720p, Low)

Sapphire EDGE AI 370 Spiele Benchmarks

Spiele konnten nur bedingt getestet werden. Die Spiele, die wir sonst verwenden, setzten eine potentere Grafikkarte voraus, die auch notfalls Raytracing packt. Es soll schließlich nur geschaut werden, inwieweit die CPU das Spiel limitiert. Hier kommt jedoch eine iGPU zum Einsatz, die in ihrer Leistung limitiert ist.

Final Fantasy XV Benchmark

Resident Evil VILLAGE

Shadow of The Tomb Raider

Kühlung

Wenn es um Kühlung geht, so muss das kleine Kraftpaket auf einen Notebook-Level-Kühler zurückgreifen. Die meisten Mini-PCs setzen auf ähnliche Lösungen. Nachdem man die Plastikhülle entfernt hat, bekommt man Zugang zum PCB, auf dem der Kühler montiert ist.

Das Kühlungssystem setzt auf zwei-Heatpipes, die den Kühlkörper mit der Bodenplate verbidnen und einem Radial-Lüfter, der darauf montiert wird. Der Lüfter zieht die Luft unten ein und drückt sie dann durch die Kühllamellen nach hinten raus. Der Kühler fällt für diese Leistung eher klein aus, ist aber auf den begrenzten Platz zurückzuführen.

Mittels vier Schrauben wird dieser auf der Ryzen AI APU montiert.

Wenn man die CPU richtig belastet, gehen die Temperaturen auf 80 bis 83°C hoch und die Lüfter drehen dann auch ordentlich auf. Dieses Verhalten und das Geräusch ist mit denen eines Notebooks vergleichbar.

Bei den Messwerten handelt es sich um Delta-Werte, bei denen die Raumtemperatur raus gerechnet wurde.

Verbrauch und Leistungsaufnahme

Der EDGE AI Mini-PC ist auf ein Watt Power Target bzw. TDP von 45 Watt ausgelegt. In unserem Test hat die CPU diesen Wert nicht überschritten und erreichte dabei einen Boost-Takt von 3.333 MHz auf den Performance Kernen und etwa 3.331 MHz auf Efficient-Kernen – wobei im Balanced-BIOS-Mode die E-Kerne nur mit 1.591 MHz gearbeitet haben.

Die Messung des Stromverbrauchs haben gezeigt, dass das System sich mit 70 bis 72 Watt begnügt haben, was für ein Mini-PC schon ordebntlich ist, wenn man bedenkt, dass man hier Notebook-Hardware nutzt. Ein Desktop-PC gönnt sich dagegen bei weitem mehr, auch wenn er gleichzeitig mehr leistet.

Leistung in Spielen, Multi- und Single-Thread-Anwendungen (Rating)

Bei der Betrachtung der Leistung in Single-Thread-Anwendungen, zeigt der EDGE AI 370 gute Leistung und schlägt sogar den Ryzen 7 3700X-AM4-Desktop-Prozessor unserer Vergleichsplattform.

Bei Multi-Thread-Anwendungen meistert er ebenfalls sehr gut, wobei der Performance-BIOS-Modus dem Mini-PC nochmals mehr Leistung bei de facto gleichem Verbrauch ermöglicht – dabei wird er aber lauter.

Wir haben bei dem EDGE AI 370 eine APU mit integrierte iGPU, doch die Spieleistung ist beachtlich, wodurch ältere Titel durchaus gut darauf laufen sollten. Bei dem Detailgrad muss man runtergehen, doch im Vergleich zu anderen APUs ist der Ryzen AI 9 HX 370 stärker als erwartet. Man bedenke: Der Desktop in dem Vergleich setzt auf eine GeForce RTX 3090 Founders Edition mit flottem 24-GB-GDDR6X-Speicher.

Fazit

Sapphire schickt mit dem EDGE AI 370 einen sehr interessanten Mini-PC ins Rennen. Der kleine Bolide bezieht seine Rechenleistung aus dem Ryzen AI 9 HX 370, der mit einer XDNA-2-NPU und Radeon 890M iGPU einen sehr interessanten Mix ergibt. Mit einem Power Target von 45 Watt bekommt man erstaunlich viel Leistung, denn sowohl bei Single- als auch Multi-Thread-Anwendungen kann er einen älteren Ryzen 7 3700X schlagen. In Spielen kann er für seine Verhältnisse gut punkten, auch wenn die CPU sich mit der iGPU den DDR5-Speicher teilt. Bei der AI-Leistung sollte man sich keine Illusionen machen, denn für brauchbare Modelle ist der RAM limitierend und die NPU lässt sich noch nicht mal bei allen Benchmarks nutzen, für LM Studio ist sie auch unbrauchbar – also eher ein “nice to have” als Game-Changer.

Die Verarbeitungsqualität des Mini-PCs ist gut und wir konnten keine Mängel feststellen. Auch bei den Anschlüssen ist der EDGE AI 370 gut bestückt und bietet sogar zwei HDMI- und zwei vollwertige USB-C-Ports. Das Gesamtpaket würden wir als gut einstufen.

Der EDGE AI 370 als auch die kleineren Geschwister werden als Barebones verkauft, was für uns bedeutet, dass wir den DDR5-RAM und die NVMe-SSD noch dazu kaufen müssen. Das ist für Sapphire insofern gut, dass der Hersteller nicht von der Speicherkrise direkt betroffen ist und die Preise nicht ständig anpassen muss. Für den Käufer bedeutet das aber im Umkehrschluss, dass noch 300 bis 600 EUR zusätzlich fällig werden, wenn man ein gescheites DDR5-SO-DIMM-Speicherkit und eine 1- bis 2-TB-NVMe-SSD kaufen muss. Der EDGE AI 370 kostet als Barebone ca. 782 € (Affiliate) und ist damit kein Schnäppchen, ist jedoch unserer Meinung nach akzeptabel.

Pro

• Sehr gute Single- und Multi-Thread-Leistung
• Leiser Betrieb, außer bei Volllast
• Spielleistung akzeptabel
• Mehr Leistung mit Performance-BIOS-Einstellung
• Integriertes WLAN und Bluetooth
• Robustes Gehäuse
• Schickes Design
• Platz für 2 SSDs

Contra

• Barebone, ohne RAM und SSD