BOSGAME M5 im Test: Kompakte Linux-Workstation für lokale KI

Mini-PCs sind längst nicht mehr nur für einfache Büroarbeiten gedacht. Dennoch liegen zwischen einem kompakten Office-Rechner und einer ernst zu nehmenden Workstation noch immer Welten. Der BOSGAME M5 will diese Grenze beseitigen. Im Inneren arbeitet AMDs Ryzen AI MAX+ 395 mit 16 Zen-5-Kernen, einer ungewöhnlich leistungsfähigen Radeon 8060S und 128 GB gemeinsam genutztem LPDDR5X-Speicher. Damit richtet sich der Rechner vor allem an Entwickler, Kreative und Anwender, die große Sprachmodelle lokal ausführen möchten.

Linux statt Windows

Für unseren Test haben wir das vorinstallierte Windows 11 Pro nicht verwendet, sondern Debian 13 installiert. Im Mittelpunkt standen daher nicht Spiele oder Windows-Benchmarks, sondern die Linux-Kompatibilität, die Unterstützung durch AMD ROCm und die Leistung bei lokalen KI-Modellen mit Ollama. Gerade in diesem Bereich verspricht Strix Halo eine interessante Alternative zu klassischen Workstations mit separater Grafikkarte.

Technische Ausstattung des BOSGAME M5

Das Herzstück des BOSGAME M5 bildet der AMD Ryzen AI MAX+ 395. Der Prozessor kombiniert 16 Kerne und 32 Threads auf Basis der Zen-5-Architektur und erreicht laut Hersteller einen maximalen Boost-Takt von 5,1 GHz. In unserem Debian-System wurden kurzzeitig sogar bis zu 5,185 GHz gemeldet. Hinzu kommen 64 MB L3-Cache sowie eine in den Prozessor integrierte NPU für KI-Aufgaben.

Deutlich wichtiger für unseren Test war die Radeon 8060S. Die integrierte Grafikeinheit basiert auf RDNA 3.5, verfügt über 40 Compute Units und erreicht bis zu 2.900 MHz. Damit unterscheidet sie sich grundlegend von den kleinen Grafikeinheiten gewöhnlicher Mini-PCs. Im BOSGAME M5 übernimmt die Radeon nicht nur die Bildausgabe, sondern dient zugleich als Beschleuniger für lokale KI-Anwendungen.

Unser Testgerät war mit 128 GB fest verlötetem LPDDR5X-Speicher und einer 2 TB großen NVMe-SSD ausgestattet. BOSGAME bietet den M5 außerdem mit 96 GB Speicher an. Der Arbeitsspeicher arbeitet mit 8.000 MT/s und wird von CPU und GPU gemeinsam genutzt. Zwei M.2-Steckplätze mit PCIe 4.0 ermöglichen eine spätere Erweiterung des Massenspeichers. Zur weiteren Ausstattung gehören unter anderem zweimal USB4, mehrere USB-Anschlüsse, ein SD-Kartenleser und 2,5-Gigabit-Ethernet.

Gemeinsamer Speicher statt festem Grafikspeicher

Eines der wichtigsten Merkmale des BOSGAME M5 ist die Speicherarchitektur. CPU und Radeon 8060S greifen auf denselben LPDDR5X-Speicher zu. Große Datenmengen müssen daher nicht erst zwischen Arbeitsspeicher und einem separaten Grafikspeicher kopiert werden. Vor allem bei lokalen Sprachmodellen ist das von Vorteil, weil deren Speicherbedarf schnell über die Kapazität typischer Grafikkarten hinausgeht.

Im UEFI lässt sich festlegen, welcher Anteil des Speichers für die Radeon 8060S reserviert wird. Bei der getesteten Variante mit 128 GB können bis zu 96 GB als Grafikspeicher bereitgestellt werden. Dadurch lassen sich auch Modelle laden, die auf einer Grafikkarte mit 16 oder 24 GB VRAM keinen Platz mehr finden würden. Benötigt ein Anwender dagegen mehr klassischen Arbeitsspeicher für virtuelle Maschinen, Container oder andere CPU-Aufgaben, kann er die Zuweisung reduzieren. Der Speicher bleibt physisch derselbe, seine Aufteilung lässt sich jedoch an den jeweiligen Einsatzzweck anpassen.

Diese Flexibilität ist ein entscheidender Unterschied zu vielen kompakten Rechnern mit verlötetem Speicher. Dort erhält die integrierte Grafik häufig nur einen kleinen, fest vorgegebenen Anteil. Der BOSGAME M5 lässt sich dagegen stärker auf GPU-lastige KI-Workloads oder auf klassische Workstation-Aufgaben ausrichten. Allerdings muss die gewünschte Aufteilung im UEFI vorgenommen werden; eine spontane Verschiebung während des laufenden Betriebs ist nicht vorgesehen.

Verarbeitung und Anschlüsse

Das Gehäuse des BOSGAME M5 fällt größer aus als bei typischen Office-Mini-PCs, bleibt gemessen an der gebotenen Hardware jedoch kompakt. Die Konstruktion wirkt stabil und bietet genügend Raum für das Kühlsystem sowie zwei M.2-SSDs. Der Rechner lässt sich auf dem Schreibtisch unterbringen, ohne den Platzbedarf eines klassischen Tower-PCs zu verursachen.

Bei der Anschlussausstattung hat BOSGAME nicht übermäßig gespart. Zwei USB4-Ports ermöglichen schnelle externe Datenträger, Dockingstationen oder zusätzliche Bildschirme. Hinzu kommen drei USB-3.2-Gen-2-Anschlüsse, zwei USB-2.0-Ports, ein vollwertiger SD-4.0-Kartenleser und ein Netzwerkanschluss mit 2,5 Gbit/s. Gerade für eine lokale KI-Workstation ist diese Mischung sinnvoll, weil sich schnelle Speicher, Kameras, Kartenleser und Netzwerkgeräte ohne einen zusätzlichen USB-Hub anbinden lassen.

An der Gehäusefront befindet sich außerdem ein Schalter für unterschiedliche Leistungsprofile. Damit kann der Nutzer zwischen stärker auf Effizienz, ausgewogenem Betrieb und höherer Leistung ausgerichteten Einstellungen wechseln. Unter längerer Last bleibt der M5 nicht lautlos. Das wäre bei einem Ryzen AI MAX+ 395 in diesem Format auch kaum zu erwarten. Eine standardisierte Messung des Schalldrucks haben wir allerdings nicht vorgenommen, weshalb wir auf konkrete Dezibelwerte verzichten.

Debian 13 auf dem BOSGAME M5

Die Installation von Debian 13 verlief weitgehend unauffällig. Prozessor, NVMe-SSD, Netzwerk und Radeon-Grafik wurden erkannt, sodass das System unmittelbar als Desktop-Rechner verwendet werden konnte. Für gewöhnliche Linux-Arbeiten war keine umfangreiche Nachbearbeitung notwendig. Auch der aktuelle Kernel erkannte die Strix-Halo-Plattform korrekt.

Mehr Aufwand erforderte erwartungsgemäß die Einrichtung der GPU-Beschleunigung für KI-Anwendungen. Die freie Grafikunterstützung des Linux-Kernels genügt zwar für den Desktopbetrieb, Ollama benötigt für die Beschleunigung auf der Radeon 8060S jedoch AMD ROCm. Nach der Installation wurde die GPU korrekt als gfx1151 erkannt. rocminfo meldete 40 Compute Units, einen maximalen GPU-Takt von 2.900 MHz und den für die Grafikeinheit vorgesehenen Speicherbereich.

Eine kleine Stolperfalle waren die Zugriffsrechte auf die Render-Geräte. Erst nachdem der verwendete Benutzer der Gruppe render hinzugefügt worden war, konnte ROCm die Grafikeinheit ohne Berechtigungsfehler verwenden. Danach griff Ollama zuverlässig auf die Radeon 8060S zu. Das System musste also nicht mit dauerhaft erweiterten Rechten betrieben werden.

Nicht alle Hilfsprogramme sind bereits vollständig auf Strix Halo vorbereitet. Das unter Debian verfügbare rocm-smi zeigte zwar Temperatur, Leistungsaufnahme und Auslastung an, quittierte einzelne Abfragen jedoch mit der Meldung Exception caught: map::at. Auf die eigentliche Rechenfunktion hatte das keinen Einfluss. Die ROCm-Laufzeit arbeitete stabil, während lediglich das Verwaltungsprogramm bei einigen Sensor- und Geräteinformationen noch Lücken zeigte.

CPU-Leistung unter Debian

Der Ryzen AI MAX+ 395 gehört mit 16 Kernen und 32 Threads zu den leistungsstärksten Prozessoren, die derzeit in einem Mini-PC zu finden sind. Im Sysbench-CPU-Test erreichte der BOSGAME M5 mit 32 Threads rund 101.676 Ereignisse pro Sekunde. Der Wert zeigt, dass die kompakte Bauform nicht automatisch eine Beschränkung auf typische Notebook-Leistung bedeutet.

Im Alltag reagierte Debian jederzeit unmittelbar. Mehrere parallele Anwendungen, Docker-Container und umfangreichere Kompiliervorgänge brachten den Rechner nicht aus dem Tritt. Gerade Anwender, die neben einem lokalen Sprachmodell noch Entwicklungswerkzeuge, Datenbanken oder virtuelle Maschinen betreiben, profitieren von der hohen Kernzahl. Die Plattform lebt nicht allein von ihrer GPU, sondern kann auch als klassische Mehrkern-Workstation überzeugen.

Beim Speicherbenchmark MBW erreichte das System je nach Kopierverfahren zwischen 17.899 und 27.339 MiB/s. Der einfache memcpy-Durchlauf kam auf 17.899 MiB/s, während mcblock 23.345 MiB/s und der sogenannte Dumb-Test 27.339 MiB/s meldeten. Solche Werte hängen stark von der jeweiligen Methode ab und lassen sich nicht direkt mit Herstellerangaben zur Rohbandbreite vergleichen. Für die Einordnung innerhalb unseres Testsystems zeigen sie jedoch, dass der gemeinsame Speicher nicht zum offensichtlichen Flaschenhals wurde.

SSD mit PCIe 4.0 statt PCIe 5.0

Als Systemlaufwerk verbaute BOSGAME eine YMTC PC41Q-2TB-B mit der Firmware YM11D343. Es handelt sich um eine DRAM-lose NVMe-SSD, die über vier PCIe-4.0-Lanes angebunden ist. lspci bestätigte eine aktuelle Link-Geschwindigkeit von 16 GT/s bei voller Breite von vier Lanes.

Ein erster sequenzieller Lesetest meldete mehr als 20 GB/s und damit einen Wert, der über der technischen Grenze von PCIe 4.0 x4 liegt. Dieses Ergebnis war offensichtlich durch den Testaufbau beziehungsweise nicht vollständig geschriebene Dateibereiche verfälscht und wurde daher verworfen. Ein weiterer Schreibversuch endete, weil auf der für die Testdatei verwendeten Partition nicht genügend freier Speicher vorhanden war. Die dabei kurzzeitig gemessenen 4.588 MB/s sind wegen des vorzeitigen Abbruchs ebenfalls nicht als vollständiger SSD-Benchmark zu verstehen.

Im normalen Betrieb zeigte die SSD keine Auffälligkeiten. Debian startete zügig, Anwendungen öffneten ohne spürbare Verzögerung und größere Modelle wurden schnell geladen. Für einen belastbaren Vergleich mit anderen Laufwerken wäre dennoch ein separater Test auf einer ausreichend großen und leeren Partition erforderlich. Deshalb verzichten wir bewusst darauf, einen unbrauchbaren Spitzenwert als Ergebnis auszugeben.

Ollama und lokale Sprachmodelle

Der wichtigste Teil des Tests war die Ausführung lokaler Sprachmodelle mit Ollama. Für vergleichbare Ergebnisse verwendeten wir bei allen Durchläufen eine Temperatur von null, den Seed 42 und eine maximale Ausgabe von 512 Tokens. Dadurch wurden zufällige Abweichungen reduziert, auch wenn sich unterschiedliche Modelle aufgrund ihrer Architektur weiterhin nicht allein anhand der Tokenrate vergleichen lassen.

Besonders schnell arbeitete qwen3:30b-a3b. Das Mixture-of-Experts-Modell erreichte 66,10 Tokens pro Sekunde. qwen3-coder:30b folgte mit 63,84 Tokens pro Sekunde. Beide Werte reichen für flüssige Unterhaltungen und einen lokal betriebenen Programmierassistenten mehr als aus. Selbst längere Antworten erschienen ohne störende Wartezeiten.

Das kleinere qwen3:8b kam auf 39,05 Tokens pro Sekunde, während qwen3:14b 23,32 Tokens pro Sekunde erreichte. Die niedrigere Geschwindigkeit des 8B-Modells gegenüber den beiden 30B-Varianten wirkt zunächst ungewöhnlich. Allerdings verwenden die Modelle unterschiedliche Architekturen und Aktivierungsmuster. Insbesondere ein Mixture-of-Experts-Modell trägt zwar viele Parameter, aktiviert pro Token jedoch nur einen Teil davon.

Bei größeren dichten Modellen sank die Geschwindigkeit erwartungsgemäß. gemma3:27b erreichte 11,56 Tokens pro Sekunde, qwen3:32b kam auf 10,64 Tokens pro Sekunde. Beide Ergebnisse bleiben für lokale Analyse-, Schreib- und Rechercheaufgaben brauchbar. Die Ausgabe ist langsamer als bei den MoE-Modellen, aber weiterhin schnell genug, um nicht nur unbeaufsichtigte Stapelverarbeitung zu betreiben.

Der Versuch, DeepSeek-R1 mit 70 Milliarden Parametern zu starten, scheiterte dagegen an der Speicherzuweisung von ROCm. Die Laufzeit konnte den benötigten GPU-Speicher nicht reservieren. Das zeigt zugleich, dass 128 GB gemeinsamer Speicher nicht bedeuten, dass jedes Modell dieser Größenklasse automatisch unter allen Bedingungen läuft. Neben den reinen Gewichten benötigen Kontext, Zwischenergebnisse, Cache und ROCm selbst zusätzlichen Speicher. Quantisierung und UEFI-Aufteilung spielen daher eine entscheidende Rolle.

Bildgenerierung bleibt unter Linux schwieriger

Neben Ollama haben wir auch den Einsatz von PyTorch und ComfyUI betrachtet. Hier zeigte sich ein deutlich weniger geradliniges Bild. Während Sprachmodelle mit Ollama nach der ROCm-Einrichtung zuverlässig arbeiteten, verursachten Abhängigkeiten, unterstützte PyTorch-Versionen und die noch junge GPU-Architektur bei Bild- und Videomodellen erheblich mehr Aufwand.

Aus diesem Grund haben wir diesen Bereich nicht künstlich zu einem Erfolg erklärt. Der BOSGAME M5 besitzt grundsätzlich genügend Rechenleistung und Speicher für entsprechende Anwendungen, doch die Softwareunterstützung unter Linux ist noch nicht so unkompliziert wie bei vielen CUDA-Konfigurationen. Wer den Rechner vorrangig für Stable Diffusion, ComfyUI oder experimentelle Videomodelle kaufen möchte, sollte vorab prüfen, ob die benötigten Versionen Strix Halo und gfx1151 ausdrücklich unterstützen.

Einordnung im Markt

Der BOSGAME M5 konkurriert weniger mit gewöhnlichen Mini-PCs als mit kompakten KI-Workstations. Geräte mit Ryzen AI 9 HX 370 oder Radeon 890M sind günstiger, verfügen jedoch über deutlich weniger GPU-Recheneinheiten und meist höchstens 64 GB Arbeitsspeicher. Systeme mit separater Nvidia-Grafikkarte bieten dagegen das ausgereiftere CUDA-Ökosystem, begrenzen große Modelle aber häufig durch 12, 16 oder 24 GB fest verbauten VRAM.

Hier liegt die Stärke von Strix Halo. Die Radeon 8060S erreicht nicht in jeder Anwendung die Leistung einer schnellen Desktop-Grafikkarte, kann dafür jedoch auf einen wesentlich größeren gemeinsamen Speicherbereich zugreifen. Für lokale Sprachmodelle ist diese Kombination oft wichtiger als die maximale Rechenleistung. Modelle, die auf einer schnelleren GPU gar nicht erst in den VRAM passen, können auf dem BOSGAME M5 zumindest grundsätzlich lokal ausgeführt werden.

Der Arbeitsspeicher ist allerdings fest verlötet und kann später nicht erweitert werden. Wer sich für die 96-GB-Version entscheidet, bleibt daher bei dieser Kapazität. Zwei M.2-Steckplätze erlauben zwar eine Erweiterung des Massenspeichers, beim Hauptspeicher muss die passende Variante jedoch bereits beim Kauf gewählt werden.

Preis und Verfügbarkeit

Günstig ist der BOSGAME M5 nicht. Im offiziellen Shop wurde die getestete Ausführung mit Ryzen AI MAX+ 395, 128 GB LPDDR5X und 2-TB-SSD zum Zeitpunkt des Reviews für 2.799 US-Dollar angeboten. Die Variante mit 96 GB beginnt niedriger. BOSGAME gibt an, europäische Bestellungen aus einem deutschen Lager und ohne zusätzliche Einfuhrabgaben zu versenden. Auf Amazon hingegen ist das Gerät derzeit nicht erhältlich.

Fazit zum BOSGAME M5

Der BOSGAME M5 ist kein gewöhnlicher Mini-PC. Der Ryzen AI MAX+ 395 bietet enorme Mehrkernleistung, während die Radeon 8060S unter Debian 13 nach der Einrichtung von ROCm auch anspruchsvolle lokale Sprachmodelle beschleunigt. Besonders überzeugend ist der gemeinsame Speicher. Bis zu 96 GB der insgesamt 128 GB lassen sich im UEFI für die GPU reservieren. Wer mehr klassischen Arbeitsspeicher benötigt, kann die Aufteilung zugunsten der CPU verändern.

Ollama erwies sich im Test als überraschend problemlos. Qwen3 30B A3B und Qwen3 Coder 30B erreichten jeweils mehr als 60 Tokens pro Sekunde, während selbst große dichte Modelle mit rund elf Tokens pro Sekunde noch sinnvoll nutzbar blieben. Nicht funktioniert hat dagegen DeepSeek-R1 70B in unserer Konfiguration. Auch Bild- und Videogenerierung verlangt unter ROCm weiterhin deutlich mehr Handarbeit als der Betrieb lokaler Sprachmodelle.

Für Linux-Anwender, Entwickler und Betreiber lokaler KI-Dienste ist der BOSGAME M5 dennoch eine bemerkenswerte Plattform. Seine Vorteile liegen in der hohen CPU-Leistung, der Radeon 8060S, dem großen gemeinsam genutzten Speicher, zwei M.2-Steckplätzen und der kompakten Bauform. Gegen ihn sprechen der hohe Preis, der verlötete Arbeitsspeicher und die bei einigen ROCm-Werkzeugen noch unfertige Unterstützung der jungen AMD-Plattform.

Wer lediglich einen schnellen Büro-PC sucht, ist mit einem günstigeren Mini-PC besser bedient. Wer hingegen große Sprachmodelle lokal und ohne Cloud ausführen möchte, dabei Linux bevorzugt und keinen Tower mit separater Grafikkarte aufstellen will, findet im BOSGAME M5 eine der derzeit interessantesten kompakten KI-Workstations.

BOSGAME M5 im Test: Kompakte Linux-Workstation für lokale KI
zurück zur Startseite

6 Kommentare zu “BOSGAME M5 im Test: Kompakte Linux-Workstation für lokale KI

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Hiermit akzeptiere ich die Datenschutzerklärung für diesen Kommentar, die Nutzungsbedingungen und Regeln für Kommentare (soweit für diesen Kommentar hier zutreffend) habe ich ebefalls gelesen.

Aktuelle News auf Deskmodder.de
alle News anzeigen
Deskmodder