Lokale KI ist mittlerweile kein neues Thema mehr. Sobald größere Sprachmodelle ins Spiel kommen, benötigt man allerdings viel Arbeitsspeicher und entsprechend leistungsfähige Hardware. GEEKOM geht deshalb einen etwas ungewöhnlichen Weg und verbindet gleich vier seiner A9 Mega zu einem kompakten KI Cluster. Das System trägt den Namen AGENT 4N und soll auf der IFA 2026 in Berlin gezeigt werden.
Der GEEKOM A9 Mega dürfte einigen von euch bereits bekannt vorkommen. Wir hatten euch den leistungsstarken Mini PC bereits im Vorfeld der CES 2026 vorgestellt. Beim AGENT 4N arbeitet der A9 Mega nun nicht mehr allein, sondern zusammen mit drei weiteren Geräten.

Vier Mini PCs statt klassischer KI Server
GEEKOM verbindet die vier A9 Mega über USB4 miteinander. Dadurch entsteht eine verteilte Plattform, auf der große KI Modelle gemeinsam ausgeführt werden können. Ein proprietärer Hochgeschwindigkeits Switch oder ein klassischer Server aus dem Rechenzentrum ist laut GEEKOM dafür nicht notwendig.
In jedem der vier Mini PCs arbeitet ein AMD Ryzen AI Max+ 395. Der Prozessor verfügt über 16 Zen 5 Kerne und 32 Threads. Hinzu kommen eine integrierte Radeon 8060S mit 40 Compute Units sowie bis zu 128 GB LPDDR5X Arbeitsspeicher. AMD bestätigt für den Prozessor eine maximale Speicherausstattung von 128 GB.
In der von GEEKOM gezeigten Konfiguration stehen damit insgesamt 512 GB verteilter Arbeitsspeicher zur Verfügung. Dieser bildet allerdings keinen einzelnen gemeinsamen Speicherbereich. Das verwendete KI-Modell wird stattdessen auf die vier Knoten verteilt.
Die wichtigsten Bestandteile im Überblick:
- Vier GEEKOM A9 Mega mit jeweils 128 GB LPDDR5X
- Vier AMD Ryzen AI Max+ 395 mit jeweils 16 Kernen und 32 Threads
- AMD Radeon 8060S auf Basis von RDNA 3.5
- Verbindung der einzelnen Knoten über USB4
- Ubuntu als Betriebssystem
- AMD ROCm und DwarfStar für die lokale Inferenz
- OpenAI kompatible Schnittstelle für Anwendungen und KI Agenten
Jeder A9 Mega kann weiterhin einzeln verwendet werden. Unternehmen könnten deshalb zunächst mit einem oder zwei Geräten beginnen und das System bei Bedarf auf vier Knoten erweitern.
DeepSeek V4 Flash läuft komplett lokal
Auf dem Cluster läuft eine angepasste Version von DeepSeek V4 Flash. Ubuntu, AMD ROCm und DwarfStar übernehmen die Verteilung des Modells auf die einzelnen Geräte. Anwendungen können anschließend über eine OpenAI kompatible API auf das Modell zugreifen.
Der entscheidende Vorteil liegt bei der lokalen Verarbeitung. Prompts, Dokumente, Quellcode, Zugangsdaten und Zwischenergebnisse müssen nicht an einen öffentlichen Cloud Dienst übertragen werden. Gerade für Unternehmen mit vertraulichen Informationen kann das interessant sein.
Mögliche Einsatzbereiche wären interne Wissensassistenten, die Richtlinien, Verträge, Handbücher oder Berichte durchsuchen. Auch die Analyse von Quellcode, lokale RAG Systeme, Dokumentenprüfungen und kontrollierte Automatisierungen sollen mit dem Cluster möglich sein.
Auf den von GEEKOM bereitgestellten Bildern ist außerdem Hermes Agent zu sehen. Solche KI Agenten können unter anderem Werkzeuge, Richtlinien, Protokolle und abgerufene Informationen verarbeiten, bevor sie eine Aufgabe ausführen. Laut GEEKOM wurden dabei bereits Kontextgrößen von bis zu 250.000 Tokens verwendet. Das wäre vor allem bei langen Dokumenten, größeren Codebasen und mehrstufigen Aufgaben hilfreich.
Erste Leistungswerte von GEEKOM
GEEKOM nennt für den AGENT 4N eine Geschwindigkeit von rund 14,61 Tokens pro Sekunde bei einer einzelnen gleichzeitigen Anfrage. Die P95 Zeit bis zum ersten Token soll in Tests mit 32 und 128 Tokens bei etwa 0,42 Sekunden gelegen haben.
Die Zahlen klingen auf dem Papier ordentlich, lassen sich ohne genaue Angaben zur verwendeten Quantisierung und den weiteren Testbedingungen aber nur schwer mit anderen Systemen vergleichen. Es handelt sich außerdem um Herstellerwerte, die bisher nicht unabhängig überprüft wurden.
Der Schwerpunkt des Systems liegt laut GEEKOM ohnehin weniger auf einer möglichst schnellen Textausgabe. Wichtiger sind die größere Speicherkapazität und die Möglichkeit, sehr lange Eingaben sowie komplexe Aufgaben lokal verarbeiten zu können.
Präsentation auf der IFA 2026
GEEKOM will den AGENT 4N auf der diesjährigen IFA erstmals ausführlicher präsentieren. Die IFA 2026 findet vom 4. bis 8. September auf dem Messegelände in Berlin statt.
Ob AGENT 4N später als fertiges Komplettpaket verkauft wird oder zunächst eine technische Demonstration bleibt, geht aus den bisherigen Informationen noch nicht hervor. Auch einen Gesamtpreis und einen konkreten Verkaufsstart hat GEEKOM bisher nicht genannt.
Wir werden uns den Aufbau auf der IFA vor Ort genauer anschauen. Besonders interessant dürfte sein, wie zuverlässig die vier Geräte zusammenarbeiten und welchen Vorteil das System bei realen KI-Anwendungen gegenüber einem einzelnen A9 Mega bietet.
Spannende Hardware – aber am Ende steht und fällt alles mit der Software. 512 GB RAM bringen wenig, wenn der Inferenz-Stack limitiert. Genau deshalb wird interessant, wie gut ROCm und DwarfStar die vier Nodes wirklich auslasten.
Die Hardware bietet auf dem Papier viele Möglichkeiten, aber ohne eine effiziente Verteilung des Modells bleibt davon einiges liegen. Die bisherigen Herstellerwerte lassen sich ohne genauere Angaben zur Auslastung nur schwer einordnen. Ich schaue mir das Setup auf der IFA deshalb genauer an und frage nach, wie ROCm und DwarfStar die Last tatsächlich verteilen
Ich will den Preis gar nicht wissen. Der wird weit außerhalb dessen liegen, was ich mir als Privatperson leisten will.
ich warte ja immer noch auf ein HowTo über (lokale) KI Modelle, Agenten etc.
https://www.deskmodder.de/blog/2026/08/03/bosgame-m5-im-test-kompakte-linux-workstation-fuer-lokale-ki/#comment-342291
Offenbar gibt es hier im Forum genug Mitglieder mit KnowHow.
vlt. kommt ja noch der Bericht von der IFA 2023?
https://www.deskmodder.de/blog/2023/08/31/morgen-beginnt-die-ifa-in-berlin/#comment-258061
Björn arbeitet gerade an dem HowTo-Artikel.
Die Berichte über die IFA schreibe meistens ich. 2023 waren andere Kollegen vor Ort, weshalb keiner kam. 2026 bin ich auch wieder vor Ort und wenn der Artikel online ist, darfst du dir den gerne durchlesen und kommentieren 😉
Holgi, das „sobald Luft ist“ stand da nicht ohne Grund. 😉 Drei Wochen später daraus praktisch eine überfällige Lieferung zu machen, ist dann doch etwas sportlich.
Der Artikel kommt, wenn ich die Zeit habe, ihn vernünftig zu machen. Einen Schnellschuss nur deshalb rauszuhauen, weil du nachhakst, wird es jedenfalls nicht geben.
Hier auch gern noch einmal zum Nachlesen, was ich damals tatsächlich geschrieben habe:
https://www.deskmodder.de/blog/2026/08/03/bosgame-m5-im-test-kompakte-linux-workstation-fuer-lokale-ki/#comment-342291
Leute, Leute: war nicht bös gemeint!
Wenn ihr euch mal den Satz auf der Zunge zergehen lasst, dann steht da nur:
„ich warte immer noch“. Völlig wertfrei. Alles andere wäre gelogen („ich warte nicht mehr“ ?).
Da steht nicht „macht mal endlich“ oder sonst was.
Kein Grund, gleich daraus eine „überfällige Lieferung“ zu konstruieren.
Und ja: ich messe Personen an ihren Aussagen (insbesondere Politiker).
Wenn mir eine(r) schreibt oder sagt, „ich mache das“ , dann muss diese Person sich daran messen lassen.
Ich warte auch immer noch auf die versprochene Reduzierung der Stromkosten für Privatkunden. Aber das ist ein anderer Adressat.
Geekom soll erst einmal dafür langfristig sorgen, dass sie keinen Malware in den Treibern oder im BIOS mitliefern. Auf diesen Bonus kann der Anwender sicherlich verzichten.
https://www.computerbase.de/news/pc-systeme/verseuchte-treiber-geekom-zeigt-sich-nach-malware-vorfall-reumuetig.98698/