GEEKOM AGENT 4N: Vier A9 Mega bilden einen lokalen KI Cluster

Lokale KI ist mittlerweile kein neues Thema mehr. Sobald größere Sprachmodelle ins Spiel kommen, benötigt man allerdings viel Arbeitsspeicher und entsprechend leistungsfähige Hardware. GEEKOM geht deshalb einen etwas ungewöhnlichen Weg und verbindet gleich vier seiner A9 Mega zu einem kompakten KI Cluster. Das System trägt den Namen AGENT 4N und soll auf der IFA 2026 in Berlin gezeigt werden.

Der GEEKOM A9 Mega dürfte einigen von euch bereits bekannt vorkommen. Wir hatten euch den leistungsstarken Mini PC bereits im Vorfeld der CES 2026 vorgestellt. Beim AGENT 4N arbeitet der A9 Mega nun nicht mehr allein, sondern zusammen mit drei weiteren Geräten.

Foto: GEEKOM

Vier Mini PCs statt klassischer KI Server

GEEKOM verbindet die vier A9 Mega über USB4 miteinander. Dadurch entsteht eine verteilte Plattform, auf der große KI Modelle gemeinsam ausgeführt werden können. Ein proprietärer Hochgeschwindigkeits Switch oder ein klassischer Server aus dem Rechenzentrum ist laut GEEKOM dafür nicht notwendig.

In jedem der vier Mini PCs arbeitet ein AMD Ryzen AI Max+ 395. Der Prozessor verfügt über 16 Zen 5 Kerne und 32 Threads. Hinzu kommen eine integrierte Radeon 8060S mit 40 Compute Units sowie bis zu 128 GB LPDDR5X Arbeitsspeicher. AMD bestätigt für den Prozessor eine maximale Speicherausstattung von 128 GB.

In der von GEEKOM gezeigten Konfiguration stehen damit insgesamt 512 GB verteilter Arbeitsspeicher zur Verfügung. Dieser bildet allerdings keinen einzelnen gemeinsamen Speicherbereich. Das verwendete KI-Modell wird stattdessen auf die vier Knoten verteilt.

Die wichtigsten Bestandteile im Überblick:

  • Vier GEEKOM A9 Mega mit jeweils 128 GB LPDDR5X
  • Vier AMD Ryzen AI Max+ 395 mit jeweils 16 Kernen und 32 Threads
  • AMD Radeon 8060S auf Basis von RDNA 3.5
  • Verbindung der einzelnen Knoten über USB4
  • Ubuntu als Betriebssystem
  • AMD ROCm und DwarfStar für die lokale Inferenz
  • OpenAI kompatible Schnittstelle für Anwendungen und KI Agenten

Jeder A9 Mega kann weiterhin einzeln verwendet werden. Unternehmen könnten deshalb zunächst mit einem oder zwei Geräten beginnen und das System bei Bedarf auf vier Knoten erweitern.

DeepSeek V4 Flash läuft komplett lokal

Auf dem Cluster läuft eine angepasste Version von DeepSeek V4 Flash. Ubuntu, AMD ROCm und DwarfStar übernehmen die Verteilung des Modells auf die einzelnen Geräte. Anwendungen können anschließend über eine OpenAI kompatible API auf das Modell zugreifen.

Der entscheidende Vorteil liegt bei der lokalen Verarbeitung. Prompts, Dokumente, Quellcode, Zugangsdaten und Zwischenergebnisse müssen nicht an einen öffentlichen Cloud Dienst übertragen werden. Gerade für Unternehmen mit vertraulichen Informationen kann das interessant sein.

Mögliche Einsatzbereiche wären interne Wissensassistenten, die Richtlinien, Verträge, Handbücher oder Berichte durchsuchen. Auch die Analyse von Quellcode, lokale RAG Systeme, Dokumentenprüfungen und kontrollierte Automatisierungen sollen mit dem Cluster möglich sein.

Auf den von GEEKOM bereitgestellten Bildern ist außerdem Hermes Agent zu sehen. Solche KI Agenten können unter anderem Werkzeuge, Richtlinien, Protokolle und abgerufene Informationen verarbeiten, bevor sie eine Aufgabe ausführen. Laut GEEKOM wurden dabei bereits Kontextgrößen von bis zu 250.000 Tokens verwendet. Das wäre vor allem bei langen Dokumenten, größeren Codebasen und mehrstufigen Aufgaben hilfreich.

Erste Leistungswerte von GEEKOM

GEEKOM nennt für den AGENT 4N eine Geschwindigkeit von rund 14,61 Tokens pro Sekunde bei einer einzelnen gleichzeitigen Anfrage. Die P95 Zeit bis zum ersten Token soll in Tests mit 32 und 128 Tokens bei etwa 0,42 Sekunden gelegen haben.

Die Zahlen klingen auf dem Papier ordentlich, lassen sich ohne genaue Angaben zur verwendeten Quantisierung und den weiteren Testbedingungen aber nur schwer mit anderen Systemen vergleichen. Es handelt sich außerdem um Herstellerwerte, die bisher nicht unabhängig überprüft wurden.

Der Schwerpunkt des Systems liegt laut GEEKOM ohnehin weniger auf einer möglichst schnellen Textausgabe. Wichtiger sind die größere Speicherkapazität und die Möglichkeit, sehr lange Eingaben sowie komplexe Aufgaben lokal verarbeiten zu können.

Präsentation auf der IFA 2026

GEEKOM will den AGENT 4N auf der diesjährigen IFA erstmals ausführlicher präsentieren. Die IFA 2026 findet vom 4. bis 8. September auf dem Messegelände in Berlin statt.

Ob AGENT 4N später als fertiges Komplettpaket verkauft wird oder zunächst eine technische Demonstration bleibt, geht aus den bisherigen Informationen noch nicht hervor. Auch einen Gesamtpreis und einen konkreten Verkaufsstart hat GEEKOM bisher nicht genannt.

Wir werden uns den Aufbau auf der IFA vor Ort genauer anschauen. Besonders interessant dürfte sein, wie zuverlässig die vier Geräte zusammenarbeiten und welchen Vorteil das System bei realen KI-Anwendungen gegenüber einem einzelnen A9 Mega bietet.

GEEKOM AGENT 4N: Vier A9 Mega bilden einen lokalen KI Cluster
zurück zur Startseite

8 Kommentare zu “GEEKOM AGENT 4N: Vier A9 Mega bilden einen lokalen KI Cluster

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Hiermit akzeptiere ich die Datenschutzerklärung für diesen Kommentar, die Nutzungsbedingungen und Regeln für Kommentare (soweit für diesen Kommentar hier zutreffend) habe ich ebefalls gelesen.

Aktuelle News auf Deskmodder.de
alle News anzeigen
Deskmodder