{"id":198781,"date":"2025-04-23T12:00:50","date_gmt":"2025-04-23T10:00:50","guid":{"rendered":"https:\/\/www.deskmodder.de\/blog\/?p=198781"},"modified":"2025-04-23T16:43:10","modified_gmt":"2025-04-23T14:43:10","slug":"eigenes-llm-fuer-zuhause-geekom-a8-max-im-test","status":"publish","type":"post","link":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/","title":{"rendered":"Eigenes LLM f\u00fcr Zuhause &#8211; Geekom A8 Max im Test"},"content":{"rendered":"<p>K\u00fcnstliche Intelligenz (KI) ist allgegenw\u00e4rtig, und viele nutzen t\u00e4glich Dienste wie ChatGPT, Google Gemini und Claude. Ein oft \u00fcbersehener Punkt dabei ist, dass die Server dieser Anbieter h\u00e4ufig in den USA stehen. F\u00fcr Nutzer, die mehr Kontrolle und Datenschutz w\u00fcnschen, gibt es jedoch eine interessante Alternative: das Hosten einer eigenen KI oder eines eigenen Large Language Models (LLM) auf lokaler Hardware. K\u00fcrzlich bot sich die Gelegenheit, den Mini PC <a href=\"https:\/\/www.geekom.de\/geekom-a8-max-mini-pc\/\" target=\"_blank\" rel=\"noopener\">Geekom A8 Max<\/a> zu testen. Das nahm ich zum Anlass, um zu zeigen, wie man unkompliziert eine pers\u00f6nliche KI auf einem Mini PC oder einem \u00e4hnlichen Ger\u00e4t selbst betreiben kann.<\/p>\n<figure id=\"attachment_198782\" aria-describedby=\"caption-attachment-198782\" style=\"width: 306px\" class=\"wp-caption aligncenter\"><a href=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild.jpg\" rel=\"lightbox[198781]\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-198782 size-thumbnail\" src=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-306x201.jpg\" alt=\"\" width=\"306\" height=\"201\" srcset=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-306x201.jpg 306w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-500x328.jpg 500w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-810x532.jpg 810w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild.jpg 1280w\" sizes=\"auto, (max-width: 306px) 100vw, 306px\" \/><\/a><figcaption id=\"caption-attachment-198782\" class=\"wp-caption-text\">Geekom A8 Max \u2013 Foto: Deskmodder<\/figcaption><\/figure>\n<h3>Lieferumfang im Kurzdurchlauf:<\/h3>\n<ul style=\"list-style-type: circle;\">\n<li>Geekom A8 Max<\/li>\n<li>HDMI Kabel<\/li>\n<li>Platte f\u00fcr Monitorbefestigung<\/li>\n<li>Schrauben<\/li>\n<li>Stromkabel<\/li>\n<li>Kurzanleitung<\/li>\n<\/ul>\n<h3>Technische Daten meiner Konfiguration:<\/h3>\n<ul style=\"list-style-type: circle;\">\n<li>AMD Ryzen 9 8945HS<\/li>\n<li>AMD Radeon Grafikkarte 780M<\/li>\n<li>Zwei LAN-Anschl\u00fcsse, Wi-Fi 6E und Bluetooth 5.2<\/li>\n<li>IceFlow 2.0 K\u00fchlsystem f\u00fcr geringe Lautst\u00e4rke<\/li>\n<li>DDR5 RAM mit 32 GB Speicher<\/li>\n<li>2 TB M.2 interner Speicher<\/li>\n<li>999 Euro (Stand: 21.04.2025)<\/li>\n<\/ul>\n<h3>Die Vorbereitung des Mini PCs:<\/h3>\n<p>Wichtig zu wissen ist, dass wir hier mit einer LTS-Variante von Ubuntu Server (ohne grafische Oberfl\u00e4che) arbeiten, weil wir damit die beste Kompatibilit\u00e4t haben. Man l\u00e4dt sich also das <a href=\"https:\/\/ubuntu.com\/download\/server\/thank-you?version=24.04.2&amp;architecture=amd64&amp;lts=true\" target=\"_blank\" rel=\"noopener\">entsprechende Image<\/a> herunter, bereitet einen USB-Stick mit mindestens 32 GB Speicher vor und installiert dann das Betriebssystem mit <a href=\"https:\/\/github.com\/pbatard\/rufus\/releases\/download\/v4.7\/rufus-4.7.exe\" target=\"_blank\" rel=\"noopener\">Rufus<\/a> auf dem Stick. W\u00e4hrend der Installation m\u00fcssen einige Einstellungen vorgenommen werden:<\/p>\n<ul style=\"list-style-type: circle;\">\n<li>Sprache, Region und Tastaturlayout<\/li>\n<li>Benutzername und Passwort<\/li>\n<li>IPv4 und IPv6 sollte aktiviert werden<\/li>\n<li>OpenSSH Server installieren (wird bei der Installation von Ubuntu vorgeschlagen)<\/li>\n<\/ul>\n<p>Danach erledigt das Image den Rest f\u00fcr euch. Da die Installation einige Zeit in Anspruch nimmt, k\u00f6nnt ihr euch in Ruhe einen Kaffee holen. Wenn die Installation abgeschlossen ist, fordert euch das System auf, den USB-Stick zu entfernen und das Ganze dann mit der \u00bbEnter\u00ab-Taste zu best\u00e4tigen.<\/p>\n<h3>Nach der ersten Anmeldung:<\/h3>\n<p>Nachdem ihr euren Rechner nun vorbereitet habt, k\u00f6nnt ihr nun mit der Installation des LLMs beginnen. Jetzt folgen eine Reihe von Befehlen, f\u00fcr Software, die f\u00fcr die Installation notwendig ist. F\u00fchrt diese Nacheinander durch:<\/p>\n<p><em><strong>Suchen und installieren von Updates mit anschlie\u00dfender Bereinigung:<\/strong><\/em><\/p>\n<ul style=\"list-style-type: circle;\">\n<li>sudo apt update &amp;&amp; sudo apt full-upgrade &amp;&amp; sudo apt autoremove &amp;&amp; sudo apt autoclean<\/li>\n<\/ul>\n<p><em><strong>Neustart des Systems:<\/strong><\/em><\/p>\n<ul style=\"list-style-type: circle;\">\n<li>sudo reboot<\/li>\n<\/ul>\n<p><em><strong>Abh\u00e4ngigkeit f\u00fcr AMD GPUs installieren:<\/strong><\/em><\/p>\n<ul style=\"list-style-type: circle;\">\n<li>sudo apt -y install git wget hipcc libhipblas-dev librocblas-dev cmake build-essential<\/li>\n<li>sudo usermod -aG video,render $USER<\/li>\n<li>sudo reboot<\/li>\n<\/ul>\n<p><em><strong>Nach dem Neustart \u00fcberpr\u00fcfen, ob eine Ausgabe ohne Fehlermeldung ausgegeben wird:<\/strong><\/em><\/p>\n<ul style=\"list-style-type: circle;\">\n<li>rocminfo<\/li>\n<\/ul>\n<p><em><strong>LLAMA Installation (Sprachmodell) f\u00fcr AMD-Systeme herunterladen und installieren:<\/strong><\/em><\/p>\n<p>git clone https:\/\/github.com\/ggerganov\/llama.cpp.git<\/p>\n<p>cd llama.cpp<\/p>\n<p>git checkout b3267\u00a0 # Optional: stabiler Stand<\/p>\n<p>HIPCXX=clang++-17 cmake -H. -Bbuild -DGGML_HIPBLAS=ON -DCMAKE_BUILD_TYPE=Release<\/p>\n<p>make -j$(nproc) -C build<\/p>\n<figure id=\"attachment_198786\" aria-describedby=\"caption-attachment-198786\" style=\"width: 306px\" class=\"wp-caption aligncenter\"><a href=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/install-ollama.png\" rel=\"lightbox[198781]\"><img loading=\"lazy\" decoding=\"async\" class=\"size-thumbnail wp-image-198786\" src=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/install-ollama-306x173.png\" alt=\"\" width=\"306\" height=\"173\" srcset=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/install-ollama-306x173.png 306w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/install-ollama-500x283.png 500w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/install-ollama-810x459.png 810w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/install-ollama.png 1108w\" sizes=\"auto, (max-width: 306px) 100vw, 306px\" \/><\/a><figcaption id=\"caption-attachment-198786\" class=\"wp-caption-text\">Installation von Ollama \u2013 Foto: Deskmodder<\/figcaption><\/figure>\n<p>Im Besten Fall gebt ihr all diese Befehle auf einmal ein. Bei diesem Befehl wird das Sprachmodell \u00bbLlama\u00ab installiert und auf die Systemabh\u00e4ngigkeit von AMD Systemen angepasst. Der Download kann aufgrund der Gr\u00f6\u00dfe einige Zeit in Anspruch nehmen und h\u00e4ngt davon ab, wie schnell eure Netzwerkverbindung ist. Hier solltet ihr also etwas Geduld mitbringen. Die Konsole teilt euch dann mit, wenn die Installation abgeschlossen ist.<\/p>\n<h3><em>Installation des eigenen Sprachmodells:<\/em><\/h3>\n<p>Viele von euch werden wahrscheinlich Gemini 2.5 Pro, GPT 4o oder sonstige Modelle verwenden. Da ich hier in meinem Test aber zentral in der EU bleiben m\u00f6chte, entscheide ich mich f\u00fcr das franz\u00f6sische Modell \u00bbMistral\u00ab. Das wird wie folgt auf dem System heruntergeladen:<\/p>\n<ul style=\"list-style-type: circle;\">\n<li>wget &#8211;continue https:\/\/huggingface.co\/TheBloke\/dolphin-2.2.1-mistral-7B-GGUF\/resolve\/main\/dolphin-2.2.1-mistral-7b.Q5_K_M.gguf -O dolphin-2.2.1-mistral-7b.Q5_K_M.gguf<\/li>\n<\/ul>\n<figure id=\"attachment_198788\" aria-describedby=\"caption-attachment-198788\" style=\"width: 306px\" class=\"wp-caption aligncenter\"><a href=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/installation-mistrall.png\" rel=\"lightbox[198781]\"><img loading=\"lazy\" decoding=\"async\" class=\"size-thumbnail wp-image-198788\" src=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/installation-mistrall-306x172.png\" alt=\"\" width=\"306\" height=\"172\" srcset=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/installation-mistrall-306x172.png 306w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/installation-mistrall-500x280.png 500w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/installation-mistrall-810x454.png 810w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/installation-mistrall.png 1108w\" sizes=\"auto, (max-width: 306px) 100vw, 306px\" \/><\/a><figcaption id=\"caption-attachment-198788\" class=\"wp-caption-text\">Installation Mistral \u2013 Foto: Deskmodder<\/figcaption><\/figure>\n<p>Hier habe ich mich f\u00fcr die etwas kleinere Variante entschieden, da diese auf vielen der von euch genutzten Systeme ohne Leistungseinbu\u00dfen funktionieren sollte. Auch hier braucht es je nach Bandbreite einige Zeit, bis der Download und die Installation in Ollama abgeschlossen ist. Alle ben\u00f6tigten Anpassungen werden dabei vom System erledigt. Ihr k\u00f6nnt euch hier also zur\u00fccklehnen und das Ganze beobachten.<\/p>\n<h3><em>Erste Versuche mit eigenem LLM:<\/em><\/h3>\n<p>Um mit eurer KI zu sprechen, gebt ihr einfach den Befehl \u00bb<em>ollama run mistral<\/em>\u00ab ein. Anschlie\u00dfend tobt euch aus und testet, was ihr wollt. In meinem Fall habe ich mir die Population von Deutschland ausgeben lassen:<\/p>\n<figure id=\"attachment_198789\" aria-describedby=\"caption-attachment-198789\" style=\"width: 306px\" class=\"wp-caption aligncenter\"><a href=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/erster-test-mit-ausgabe-der-tokens.png\" rel=\"lightbox[198781]\"><img loading=\"lazy\" decoding=\"async\" class=\"size-thumbnail wp-image-198789\" src=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/erster-test-mit-ausgabe-der-tokens-306x171.png\" alt=\"\" width=\"306\" height=\"171\" srcset=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/erster-test-mit-ausgabe-der-tokens-306x171.png 306w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/erster-test-mit-ausgabe-der-tokens-500x280.png 500w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/erster-test-mit-ausgabe-der-tokens-810x453.png 810w, https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/erster-test-mit-ausgabe-der-tokens.png 1114w\" sizes=\"auto, (max-width: 306px) 100vw, 306px\" \/><\/a><figcaption id=\"caption-attachment-198789\" class=\"wp-caption-text\">Ausgabe \u2013 Foto: Deskmodder<\/figcaption><\/figure>\n<h3>G\u00e4ngige Fehler und wie ihr diese beheben k\u00f6nnt:<\/h3>\n<ul style=\"list-style-type: circle;\">\n<li><strong>Leistungsprobleme:<\/strong> Verwende ein Modell, welches weniger Ressourcen hungrig ist oder R\u00fcste deinen Arbeitsspeicher auf<\/li>\n<li><strong>Modell nicht gefunden:<\/strong> Download wiederholen, Download erneut starten, Ollama neu installieren<\/li>\n<li><strong>Modell erinnert sich nicht:<\/strong> Modelle mit gro\u00dfem Kontextfenster installieren (<a href=\"https:\/\/huggingface.co\/models\" target=\"_blank\" rel=\"noopener\">Hugging Face<\/a> f\u00fcr Details verwenden)<\/li>\n<li><strong>Installationsprobleme:<\/strong> Fehlende Berechtigungen, langsame Netzwerkverbindung, zu wenig Speicherplatz<\/li>\n<\/ul>\n<p>Alles in allem ist die Installation eines eigenen LLMs gar nicht so schwer. Am Anfang ist es vielleicht etwas umst\u00e4ndlich, aber mit Grundwissen von Befehlen ist das eigene Hosten davon gar nicht mal so schwer. Performante Hardware ist auf Verkaufsportalen leicht zu finden, weshalb es auch kaum Leistungsprobleme bei der Verwendung geben wird. Kommen wir nun noch zu den Details des Geekom A8 Max: der Rechner kann direkt auf der Herstellerseite <a href=\"https:\/\/www.geekom.de\/geekom-a8-max-mini-pc\/\" target=\"_blank\" rel=\"noopener\">erworben<\/a> werden. Mit dem Code \u00bbDESKA8MAX\u00ab erhaltet ihr 15 % Rabatt auf den Listenpreis. Auch auf Amazon ist der Rechner verf\u00fcgbar. Solltet ihr ihn also \u00fcber <a href=\"https:\/\/www.amazon.de\/dp\/B0DQ4617MM\/?tag=deskmodderde-21\" target=\"_blank\" rel=\"noopener\">diesen<\/a> Link kaufen, unterst\u00fctzt ihr damit unsere Seite, wof\u00fcr wir euch sehr dankbar sind. Auch hier gibt es mit dem Code \u00bbDESKA8MAX\u00ab ebenfalls 15 % Rabatt auf den Listenpreis.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>K\u00fcnstliche Intelligenz (KI) ist allgegenw\u00e4rtig, und viele nutzen t\u00e4glich Dienste wie ChatGPT, Google Gemini und Claude. Ein oft \u00fcbersehener Punkt dabei ist, dass die Server dieser Anbieter h\u00e4ufig in den USA stehen. F\u00fcr Nutzer, die mehr Kontrolle und Datenschutz w\u00fcnschen,&hellip; <\/p>\n","protected":false},"author":4849,"featured_media":198790,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[1286,4016],"tags":[92312,85020,88007,92313,3566,92311,92314,13905,13904,9740,92310,92309,45],"class_list":["post-198781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hardware","category-testberichte","tag-a8-max","tag-chatgpt","tag-geekom","tag-geekom-a8-max","tag-gemini","tag-gemini-2-5-pro","tag-hugging-face","tag-ki","tag-kuenstliche-intelligenz","tag-linux","tag-llm","tag-ollama","tag-ubuntu"],"wp_featured_image":{"id":198790,"alt_text":"","description":"","media_type":"image","media_details":{"width":1280,"height":840,"file":"2025\/04\/beitragsbild-1.jpg","filesize":50999,"sizes":{"medium":{"file":"beitragsbild-1-500x328.jpg","width":500,"height":328,"mime-type":"image\/jpeg","filesize":15404,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-500x328.jpg"},"large":{"file":"beitragsbild-1-810x532.jpg","width":810,"height":532,"mime-type":"image\/jpeg","filesize":32189,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-810x532.jpg"},"thumbnail":{"file":"beitragsbild-1-306x201.jpg","width":306,"height":201,"mime-type":"image\/jpeg","filesize":7792,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-306x201.jpg"},"blog-large":{"file":"beitragsbild-1-642x300.jpg","width":642,"height":300,"mime-type":"image\/jpeg","filesize":19740,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-642x300.jpg"},"blog-medium":{"file":"beitragsbild-1-306x205.jpg","width":306,"height":205,"mime-type":"image\/jpeg","filesize":7749,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-306x205.jpg"},"recent-thumb":{"file":"beitragsbild-1-350x316.jpg","width":350,"height":316,"mime-type":"image\/jpeg","filesize":11708,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-350x316.jpg"},"service-featured":{"file":"beitragsbild-1-600x330.jpg","width":600,"height":330,"mime-type":"image\/jpeg","filesize":18798,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1-600x330.jpg"}},"image_meta":{"aperture":"0","credit":"","camera":"","caption":"","created_timestamp":"0","copyright":"","focal_length":"0","iso":"0","shutter_speed":"0","title":"","orientation":"0","keywords":[]}},"post":198781,"source_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg"},"commentcount":9,"wp_comments":[{"id":303377,"parent":0,"author":0,"author_name":"Micro","author_email":"test@test.ch","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/78e94695294409d34a6ca15bcd3a033702132b590a584fc3ca0d50cd29ec4c5b?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/78e94695294409d34a6ca15bcd3a033702132b590a584fc3ca0d50cd29ec4c5b?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/78e94695294409d34a6ca15bcd3a033702132b590a584fc3ca0d50cd29ec4c5b?s=96&d=mm&r=g"},"date":"2025-04-23T17:05:03","cld_nonce":"344c374182","content":{"rendered":"<p>Hmm, ich spiele auch schon eine Weile mit lokalen LLMs im HomeAutomation Szenario, und meine Erfahrung (und die vieler anderer) ohne CUDA wirds schwer. Die bei weitem besten Ergebnisse waren zu erreichen auf einem Rechner mit NVidia-Grafikkarte ein Ubuntu oder Debian plus Docker zu installieren und Ollama Docker mit der Web-UI zu installieren. Dann kommt richtig Freude auf.<\/p>\n<p>Bei reichelt: NVidia Jetson Origin Nano suchen, ist ein Mini-PC mit CUDA-Power und genau f\u00fcr sowas gemacht und kostet um die 550\u20ac (kenne nur den Preis in CHF, da sind es 564CHF<\/p>\n"},"status":"1"},{"id":303380,"parent":0,"author":0,"author_name":"David","author_email":"david@web.de","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/0b15650b6246d6c8cc86a8b4612921fd1c6bce80f0dcab3d42164094430de14c?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/0b15650b6246d6c8cc86a8b4612921fd1c6bce80f0dcab3d42164094430de14c?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/0b15650b6246d6c8cc86a8b4612921fd1c6bce80f0dcab3d42164094430de14c?s=96&d=mm&r=g"},"date":"2025-04-23T17:35:35","cld_nonce":"344c374182","content":{"rendered":"<p>Was spricht denn dagegen einfach LM Studio f\u00fcr eine lokale KI einzusetzen? Warum daf\u00fcr extra einen PC kaufen und Ubuntu installieren?<\/p>\n"},"status":"1"},{"id":303397,"parent":303377,"author":0,"author_name":"Thomas","author_email":"thomas.schwiertz@gmail.com","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/2373bb8437f83d62108478d45b4b72f67bbd97a33aeebf6c7ec02deeb83d1bcc?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/2373bb8437f83d62108478d45b4b72f67bbd97a33aeebf6c7ec02deeb83d1bcc?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/2373bb8437f83d62108478d45b4b72f67bbd97a33aeebf6c7ec02deeb83d1bcc?s=96&d=mm&r=g"},"date":"2025-04-24T06:54:02","cld_nonce":"344c374182","content":{"rendered":"<p>Der Orion ist daf\u00fcr v\u00f6llig ungeeignet. Was bei lokalen LLMs vor allem wichtig ist, ist so viel VRAM wie m\u00f6glich, damit das Model so weit wie m\u00f6glich im. Den Graffikkartenspeicher past. Ollama kann zwar das Model zwischen VRAM der Graka aufteilen, wird dann aber extrem langsam und macht dann keinen spa\u00df mehr. So als Daumenpeilung kann man sagen, VRAM Gr\u00f6\u00dfe x 2 ist ungef\u00e4hr die Modelgr\u00f6\u00dfe, die man noch halbwegs ausf\u00fchren kann ohne das es zu langsam wird. Heist z.B. bei einer NVIDIA 4090 mit 24GB VRAM lassen sich Modele bis 48B noch halbwegs vern\u00fcnftig nutzen. Der Orion Nano hat kaum VRAM. Damit lassen sich nur sehr kleine Modelle wirklich nutzbar ausf\u00fchren. Alle Modelle kleiner 8B sind meiner Erfahrung nach einfach schlecht. Selbst 8B ist oft kaum zu gebrauchen. So ab 32B gibt es dann oft schon gute Modele.<\/p>\n"},"status":"1"},{"id":303398,"parent":303380,"author":0,"author_name":"Jens","author_email":"JensWD@web.de","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/7af221ed130b701f835d0ef2b6cf7d72fd04bebd8e79261fc31c1b50232953f0?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/7af221ed130b701f835d0ef2b6cf7d72fd04bebd8e79261fc31c1b50232953f0?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/7af221ed130b701f835d0ef2b6cf7d72fd04bebd8e79261fc31c1b50232953f0?s=96&d=mm&r=g"},"date":"2025-04-24T07:00:54","cld_nonce":"344c374182","content":{"rendered":"<p>Wenn ich das richtig sehe wird die Llama.ccp mit rocm gebaut. Mit LM Studio kann man die NPU des PCs nicht direkt nutzen, sondern nur per Vulkan die integrierte Grafikkarte. Das Beispiel hier sollte also eine schnellere Inferenz bringen als einfach LM Studio zu benutzen. Wenn auch wahrscheinlich nicht viel, da der Unterschied bei dem Prozessor nicht gro\u00df sein d\u00fcrfte. <\/p>\n<p>Noch generelle Anmerkung zum Artikel: llama.ccp ist nicht das Sprachmodell, sondern das Tool, mit dem das Sprachmodell, das sp\u00e4ter heruntergeladen wird (Mistral 7b Q5) ausgef\u00fchrt wird. Man sollte hier au\u00dferdem eher Q4 benutzen btw., da die Inferenz schneller und der Genauigkeitsverlust vernachl\u00e4ssigbar ist. Q5\/4 steht f\u00fcr die Quantifizierung des Sprachmodels, normalerweilse haben die eine Genauigkeit auf FP16, mit Q4 oder Q5 werden die Gleitkommaverechnungen auf 4 bzw. 5 Bit heruntergerechnet um es der CPU\/NPU\/GPU einfacher zu machen, das Sprachmodell auszuf\u00fchren.<\/p>\n"},"status":"1"},{"id":303400,"parent":303397,"author":0,"author_name":"Jens","author_email":"JensWD@web.de","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/7af221ed130b701f835d0ef2b6cf7d72fd04bebd8e79261fc31c1b50232953f0?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/7af221ed130b701f835d0ef2b6cf7d72fd04bebd8e79261fc31c1b50232953f0?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/7af221ed130b701f835d0ef2b6cf7d72fd04bebd8e79261fc31c1b50232953f0?s=96&d=mm&r=g"},"date":"2025-04-24T07:11:10","cld_nonce":"344c374182","content":{"rendered":"<p>Gebe dir generell recht, allerdings kommt es sehr darauf an, was man machen will. Je nachdem was man vor jat, kann man mit Gemma 3 4B sehr viel erreichen. So Sachen wie E Mails in gro\u00dfen Mengen auswerten, Frage-Antwort paare zum fine tuning Bilden (mit denen man dann gemma 3 z.B. weiter fine-tunen kann) uvm. geht mit kleinen Modellen auf jeden Fall. Man sollte von denen eben nicht erwarten, dass sie einem in einem one-shot ein funktionierendes Programm ausspucken. Aber daf\u00fcr sind sie auch nicht gedacht. Man kann damit auch mit genug Input und genug Schritten durchaus z.B. Code generieren. Die Frage ist immer nur was gebe ich rein und wie schnell will ich es raus haben. Hab mit einem 7B Modell mal ein Agentensystem aufgesetzt, das mit der n\u00f6tigen Dokumentation hunderte Zeilen funktionierenden Python Code generiert hat. Das wurde jetzt auch gerade nochmal einfacher, da Nvidia gerade Modelle ver\u00f6ffentlicht hat, die mit wenigen Parametern Kontextfenster von 1 Million Tokens haben. Wenn ich mir also den Input gut zurechtlege, kann ich damit fast alles machen, was ich mit gro\u00dfen Modellen machen kann, weil ich das Wissen einfach mitgebe, das im Training auf Grund der wenigen Parameter nicht mitgegeben werden konnte.<\/p>\n"},"status":"1"},{"id":303409,"parent":0,"author":0,"author_name":"thomas","author_email":"thomas@zinn40.de","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/d5c14124ae621cecabf3673f0cee47bea46eacd922ae3a1ed4ea7067c1956b16?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/d5c14124ae621cecabf3673f0cee47bea46eacd922ae3a1ed4ea7067c1956b16?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/d5c14124ae621cecabf3673f0cee47bea46eacd922ae3a1ed4ea7067c1956b16?s=96&d=mm&r=g"},"date":"2025-04-24T11:48:53","cld_nonce":"344c374182","content":{"rendered":"<p>hi,<\/p>\n<p>ist da evtl. ein tippfehler in der zeile:<\/p>\n<p>make -j$(nproc) -C build<\/p>\n<p>bin kein linux pro, aber das verzeichnis build ist nicht existent, aber uild!?<\/p>\n<p>mit kollegialen gr\u00fc\u00dfen,<\/p>\n<p>thomas<\/p>\n"},"status":"1"},{"id":303414,"parent":0,"author":9647,"author_name":"EynMarc","author_email":"marcsennlaptop@hotmail.com","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/3491266aac49acc2c7ee73e0f4f1d780143cf3a37db4551a97d4783e24e77277?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/3491266aac49acc2c7ee73e0f4f1d780143cf3a37db4551a97d4783e24e77277?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/3491266aac49acc2c7ee73e0f4f1d780143cf3a37db4551a97d4783e24e77277?s=96&d=mm&r=g"},"date":"2025-04-24T13:33:21","cld_nonce":"344c374182","content":{"rendered":"<p>Das wird der n\u00e4chste Rechner von mir.<br \/>\nNat\u00fcrlich mit Windows was den sonst.<\/p>\n"},"status":"1"},{"id":307542,"parent":303414,"author":0,"author_name":"Marc","author_email":"maol.hofmann@googlemail.com","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/0f5f3cfb5f940be243eec58f58a6796a2a30dea46fad5f252ae679437ae2fb64?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/0f5f3cfb5f940be243eec58f58a6796a2a30dea46fad5f252ae679437ae2fb64?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/0f5f3cfb5f940be243eec58f58a6796a2a30dea46fad5f252ae679437ae2fb64?s=96&d=mm&r=g"},"date":"2025-07-06T13:34:59","cld_nonce":"344c374182","content":{"rendered":"<p>Hey EynMarc,<\/p>\n<p>mir ist genau der Rechner aus dem Test kaputt gegangen. Hat peng gemacht und der Spannungsversorgungsteil auf dem Board ist abgeraucht. Die Kiste ist gerade zwecks Fehlersuche auf dem Weg nach China. Habe nun einen neuen A8 Max und mal sehen wie lange die Kiste h\u00e4lt. Hatte locker 20 Jahre keine kaputten Computer mehr und selbst der 15 Jahre alte PC rennt noch bei einem Freund daheim. War erst total hyped und nun genie\u00dfe ich die China-Mini-PCs mit Vorsicht.<\/p>\n"},"status":"1"},{"id":313446,"parent":0,"author":0,"author_name":"Lars","author_email":"blackei@web.de","author_url":"","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/c47abc81e2d2a37dbdb4d1bd1564e297ae44dbecb5b455d97e29bec516c1f7e7?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/c47abc81e2d2a37dbdb4d1bd1564e297ae44dbecb5b455d97e29bec516c1f7e7?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/c47abc81e2d2a37dbdb4d1bd1564e297ae44dbecb5b455d97e29bec516c1f7e7?s=96&d=mm&r=g"},"date":"2025-09-28T18:58:44","cld_nonce":"344c374182","content":{"rendered":"<p>Moin,<\/p>\n<p>da ich doch ein wenig Luxus erhalten m\u00f6chte, habe ich windows auf meinem A9 gelassen. Leider unterst\u00fctzt Ollama die Grafikkarte noch nicht<\/p>\n"},"status":"1"}],"wp_author":{"id":4849,"name":"Jonas","description":"Angehender Systemadministrator und technikbegeistert. Lieblingsthemen? Netzwerktechnik und Windows. Anfragen an: jonas@deskmodder.de","author_avatar_urls":{"24":"https:\/\/secure.gravatar.com\/avatar\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=24&d=mm&r=g","48":"https:\/\/secure.gravatar.com\/avatar\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=48&d=mm&r=g","96":"https:\/\/secure.gravatar.com\/avatar\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g"}},"cld_nonce":"344c374182","yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v27.4 (Yoast SEO v27.4) - https:\/\/yoast.com\/product\/yoast-seo-premium-wordpress\/ -->\n<title>Eigenes LLM f\u00fcr Zuhause - Geekom A8 Max im Test - Deskmodder.de<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Eigenes LLM f\u00fcr Zuhause - Geekom A8 Max im Test\" \/>\n<meta property=\"og:description\" content=\"K\u00fcnstliche Intelligenz (KI) ist allgegenw\u00e4rtig, und viele nutzen t\u00e4glich Dienste wie ChatGPT, Google Gemini und Claude. Ein oft \u00fcbersehener Punkt dabei ist, dass die Server dieser Anbieter h\u00e4ufig in den USA stehen. F\u00fcr Nutzer, die mehr Kontrolle und Datenschutz w\u00fcnschen,&hellip;\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/\" \/>\n<meta property=\"og:site_name\" content=\"Deskmodder.de\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/Deskmodder\" \/>\n<meta property=\"article:published_time\" content=\"2025-04-23T10:00:50+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-04-23T14:43:10+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1280\" \/>\n\t<meta property=\"og:image:height\" content=\"840\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Jonas\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@jonasinfarbe\" \/>\n<meta name=\"twitter:site\" content=\"@Deskmodder\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/\"},\"author\":{\"name\":\"Jonas\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#\\\/schema\\\/person\\\/687624f6860c8c88f71df1200fc24b44\"},\"headline\":\"Eigenes LLM f\u00fcr Zuhause &#8211; Geekom A8 Max im Test\",\"datePublished\":\"2025-04-23T10:00:50+00:00\",\"dateModified\":\"2025-04-23T14:43:10+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/\"},\"wordCount\":954,\"commentCount\":9,\"publisher\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/04\\\/beitragsbild-1.jpg\",\"keywords\":[\"A8 Max\",\"ChatGPT\",\"Geekom\",\"Geekom A8 Max\",\"Gemini\",\"Gemini 2.5 Pro\",\"Hugging Face\",\"KI\",\"K\u00fcnstliche Intelligenz\",\"Linux\",\"LLM\",\"Ollama\",\"Ubuntu\"],\"articleSection\":[\"Hardware\",\"Testberichte\"],\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#respond\"]}],\"copyrightYear\":\"2025\",\"copyrightHolder\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#organization\"}},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/\",\"url\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/\",\"name\":\"Eigenes LLM f\u00fcr Zuhause - Geekom A8 Max im Test - Deskmodder.de\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/04\\\/beitragsbild-1.jpg\",\"datePublished\":\"2025-04-23T10:00:50+00:00\",\"dateModified\":\"2025-04-23T14:43:10+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/04\\\/beitragsbild-1.jpg\",\"contentUrl\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/wp-content\\\/uploads\\\/2025\\\/04\\\/beitragsbild-1.jpg\",\"width\":1280,\"height\":840},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/2025\\\/04\\\/23\\\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Eigenes LLM f\u00fcr Zuhause &#8211; Geekom A8 Max im Test\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#website\",\"url\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/\",\"name\":\"Deskmodder.de\",\"description\":\"News zum Thema Microsoft, Windows 11 \\\/ 10, sowie anderen Neuigkeiten aus dem Netz, viele Tipps und individuelle Hilfe bei Problemen in unserem Forum \u25cf Deskmodder - seit 2003\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#organization\",\"name\":\"Deskmodder\",\"url\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/01\\\/deskmodder-logo-app.png\",\"contentUrl\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/wp-content\\\/uploads\\\/2019\\\/01\\\/deskmodder-logo-app.png\",\"width\":281,\"height\":286,\"caption\":\"Deskmodder\"},\"image\":{\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/Deskmodder\",\"https:\\\/\\\/x.com\\\/Deskmodder\",\"https:\\\/\\\/mastodontech.de\\\/@Deskmodder\",\"https:\\\/\\\/www.youtube.com\\\/user\\\/deskmodder\",\"https:\\\/\\\/mewe.com\\\/group\\\/5c83b5231add826fc80cdae1\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/#\\\/schema\\\/person\\\/687624f6860c8c88f71df1200fc24b44\",\"name\":\"Jonas\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g\",\"caption\":\"Jonas\"},\"description\":\"Angehender Systemadministrator und technikbegeistert. Lieblingsthemen? Netzwerktechnik und Windows. Anfragen an: jonas@deskmodder.de\",\"sameAs\":[\"https:\\\/\\\/x.com\\\/jonasinfarbe\",\"https:\\\/\\\/www.youtube.com\\\/channel\\\/UCwBwNTIXW94vTH2NZJWfETA\"],\"url\":\"https:\\\/\\\/www.deskmodder.de\\\/blog\\\/author\\\/jonas\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Eigenes LLM f\u00fcr Zuhause - Geekom A8 Max im Test - Deskmodder.de","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/","og_locale":"de_DE","og_type":"article","og_title":"Eigenes LLM f\u00fcr Zuhause - Geekom A8 Max im Test","og_description":"K\u00fcnstliche Intelligenz (KI) ist allgegenw\u00e4rtig, und viele nutzen t\u00e4glich Dienste wie ChatGPT, Google Gemini und Claude. Ein oft \u00fcbersehener Punkt dabei ist, dass die Server dieser Anbieter h\u00e4ufig in den USA stehen. F\u00fcr Nutzer, die mehr Kontrolle und Datenschutz w\u00fcnschen,&hellip;","og_url":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/","og_site_name":"Deskmodder.de","article_publisher":"https:\/\/www.facebook.com\/Deskmodder","article_published_time":"2025-04-23T10:00:50+00:00","article_modified_time":"2025-04-23T14:43:10+00:00","og_image":[{"width":1280,"height":840,"url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg","type":"image\/jpeg"}],"author":"Jonas","twitter_card":"summary_large_image","twitter_creator":"@jonasinfarbe","twitter_site":"@Deskmodder","schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#article","isPartOf":{"@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/"},"author":{"name":"Jonas","@id":"https:\/\/www.deskmodder.de\/blog\/#\/schema\/person\/687624f6860c8c88f71df1200fc24b44"},"headline":"Eigenes LLM f\u00fcr Zuhause &#8211; Geekom A8 Max im Test","datePublished":"2025-04-23T10:00:50+00:00","dateModified":"2025-04-23T14:43:10+00:00","mainEntityOfPage":{"@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/"},"wordCount":954,"commentCount":9,"publisher":{"@id":"https:\/\/www.deskmodder.de\/blog\/#organization"},"image":{"@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#primaryimage"},"thumbnailUrl":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg","keywords":["A8 Max","ChatGPT","Geekom","Geekom A8 Max","Gemini","Gemini 2.5 Pro","Hugging Face","KI","K\u00fcnstliche Intelligenz","Linux","LLM","Ollama","Ubuntu"],"articleSection":["Hardware","Testberichte"],"inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#respond"]}],"copyrightYear":"2025","copyrightHolder":{"@id":"https:\/\/www.deskmodder.de\/blog\/#organization"}},{"@type":"WebPage","@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/","url":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/","name":"Eigenes LLM f\u00fcr Zuhause - Geekom A8 Max im Test - Deskmodder.de","isPartOf":{"@id":"https:\/\/www.deskmodder.de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#primaryimage"},"image":{"@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#primaryimage"},"thumbnailUrl":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg","datePublished":"2025-04-23T10:00:50+00:00","dateModified":"2025-04-23T14:43:10+00:00","breadcrumb":{"@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#primaryimage","url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg","contentUrl":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg","width":1280,"height":840},{"@type":"BreadcrumbList","@id":"https:\/\/www.deskmodder.de\/blog\/2025\/04\/23\/eigenes-llm-fuer-zuhause-geekom-a8-max-im-test\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.deskmodder.de\/blog\/"},{"@type":"ListItem","position":2,"name":"Eigenes LLM f\u00fcr Zuhause &#8211; Geekom A8 Max im Test"}]},{"@type":"WebSite","@id":"https:\/\/www.deskmodder.de\/blog\/#website","url":"https:\/\/www.deskmodder.de\/blog\/","name":"Deskmodder.de","description":"News zum Thema Microsoft, Windows 11 \/ 10, sowie anderen Neuigkeiten aus dem Netz, viele Tipps und individuelle Hilfe bei Problemen in unserem Forum \u25cf Deskmodder - seit 2003","publisher":{"@id":"https:\/\/www.deskmodder.de\/blog\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.deskmodder.de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.deskmodder.de\/blog\/#organization","name":"Deskmodder","url":"https:\/\/www.deskmodder.de\/blog\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.deskmodder.de\/blog\/#\/schema\/logo\/image\/","url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2019\/01\/deskmodder-logo-app.png","contentUrl":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2019\/01\/deskmodder-logo-app.png","width":281,"height":286,"caption":"Deskmodder"},"image":{"@id":"https:\/\/www.deskmodder.de\/blog\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/Deskmodder","https:\/\/x.com\/Deskmodder","https:\/\/mastodontech.de\/@Deskmodder","https:\/\/www.youtube.com\/user\/deskmodder","https:\/\/mewe.com\/group\/5c83b5231add826fc80cdae1"]},{"@type":"Person","@id":"https:\/\/www.deskmodder.de\/blog\/#\/schema\/person\/687624f6860c8c88f71df1200fc24b44","name":"Jonas","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/secure.gravatar.com\/avatar\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/7c63b4d53b4b3cb64efbc10c186da49c9a5d422cda908d8a3b5d5e0cd8322634?s=96&d=mm&r=g","caption":"Jonas"},"description":"Angehender Systemadministrator und technikbegeistert. Lieblingsthemen? Netzwerktechnik und Windows. Anfragen an: jonas@deskmodder.de","sameAs":["https:\/\/x.com\/jonasinfarbe","https:\/\/www.youtube.com\/channel\/UCwBwNTIXW94vTH2NZJWfETA"],"url":"https:\/\/www.deskmodder.de\/blog\/author\/jonas\/"}]}},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/www.deskmodder.de\/blog\/wp-content\/uploads\/2025\/04\/beitragsbild-1.jpg","_links":{"self":[{"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/posts\/198781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/users\/4849"}],"replies":[{"embeddable":true,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/comments?post=198781"}],"version-history":[{"count":4,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/posts\/198781\/revisions"}],"predecessor-version":[{"id":199552,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/posts\/198781\/revisions\/199552"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/media\/198790"}],"wp:attachment":[{"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/media?parent=198781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/categories?post=198781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.deskmodder.de\/blog\/wp-json\/wp\/v2\/tags?post=198781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}