Windows 11 NPU Copilot PC

[R_C_P]

Ist eigentlich schon jemand aufgefallen das es ohne ende PCs und Laptops gibt die mit KI beworben werden weil eine NPU integriert ist und diese aber in der Regel nicht für Copilot taugen?
Vorraussetzung für "Copilot PC-s" sind 40 TOPS die die NPU leisten muss.
Die meisten liegen aber deutlich drunter! Überwiegend sind es die Ryzen CPUs der AI Serie und die Qualcom CPUs die dafür taugen. Das ist zur Zeit aber doch eine deutliche Minderheit!?
Gibt es schon Anwendungen, die im üblichen Hausgebrauch sind, die zusätzlich auf Abfrage nach NPUs auch unter 40 TOPS Programmiert wurden? (Vorraussetzung 40 TOPS für die Aktivierung der Copilot PC Funktionen)
Mein Gefühl sagt mir das diese Billig KI NPUs, überwigend von Intel, sind der reinste Hohn an Kunden die sich damit auseinadersetzen wollen in der Windows Welt. (Komisch diese PCs werden alle mit Windows 11 verkauft, warum eigentlich?)
Ich glaube hier sollte man mal etwas lauter im Blog darauf hinweisen !
alles gute
R_C_P

[Tante Google]

[Holgi]

welchen Benchmark nutzt du für den Test, ob der PC die versprochenen 40 TOPS leistet?
Geekbench AI oder etwas anderes? Wenn ja: mit welchen Einstellungen?

[DK2000]

So wie ich Microsoft verstehe, gehen die nur nach CPU Modell. Nur die Unterstützen Serien lassen derzeit Copilot+ zu. Mal vom Snapdragon abgesehen, wären das die beiden Familien:

"AMD Ryzen AI 300 Serie" und "Intel Core Ultra 200V"

Ob sich da mal was in Zukunft ändern wird, keine Ahnung.

[Holgi]

mein Lenovo X1 Carbon Gen13 Aura Edition mit Intel® Core™ Ultra 7 258V CPU läuft auch unter Copilot+ PC
https://www.lenovo.com/de/de/p/laptops/ ... en101t0108

[DK2000]

Ja, du hast ja dann auch eine CPU aus der "Intel Core Ultra 200V" Serie. Bei Intel ist das "V" wichtig. Wurde da "H" stehen oder was anderes ("Intel Core Ultra 200" Serie), dann gibt es kein Copilot+.

[Holgi]

danke! wieder etwas dazugelernt.
Ich muss aber ehrlich sagen, dass ich diesen ganzen KI Kram eigentlich nicht benötige.
Im Gegenteil:
Es hat eine ganze Weile gedauert, bis ich mein Windows wieder halbwegs im Griff hatte und vieles von diesem vorinstaliertem Lenovo KI Sch.... gelöscht hatte.
Allein wieviel Arbeitsspeicher diese "WorkloadsSessionHost.exe" Prozesse in Anspruch nehmen.
Da hätte mein vorherige Rechner schon aufgrund knappen Arbeitsspeicher die Grätsche gemacht.
Unter 32GB braucht man da gar nicht erst anfangen.

[Purgatory]

Und genau das ist das. Diese "NPU" ist ein nettes Feature da sie effektiver in KI Aufgaben ist als eine CPU. Das Schlüsselwort ist hier "Machine learning". Im Prinzip kann eine GPU das sogar besser bewältigen als eine NPU es heutzutage überhaupt kann. Auch wenn die NPU spezialisiert darauf ist hat sie ein großes Manko. Den Arbeitsspeicher. Machine Learning braucht massiv Arbeitsspeicher. Wenn ein System mit einer NPU angenommen 32GB an Arbeitsspeicher verbaut hat (Laptop) teilt sich das ganze System den Arbeitsspeicher. CPU, GPU und eben die NPU. Eine dedizierte Grafikkarte aber, mit angenommen 16GB VRam, kann diesen Ram erstmal nutzen bevor überhaupt der Systemram genutzt werden soll. 16GB VRam ist hier nicht viel, gerade in längeren "LearningSessions" läuft der quasi instant voll. Und dummerweise saufen moderne GPUs viel mehr Strom als es eine NPU tut. Aber, er steht den 32GB Systemram gegenüber. Wir können also, theoretisch, 48GB Ram zählen zudem der VRam schneller ist als der Systemram.
Und selbst das ist, wenn man KI wirklich versucht zu nutzen, nicht wirklich viel. Wenn man angenommen eine Bildgeneration nutzt und das Bild nach und nach immer weiter verbessern will läuft der Ram sofort voll und es dauert ewig lange bis ein Ergebnis kommt.
Für solche Szenarien sollte man mindestens 128GB an Ram verbaut haben, mehr ist immer besser. Erklärt auch den massiven Preisanstieg an Speichermedien gerade, da sie von KI Unternehmen benötigt werden wie nichts anderes.

Bei CoPilot ist das etwas anders gelagert, auch wenn es ähnlich funktioniert. CoPilot versucht den Anwender zu unterstützen in seinen Gewohnheiten. CoPilot versucht also zu lernen was es als nächstes vorhalten soll, oder am besten, gleich zu lösen bevor der Anwender es überhaupt anfragt. Das kostet massiv Ram weil es wieder MachineLearning ist, und am Ende massiv Speicherplatz auf der Festplatte als Festspeicher benötigt, da Ramspeicher ja flüchtig ist, ergo beim Neustart oder Runterfahren gelöscht wird. Die verbauten NPUs sollen nur die CPU als auch die Grafik entlasten und gleiche Perfomance bieten lassen wenn KI im Spiel ist. Das steckt alles allerdings noch in den Kinderschuhen und gerade teurer NVMe SSD Speicherplatz kann dann sehr kostbar werden. In Zeiten wo eine halbwegs brauchbare NVMe SSD mit 8TB noch unverhältnismäßig teuer ist gegenüber einer HDD (die wiederum viel zu langsam für KI ist) ist dieses KI gehype mit Vorsicht zu genießen. Nur wer den Luxus hat zum einen viel Ram zu haben als auch eine große NVMe SSD nur für KI Krams, sollte überhaupt damit liebäugeln. Wohlgemerkt, wenn man KI wirklich nutzen will.

[Blondi_2021]

Nutze ja keine " KI" da im mom noch sehr Fehler anfällig. Aber nebenbei gesehn werden HDD s verscherbelt von WD 6 gb für 130 Öcken. Ist halt ne SMR platte .

[Purgatory]

SMR ist aber eine Technik die sich eher für Datengräber eignet als für ständiges neubeschreiben. Dafür wäre eher CMR geeignet was in diesem Szenario mehr Sinn machen würde. Und diese Festplatten sind wesentlich teurer. Ganz abgesehen davon, dass beide Technologien viel zu langsam wären^^