Sam Altman kritisiert Arbeitsspeicher in privaten PCs – soll der RAM künftig lieber in die Cloud?

Arbeitsspeicher ist teuer, die Nachfrage aus der KI-Branche hoch und die Versorgung angespannt. Ausgerechnet OpenAI-Chef Sam Altman hat nun eine bemerkenswerte Vorstellung davon geäußert, wo die knappen DRAM-Ressourcen am besten aufgehoben wären: möglichst nicht ungenutzt in privaten Computern. In einem Gespräch mit Stripe-Mitgründer John Collison bezeichnete er die Verteilung des verfügbaren Arbeitsspeichers auf einzelne PCs aus globaler Sicht als „ziemlich furchtbar“. Seine Begründung: Der Speicher werde dort angeblich nur während fünf Prozent der Zeit tatsächlich genutzt. Die Aussage fiel im Podcast „Cheeky Pint“, in einer Folge mit dem Titel „Why Sam Altman is against a single superintelligence“. Altman argumentiert darin mit der effizienteren Auslastung zentraler Rechenzentren. Während private Computer einen Großteil ihrer Zeit nicht unter voller Last arbeiten, könnten Cloud-Anbieter ihre vorhandenen Ressourcen auf zahlreiche Nutzer verteilen.

Wenn ungenutzter RAM plötzlich zum Problem wird

Auf den ersten Blick klingt die Überlegung nach einer gewöhnlichen Diskussion über die Auslastung von Hardware. Tatsächlich steckt dahinter aber eine grundsätzliche Frage: Wem sollen knappe Rechenressourcen zur Verfügung stehen, und wer entscheidet über ihre Verwendung? Dass ein privater Computer nicht ständig unter Volllast arbeitet, ist weder ungewöhnlich noch ein technisches Versäumnis. Arbeitsspeicher erfüllt schließlich auch dann seinen Zweck, wenn gerade keine anspruchsvolle Anwendung läuft. Er hält Daten für den schnellen Zugriff bereit und ermöglicht es dem Betriebssystem, Anwendungen ohne ständige Zugriffe auf langsamere Datenträger auszuführen. Die von Altman angeführten fünf Prozent lassen zudem offen, welche Form der Nutzung er überhaupt meint. Zwischen der Belegung des Arbeitsspeichers und seiner tatsächlichen Auslastung besteht ein erheblicher Unterschied. Ein mit Daten gefüllter RAM-Riegel muss nicht permanent hohe Speicherbandbreiten liefern, um sinnvoll eingesetzt zu sein. Gerade bei lokalen KI-Modellen ist ausreichend Arbeitsspeicher inzwischen ein wichtiger Faktor. Wer Sprachmodelle auf dem eigenen Rechner betreibt, benötigt je nach Modellgröße erhebliche Kapazitäten. Diese Ressourcen stehen dann unabhängig von einem Cloud-Anbieter zur Verfügung. Auch sensible Daten müssen dafür nicht zwangsläufig den eigenen Rechner verlassen.

OpenAI profitiert selbst von der Nachfrage nach DRAM

Die Diskussion hat allerdings noch eine andere Seite. KI-Rechenzentren gehören inzwischen zu den wesentlichen Treibern der Nachfrage nach Speicherchips. Insbesondere der Ausbau großer KI-Infrastrukturen bindet erhebliche Produktionskapazitäten. Das betrifft nicht ausschließlich klassischen DRAM, sondern auch spezialisierten High Bandwidth Memory (HBM), dessen Herstellung mit anderen Speicherprodukten um begrenzte Fertigungsressourcen konkurriert. Die Folgen bekommen längst nicht nur Betreiber großer Rechenzentren zu spüren. Steigende Speicherpreise wirken sich auch auf PC-Komponenten, Notebooks und Smartphones aus. OpenAI selbst zählt zu den Unternehmen, die ihre Recheninfrastruktur massiv ausbauen wollen. Vor diesem Hintergrund hat Altmans Argumentation einen gewissen Beigeschmack. Ausgerechnet ein Unternehmen, das für seine KI-Dienste enorme Hardwarekapazitäten benötigt, stellt die dezentrale Nutzung knapper Ressourcen infrage. Eine konkrete Forderung, privaten PCs Arbeitsspeicher vorzuenthalten, hat Altman allerdings nicht erhoben. Ebenso wenig gibt es Hinweise auf entsprechende Pläne von OpenAI. Seine Äußerungen beziehen sich vielmehr auf die aus seiner Sicht effizientere Verteilung von Rechenressourcen, insbesondere beim Betrieb von KI-Modellen.

Lokale KI ist mehr als eine Frage der Auslastung

Was bei dieser Betrachtung zu kurz kommt, ist der Nutzen lokaler Rechenleistung. Ein eigener PC muss nicht möglichst viele Nutzer gleichzeitig bedienen. Er soll seinem Besitzer genau dann die benötigte Leistung zur Verfügung stellen, wenn dieser sie braucht. Das gilt für klassische Anwendungen ebenso wie für lokale KI. Wer ein Sprachmodell auf eigener Hardware ausführt, entscheidet selbst über dessen Einsatz, die verfügbaren Daten und die verwendete Software. Eine Internetverbindung oder ein kostenpflichtiger API-Zugang sind dafür nicht grundsätzlich erforderlich. Cloud-Dienste können ihre Hardware zwar auf mehrere Nutzer verteilen und damit wirtschaftlicher auslasten. Daraus folgt aber nicht automatisch, dass jeder lokal verbaute Speicherriegel eine Verschwendung darstellt. Auch die Verfügbarkeit, Unabhängigkeit und Kontrolle über die eigene Hardware haben einen Wert, der sich nicht allein an der durchschnittlichen Auslastung messen lässt.

Vielleicht wäre angesichts der aktuellen Speicherpreise tatsächlich eine neue Initiative angebracht: „ChatGPT, erstelle eine DRAM-Spendenseite für OpenAI.“ Schließlich könnte der ungenutzte Arbeitsspeicher aus privaten PCs in einem Rechenzentrum noch gute Dienste leisten. Und wer ihn später wieder benötigt, darf die entsprechende Rechenleistung vermutlich bequem über ein kostenpflichtiges Cloud-Angebot beziehen.