Digitalminister Wildberger warnt OpenAI und Google: KI darf nicht zum Sicherheitsrisiko werden

Bundesdigitalminister Karsten Wildberger (CDU) will die Kontrolle über leistungsfähige KI-Modelle verschärfen. Deutschland soll dafür ein eigenes KI-Sicherheitsinstitut bekommen, das neue Modelle auf ihre Leistungsfähigkeit und mögliche Risiken untersucht. Im Gespräch mit dem Tagesspiegel fordert Wildberger von Unternehmen wie OpenAI, Google und Anthropic mehr Verantwortung bei der Entwicklung ihrer Systeme. Die Anbieter müssten sicherstellen, dass ihre Modelle nicht erst im laufenden Betrieb auf schwerwiegende Sicherheitsprobleme stoßen. Besonders kritisch sieht der Minister zunehmend selbstständig handelnde KI-Agenten, die auf fremde Systeme und vertrauliche Daten zugreifen können.

Deutschland plant eigenes KI-Sicherheitsinstitut

Das geplante Institut soll neue KI-Modelle unabhängig untersuchen und sich mit vergleichbaren Einrichtungen im Ausland vernetzen. Nach Wildbergers Vorstellungen benötigt es dafür möglichst frühzeitig Zugriff auf Modelle, die kurz vor ihrer Veröffentlichung stehen. Dabei geht es nicht allein um die Leistungsfähigkeit der Systeme. Untersucht werden sollen insbesondere Sicherheitsrisiken und mögliche Fehlfunktionen. Wildberger hält es für notwendig, dass Unternehmen bestimmte Prüfverfahren erfolgreich durchlaufen, bevor ihre Modelle breit eingesetzt werden. Auch die Frage einer eigenständigen Aufsichtsbehörde bringt der Minister ins Spiel. Konkrete Zuständigkeiten, verbindliche Prüfverfahren oder einen Zeitplan für die Einrichtung des Instituts nennt er im Interview allerdings nicht.

KI-Agenten schaffen neue Sicherheitsrisiken

Besonders große Sorgen bereiten Wildberger autonome KI-Agenten. Anders als klassische Chatbots können solche Systeme eigenständig Aufgaben bearbeiten, externe Dienste verwenden und unter bestimmten Voraussetzungen auf Daten oder Anwendungen zugreifen. Damit entstehen Sicherheitsprobleme, die über fehlerhafte Antworten eines Sprachmodells hinausgehen. Erhält ein Agent zu weitreichende Berechtigungen oder nutzt er bestehende Schwachstellen aus, können auch fremde Systeme betroffen sein. Im Interview verweist der Tagesspiegel auf einen Vorfall in Australien, bei dem ein KI-Agent von OpenAI eigenständig auf ein Regierungsportal zugegriffen und nicht öffentliche Gesundheitsstatistiken abgerufen haben soll. Dem Bericht zufolge waren auch weitere staatliche Einrichtungen betroffen. Wildberger verlangt bei solchen Vorfällen eine unverzügliche Meldung durch die verantwortlichen Unternehmen. Die Anbieter müssten nach seiner Auffassung mindestens ebenso viel in die Sicherheit ihrer Systeme investieren wie in deren Weiterentwicklung.

OpenAI, Google und Anthropic in der Verantwortung

Der Minister sieht zunächst die Entwickler selbst in der Pflicht. Sie sollen ihre Modelle vor der Veröffentlichung ausreichend prüfen und unabhängige Kontrollen ermöglichen. Ob die bisherigen Sicherheitsmaßnahmen der großen KI-Anbieter dafür ausreichen, stellt Wildberger infrage. Insbesondere bei Systemen, die zunehmend eigenständig handeln können, hält er zusätzliche Prüfungen für notwendig. Für Schäden durch fehlerhafte oder kompromittierte KI-Systeme sieht er grundsätzlich die Unternehmen in der Verantwortung. Welche Haftungsregeln bei neuen Formen autonomer KI-Aktionen konkret greifen würden, bleibt im Interview allerdings offen. Die Forderungen betreffen damit nicht nur die Modelle selbst, sondern auch deren Einsatz in Anwendungen, die mit sensiblen Daten oder geschäftskritischen Systemen arbeiten.

Zwischen Sicherheitskontrolle und Innovationsdruck

Eine zu weitgehende Regulierung möchte Wildberger dennoch vermeiden. Deutschland müsse bei der Entwicklung leistungsfähiger KI aufholen, statt neue Technologien bereits im Entwicklungsstadium durch umfangreiche Vorschriften auszubremsen. Der Minister verweist dabei auf die zunehmende technologische Abhängigkeit Europas von amerikanischen und chinesischen Unternehmen. Gerade bei leistungsfähigen Sprachmodellen seien die USA und China derzeit deutlich stärker aufgestellt. Deutschland und Europa müssten deshalb eigene Technologien entwickeln und bestehende Unternehmen beim Wachstum unterstützen. Als Beispiele nennt Wildberger unter anderem Black Forest Labs, Aleph Alpha und den französischen KI-Anbieter Mistral. Das geplante Sicherheitsinstitut soll nach seinen Vorstellungen Innovationen ermöglichen, ohne die damit verbundenen Risiken aus dem Blick zu verlieren.

Abhängigkeit von US-Technologiekonzernen bleibt ein Problem

Neben der Sicherheit einzelner KI-Modelle beschäftigt Wildberger vor allem die Frage, wie unabhängig Deutschland seine digitale Infrastruktur betreiben kann. Im Interview spricht er sich für den Ausbau eigener Rechenzentrumskapazitäten aus. Dabei hält er auch internationale Investitionen für notwendig. Angesprochen auf Investitionen aus den Vereinigten Arabischen Emiraten in Milliardenhöhe verweist der Minister auf den hohen Kapitalbedarf beim Aufbau moderner Infrastruktur. Gleichzeitig sieht er die Gefahr, dass ausländische Technologieanbieter ihren Vorsprung als wirtschaftliches oder politisches Druckmittel einsetzen könnten. Insbesondere ein eingeschränkter Zugang zu neuen KI-Modellen wäre für europäische Unternehmen problematisch. Eine vollständige Abkehr von amerikanischen Anbietern fordert Wildberger nicht. Stattdessen setzt er auf europäische Kapazitäten und Infrastrukturen, die sich möglichst unabhängig von Entscheidungen einzelner ausländischer Unternehmen betreiben lassen.

Noch keine konkreten Vorgaben für die Anbieter

Mit dem geplanten KI-Sicherheitsinstitut möchte die Bundesregierung künftig stärker auf die Prüfung leistungsfähiger Modelle Einfluss nehmen. Wie weit dessen Befugnisse reichen sollen, ist bislang allerdings nicht geklärt. Offen bleibt insbesondere, ob das Institut lediglich Empfehlungen aussprechen oder verbindliche Anforderungen an die Veröffentlichung und den Einsatz bestimmter KI-Systeme stellen könnte. Auch die Finanzierung, personelle Ausstattung und Zusammenarbeit mit bestehenden europäischen Aufsichtsstrukturen werden im Interview nicht konkretisiert. Wildberger macht jedoch deutlich, dass er bei autonomen KI-Agenten zusätzlichen Handlungsbedarf sieht. Die bisherigen Sicherheitsmaßnahmen der Anbieter allein reichen ihm offenbar nicht aus.