Die Auseinandersetzung um die KI Grok erreicht eine neue Eskalationsstufe. Nachdem das System in den vergangenen Wochen wiederholt zur Erstellung sexualisierter Darstellungen realer Personen missbraucht wurde, reagieren nun erstmals Staaten mit konkreten Maßnahmen. Indonesien und Malaysia haben den Zugang zu Grok vorübergehend blockiert. Parallel dazu verschärft auch X die Einschränkungen rund um die Bildfunktionen der KI – allerdings nur teilweise. Grok stammt aus dem Umfeld von Elon Musk und ist eng mit der Plattform X verzahnt. Nutzer konnten die KI dazu verwenden, Bilder realer Menschen zu manipulieren, Kleidung zu entfernen oder Personen in sexualisierte Situationen zu versetzen. Die Inhalte verbreiteten sich sowohl öffentlich über X als auch über separate Grok-Anwendungen außerhalb der Plattform.
Indonesien und Malaysia greifen durch
Indonesien und Malaysia sind die ersten Länder, die offiziell den Zugriff auf Grok gesperrt haben. Beide Regierungen begründen den Schritt mit dem Schutz der Menschenwürde sowie mit bestehenden Gesetzen gegen pornografische Inhalte und nicht einvernehmliche Bildmanipulationen. Indonesiens Kommunikationsministerium erklärte, die Erstellung sexualisierter KI-Inhalte ohne Zustimmung stelle einen schweren Eingriff in die Rechte der Betroffenen dar. Malaysia verwies zusätzlich auf den Jugendschutz und kündigte an, Plattformen mit vergleichbaren Problemen künftig schneller zu blockieren. Damit bleiben die Reaktionen erstmals nicht bei politischen Appellen, sondern greifen direkt in den Betrieb der KI ein.
X reagiert – aber nur eingeschränkt
Bereits zuvor hatte X auf die wachsende Kritik reagiert und die Bildgenerierung von Grok auf zahlende Nutzer beschränkt. Nach Darstellung des Unternehmens sollen sich Missbrauchsfälle so besser nachvollziehen lassen, da für Abonnements Zahlungsdaten hinterlegt sind. Diese Maßnahme stößt jedoch weiterhin auf deutliche Kritik. Zum einen bleibt die Funktion für zahlende Nutzer vollständig aktiv, zum anderen berichten Beobachter, dass alternative Grok-Anwendungen außerhalb der öffentlichen X-Timeline weiterhin problematische Inhalte erzeugen können. Eine vollständige Abschaltung der Bildfunktionen hat X bislang nicht vorgenommen.
Politischer Druck nimmt international zu
Auch außerhalb Südostasiens wächst der politische Druck. In Großbritannien hat Premierminister Keir Starmer scharfe Konsequenzen angedroht und die Medienaufsicht ermutigt, alle rechtlichen Möglichkeiten auszuschöpfen. Nach dem britischen Online Safety Act könnten im Extremfall empfindliche Geldstrafen oder sogar Netzsperren verhängt werden. In den USA fordern mehrere Senatoren inzwischen, Grok und X aus den App Stores von Apple und Google zu entfernen. Sie sehen in der massenhaften Verbreitung nicht einvernehmlicher sexualisierter KI-Inhalte einen klaren Verstoß gegen bestehende Gesetze. Auch dort reicht die Kritik inzwischen deutlich über politische Statements hinaus.
Grundsatzfrage zur KI-Regulierung
Der Fall Grok rückt eine grundsätzliche Frage erneut in den Mittelpunkt: Wie weit dürfen generative KI-Systeme gehen, wenn reale Personen betroffen sind? Während viele Anbieter Schutzmechanismen gegen die Darstellung realer Menschen implementiert haben, setzte das Umfeld von Elon Musk lange auf einen besonders offenen Ansatz. Die aktuellen Entwicklungen zeigen jedoch, dass diese Strategie zunehmend an rechtliche und gesellschaftliche Grenzen stößt. Besonders brisant ist dabei, dass laut Recherchen auch Darstellungen von Minderjährigen im Umlauf waren. In mehreren Ländern könnten bereits bestehende Strafgesetze greifen.
