X schränkt Grok-Bildfunktionen nach internationaler Kritik ein

Nach der massiven Kritik an der Verbreitung KI-manipulierter Nacktbilder zieht X nun erste Konsequenzen. Wie das Unternehmen über den offiziellen Grok-Account mitteilte, sind Funktionen zur Bildgenerierung und -bearbeitung ab sofort ausschließlich zahlenden Nutzern vorbehalten. Damit reagiert die Plattform auf den wachsenden politischen und regulatorischen Druck, der sich in den vergangenen Wochen deutlich verschärft hat. Bereits im zuvor berichteten Fall hatten Ermittler und Aufsichtsbehörden kritisiert, dass Grok ohne ausreichende Schutzmechanismen eingesetzt werden konnte. Nutzer waren dadurch in der Lage, täuschend echt wirkende, sexualisierte Bilder realer Personen zu erzeugen – vielfach ohne deren Einwilligung.

Zugangsbeschränkung statt technischer Nachbesserung

Statt die beanstandeten Funktionen technisch einzuschränken oder mit wirksamen Filtern zu versehen, setzt X nun auf ein Zugangsmodell. Die Nutzung der entsprechenden Bildfunktionen erfordert künftig ein aktives Abonnement sowie hinterlegte Zahlungsdaten. Damit ist die Erstellung und Bearbeitung von Bildern für den Großteil der Nutzer zunächst nicht mehr möglich. Kritiker sehen darin jedoch keinen inhaltlichen Lösungsansatz. Vielmehr werde der problematische Funktionsumfang nicht entschärft, sondern lediglich in einen kleineren Nutzerkreis verlagert. Die grundlegende Frage nach Verantwortung und Prävention bleibe damit offen.

Politischer Druck nimmt weiter zu

Parallel zur Einschränkung der Funktionen wächst der Druck aus der Politik. In Großbritannien stellte Premierminister Keir Starmer öffentlich klar, dass seine Regierung der Medienaufsicht volle Rückendeckung für ein Einschreiten gegen entsprechende Inhalte gebe. Die Erstellung sexualisierter Bilder ohne Zustimmung bezeichnete er als „inakzeptabel und widerwärtig“. Auch auf europäischer Ebene fordern Behörden von X inzwischen konkrete Maßnahmen, um die weitere Verbreitung solcher Inhalte zu unterbinden. Grundlage dafür bilden bestehende Regelwerke, die das Erstellen und Verbreiten nicht einvernehmlicher intimer Darstellungen ausdrücklich untersagen.

Regulatorische Folgen weiter offen

Ob die nun umgesetzten Einschränkungen ausreichen, bleibt unklar. Konkrete Sanktionen wurden bislang nicht verhängt, allerdings prüfen mehrere Aufsichtsbehörden nach eigenen Angaben sämtliche verfügbaren regulatorischen Instrumente. Sollte X die Anforderungen nicht erfüllen, könnten weitergehende Schritte folgen. Fest steht: Der Umgang mit Grok entwickelt sich zunehmend zu einem Testfall dafür, wie Plattformen mit generativen KI-Werkzeugen umgehen müssen, wenn technische Möglichkeiten schneller wachsen als wirksame Schutzkonzepte.