Die Europäische Kommission hat ein förmliches Verfahren gegen X eingeleitet. Im Mittelpunkt steht der KI-Dienst Grok und die Frage, ob das Unternehmen seinen Pflichten aus dem Digital Services Act (DSA) ausreichend nachgekommen ist. Konkret geht es um Risiken durch sexualisierte Deepfakes, also manipulierte Bilder und Inhalte, die Personen – darunter auch Frauen und Minderjährige – in entwürdigender Weise darstellen können. Nach Angaben der Kommission wird geprüft, ob X die mit der Einführung und dem Betrieb von Grok verbundenen Gefahren systematisch bewertet und wirksame Gegenmaßnahmen umgesetzt hat. Der Fokus liegt dabei auf der möglichen Verbreitung illegaler Inhalte innerhalb der Europäischen Union.
Vorwurf: Risiken nicht ausreichend gemindert
Die EU sieht insbesondere Defizite bei der Risikobewertung und Risikominderung. Der DSA verpflichtet sehr große Online-Plattformen dazu, systemische Risiken frühzeitig zu identifizieren und aktiv zu begrenzen. Dazu zählen ausdrücklich auch Gefahren für Grundrechte, den Schutz von Kindern sowie die Verbreitung illegaler Inhalte. Exekutiv-Vizepräsidentin Henna Virkkunen sprach in diesem Zusammenhang von einer „inakzeptablen Form der Entwürdigung“. Sexualisierte Deepfakes seien nicht nur ein technisches Problem, sondern eine konkrete Form digitaler Gewalt. Die Untersuchung solle klären, ob X diese Risiken ernsthaft adressiert hat oder ob sie als Nebenwirkung des eigenen Dienstes in Kauf genommen wurden.
Bereits laufendes Verfahren wird ausgeweitet
Das neue Verfahren steht nicht isoliert. Die Kommission hat zugleich ein bereits im Dezember 2023 eröffnetes DSA-Verfahren gegen X erweitert. Damals ging es um systemische Risiken im Zusammenhang mit Empfehlungsalgorithmen und Inhaltsverbreitung. Nun soll zusätzlich geprüft werden, ob die Umstellung auf ein Grok-basiertes Empfehlungssystem neue oder verstärkte Risiken geschaffen hat. Auch hier steht die Frage im Raum, ob X seinen gesetzlichen Verpflichtungen zur Risikoanalyse und -begrenzung gerecht geworden ist.
Mögliche Rechtsverstöße und nächste Schritte
Sollten sich die Vorwürfe bestätigen, könnten Verstöße gegen mehrere zentrale DSA-Artikel vorliegen. Diese betreffen unter anderem die Pflicht zur Risikoanalyse, zur Umsetzung wirksamer Gegenmaßnahmen sowie zur Transparenz gegenüber Aufsichtsbehörden. Die Einleitung des förmlichen Verfahrens bedeutet noch keine Vorfestlegung. In den kommenden Monaten will die Kommission weitere Beweise sammeln, etwa durch Auskunftsersuchen, Befragungen oder Inspektionen. In schwerwiegenden Fällen wären auch vorläufige Maßnahmen möglich, falls akuter Handlungsbedarf besteht.
Zusammenarbeit mit irischer Aufsichtsbehörde
Da X seinen europäischen Sitz in Irland hat, arbeitet die Kommission eng mit Coimisiún na Meán, dem irischen Koordinator für digitale Dienste, zusammen. Die nationale Behörde bleibt in das Verfahren eingebunden, auch wenn die EU-Kommission hier die federführende Rolle übernimmt.
Signalwirkung für KI-Plattformen
Das Vorgehen gegen X hat über den Einzelfall hinaus Bedeutung. Erstmals rückt ein generatives KI-System im Kontext des DSA so deutlich in den Fokus der Aufsicht. Die Botschaft ist klar: KI-gestützte Funktionen entbinden Plattformen nicht von ihrer Verantwortung, Risiken zu erkennen und zu begrenzen. Für Anbieter großer KI-Modelle und integrierter Empfehlungssysteme dürfte das Verfahren daher als Warnsignal dienen.
