US-Regierung lässt Anthropic-Modelle Fable 5 und Mythos 5 sperren

Anthropic muss den Zugriff auf seine Modelle Fable 5 und Mythos 5 abrupt sperren. Auslöser ist eine Anweisung der US-Regierung, die mit nationalen Sicherheitsbedenken begründet wird. Nach Darstellung von Anthropic betrifft die Vorgabe alle ausländischen Staatsangehörigen – unabhängig davon, ob sie in den USA oder außerhalb des Landes leben. Betroffen sind damit auch ausländische Mitarbeiter von Anthropic. Für Kunden hat die Entscheidung unmittelbare Folgen. Anthropic deaktiviert Fable 5 und Mythos 5 vollständig, um die rechtlichen Vorgaben einzuhalten. Andere Modelle des Unternehmens sollen von der Maßnahme nicht betroffen sein. Die Anweisung ging Anthropic nach eigenen Angaben am 12. Juni um 17:21 Uhr US-Ostküstenzeit zu.

Regierung nennt Sicherheitsbedenken, bleibt aber vage

Die US-Regierung soll ihre Entscheidung mit nationalen Sicherheitsbedenken begründet haben. Konkrete technische Details habe Anthropic nach eigener Darstellung allerdings nicht erhalten. Das Unternehmen geht davon aus, dass es um eine Methode geht, mit der sich Schutzmechanismen von Fable 5 teilweise umgehen lassen.

Anthropic beschreibt den vorliegenden Fall jedoch deutlich anders als die Regierung. Nach eigener Prüfung gehe es nicht um einen universellen Jailbreak, der breite Schutzmechanismen des Modells aushebelt. Vielmehr sei eine eng begrenzte Methode demonstriert worden, mit der das Modell in einem bestimmten Kontext kleinere, bereits bekannte Schwachstellen identifizieren konnte. Genau an diesem Punkt setzt der Widerspruch des Unternehmens an. Anthropic verweist darauf, dass vergleichbare Ergebnisse auch mit anderen öffentlich verfügbaren Modellen möglich seien. Die gezeigte Fähigkeit sei nach Darstellung des Unternehmens nicht exklusiv für Fable 5 oder Mythos 5 und liefere keinen besonderen technischen Vorsprung.

Anthropic verteidigt Sicherheitskonzept von Fable 5

Anthropic stellt sich ausdrücklich hinter die eigenen Sicherheitsmaßnahmen. Vor dem Start von Fable 5 sei das Modell über Tausende Stunden hinweg intern, durch externe Organisationen sowie gemeinsam mit Regierungsstellen getestet worden. Beteiligt gewesen seien unter anderem die US-Regierung und das britische AI Safety Institute. Nach Darstellung des Unternehmens hätten diese Tests gezeigt, dass die Schutzmaßnahmen von Fable 5 wirksamer seien als bei früher veröffentlichten Modellen. Einen universellen Jailbreak habe bislang kein Tester gefunden. Gleichzeitig räumt Anthropic ein, dass perfekte Jailbreak-Sicherheit nach heutigem Stand wohl für keinen Anbieter erreichbar ist.

Stattdessen setzt das Unternehmen nach eigenen Angaben auf ein mehrstufiges Sicherheitskonzept. Jailbreaks sollen entweder eng begrenzt bleiben oder so aufwendig werden, dass sie schnell erkannt und eingedämmt werden können. Dazu gehört bei Fable 5 auch eine 30-tägige Speicherung von Kundendaten, die Anthropic mit der Analyse und Abwehr solcher Angriffe begründet.

Streit über Maßstab für KI-Sicherheit

Der Kern des Konflikts liegt damit weniger in der Frage, ob KI-Modelle grundsätzlich umgangen werden können. Das bestreitet Anthropic nicht. Entscheidend ist vielmehr, welcher Maßstab für ein Verbot oder eine Sperrung eines kommerziellen Modells gelten soll. Anthropic hält die jetzige Entscheidung für unverhältnismäßig. Ein eng begrenzter möglicher Jailbreak dürfe nach Auffassung des Unternehmens nicht ausreichen, um ein Modell zurückzurufen, das bereits breit im Markt eingesetzt wird. Würde dieser Maßstab für die gesamte Branche gelten, könnten neue Frontier-Modelle faktisch kaum noch veröffentlicht werden.

Gleichzeitig betont Anthropic, dass Regierungen gefährliche KI-Bereitstellungen grundsätzlich stoppen können sollten. Dafür brauche es aber ein transparentes, faires und technisch nachvollziehbares Verfahren. Genau diese Kriterien sieht das Unternehmen im aktuellen Fall nicht erfüllt.

Zugang soll so schnell wie möglich wiederhergestellt werden

Anthropic kommt der Anweisung zunächst nach und entfernt den Zugriff auf Fable 5 und Mythos 5 für alle Nutzer. Zugleich kündigt das Unternehmen an, weitere Details innerhalb von 24 Stunden zu veröffentlichen. Man gehe von einem Missverständnis aus und arbeite daran, den Zugang so schnell wie möglich wiederherzustellen.

Der Fall ist dennoch bemerkenswert. Er zeigt, wie schnell sich der Konflikt zwischen KI-Sicherheit, nationaler Sicherheit und kommerziellem Einsatz zuspitzen kann. Wenn Regierungen künftig einzelne Modelle kurzfristig sperren lassen, entsteht für Anbieter, Kunden und Entwickler eine neue Unsicherheit. Besonders Unternehmen, die KI-Systeme produktiv einsetzen, müssen damit rechnen, dass regulatorische Eingriffe nicht nur abstrakte Debatten bleiben, sondern unmittelbare technische Folgen haben.