Im Einklang mit den KI-Vorschriften der EU wird OpenAI mit ChatGPT generierte Texte künftig mit einem für Menschen unsichtbaren Wasserzeichen versehen. API-Nutzer können bereits ab sofort optional die Wasserzeichen-Funktion aktivieren. In den kommenden Wochen wird es dann auch automatisch in allen regulären ChatGPT-Texten enthalten sein.

Technisch setzt OpenAI dabei auf textGrain, welches wohl keine wirklich messbaren (negativen) Auswirkungen auf die Leistungsfähigkeit der Modelle hat. OpenAI weist darauf hin, dass ein solches Wasserzeichen nur in längeren Texten zuverlässig funktioniert und logischerweise das Bearbeiten der Texte dazu führt, dass es schlechter identifiziert werden kann.
Konkurrent Anthropic versieht alle von Claude generierten Texte bereits seit einiger Zeit mit einem maschinenlesbaren Wasserzeichen.
Ich freue mich schon auf die tausenden durchgefallen Schüler und Studenten, die widerrechtlich ihre Prüfungen mit ChatGPT und Co. KG erstellen lassen, aber so faul, bequem und eigenverantwortlich ablehnend agieren, dass sie nichtmal davon Kenntnis haben.
Die Lehrer und Dozenten können so mit einfachsten Mitteln alle Schüler mit durchgefallen eine Ehrenrunde drehen lassen und sich selbst sehr viel Zeit und Arbeit sparen.
Traurig aber, dass das Wasserzeichen nicht präsent in der Mitte prangt, wie es bei z. B. gettyimages der Fall ist.
Damit solcher Betrug sofort ersichtlich ist und die Leute sich dann nicht in irgendeiner Form in Ämter schleichen können, obwohl ihre Arbeiten gar nicht von Ihnen stammen.
Ein solches Wasserzeichen wäre allerdings kein automatischer „Betrugsdetektor“. Es kann allenfalls darauf hindeuten, dass ein Text oder Teile davon mit einem bestimmten KI-System erzeugt wurden. Ob dessen Nutzung bei einer konkreten Prüfungsleistung überhaupt verboten war und in welchem Umfang KI verwendet wurde, ist damit noch lange nicht geklärt.
Dazu kommt: Schon normales Bearbeiten, Kürzen, Umstellen oder Ergänzen kann die Erkennbarkeit solcher statistischen Wasserzeichen reduzieren. Umgekehrt wäre es wissenschaftlich und prüfungsrechtlich ziemlich problematisch, jemanden allein aufgrund eines technischen Detektors durchfallen zu lassen. Dafür braucht es belastbare Feststellungen und die jeweils geltende Prüfungsordnung – nicht einfach „Detektor sagt KI“.
Und der Getty-Vergleich passt ebenfalls nicht: Ein sichtbares Wasserzeichen auf einem Vorschaubild dient dem Schutz bzw. der Kennzeichnung eines konkreten Bildes. Ein KI-Text-Wasserzeichen soll dagegen maschinenlesbare Herkunftssignale liefern. Das sind zwei völlig unterschiedliche Anwendungsfälle.
KI-Nutzung, Täuschungsversuch und fehlende Eigenleistung sind schlicht nicht dasselbe. Wer das alles gleichsetzt, macht sich die Bewertung zwar angenehm einfach – fachlich korrekt wird sie dadurch aber nicht.
Och menno.
Ich ziehe jedesmal den Hut davor, wie sachlich neutral und unaufgeregt du Argumente vermittelst.
Wenn bei mir mal wieder der ADHS Simplicissimus kickt, dann möchte ich die Welt gerne in 1 und 0 trennen.
Geht leider nicht, wie du umfassend, aber prägnant darlegst.
Schön wäre es, wenn es so einfach wäre wie es der Uni Professor machte:
https://t3n.de/news/professor-chatgpt-schummler-prompt-injection-weisser-text-trick-prufung-1754816/
Schadenfreude kommt da schon bei mir auf.
Wer wissentlich betrügt, sollte sofort exmatrikuliert werden, da solche Menschen moralisch für höhere Ämter eher ungeeignet sind.
Wobei, wenn ich mir so manche Berichte in den Nachrichten durchlese, bezüglich der Betrugsversuche bei Politikern oder Managern, dann glaube ich sowieso nicht mehr an einer moralisch integere Welt. 😞😥😮💨😔
wie soll das funktionieren, wenn der text per copy & paste in ein programm kopiert wird, das nur text kann und sonst nichts?
Du meinst per DOS Edit zum Beispiel?
https://github.com/microsoft/edit
War auch mein erster Gedanke. Text zuerst ins Notepad und dann in ein neues Word-Dokument.
„Her Lehrer / Chef / Kunde, ich habe keine K.I. benutzt, das fehlende Wasserzeichen beweist es“ :D.
Davon abgesehen finde ich die Verwendung von K.I. auch nicht schlimm, solange das Ergebnis inhaltlich stimmt. Ich habe mir letztlich auch ein Dokument ordentlich formatieren und mit auflockernden Grafiken und Diagrammen versehen lassen, womit die reine Textwüste jetzt gut zu lesen ist. Ich hätte es auch selber machen können, aber wozu viel Zeit in sowas investieren?
Hast voll Recht. Die Lehrer die heute noch wert auf Lese- und Schreibkompetenz legt, ist so was von 2020. Warum noch eigene Zeit und Energie investieren, wenn das Ergebnis dank KI stimmt? Und wenn Fehler auftauchen ist es auch nicht mehr deine Schuld. Die KI hat Mist gemacht. Ihr gehört die 5 oder 6, du bist unschuldig. Abitur for free!
Ich frag mal anders: Interessiert es dich, ob der Kaufmann mit Zettel und Stift die Rechnung schreibt oder das automatisch über die Kasse erledigt wird? Was ist mit der Rechtschreibhilfe in den Textverarbeitungsprogrammen? Interessiert es irgend jemand, ob man es selbst Korrektur gelesen und Schreibweisen nachgeschlagen hat oder ob da nachgeholfen wurde?
Mich interessiert auch nicht, ob Spieleentwickler K.I. zur Hilfe nehmen um Grafiken, Texturen und Objekte zu erstellen oder Programmcode zu schreiben – Hauptsache die Qualität stimmt. Ich sehe K.I. da auch nur als Werkzeug, ähnlich wie wenn man auf einer der bereits bestehenden Engines wie Unreal, Godot oder Unity aufsetzt. Früher mussten die Entwickler noch alles selber entwickeln bevor auch nur das erste Pixel im Spiel sichtbar wurde.
Kein Problem. Diese Art von „Wasserzeichen“ funktioniert nicht auf Basis irgendwelcher unsichtbarer Zeichen wie z.B. die gelben Punkte beim Drucker, sondern nutzt aus, dass KI statistisch andere Wörter und Wortfolgen erzeugt als ein menschlicher Autor, bzw. erzeugt sogar bewusst solche Wortfolgen. Und daran ändert sich ja nichts, wenn Du den Text unverändert hin- und herkopierst.
Fassen wir zusammen:
(1) Es gibt einen „geheimen Schlüssel“.
(2) Dieser wird benötigt sowohl um das Wasserzeichen zu erzeugen, als auch um das Wasserzeichen zu erkennen.
Jetzt die Frage, wem dieser „geheime Schlüssel“ zugänglich gemacht wird:
(a) Allen Menschen auf dieser Welt.
(b) Nur OpenAI intern.
(c) Allen, die OpenAI genug Geld bezahlen.
Also wer jetzt glaubt, damit könnte man auf magische Weise Schüler beim Pfuschen erwischen, ist noch naiver, als wenn Schüler glauben, ChatGPT könnte denken.
Über kurz oder lang werden alle Lehrer bzw. Schulen Zugänge, wahrscheinlich sogar staatlich subventioniert, zu KI Modellen bekommen.
Und wenn es darum geht Lehrerstellen, also Beamte oder öffentliche Stellen die sehr viel Geld kosten einzusparen, weil Lehrer dann effizienter arbeiten können und dementsprechend mehr Arbeit aufgehalst bekommen können.
Hier mal ein Beispiel:
Ohne Wasserzeichen
Das ThinkPad P14s bietet eine gute Leistung für technische Anwendungen. Die Akkulaufzeit ist ordentlich und das Gerät arbeitet zuverlässig im mobilen Einsatz. Für viele Anwender stellt es eine ausgewogene Kombination aus Leistung und Mobilität dar.
Mit Wasserzeichen
Das ThinkPad P14s bietet eine solide Leistung für technische Anwendungen. Die Akkulaufzeit ist erfreulich und das Gerät arbeitet verlässlich im mobilen Einsatz. Für zahlreiche Anwender stellt es eine ausgewogene Kombination aus Leistung und Mobilität dar.
Da hilft dann auch kein Editor. Das Wasserzeichen ist der Inhalt und die Wortwahl im Text. Daraus wird dann der Code generiert. Jetzt brauch man nur noch den geheimen Schlüssel zur genauen Identifikation. Eine generelle Erkennung ist ansonsten nicht möglich.
Bleibt nur die Frage nach der Speicherung der Schlüssel und der Zugänglichkeit.
Die Hersteller von Massenspeichern klappen gerade schon ihr Auftragsbücher auf
gepostet mit der Deskmodder.de-App
Gleicher Inhalt, aber anderer Satzbau:
Für technische Anwendungen bietet das ThinkPad P14s eine solide Leistung. Das Gerät arbeitet im mobilen Einsatz verlässlich und mit erfreulicher Akkulaufzeit. Es stellt für zahlreiche Anwender eine ausgewogene Kombination aus Leistung und Mobilität dar.
Ob da ein Wasserzeichen noch wirksam ist?
Wie man das Wasserzeichen weg bekommt:
Text in einen Texteditor kopieren, wie z.B. notepad oder schlicht den Text abtippen.
Wenn die Wortwahl das Wasserzeichen ist, so ist das auch nicht eindeutig. Wie kann man ausschliessen, dass ein normaler Mensch nicht exakt den gleichen Satz schreiben würde?
Und wenn die Wortwahl quasi das Wasserzeichen ist, dann hilft es auch nichts nur den Text in ein Notepad zu kopieren, er verändert sich ja nicht und somit bliebe das Wasserzeichen.
Vermutlich kommt dann irgendwann raus, dass zig Diplomarbeiten mit ChatGPT geschrieben wurden, nur weil das Wasserzeichen im Text wäre und die Arbeiten aber längst vor der Existenz von ChatGPT entstanden sind. Es ist und bleibt halt weiterhin Kacke mit der KI.
Die Statistik schließt es aus.
Du kannst auch 100x zufällig eine Münze werfen und sie landet 100x zufällig auf der Seite „Kopf“. Theoretisch möglich ist das natürlich. Rein statistisch ist es aber praktisch unmöglich wenn Kopf und Zahl jeweils eine 50% Chance haben.
Selbst 24x in Folge die gleiche Seite wäre schon unwahrscheinlicher als 6 Richtige im Lotto.
>> Wie kann man ausschliessen, dass ein normaler Mensch nicht exakt den gleichen Satz schreiben würde?
Man kann es nicht ausschließen. Es ist ein statistisches Verfahren, das Dir letztlich eine Wahrscheinlichkeit dafür angibt, dass der Text ganz oder teilweise mit KI erzeugt wurde.
Wenn beispielsweise in einem längeren Text 10 Merkmale eingebaut bzw. gefunden werden, die 90% der Menschen nicht verwenden würden, gibt Dir das insgesamt schon eine extrem hohe Wahrscheinlichkeit (99.99999999%), dass der Text von einer KI stammt.
Wer es selbst testen möchte: https://synthid.com/
Darüber hinaus schreibe ich alle professionellen Texte (bspw. wenn ich ein Konzept o.ä. schreibe) gefühlt so, wie in Stoffels Wasserzeichen-Beispiel. Was kann ich denn dafür, das 90% der Leute nicht in der Lage sind, einfache Dinge wohl formuliert auszudrücken?
> Bleibt nur die Frage nach der Speicherung der Schlüssel und der Zugänglichkeit.
> Die Hersteller von Massenspeichern klappen gerade schon ihr Auftragsbücher auf
Wieso das? Es gibt einen Schlüssel für die ganze Welt. Alles was mit ChatGPT erzeugt wird nutzt diesen einen (immer gleichen) Schlüssel.
Und ja, bei unterschiedlichen Modellen kann man natürlich auch unterschiedliche Schlüssel nutzen. Aber wie viele Modelle gibt es denn? 5 pro Jahr? Oder 10? Das ist nichts, für das man „Massenspeicher“ bräuchte, schon mal gar nicht ganze Auftragsbücher voll davon.
Ich kann mir nicht vorstellen, daß diese Statistik super zuverlässig ist. Wenn man Kommentare, Berichte, Foren …… verfolgt, sind durch Dialekteinfärbungen so viele Wortverwendungen und Wortstellungen möglich. Zwar hat jeder seine Eigenheiten und man kann am Stil oft identifizieren, wer schreibt, aber „oft“ und nicht „immer“. Man kann natürlich bei längeren Texten per festem Schlüssel eine fixe Nachricht einbauen. Wenn jetzt jemand „zitiert“, ab welcher Länge soll dann die KI noch erkennbar bleiben ??
Man sollte einfach ein altmodisches Wasserzeichen setzen oder KI erkennbar outen. Der ganze andere Kokolores trifft evtl. dann Unschuldige, die Redewendungen oder Zitierfunktion (korrekt) nutzen.
…ich stelle mir gerade vor, dass ja bestimmte KI’s in der Lage sind, meinen Sprachstil und Intonation nach wenigen von mir gesprochenen Sätzen kopieren können. Andersrum könnte das ja auch sein: Ich spreche/schreibe, weil ich viel damit gearbeitet habe, schon wie eine KI….
Wenn ich nun eine Klausur schreibe und die wie eine KI klingt, obwohl es mein Text ist…bin ich dann durchgefallen? Am Ende ist mein eigener Text das Wasserzeichen einer KI…grusel, grusel…
gepostet mit der Deskmodder.de-App für Android
Ich habe den o.a. Text über Gemini ins Englische übersetzen lassen und von Deepl zurück ins Deutsche. Hätte auch Kisuaheli nehmen können oder Altgriechisch.
Jedenfalls lautet der Text nun:
„Das ThinkPad P14s bietet solide Leistung für technische Anwendungen. Die Akkulaufzeit ist beeindruckend, und das Gerät arbeitet auch unterwegs zuverlässig. Für viele Nutzer stellt es eine ausgeglichene Kombination aus Leistung und Mobilität dar.“
Und unterscheidet sich recht stark vom Wasserzeichen-Text.
Künftig also einfach hin- und zurückübersetzen über verschiedene Systeme, das sollte dann passen und man kann in Ruhe zocken und muss seine schulischen Arbeiten weiterhin nicht aus seinem Hirn quetschen.