Werkzeuge zur KI-Erkennung sind Softwaresysteme, die feststellen sollen, ob ein Text von einem Menschen geschrieben oder von einem KI-Modell erzeugt wurde. Die Grundidee leuchtet ein: Wenn KI-Texte charakteristische Muster aufweisen — eine bestimmte Wortwahl, bestimmte Satzbauten, bestimmte Rhythmen —, dann sollte ein Klassifikator, der mit genügend Beispielen trainiert wurde, sie erkennen können. Manche Werkzeuge bewerten, wie statistisch vorhersagbar ein Text ist; andere suchen nach stilistischen Handschriften. Die zugrunde liegende Annahme lautet, dass sich KI-generierte Sprache auf irgendeine messbare Weise von menschlicher Sprache unterscheidet.
Das Problem ist, dass diese Annahme nicht verlässlich genug zutrifft, um darauf zu handeln. KI-Detektoren liefern in erheblichem Umfang falsch positive Ergebnisse — sie stufen menschliche Texte als maschinell erzeugt ein —, besonders bei Menschen, deren Muttersprache nicht Englisch ist, bei sehr förmlichem Schreibstil und bei Texten, die zufällig gängige oder vorhersehbare Formulierungen verwenden. Ebenso liefern sie falsch negative Ergebnisse: KI-generierter Text, der leicht überarbeitet, übersetzt oder durch ein Paraphrasierungswerkzeug geschickt wurde, bleibt oft unentdeckt. Unter Fachleuten herrscht weitgehend Einigkeit, dass heutige Detektoren nicht dazu dienen sollten, folgenreiche Urteile über die Urheberschaft eines Textes zu fällen.
Ein Teil der Schwierigkeit ist struktureller Natur. Grosse Sprachmodelle werden darauf trainiert, in einem gegebenen Kontext das wahrscheinlichste nächste Token vorherzusagen — anders gesagt: Sie werden darauf trainiert, so zu schreiben, dass es natürlich und menschlich wirkt. Je besser die Modelle werden, desto kleiner wird der statistische Abstand zwischen menschlichem Text und KI-Text. Ein Detektor, der auf die Ausgaben eines bestimmten Modells trainiert wurde, schneidet bei einem anderen Modell oder bei einer späteren Version desselben Modells womöglich schlecht ab. Erkennung jagt gewissermassen einem beweglichen Ziel hinterher, das umso schwerer zu treffen ist, je weiter die Technik fortschreitet.
Praktisch bedeutet das: Ein Erkennungswert — ob 20 oder 80 Prozent — sagt etwas über Wahrscheinlichkeit aus, nicht über Wahrheit. Er ist ein Indiz, das abzuwägen ist, kein Urteil, nach dem man handeln kann. Die interessantere Frage, die KI-Erkennung immer wieder aufwirft, lautet nicht «Hat das eine Maschine geschrieben?», sondern «Spielt es eine Rolle, wenn ja?». Diese Frage erweist sich als sehr viel schwieriger und weit interessanter als die Prozentzahl auf dem Bildschirm.
