Rekursive Selbstverbesserung beschreibt ein System, das seinen eigenen Bauplan verbessert und dann die verbesserte Version nutzt, um sich erneut zu verbessern. Das entscheidende Wort ist «rekursiv»: Das Ergebnis jeder Runde wird zum Werkzeug für die nächste. Ein Compiler, der einen besseren Compiler kompiliert, ist die alltägliche Version — das geschieht routinemässig, und nichts Dramatisches folgt daraus. Die KI-Version erhöht den Einsatz, indem sie behauptet, das, was verbessert wird, sei die allgemeine Intelligenz selbst, sodass jede Runde ein System hervorbringt, das ausgerechnet in der Aufgabe besser ist, Systeme zu verbessern.
Die Behauptung, daraus entstehe eine Explosion, beruht auf einer Prämisse, die meist unausgesprochen bleibt: dass die Erträge nicht abnehmen. Damit die Kurve davonläuft, muss jede Verbesserungsrunde mindestens so leicht zu haben sein wie die vorherige. Die meisten Optimierungsprozesse verhalten sich genau umgekehrt — die billigen Gewinne werden zuerst eingestrichen, und die späteren kosten mehr, weil die einfachen Verbesserungen aufgebraucht sind. Ob Intelligenz das seltene Gebiet ist, in dem das nicht geschieht, ist eine empirische Frage. Sie ist nie geklärt worden. Meist wird sie einfach vorausgesetzt.
Frühe Belege können diese Frage nicht entscheiden, und der Grund dafür ist kontraintuitiv. Ein System mit abnehmenden Erträgen verbessert sich ganz am Anfang am schnellsten, solange die billigen Gewinne noch zu haben sind. Ein System mit sich selbst verstärkenden Erträgen beginnt langsam und zieht erst viel später davon. Über eine lange Strecke ist die Entwicklung, die schliesslich explodiert, die am wenigsten beeindruckende im Raum. Rascher Fortschritt heute ist mit beiden Geschichten vereinbar, und das heisst: Er spricht für keine von beiden.
Hinzu kommt die Frage, was Selbstverbesserung konkret erfordert. Ein modernes Modell schreibt sich nicht an Ort und Stelle um. Verbesserung heisst: bessere Architekturen entwerfen, bessere Trainingsdaten zusammenstellen und ein Training durchführen, das enorme Mengen an Rechenleistung, Strom und Zeit verschlingt — und keine dieser Beschränkungen löst sich auf, nur weil der Entwickler zufällig eine Maschine ist. Eng begrenzte Versionen dieser Schleife gibt es bereits, und sie sind wirklich nützlich: Systeme, die beim Chipdesign helfen, ihre eigenen Trainingseinstellungen abstimmen oder Daten für ihre Nachfolger erzeugen. Sie sind aber auch langsam, teuer und an dieselben Lieferketten gebunden wie alles andere.
Ohne den KI-Rahmen ist rekursive Selbstverbesserung eine gewöhnliche menschliche Erfahrung: in etwas besser zu werden und festzustellen, dass sich das Besserwerden selbst beschleunigt. Lesen zu lernen macht alles andere leichter erlernbar. Ein gutes Werkzeug hilft Ihnen, ein besseres Werkzeug zu bauen. Das ist real, und es verstärkt sich selbst — und wer je eine schwierige Fähigkeit erlernt hat, weiss auch, dass die Kurve irgendwann abflacht, meist ohne sich anzukündigen. Die ehrliche Frage ist nicht, ob Maschinen sich selbst verbessern können. In begrenztem Mass tun sie es bereits. Sondern wie lange die Verstärkung anhält, bevor sie auf etwas trifft, das nicht nachgibt.
