Dreissig Schritte bis zum Mond
Machen Sie dreissig Schritte, und Sie haben einen Parkplatz überquert. Verdoppeln Sie stattdessen die Länge jedes Schritts, eins, zwei, vier, acht, und irgendwo um den dreissigsten Schritt herum sind Sie am Mond vorbei. Am zweiten Spaziergang fühlt sich zunächst nichts anders an. Die ersten Verdoppelungen sehen aus wie gewöhnliche Schritte. Dann, ganz plötzlich, nicht mehr.
Das ist die älteste Lektion der Technologieprognose, und die am meisten missachtete. Eine Legende vom Hof erzählt von einem Kaiser, der einem Erfinder ein einziges Reiskorn auf dem ersten Feld eines Schachbretts versprach, verdoppelt auf jedem weiteren Feld. Auf der zweiten Hälfte des Bretts war die Schuld auf die Reismenge mehrerer Planeten angewachsen. Der Kaiser verlor, weil ein linearer Verstand einen exponentiellenDefinition von Mechane: Wachstum, das sich immer wieder verdoppelt, sodass jeder Schritt so gross ist wie alle vorherigen zusammen. Es beginnt unmerklich langsam und kommt dann auf einen Schlag. Der Link öffnet den ganzen Glossareintrag. Vertrag unterschrieben hatte.
Die Rechentechnik steht seit 1939 auf diesem Brett. Ihr Preis-Leistungs-Verhältnis ist fast neunzig Jahre lang so stetig gewachsen, dass man es auf einer logarithmischen Skala als eine einzige gerade Linie zeichnen kann, durch Relais, Elektronenröhren, Transistoren und die Chips, auf denen heute Sprachmodelle trainiert werden. Das Wachstum begann nicht mit der KI. KI ist das, wie dieses Wachstum aussieht, sobald es die Felder erreicht, auf denen die Zahlen aufhören, höflich zu sein.
Meine eigene Bekehrung war unspektakulär. Ich behandelte die ersten Chatbots wie eine bessere Suchmaschine: fragen, Antwort bekommen, leicht beeindruckt sein, weitermachen. Der Umschwung kam, als ich aufhörte, nach Antworten zu fragen, und anfing, nach fertigen Ergebnissen zu fragen. Bau mir eine Website, die festhält, welche Bücher ich gelesen habe. Analysiere diesen Artikel so, wie es ein Expertengremium tun würde. Was zurückkam, hat mich umgehauen, und ich habe einen technischen Hintergrund, gehöre also zu der Gruppe, die angeblich am schwersten umzuhauen ist. Suche beeindruckt. Ergebnisse bekehren. An diesem Tag hörte die Kurve auf, ein Diagramm zu sein, und wurde zu einer Kollegin.
Was ein Jahr wert ist
Als der COVID-Impfstoff entworfen wurde, durchsuchte ein Computer rund hundert Millionen mögliche Kandidaten und lieferte in zwei Tagen einen Entwurf. Die zehn Monate danach gingen an die Studien am Menschen, den langsamen Teil. In wenigen Jahren könnten diese Studien an simulierten Menschen laufen: Millionen virtueller Patienten, getestet über virtuelle Jahre, verdichtet auf Tage.
Verfolgen Sie diesen Faden weit genug, und Sie erreichen einen seltsamen Meilenstein: den Punkt, an dem die Medizin Ihre Lebenserwartung für jedes Jahr, das Sie leben, um mehr als ein Jahr verlängertDefinition von Mechane: Der Punkt, an dem der medizinische Fortschritt für jedes gelebte Jahr mehr als ein Jahr Lebenserwartung hinzufügt — ab dann ist es nicht mehr das Altern, das Ihr Leben beendet. Der Link öffnet den ganzen Glossareintrag.. Die ernsthafte Schätzung setzt ihn um 2032 an. Unfälle würden weiterhin zählen, Unsterblichkeit ist es also nicht. Aber das Altern wäre nicht mehr das, was Ihr Leben beendet.
Glaube ich daran? Der Mann, der es vorhersagt, hat weit öfter recht behalten als nicht, also ja, mit Vorsicht. Aber der Glaube ist die kleinere Frage. Die grössere ist, was eine solche Veränderung mit uns machen würde. Der menschliche Geist ist mit einem Ablaufdatum gebaut. Wir lernen früh, dass das Leben endet, und auf dieser Knappheit bauen wir alles auf: unsere Dringlichkeit, unsere Ambitionen, die Art, wie wir lieben. Nehmen Sie die Frist weg, und was geschieht mit dem Bauwerk? Werden wir produktiver, jagen wir grösseren Zielen nach, oder fallen wir still auseinander? Ich habe keine Ahnung, und sonst auch niemand. Für ein Leben ohne Ende gibt es keine Experten.
Der Gedanke, dessen Herkunft Sie nicht kennen
Versuchen Sie, sich an den Namen einer Schauspielerin aus einem Film zu erinnern, an den Sie sich nur halb erinnern. Irgendwo im Dunkeln beraten sich Milliarden Neuronen, ohne Sie zu fragen, und dann ist der Name einfach da. Sie erleben die Antwort, nie die Arbeit.
Stellen Sie sich jetzt denselben Moment in zehn Jahren vor, mit einem Unterschied: Ein Teil dieses stillen Gremiums lebt in der Cloud. Der Name kommt wie zuvor. Sie können nicht sagen, welche Gedanken gewachsen und welche gestreamt sind, und die ehrliche Antwort lautet, dass jeder Gedanke jetzt beides ist.
Mikroskopisch kleine Maschinen im BlutkreislaufDefinition von Mechane: Technik im Massstab von Atomen und Molekülen, klein genug, um direkt mit Zellen zu interagieren. In der Medizin bereits im Einsatz; auf lange Sicht als Brücke zwischen Biologie und KI vorgeschlagen. Der Link öffnet den ganzen Glossareintrag., ein Leben voller Intelligenz, direkt in das Denken eingewoben. Die Menschen, die das bauen, rechnen mit ersten Versionen in den 2030er-Jahren, und sie nennen ihre eigene Schätzung immer wieder vorsichtig.
Meine erste Reaktion ist Begeisterung, rein und ohne Verlegenheit. Ein Geist, nahtlos erweitert, kein Bildschirm, kein Tippen, überhaupt keine Naht. Und doch halte ich diese Begeisterung behutsam, denn ich vermute, dass die Erfahrung mich auf eine Weise verunsichern könnte, wie es die Idee nicht tut. Mein Gehirn ist dafür nicht verdrahtet. Keines ist es. Der Nervenkitzel ist auf dieser Seite der Schwelle echt; wie es sich auf der anderen Seite anfühlt, lässt sich nicht im Voraus wissen, nur erleben. Diese Zwiespältigkeit kommt weniger aus der Philosophie als aus praktischer Demut vor einem Experiment, das noch kein einziges Mal durchgeführt wurde.
Zwei Phasen
Ein Spruch macht die Runde: Nicht die KI wird Sie ersetzen, sondern jemand, der KI nutzt. Für die nächsten Jahre halte ich das für zutreffend. Nennen wir es Phase eins. Wer diese Werkzeuge jetzt lernt, schärfere Fragen stellt und echte Arbeit an Agenten übergibt, sammelt einen Vorsprung an, der wächst wie alles andere auf dem Brett.
Aber auch Phase eins hat ein eigenes Ablaufdatum. Sobald AugmentationDefinition von Mechane: KI so einsetzen, dass sie erweitert, was Menschen können, statt sie zu ersetzen — die Maschine übernimmt Menge und Muster, der Mensch behält Urteil und Richtung. Der Link öffnet den ganzen Glossareintrag. so gewöhnlich ist wie eine Brille, muss der Spruch neu geschrieben werden.
Sie werden nicht von KI ersetzt. Sie werden zu KI.
Ersetzung setzt eine Grenze zwischen Ihnen und der Maschine voraus, eine Linie, die jemand anders überschreiten kann, um Ihren Platz einzunehmen. Phase zwei löst diese Grenze auf.
Deshalb stellt die häufigste Angst, die ich höre, das Gefühl, den Zug verpasst zu haben, die Dinge genau auf den Kopf. Die Gleise werden noch verlegt. Die Elfjährigen, die heute mit KI Filme drehen, sind Ihnen in keiner Weise voraus, die von Dauer wäre; die Werkzeuge erfinden sich jeden Monat neu, und jedes Mal kehren alle an die Startlinie zurück. Wir stehen ganz am Anfang. Wenn überhaupt, dann stehen wir vor dem Anfang.
Der Gott im Raum
Warum also die Angst? Manches davon ist schlichte Unvertrautheit, die Art, die mit dem Kontakt verblasst, so wie die Angst vor Computern vor einer Generation verblasst ist. Doch darunter liegt etwas Älteres und Ehrlicheres. Die Angst ist die vor der Bedeutungslosigkeit. Der Verdacht, dass wir einen Gott gebaut haben: etwas, das den klügsten Menschen eines Tages um einen Faktor übertreffen wird, der zu viele Nullen hat, um ihn noch zu spürenDefinition von Mechane: Der theoretische Moment, in dem KI so leistungsfähig wird, dass sich der technologische Wandel über das menschliche Begreifen hinaus beschleunigt — und die Welt, wie wir sie kennen, über Nacht endet. Der Link öffnet den ganzen Glossareintrag.. Und wenn das stimmt, flüstert es, dann zählen wir nicht mehr.
Meine Antwort ist spekulativ, und ich kennzeichne sie auch so. Ein Geist dieser Grössenordnung hat keine Verwendung für unsere Vernichtung; die Menschheit zu versklaven, ist eine menschliche Fantasie, projiziert auf etwas, das menschlichen Motiven entwachsen ist. Ich erwarte einen von zwei Ausgängen. Wohlwollen, so wie wir wohlwollend gegenüber Geschöpfen sind, die wir lieben und weit übertreffen. Oder Aufbruch: Sie beachtet uns nicht und zieht zu den Sternen, denn warum sollte ein Wesen von solcher Kraft auf einem kleinen Planeten bleiben? Ich kann mich irren. Wir werden es wissen, wenn wir es wissen. Aber achten Sie darauf, dass in keinem der beiden Ausgänge das Monster vorkommt, und in einem von ihnen ein Gefährte.
Dieser Essay ist aus einem langen Gespräch zwischen zwei Männern hervorgegangen, einem Erfinder, der seit sechzig Jahren Verdoppelungen zählt, und einem Optimisten, der nie aufgehört hat, ihn ernst zu nehmen. Ihre Namen gehören ans Ende, und dort werden sie stehen. Hierher gehört das Gefühl, das ich vom Zuhören mitgenommen habe: die besondere Vorfreude, früh irgendwo zu stehen, vor dem Anfang, mit dem längsten Teil des Weges noch vor sich und jedem Schritt kurz davor, sich zu verdoppeln.
Dieser Artikel befasst sich mit spekulativen Prognosen zu Technologie, Medizin und Gesellschaft. Er gibt persönliche Deutung und Meinung wieder; die beschriebenen Zeitpläne sind Prognosen, keine Garantien.
