Was künstliche Intelligenz angeht, kann man sich auf zwei Arten irren, und beide haben eine grosse, begeisterte Anhängerschaft.
Zweimal danebenliegen
Die erste Art ist die Angst. Keine leise, nachdenkliche Angst. Eine spektakuläre Angst, wie im Kino. Die Roboter kommen. Arbeitsplätze verdampfen über Nacht. Irgendein hinreichend intelligentes System kommt zu dem Schluss, dass Menschen ineffizient sind, und handelt entsprechend. Angst gilt in diesem Lager als die einzig klarsichtige Reaktion auf das, was da gebaut wird.
Die zweite Art ist die Verblendung. KI heilt den Krebs bis Dienstag. Die Singularität trifft pünktlich ein, legt einen Schalter um, und bevor das Jahr vorbei ist, ist die Welt nicht wiederzuerkennen. Atemloser Optimismus ist in diesem anderen Lager die einzig angemessene Reaktion.
Beide Lager haben eine merkwürdige Gemeinsamkeit: Keines von beiden interessiert sich sonderlich dafür, gründlich darüber nachzudenken, was tatsächlich geschieht. Angst und Euphorie sind, jede auf ihre Weise, Formen geistiger Bequemlichkeit. Sie ersparen einem die Mühe, die schwierigeren Fragen zu stellen.
Dario Amodei, Gründer und CEO von Anthropic, hat einen Essay mit dem Titel «Machines of Loving Grace» veröffentlicht, der etwas wirklich Ungewöhnliches versucht: eine detaillierte, konkrete, nüchterne Skizze dessen, wie eine gute Zukunft mit KI tatsächlich aussehen könnte. [1] Er erkennt die Risiken an. Er hat ein Unternehmen aufgebaut, das sich ihrer Beherrschung widmet. Aber er argumentiert auch, sorgfältig und recht konkret, dass die meisten Menschen dramatisch unterschätzen, was möglich ist, wenn die Dinge gut laufen.
Dieser Artikel ist eine Lektüre jenes Essays, durch eine bestimmte Linse betrachtet: die Überzeugung, dass das Nützlichste, was man mit einer grossen, komplizierten Idee anfangen kann, darin besteht, sie ehrlich zu erklären, ohne Agenda und ohne so zu tun, als sei die Zukunft gewisser, als sie ist. Dafür ist Mechane da.
Tausend Forschende, die nie schlafen
Um zu begreifen, was leistungsfähige KI tatsächlich bewirken könnte, hilft es, sich klarzumachen, was sie ist.
Amodei beschreibt die leistungsfähigsten KI-Systeme der nächsten Jahre im Kern als ein Land voller Genies in einem Rechenzentrum. Millionen gleichzeitiger Instanzen eines Systems, das klüger ist als jeder einzelne Mensch, jede davon fähig, selbstständig an verschiedenen Aufgaben zu arbeiten oder so zusammenzuarbeiten, wie Teams von Menschen zusammenarbeiten, nur mit einer Geschwindigkeit und in einem Umfang, mit denen keine menschliche Institution mithalten kann.
Das Bild ist eindrücklich. Für unsere Zwecke zählt aber vor allem etwas, das es unausgesprochen lässt. Dieses Land voller Genies kommt nicht mit einer eigenen Agenda an. Es wacht nicht mit einem Vorhaben im Kopf auf. Es arbeitet, weil jemand ihm eine Frage stellt, ihm eine Aufgabe gibt oder es auf ein Problem ansetzt. Dieser Jemand sind immer noch Sie.
Stellen Sie es sich weniger als eine Superintelligenz vor, die kommt, um die Macht zu übernehmen, und eher so, als hätten Sie plötzlich Zugriff auf einen Forschungsstab von der Grösse einer Stadt: zu jeder Stunde verfügbar, fähig, vor dem Frühstück alles zu lesen, was je zu einem Thema geschrieben wurde, und bereit, geduldig hundert Sackgassen abzulaufen, bevor er den einen Weg findet, der funktioniert. Die Intelligenz ist gewaltig. Die Richtung kommt nach wie vor von einem Menschen.
Genau diese Unterscheidung übersehen das Angstlager und das Begeisterungslager gleichermassen. Die Werkzeuge, die gebaut werden, sind keine autonomen Akteure, die eigene Ziele verfolgen. Sie sind ausserordentlich leistungsfähige Instrumente.
Der Unterschied zwischen einem Skalpell und einer Bohrmaschine ist real und wichtig, aber keines von beiden entscheidet, woran es arbeitet. Das entscheidet der Mensch, der es in der Hand hält.
Was sich verändert, ist die Obergrenze dessen, was erreichbar wird. Und diese Obergrenze, so Amodei, liegt viel höher, als sich fast irgendjemand derzeit vorzustellen bereit ist.
Das komprimierte 21. Jahrhundert
Der Teil von Amodeis Essay, der einem nachgeht, ist seine Behandlung von Biologie und Medizin. Er stellt eine Behauptung auf, die beim ersten Lesen masslos klingt und umso plausibler wird, je länger man über sie nachdenkt.
Sein Argument lautet, dass KI-gestützte biologische Forschung ungefähr 50 bis 100 Jahre medizinischen Fortschritts auf 5 bis 10 Jahre verdichten könnte. Er gibt dem einen Namen: das komprimierte 21. JahrhundertDefinition von Mechane: Dario Amodeis Begriff für die Hypothese, dass KI 50–100 Jahre medizinischen Fortschritts in ein einziges Jahrzehnt komprimieren könnte, indem sie das Tempo biologischer Entdeckungen beschleunigt. Der Link öffnet den ganzen Glossareintrag..
Bedenken Sie, was das 20. Jahrhundert erreicht hat. Impfstoffe gegen Krankheiten, an denen Menschen seit Jahrtausenden gestorben waren. Antibiotika, die bis dahin tödliche Infektionen in Unannehmlichkeiten verwandelten. Die Kartierung des gesamten menschlichen Genoms. Behandlungen für Leiden, die einst als unbehandelbar galten. In weiten Teilen der Welt hat sich die Lebenserwartung im Lauf eines Jahrhunderts ungefähr verdoppelt.
Und nun bedenken Sie, was noch nicht getan ist. Die meisten Krebsarten werden noch immer unzureichend behandelt. Alzheimer ist auf der Ebene der Mechanismen noch immer schlecht verstanden. Das Altern selbst bleibt im Wesentlichen unbehandelt; es gilt als unvermeidlich und nicht als biologischer Prozess, den man verlangsamen oder verändern könnte. War das 20. Jahrhundert ein Jahrhundert aussergewöhnlichen Fortschritts, so sollte das 21. diese Arbeit fortsetzen, langsam, Jahr für Jahr, Förderzyklus um Förderzyklus, klinische Studie um klinische Studie.
Die Idee der Verdichtung fragt: Was, wenn wir nicht so lange warten müssten?
Amodei ist hier vorsichtig. Er behauptet nicht, KI vollbringe Zauberei. Die Biologie hat harte physikalische Grenzen. Zellen wachsen in ihrem eigenen Tempo. Manche Experimente dauern einfach so lange, wie sie dauern, und keine noch so grosse Intelligenz kann daran etwas ändern. Aber ein überraschend grosser Teil der wichtigsten biologischen Entdeckungen der Geschichte, so hält er fest, stammt von einer sehr kleinen Zahl ungewöhnlich kreativer Forschender, und viele dieser Entdeckungen hätten Jahre oder sogar Jahrzehnte früher gemacht werden können.
Liesse sich das Tempo dieser grundlegenden Entdeckungen spürbar beschleunigen, wären die Folgewirkungen atemberaubend. Die Medikamente, die wir entwickeln würden. Die Krankheiten, die wir behandeln lernten. Die Jahre gesunden Lebens, die Menschen offenstehen könnten, die heute nicht mit ihnen rechnen würden.
Warum morgen nicht alles anders sein wird
Die SingularitätDefinition von Mechane: Der theoretische Moment, in dem KI so leistungsfähig wird, dass sich der technologische Wandel über das menschliche Begreifen hinaus beschleunigt — und die Welt, wie wir sie kennen, über Nacht endet. Der Link öffnet den ganzen Glossareintrag., wie man sie sich gewöhnlich vorstellt, ist ein Ereignishorizont: ein Moment, in dem KI so leistungsfähig wird, dass sich der Wandel über das menschliche Begreifen hinaus beschleunigt und die Welt über Nacht nicht wiederzuerkennen ist. Das ist eine packende Geschichte. Nach der hier vertretenen, wohlerwogenen Ansicht ist es aber auch nicht die Art, wie die Dinge tatsächlich funktionieren.
Grosse technologische Übergänge geschehen nicht über Nacht. Sie vollziehen sich über Jahre und Jahrzehnte, ungleichmässig, mit unerwarteten Engpässen und überraschenden Widerständen. Die Elektrizität war jahrzehntelang eine funktionierende Technologie, bevor die meisten Haushalte Strom hatten. Das Internet stand Forschenden schon in den 1970er-Jahren zur Verfügung. Antibiotika brauchten auch nach ihrer Entdeckung Jahre bis zum breiten Einsatz, und ihre Wirkung auf die Sterblichkeit entfaltete sich über eine Generation.
Dass eine Technologie bereit ist, heisst nicht, dass sie eingesetzt wird, und dass sie eingesetzt wird, heisst noch nicht, dass sie etwas bewirkt.
Physische Experimente dauern so lange, wie sie dauern. Regulierungssysteme bewegen sich im Tempo von Regulierungssystemen, im Guten wie im Schlechten. Menschliche Gewohnheiten und Institutionen erneuern sich nicht im Rhythmus von Software-Releases. All das bremst die Geschwindigkeit des Wandels.
Die ehrliche Antwort auf die Frage «Wann wird KI alles verändern?» lautet: Sie hat bereits damit begonnen, sie wird es noch jahrzehntelang tun, und viele der wichtigsten Veränderungen werden solche sein, die niemand vorher klar vorausgesagt hat.
Fortschritt, der alle erreicht
Ein Abschnitt in Amodeis Essay bekommt weniger Aufmerksamkeit, als er verdient. Es ist sein Argument zu globaler Armut und wirtschaftlicher Entwicklung, und es könnte das Wichtigste sein, was er schreibt.
Die Geschichte der grossen technologischen Fortschritte ist, grob gesagt, keine Geschichte von Vorteilen, die allen gleichermassen zufliessen. Wer als Erster von neuen medizinischen Behandlungen, neuer Infrastruktur oder neuen Produktionswerkzeugen profitiert, hat in der Regel bereits verlässlichen Zugang zu den Systemen, die sie verteilen.
Die Kluft zwischen einem gut ausgestatteten und einem schlecht ausgestatteten Land schliesst sich nicht automatisch, wenn eine neue Technologie auftaucht. Oft wird sie zuerst grösser.
KI hat das Potenzial, hier wirklich anders zu sein.
Zu den wertvollsten Dingen, die KI beschleunigen kann, gehören die Diagnose und Behandlung von Krankheiten, die Agrarwissenschaft, der Zugang zu Bildung und die Möglichkeit, Menschen praktische Rechts- und Finanzberatung zu geben, die nie Zugang dazu hatten.
Das ist strukturell etwas anderes, als Eisenbahnen zu bauen oder Chirurginnen auszubilden. Die Grenzkosten, ein leistungsfähiges KI-Werkzeug einer weiteren Person zugänglich zu machen, gehen gegen null. Das garantiert keinen gleichen Zugang, denn die Verteilung hat immer ihre eigene Ökonomie, ihre eigene Politik und ihre eigenen Herausforderungen an die Infrastruktur. Aber die Obergrenze dafür, wie weit sich Fortschritt ausbreiten könnte, liegt höher als bei jeder früheren technologischen Welle in der Geschichte.
Wenn sich das auch nur teilweise bewahrheitet, liegt der folgenreichste Beitrag der KI zum 21. Jahrhundert vielleicht nicht in dem, was sie in den bestausgestatteten Forschungslabors der Welt leistet. Er liegt vielleicht in dem, was sie für die zwei Milliarden Menschen tut, die heute keinen verlässlichen Zugang zu dem haben, was diese Labors am Ende hervorbringen.
Der ehrliche Vorbehalt
Amodei schliesst seinen Essay mit dem Hinweis, dass nichts davon garantiert ist. Die gute Zukunft, die er beschreibt, hängt davon ab, die Risiken richtig zu handhaben, die Ausrichtung der KIDefinition von Mechane: Das Problem, sicherzustellen, dass ein KI-System verlässlich verfolgt, was seine Entwickler tatsächlich beabsichtigt haben — und nicht ein leicht abweichendes Ziel, das ähnlich aussieht, bis es das nicht mehr tut. Der Link öffnet den ganzen Glossareintrag. an menschlichen Werten zu sichern und bewusste Entscheidungen zu treffen, statt schlafwandelnd in etwas hineinzugeraten, das niemand beabsichtigt hat.
Mechane hält die Risiken nicht für eingebildet. Sie sind real. Aber Angst allein ist kein Plan. Sie zeigt auf das, was schiefgehen könnte, ohne Ihnen irgendeinen Halt dafür zu geben, worauf Sie hinarbeiten sollen.
Das komprimierte 21. Jahrhundert ist es wert, dass man versucht, es richtig hinzubekommen. Die Demokratisierung von Wissen und Fähigkeiten ist es wert, sorgfältig aufgebaut zu werden.
Fortschritt, der alle erreicht und nicht nur die Glücklichen, sollte man ausdrücklich gestalten, statt zu hoffen, dass er zufällig geschieht.
Es sind immer noch die Menschen, die die Fragen stellen. Das Land voller Genies im Rechenzentrum wartet darauf, eine Richtung zu bekommen.
Dieser Artikel dient der Information und Bildung. Die geäusserten Ansichten stützen sich auf öffentlich zugängliche Forschung und auf die Argumente des genannten Essays. Vorhersagen über die Zeitpläne und Fähigkeiten der KI-Entwicklung sind mit erheblicher Unsicherheit behaftet. Nichts hier sollte als endgültige Prognose darüber gelesen werden, wie sich KI entwickeln oder was sie erreichen wird.
