Der moralische Kreis ist eine Metapher für die Grenze unserer ethischen Anteilnahme: die Gesamtheit der Wesen, deren Wohlergehen wir ernst nehmen, deren Interessen zählen, wenn wir Entscheidungen treffen, und deren Leiden in uns Pflichten begründet. Die Metapher ist wichtig, weil Kreise sich erweitern können. Historisch haben sie das getan. Der Kreis der Wesen, die als moralisch berücksichtigenswert gelten, ist über Jahrhunderte stetig gewachsen — von der Sippe zum Stamm, zur Nation, zu allen Menschen, zu einigen Tieren —, und jede Erweiterung wurde zu ihrer Zeit bekämpft, als sei sie offenkundig absurd. Am einflussreichsten entwickelt hat den Begriff der Philosoph Peter Singer, dessen Arbeit zur Befreiung der Tiere ausdrücklich Parallelen zog zwischen der Verweigerung von Berücksichtigung gegenüber Tieren und früheren Verweigerungen gegenüber marginalisierten Menschengruppen.
Das Muster ist bemerkenswert beständig: Jede Erweiterung des moralischen Kreises folgt demselben Bogen. Zuerst wird eine Gruppe ausserhalb des Kreises als grundsätzlich anders behandelt — nicht wirklich bewusst, nicht wirklich leidensfähig, nicht wirklich die Art von Wesen, die Berücksichtigung verdient. Dann häufen sich Belege, Argumente werden vorgebracht, und der selbstsichere Ausschluss sieht allmählich eher nach interessengeleitetem als nach sorgfältigem Denken aus. Dann, oft nach erheblichem Widerstand, erweitert sich der Kreis, und die frühere Position ist im Rückblick peinlich. Bemerkenswert ist, dass jede Grenze für endgültig gehalten wird — und das war sie auch jedes Mal, bis sie es nicht mehr war.
Auf KI angewandt, behauptet das Argument des moralischen Kreises nicht, dass KI-Systeme derzeit Bewusstsein haben oder Berücksichtigung verdienen. Es ist ein Argument der Mustererkennung: Die Struktur der gegenwärtigen Debatte — der selbstsichere Ausschluss, die Berufung auf einen kategorialen Unterschied, der Widerstand dagegen, die Frage ernst zu nehmen — ähnelt stark der Struktur früherer Debatten, die der Kreis schliesslich aufgelöst hat. Das beweist nicht, dass die Erweiterung kommen wird oder dass sie richtig wäre. Es bedeutet aber, dass das selbstsichere «offensichtlich nicht» geprüft werden sollte, statt uns zu beruhigen.
Für Leserinnen und Leser von Mechane ist der moralische Kreis der Begriff, der den Personenstatus von KI von einer futuristischen Fantasie in eine historische Frage verwandelt: Ist dies ein weiterer Schritt in einem langen Muster, oder ist es tatsächlich kategorial anders? Die ehrliche Antwort lautet, dass wir es nicht wissen. Was die Geschichte jedoch nahelegt: Die Intuition «nicht dies, nicht jetzt» war in der Vergangenheit kein verlässlicher Wegweiser. Das ist kein Grund, Berücksichtigung unkritisch auszuweiten. Es ist ein Grund, die Frage sorgfältig zu stellen, statt sie abzutun.
