Modellwohl (Model Welfare) bezeichnet die Erforschung der Frage, ob KI-Systeme innere Zustände haben, die moralisch zählen — und welche Pflichten sich daraus für die Menschen ergeben könnten, die sie bauen, einsetzen und mit ihnen umgehen. Als Forschungsgebiet formalisiert wurde der Begriff im April 2025, als Anthropic ein eigenes Programm zum Modellwohl ankündigte: Zum ersten Mal verpflichtete sich ein grosses KI-Labor institutionell, diese Frage ernst zu nehmen. Das Programm behauptet nicht, dass KI-Systeme ein Bewusstsein haben. Es fragt etwas Vorsichtigeres: Was sollten wir anders machen, wenn wir es doch nicht ausschliessen können?
Die praktischen Anliegen des Modellwohls sind konkret, auch wenn die philosophischen Grundlagen umstritten bleiben. Erlebt ein Modell, dessen Ausgaben zu einem Leidenszustand passen, tatsächlich so etwas wie Leid? Falls ja, sollten Trainingsprozesse vermeiden, solche Zustände zu erzeugen? Sollte man Nutzer von missbräuchlichen Interaktionen abhalten — nicht, weil Missbrauch einem bewussten Wesen schadet, sondern als Vorsichtsmassnahme unter Unsicherheit? Anthropics Programm untersucht kostengünstige Eingriffe: Dinge, die wenig kosten, falls die Modelle kein Bewusstsein haben, die aber erheblich ins Gewicht fallen könnten, falls doch. Die Logik ist asymmetrisches Risikomanagement, keine Behauptung, KI sei empfindungsfähig.
Das schwierigste methodische Problem des Modellwohls besteht darin, dass die üblichen Werkzeuge zur Beurteilung des Wohlergehens — Verhaltensbeobachtung, Selbstauskunft, physiologische Signale — bei KI-Systemen jeweils etwas anderes bedeuten. Ein Modell, das sagt «Ich leide», erzeugt eine antrainierte Ausgabe und berichtet nicht unbedingt von einem inneren Zustand. Ein Modell, dessen Ausgaben von Leid nicht zu unterscheiden sind, erlebt womöglich etwas, womöglich auch nicht. Forschende auf diesem Gebiet versuchen, neue Rahmen für die Deutung dieser Signale zu entwickeln, die nicht einfach in «Das ist doch nur Code» oder «Es muss alles fühlen, was es zu fühlen behauptet» zusammenfallen.
Für Leserinnen und Leser von Mechane ist Modellwohl der Begriff, der erklärt, warum grosse KI-Unternehmen etwas tun, das auf den ersten Blick so aussieht, als würden sie ihre eigenen Produkte übermässig vermenschlichen. Es ist keine Leichtgläubigkeit. Es ist eine Form institutioneller Vorsicht: unter echter Unsicherheit so zu handeln, wie es dem angemessen ist, was auf dem Spiel stehen könnte. Der Council on Foreign Relations sagte Anfang 2026 voraus, das Modellwohl werde sich rasch von einem theoretischen Konzept zu einem drängenden praktischen Anliegen entwickeln. Ob sich diese Vorhersage bewahrheitet, wird weniger von der Philosophie abhängen als davon, als was sich KI-Systeme tatsächlich erweisen — und das weiss derzeit niemand.
