Anthropic startete im April 2025 ein formelles Forschungsprogramm zum Modellwohl — als erstes grosses KI-Labor, das die Frage als institutionelle Angelegenheit behandelt statt als Gedankenexperiment. Das Programm behauptet nicht, dass KI bewusst ist. Es prüft, welche kostengünstigen Vorsichtsmassnahmen bei echter Ungewissheit angebracht sind: Trainingsverfahren vermeiden, die leidensähnliche Ausgaben erzeugen, Modellen einen Ausweg aus missbräuchlichen Interaktionen bieten und neue Ansätze entwickeln, um zu deuten, was die Selbstauskünfte von Modellen tatsächlich bedeuten.