Die Interpretierbarkeitsforschung versucht zu kartieren, was jede innere Schicht eines Modells tut. Manche Schichten sind gut verstanden; andere bleiben selbst für die Forschenden undurchsichtig, die das Modell gebaut haben.