La ricerca sull'interpretabilità cerca di mappare che cosa fa ciascuno strato interno di un modello. Alcuni strati sono ben compresi; altri restano opachi persino per i ricercatori che hanno costruito il modello.