Feinabstimmung (Fine-Tuning) ist das, was geschieht, nachdem der grosse, teure Teil des Trainings abgeschlossen ist. Ein Modell lernt zuerst in der Breite, aus riesigen Mengen allgemeinen Materials, bis es über eine weite, aber unfokussierte Kompetenz verfügt. Die Feinabstimmung nimmt dann dieses bereits fähige Modell und trainiert es mit einer kleineren, spezifischeren Auswahl von Beispielen weiter, um es behutsam in Richtung einer bestimmten Aufgabe, eines Tonfalls oder eines Fachgebiets zu lenken. Es ist der Unterschied zwischen einer guten Allgemeinbildung und einer kurzen Lehrzeit, in der man lernt, wie die Dinge in einem bestimmten Betrieb gemacht werden.
Der Reiz ist vor allem wirtschaftlicher Art. Ein grosses Modell von Grund auf zu trainieren, kostet enorm viel, deshalb tut das kaum jemand zweimal. Stattdessen wird ein breit trainiertes Modell zum Ausgangspunkt für viele spezialisierte Versionen: eine, die darauf feinabgestimmt ist, im Ton eines bestimmten Unternehmens zu schreiben, eine andere, die medizinische Fragen beantwortet, eine weitere, die einem bestimmten Satz von Anweisungen folgt. Die Schwerarbeit wird einmal erledigt; die Feinabstimmung ist der vergleichsweise günstige letzte Schliff.
Sie hat Grenzen, die man kennen sollte. Feinabstimmung verändert das Verhalten eines Modells, gibt ihm aber kein völlig neues Fundament: Ein Modell, das auf juristische Dokumente feinabgestimmt wurde, arbeitet noch immer mit dem, was es in seinem ursprünglichen Training aufgenommen hat, samt Verzerrungen und Lücken. Drängt man es zu stark auf eine enge Auswahl von Beispielen, kann das Modell einen Teil seiner breiteren Fähigkeiten verlieren: Es wird in der neuen Aufgabe gewandt und in allem anderen schlechter. Die Formung ist echt, aber flach im Vergleich zum ursprünglichen Lernen darunter.
Es gibt eine wiedererkennbare menschliche Version davon. Sie verbringen Jahre damit, ein breites Gespür dafür zu erwerben, wie die Welt funktioniert, und dann stimmt eine neue Stelle, eine neue Stadt oder eine neue Beziehung Sie fein ab und passt den Menschen, der Sie im Allgemeinen schon sind, an eine bestimmte Lage an. Das Fundament bleibt; die Oberfläche passt sich an. Und es gilt dieselbe Vorsicht: Wer sich zu eng spezialisiert, kann in einer Sache sehr gut werden und dabei unbemerkt überall sonst an Spannweite verlieren.
