Ein Basismodell (Foundation Model) ist ein einzelnes grosses Modell, das auf einer riesigen und vielfältigen Menge an Material trainiert wurde und als Ausgangspunkt für vielerlei Zwecke dienen soll, nicht als fertiges Werkzeug. Der Name ist bewusst gewählt: Das Modell soll die Basis sein, auf der viele spezifischere Anwendungen aufbauen. Dasselbe zugrunde liegende Modell kann einen Chatbot, einen Programmierassistenten und ein Werkzeug zum Zusammenfassen antreiben, jedes davon ein spezialisiertes Stockwerk auf derselben breiten Basis.
Was die Idee so wirkungsvoll macht, ist ihre Allgemeinheit. Weil das Modell während seines Vortrainings so viel aufgenommen hat, bringt es eine breite Palette latenter Fähigkeiten mit, die nie ausdrücklich programmiert wurden und die sich anschliessend durch Feinabstimmung oder sorgfältiges Prompting hervorholen und schärfen lassen. Das ist ein echter Bruch mit älterer Software, die für jede Aufgabe eigens gebaut werden musste. Ein Basismodell gleicht eher einem breit gebildeten Hochschulabsolventen als einer Spezialmaschine.
Genau diese Breite ist auch der Grund zur Sorge. Was ein Basismodell aufnimmt, einschliesslich der Lücken, Verzerrungen und Fehler in seinem Trainingsmaterial, wird zum ererbten Fundament für alles, was darauf aufbaut. Ein Fehler an der Basis kann sich unbemerkt in Hunderte nachgelagerter Anwendungen fortpflanzen, und weil inzwischen so viel auf einer Handvoll solcher Modelle ruht, prägen am Ende wenige Gestaltungsentscheidungen einen grossen Teil dessen, was Menschen begegnet. Die Konzentration so vieler Fähigkeiten an so wenigen Orten ist eine der offenen Debatten darüber, wohin sich diese Technologie entwickelt.
Wenn Sie eine menschliche Analogie suchen: Stellen Sie sich ein Basismodell als breite Allgemeinbildung vor statt als einzelne Fertigkeit. Jahre des weiten, ungerichteten Lernens geben einem Menschen eine Grundlage, von der aus er sich später in unzählige Richtungen spezialisieren kann, als Ärztin, als Lehrer, als Handwerker. Die Stärke liegt in der Bandbreite dessen, was von einem gemeinsamen Ausgangspunkt aus möglich wird. Die Schwäche liegt darin, dass alles, was in diesem frühen Fundament fehlte oder falsch war, Ihnen meist folgt, leise, in alles, was Sie darauf aufbauen.
