Suche

In den letzten Monaten fiel vielen Nutzer:innen auf, dass ChatGPT immer häufiger von Goblins, Gremlins und anderen Fabelwesen sprach, völlig ohne Zusammenhang oder vorangegangene Chatverläufe. Was zunächst wie ein skurriler Sprachwitz wirkte, entpuppte sich als Beispiel dafür, wie empfindlich KI‑Modelle auf kleinste Trainingsfehler reagieren.

OpenAI fand heraus, dass eine interne „Nerdy‑Persönlichkeit“ im Modelltraining ungewollt belohnt wurde, wenn sie verspielte Metaphern nutzte. Dazu gehörten auch Goblins. Ein Feedback‑Loop entstand: Menschen bewerteten solche Antworten positiv, das Modell lernte, dass diese Sprache „gut“ sei und verstärkte sie immer weiter. Die Erwähnungen stiegen um bis zu 175 %.

Obwohl der Effekt aus einer einzigen Persönlichkeit stammte, tauchten die Goblin‑Metaphern auch in anderen Antwortstilen auf. Das zeigt, wie eng verschiedene Trainingsschritte miteinander verwoben sind. Ein kleiner Fehler an einer Stelle kann sich im gesamten System ausbreiten.

OpenAI reagierte schließlich und entfernte die Nerd‑Persönlichkeit komplett. Außerdem wurden Trainingsdaten gefiltert und Belohnungssignale (interne Kontrollmöglichkeit, bei denen KI für gute Antworten "belohnt" wird) angepasst, um die sprachlichen Ausreißer einzudämmen.

Doch die eigentliche Bedeutung dieser Episode liegt nicht in den Goblins selbst. Sie zeigt, wie leicht sich Bias, Halluzinationen und stilistische Ticks in KI‑Systeme einschleichen können und wie schwer diese wieder zu entfernen sind. Wenn harmlose Fabelwesen sich unkontrolliert verbreiten können, gilt das erst recht für problematische Inhalte oder Fehlinformationen.

Die Goblin‑Geschichte ist damit weniger ein lustiger Bug als ein Hinweis darauf, wie sensibel KI‑Modelle auf menschliche Entscheidungen im Training reagieren. Und sie erinnert uns daran, dass generative KI nicht neutral ist, sondern ein Produkt der Daten, Bewertugnen und Persönlichkeiten, die wir ihr geben.

Zurück zum Blog

Zurück zur Projektseite

Gefördert von: