Was ist ein LLM – und warum klingt ChatGPT manchmal überzeugend falsch?
Sprachmodelle wie ChatGPT sagen das wahrscheinlichste nächste Wort voraus. Das erklärt ihre Stärke – und warum sie überzeugend Unsinn erzählen können.
Kurz gesagt: ChatGPT & Co. sind „Sprachmodelle” (LLMs): Sie sagen Wort für Wort das wahrscheinlich passendste nächste Wort voraus. Das macht sie erstaunlich gut – und erklärt zugleich ihre gefährlichste Schwäche.
Wie ein LLM „denkt”
Ein LLM hat enorm viel Text gelesen und dabei Muster gelernt. Wenn du etwas fragst, ruft es kein Wissen ab – es schreibt plausibel weiter, Wort für Wort. Erstaunlich oft trifft das ins Schwarze.
Warum es überzeugend falsch liegen kann
Genau hier liegt der Haken: Ein LLM optimiert auf „klingt richtig”, nicht auf „ist richtig”. Es hat kein eingebautes Wahr/Falsch. Wenn es etwas nicht weiß, erfindet es eine plausibel klingende Antwort – inklusive Zahlen, Zitaten und sogar Quellen. Das nennt man Halluzination.
Wann Halluzinationen besonders wahrscheinlich sind
- Bei Fakten, Zahlen, Daten
- Bei Zitaten und Quellenangaben
- Bei Nischen- oder Spezialwissen
- Bei aktuellen Ereignissen
So schützt du dich
- Bei allem Wichtigen: gegenprüfen.
- Nach Quellen fragen – und die Quellen selbst öffnen.
- Für Faktenfragen Tools mit Websuche nutzen (aber Links prüfen).
Der eine Satz, der alles erklärt: Ein LLM ist ein Wortvorhersager, kein Faktenspeicher. Wer das verinnerlicht, nutzt KI souverän – und fällt nicht auf selbstbewusst vorgetragenen Unsinn herein.
In einem Satz
KI klingt immer überzeugend – ob sie recht hat, musst du selbst sicherstellen.
Welche KI-Frage hält dich gerade auf?
Schreib mir kurz – ich lese alles und antworte persönlich. Kein Verteiler, kein Newsletter.