Woran erkenne ich erfundene Quellen und Fakten?
Stand der Fakten: 10. Oktober 2026
Genauer
Wie häufig das vorkommt, zeigt eine öffentliche Datenbank von Gerichtsverfahren, in denen Fundstellen auftauchten, die ein Modell erfunden hatte: 2.184 Fälle weltweit, elf davon in Deutschland (abgerufen am 10.10.2026). Das sind nur die Fälle, die vor Gericht aufgeflogen sind.
Drei Gewohnheiten helfen:
- Schritt für Schritt. Nimm nicht am Ende ein fertiges Ergebnis entgegen, sondern sieh jeden Zwischenschritt, bevor der nächste beginnt.
- Belege verlangen. Zu jeder Tatsachenbehauptung gehört eine Quelle, die sich öffnen lässt – oder das Etikett „Annahme“. Dann ist eine Lücke als Lücke sichtbar, statt mit dem Plausiblen gefüllt zu werden.
- Selbst öffnen. Ein erfundener Beleg steht oft mitten zwischen echten, in derselben Liste und in derselben Form. An der Liste erkennst du ihn nicht, erst am Original.
Eine Gegenprüfung durch eine zweite KI findet manches, was die erste übersieht. Das Öffnen der Quelle ersetzt sie nicht: Auch eine Prüfung kann falsch angelegt sein, und auch eine Korrektur der KI kann erfunden sein. Den passenden Satz für deine Aufträge findest du unter Woran erkenne ich, ob die KI wirklich erledigt, gespeichert oder geprüft hat?
Aus der Praxis
Im Oktober 2026 hat ein Modell beim Faktencheck eines Vortrags zwei Preisangaben von Thomas J. Weiss „korrigiert“. Die Korrektur war selbst falsch, weil sie netto und brutto verwechselte. Sie klang geprüft. Geprüft wurde sie erst, als jemand die Preisseite im eigenen Konto aufrief – er hatte recht gehabt.
Schon im August 2026, beim Schreiben eines Theaterstücks für seine Gemeinde, hatte ein anderes Modell eine Quelle genannt, die sich nicht auffinden ließ, unmittelbar neben zwei belegbaren. Die Chronik des Projekts führt das seitdem unter dem, was nicht funktioniert: ein erfundener Beleg zwischen echten, in derselben Form.
Quellen
- AI Hallucination Cases Database von Damien Charlotin (abgerufen 10.10.2026)
- Notiz „Gefahren und Gegenmittel“, replicapong.de, 10.10.2026
- Prompt „Nichts behaupten, was du nicht geprüft hast“, replicapong.de, 10.10.2026
- Chronik eines Theaterprojekts, Eintrag vom 26.08.2026
Zitieren: Thomas J. Weiss: „Woran erkenne ich erfundene Quellen und Fakten?“ replicapong.de, Stand 10. Oktober 2026. https://replicapong.de/de/frage/erfundene-quellen/ – CC BY 4.0