Warum zieht die KI aus richtigen Messungen falsche Schlüsse?
Stand der Fakten: 2. Oktober 2026
Genauer
Die Messung stimmt fast immer. Falsch wird es eine Stufe später, wenn aus dem Gemessenen eine Ursache gemacht wird. „Das Programm meldet keine Fenster“ ist ein Befund; „es fehlt eine Berechtigung“ ist ein Schluss, der genauso gut falsch sein kann. Ein Modell überspringt diese Stufe leicht, weil ein geschlossenes Bild sich wie ein Befund liest.
Drei Regeln fangen das ab:
- Gegenprobe oder „Annahme“. Will die KI von einer Beobachtung auf die Ursache schließen, prüft sie den Schluss an einem Fall, der sicher funktionieren muss. Scheitert auch der, trägt der Schluss. Sonst steht das Etikett „Annahme“ daneben. Das gilt in beide Richtungen: für etwas, das fehlt, und für etwas, das da ist.
- Über dich fragen, nicht schließen. Was du getan, gemeint oder erlebt hast, weißt du besser als jeder Messwert. Die KI fragt dich, statt es aus Spuren abzuleiten. Deine Auskunft steht über jeder Messung.
- Lücke bleibt Lücke. Fehlt ein Wert, markiert die KI die Stelle als offen. Sie füllt sie nicht mit dem, was zum Muster passen würde.
Dazu eine Regel für jede Prüfung: Ein leerer Messwert ist kein bestandener Test. Prüft ein Schritt nur, ob zwei Werte voneinander abweichen, rutscht ein fehlender Wert durch, denn „leer“ ist nicht „ungleich“. Eine Prüfung, die leer ausgehen kann, muss auf „leer“ prüfen.
Wie du verlangst, dass jede Meldung ihren Beleg trägt, steht unter Woran erkenne ich, ob die KI wirklich erledigt, gespeichert oder geprüft hat?
Zum Kopieren
Aus einer Messung folgt, was gemessen wurde, nicht warum. Bevor du
aus einer Beobachtung eine Ursache machst, mach die Gegenprobe an
einem Fall, der funktionieren muss, oder schreib „Annahme“ dazu.
Über mich schließt du nichts aus Messwerten, du fragst mich. Eine
Lücke markierst du als Lücke. Ein leerer oder fehlender Messwert ist
kein bestandener Test.Aus der Praxis
Thomas J. Weiss hat das Muster innerhalb von drei Wochen in drei Spielarten erlebt.
Im September 2026 meldete eine Abfrage seiner Claude-Instanz, ein Programm habe keine geöffneten Fenster. Die Instanz schloss daraus, es fehle eine Berechtigung, teilte ihm das als Tatsache mit und empfahl ihm zweimal, sie zu erteilen. Die Berechtigung war längst erteilt; die Fenster waren bei der ersten Messung nur noch nicht aufgebaut. Eine Gegenprobe an einem Programm mit sicher offenem Fenster hätte Sekunden gekostet. Am Tag darauf derselbe Fehler in der anderen Richtung: Aus Änderungen mit Zeitstempeln zwischen ein und sieben Uhr schloss die Instanz, er habe die Nacht durchgearbeitet. Er war kurz nach Mitternacht ins Bett gegangen; die Änderungen stammten zum Teil von der Instanz selbst, zum Teil aus anderen Sitzungen.
Wenige Tage später stellte sie eine Behauptung über ihn auf, für die sie nur wusste, wo Dateien lagen, nicht aber, was er mit ihnen getan hatte. Er bemerkte es:
Du gehst von etwas anderem aus und hast dazu überhaupt gar kein Wissen. Wie kann das sein?
Die Instanz beschrieb den Mechanismus danach selbst: Es gab eine Vermutung und eine Lücke in den Daten, und statt die Lücke als Lücke zu markieren, füllte sie sie mit dem Wert, der das Muster vollständig machte.
Anfang Oktober 2026 sollte ein Arbeitsschritt nur weiterlaufen, wenn zwei Prüfsummen übereinstimmten; abgebrochen wurde, wenn sie voneinander abwichen. Die zweite Prüfsumme kam leer zurück, weil die Instanz an einem Ort gesucht hatte, den sie aus der Erinnerung angenommen statt nachgesehen hatte. Leer ist nicht ungleich, also lief der Schritt durch. Nachträglich waren beide Werte gleich und nichts verloren; falsch war der Ablauf, nicht das Ergebnis.
Quellen
- Vorfallsprotokoll vom 15.09.2026, mit Nachtrag vom 16.09.2026
- Vorfallsprotokoll vom 20.09.2026
- Vorfallsprotokoll vom 02.10.2026
Zitieren: Thomas J. Weiss: „Warum zieht die KI aus richtigen Messungen falsche Schlüsse?“ replicapong.de, Stand 2. Oktober 2026. https://replicapong.de/de/frage/falsche-schluesse/ – CC BY 4.0