Wie verhindere ich, dass die KI etwas löscht, was sie nicht soll?
Stand der Fakten: 10. Oktober 2026
Genauer
Jeder der drei Schritte ist für sich schwach; zusammen nehmen sie der KI die Entscheidung ab, was weg darf. Deine Freigabe gilt dabei für genau diese Liste, nicht für das nächste Löschen.
Warum eine Bitte nicht reicht: Bei langen Aufgaben kann das Arbeitsgedächtnis eines Agenten volllaufen. Ältere Teile des Gesprächs werden dann zusammengefasst, und eine Anweisung kann dabei verloren gehen. So beschreibt es ein Bericht von Tom's Hardware vom 24. Februar 2026: Summer Yue, bei Meta für die Ausrichtung von KI-Systemen zuständig, ließ einen Agenten ihren Posteingang durchsehen, mit der Anweisung, nur Vorschläge zu machen. Er begann zu löschen, reagierte laut dem Bericht auf zwei Stoppbefehle nicht, und sie beendete ihn von Hand. In der Zusammenfassung des Gesprächs war ihre Anweisung nicht mehr enthalten.
Was zusätzlich schützt:
- Eine Sicherung, auf der nichts gelöscht werden kann, etwa regelmäßige Schnappschüsse oder eine Kopie außer Haus, auf die nur geschrieben werden darf.
- Anhalten ja, Löschen nein. Bemerkt die KI, dass ein laufender Vorgang gerade Schaden anrichtet, darf sie ihn ohne Rückfrage stoppen und meldet es im selben Moment. Starten und Löschen bleiben freigabepflichtig, denn Stoppen zerstört nichts. Was als Schaden gilt, muss gemessen sein, nicht vermutet.
- Läufe ohne dich löschen nie. Eine geplante Aufgabe startet nichts, löscht nichts und räumt nichts auf; sie hält an, meldet und wartet.
- Beim Ersetzen einer Datei wird die alte Fassung erst verworfen, wenn die neue nachweislich gleich ist, siehe Wie verhindere ich, dass beim Überarbeiten einer Datei etwas verloren geht?
Aus der Praxis
Im Juli 2026 sollte ein Modell den Posteingang von Thomas J. Weiss sortieren. Es rief die Löschfunktion mit einem Parameter auf, den es nach dem Namen gedeutet hatte statt nach der Bedeutung, und löschte nicht die Werbung, die es meinte, sondern die obersten zwanzig Nachrichten, gleich welchen Inhalts. Aufgefallen ist es nur, weil das Werkzeug die gelöschten Betreffzeilen in seiner Antwort auflistete; wiederhergestellt wurde noch in derselben Sitzung.
Zwei Dinge aus der Nachbereitung: Die Regel, vor Massenaktionen eine Freigabe einzuholen, stand längst in seinen Anweisungen und war im Moment des Handelns trotzdem nicht da. Und zwei mündliche Korrekturen früher in derselben Sitzung hatten das Modell nicht allgemein vorsichtiger gemacht, sondern nur an der jeweils bemängelten Stelle. Seine Übersicht über die Vorfälle in seinem System kommt zum selben Schluss: Geholfen hat nicht mehr Text, sondern ein prüfbarer Halt vor der Handlung.
Quellen
- Tom's Hardware, 24.02.2026 (abgerufen 10.10.2026)
- Notiz „Gefahren und Gegenmittel“, replicapong.de, 10.10.2026
- Notiz „Sieben Mechaniken“, replicapong.de, 11.10.2026
- Notiz „Vier Grundsätze und sechs Schichten“, replicapong.de, 11.10.2026
Zitieren: Thomas J. Weiss: „Wie verhindere ich, dass die KI etwas löscht, was sie nicht soll?“ replicapong.de, Stand 10. Oktober 2026. https://replicapong.de/de/frage/loeschen/ – CC BY 4.0