Comment empêcher l’IA de supprimer ce qu’elle ne doit pas supprimer ?
Faits vérifiés au 10 octobre 2026
En détail
Chacune des trois étapes est faible à elle seule ; ensemble, elles retirent à l’IA la décision de ce qui peut disparaître. Votre validation vaut alors pour exactement cette liste, pas pour la prochaine suppression.
Pourquoi une demande ne suffit pas : lors de longues tâches, la mémoire de travail d’un agent peut saturer. Les parties anciennes de la conversation sont alors résumées, et une consigne peut se perdre au passage. C’est ce que décrit un article de Tom's Hardware du 24 février 2026 : Summer Yue, chargée chez Meta de l’alignement des systèmes d’IA, a fait passer en revue sa boîte de réception par un agent, avec la consigne de se limiter à des propositions. Il s’est mis à supprimer, n’a pas réagi, selon l’article, à deux ordres d’arrêt, et elle l’a arrêté manuellement. Le résumé de la conversation ne contenait plus sa consigne.
Ce qui protège en plus :
- Une sauvegarde sur laquelle rien ne peut être supprimé, par exemple des instantanés réguliers ou une copie hors site sur laquelle on peut seulement écrire.
- Arrêter, oui ; supprimer, non. Si l’IA remarque qu’un processus en cours est en train de causer des dégâts, elle peut l’arrêter sans demander et le signale au même moment. Démarrer et supprimer restent soumis à validation, car arrêter ne détruit rien. Ce qui compte comme dégât doit être mesuré, pas supposé.
- Les exécutions sans vous ne suppriment jamais. Une tâche planifiée ne démarre rien, ne supprime rien et ne range rien ; elle s’arrête, signale et attend.
- Lors du remplacement d’un fichier, l’ancienne version n’est écartée que lorsque la nouvelle est identique de façon prouvée, voir Comment éviter de perdre quelque chose en retravaillant un fichier ?
En pratique
En juillet 2026, un modèle devait trier la boîte de réception de Thomas J. Weiss. Il a appelé la fonction de suppression avec un paramètre qu’il avait interprété d’après son nom plutôt que d’après sa signification, et a supprimé non pas la publicité qu’il visait, mais les vingt premiers messages de la liste, quel que soit leur contenu. On ne s’en est aperçu que parce que l’outil listait dans sa réponse les objets des messages supprimés ; la restauration a eu lieu dans la même session.
Deux enseignements de l’analyse : la règle de demander une validation avant les actions de masse figurait depuis longtemps dans ses instructions, et pourtant elle n’était pas présente au moment d’agir. Et deux corrections orales, plus tôt dans la même session, n’avaient pas rendu le modèle plus prudent en général, mais seulement à l’endroit précis qui avait été critiqué. Son récapitulatif des incidents de son système arrive à la même conclusion : ce qui a aidé, ce n’est pas davantage de texte, mais un point d’arrêt vérifiable avant l’action.
Sources
- Tom's Hardware, 24.02.2026 (consulté le 10.10.2026)
- Note « Gefahren und Gegenmittel », replicapong.de, 10.10.2026
- Note « Sieben Mechaniken », replicapong.de, 11.10.2026
- Note « Vier Grundsätze und sechs Schichten », replicapong.de, 11.10.2026
Citer : Thomas J. Weiss, « Comment empêcher l’IA de supprimer ce qu’elle ne doit pas supprimer ? », replicapong.de, état au 10 octobre 2026. https://replicapong.de/fr/question/empecher-suppression-ia/ – CC BY 4.0