Pourquoi l’IA tire-t-elle de fausses conclusions de mesures exactes ?
Faits vérifiés au 2 octobre 2026
En détail
La mesure est presque toujours juste. L’erreur survient un cran plus loin, quand on fait de ce qui a été mesuré une cause. « Le programme ne signale aucune fenêtre » est un constat ; « il manque une permission » est une conclusion qui peut tout aussi bien être fausse. Un modèle saute facilement ce cran, parce qu’un tableau complet se lit comme un constat.
Trois règles permettent de l’intercepter :
- Contre-épreuve ou « hypothèse ». Si l’IA veut conclure d’une observation à une cause, elle teste la conclusion sur un cas qui doit fonctionner à coup sûr. Si celui-ci échoue aussi, la conclusion tient. Sinon, l’étiquette « hypothèse » l’accompagne. Cela vaut dans les deux sens : pour quelque chose qui manque et pour quelque chose qui est là.
- À votre sujet, demander, pas déduire. Ce que vous avez fait, voulu dire ou vécu, vous le savez mieux que n’importe quelle mesure. L’IA vous pose la question au lieu de le déduire de traces. Votre réponse prime sur toute mesure.
- Une lacune reste une lacune. S’il manque une valeur, l’IA marque l’endroit comme ouvert. Elle ne le comble pas avec ce qui irait dans le sens du schéma.
S’y ajoute une règle pour toute vérification : une valeur de mesure vide n’est pas un test réussi. Si une étape vérifie seulement si deux valeurs diffèrent, une valeur manquante passe à travers, car « vide » n’est pas « différent ». Une vérification qui peut revenir vide doit tester le « vide ».
Pour exiger que chaque annonce porte sa preuve, voir Comment savoir si l’IA a vraiment terminé, enregistré ou vérifié ?
À copier
Une mesure dit ce qui a été mesuré, pas pourquoi. Avant de faire d’une
observation une cause, faites la contre-épreuve sur un cas qui doit
fonctionner, ou ajoutez « hypothèse ». À mon sujet, vous ne déduisez rien
de valeurs mesurées, vous me demandez. Une lacune, vous la marquez comme
lacune. Une valeur de mesure vide ou manquante n’est pas un test réussi.En pratique
Thomas J. Weiss a rencontré ce schéma sous trois formes en l’espace de trois semaines.
En septembre 2026, une requête de son instance de Claude a indiqué qu’un programme n’avait aucune fenêtre ouverte. L’instance en a conclu qu’il manquait une permission, le lui a présenté comme un fait et lui a recommandé deux fois de l’accorder. La permission était accordée depuis longtemps ; au moment de la première mesure, les fenêtres n’étaient simplement pas encore affichées. Une contre-épreuve sur un programme dont une fenêtre était à coup sûr ouverte aurait pris quelques secondes. Le lendemain, la même erreur dans l’autre sens : à partir de modifications horodatées entre une heure et sept heures du matin, l’instance a conclu qu’il avait travaillé toute la nuit. Il s’était couché peu après minuit ; les modifications provenaient en partie de l’instance elle-même, en partie d’autres sessions.
Quelques jours plus tard, elle a avancé à son sujet une affirmation pour laquelle elle savait seulement où se trouvaient des fichiers, mais pas ce qu’il en avait fait. Il l’a remarqué :
Tu pars d’autre chose et tu n’en sais absolument rien. Comment est-ce possible ?
(Original: „Du gehst von etwas anderem aus und hast dazu überhaupt gar kein Wissen. Wie kann das sein?“)
L’instance a ensuite décrit elle-même le mécanisme : il y avait une supposition et une lacune dans les données, et au lieu de marquer la lacune comme telle, elle l’avait comblée avec la valeur qui complétait le schéma.
Début octobre 2026, une étape de travail ne devait se poursuivre que si deux sommes de contrôle concordaient ; elle était interrompue si elles différaient. La deuxième somme de contrôle est revenue vide, parce que l’instance avait cherché à un endroit qu’elle avait supposé de mémoire au lieu de vérifier. Vide n’est pas différent : l’étape est donc passée. Vérification faite après coup, les deux valeurs étaient identiques et rien n’était perdu ; c’est la procédure qui était fausse, pas le résultat.
Sources
- Journal d’incident du 15.09.2026, avec complément du 16.09.2026
- Journal d’incident du 20.09.2026
- Journal d’incident du 02.10.2026
Citer : Thomas J. Weiss, « Pourquoi l’IA tire-t-elle de fausses conclusions de mesures exactes ? », replicapong.de, état au 2 octobre 2026. https://replicapong.de/fr/question/conclusions-erronees/ – CC BY 4.0