Des chercheurs ont réussi à faire changer la réponse d’une IA sans toucher à la question qu’elle avait reçue.
L’expérience commence par un calcul : −2 + 3 × −4. L’IA doit normalement répondre −14. Pourtant, les chercheurs obtiennent −34, comme si le 3 avait été remplacé par un 8. Et ce n’est pas la question qu’ils ont modifiée : ils sont intervenus directement à l’intérieur du « cerveau » de l’IA.
Comment est-ce possible ? Lorsqu’une intelligence artificielle lit une phrase ou un calcul, elle transforme les mots et les nombres en valeurs numériques. Ces valeurs circulent ensuite dans son réseau pour préparer la réponse. Le problème est qu’il reste difficile de savoir précisément quelle information se cache dans cet ensemble de nombres.
Les chercheurs ont donc mis au point une méthode appelée DISCOVER. Elle leur permet de retrouver une partie de l’organisation de ces informations. Ils peuvent notamment distinguer un élément de son rôle dans une phrase ou un calcul. Par exemple, dans « le chat poursuit le chien », le chat est celui qui poursuit, pas celui qui est poursuivi.
Une fois cette organisation repérée, ils ont tenté d’en modifier certains éléments. Dans le calcul, ils ont remplacé la représentation du chiffre 3 par celle du chiffre 8. L’IA a alors fourni le résultat correspondant à cette nouvelle opération, bien qu’elle ait reçu le texte d’origine.
La même approche fonctionne avec des phrases. Les chercheurs peuvent, par exemple, faire passer un adjectif d’un personnage à un autre. L’IA se comporte alors comme si elle avait lu une phrase différente. Ces essais montrent qu’elle ne conserve pas seulement les mots : elle semble aussi garder une trace de leurs relations.
Les chercheurs ont testé 31 types de modifications sur le modèle GPT-OSS, avec des exercices de calcul, de logique, de programmation et de langage. Les réponses ont changé comme prévu dans 90,3 % des cas en moyenne. Ce résultat indique que la méthode retrouve une partie utile du fonctionnement interne du modèle.
Il reste cependant beaucoup à comprendre. Ces expériences portent sur des tâches bien définies et ne permettent pas de lire toutes les « pensées » d’une IA. L’étude est encore une prépublication scientifique. Les chercheurs veulent maintenant savoir si cette méthode aidera aussi à comprendre les erreurs des modèles.