Unos investigadores han conseguido cambiar la respuesta de una IA sin tocar la pregunta que había recibido.
El experimento comienza con un cálculo: −2 + 3 × −4. Normalmente, la IA debe responder −14. Sin embargo, los investigadores obtienen −34, como si el 3 hubiera sido sustituido por un 8. Y no han modificado la pregunta: han intervenido directamente en el «cerebro» de la IA.
¿Cómo es posible? Cuando una inteligencia artificial lee una frase o un cálculo, transforma las palabras y los números en valores numéricos. Estos valores circulan después por su red para preparar la respuesta. El problema es que sigue siendo difícil saber con precisión qué información se esconde en ese conjunto de números.
Por eso, los investigadores han desarrollado un método llamado DISCOVER. Les permite recuperar parte de la organización de esa información. En particular, pueden distinguir un elemento de su función en una frase o un cálculo. Por ejemplo, en «el gato persigue al perro», el gato es quien persigue, no quien es perseguido.
Una vez identificada esa organización, intentaron modificar algunos elementos. En el cálculo, sustituyeron la representación del número 3 por la del número 8. Entonces, la IA proporcionó el resultado correspondiente a esta nueva operación, aunque había recibido el texto original.
El mismo enfoque funciona con frases. Por ejemplo, los investigadores pueden hacer que un adjetivo pase de un personaje a otro. La IA se comporta entonces como si hubiera leído una frase diferente. Estas pruebas muestran que no conserva solo las palabras: también parece guardar un registro de sus relaciones.
Los investigadores probaron 31 tipos de modificaciones en el modelo GPT-OSS, con ejercicios de cálculo, lógica, programación y lenguaje. Las respuestas cambiaron como estaba previsto en el 90,3 % de los casos, de media. Este resultado indica que el método recupera una parte útil del funcionamiento interno del modelo.
Sin embargo, aún queda mucho por comprender. Estos experimentos se centran en tareas bien definidas y no permiten leer todos los «pensamientos» de una IA. El estudio todavía es una prepublicación científica. Ahora, los investigadores quieren saber si este método también ayudará a comprender los errores de los modelos.