🧠 Pesquisadores sondam o cérebro de uma IA e manipulam sua resposta

Pesquisadores conseguiram fazer uma IA mudar sua resposta sem mexer na pergunta que recebeu.

A experiência começa com um cálculo: −2 + 3 × −4. Normalmente, a IA deve responder −14. No entanto, os pesquisadores obtêm −34, como se o 3 tivesse sido substituído por um 8. E não foi a pergunta que eles modificaram: intervieram diretamente no «cérebro» da IA.

Como isso é possível? Quando uma inteligência artificial lê uma frase ou um cálculo, transforma palavras e números em valores numéricos. Esses valores circulam então por sua rede para preparar a resposta. O problema é que continua difícil saber precisamente qual informação se esconde nesse conjunto de números.

Os pesquisadores desenvolveram então um método chamado DISCOVER. Ele permite que encontrem parte da organização dessas informações. Eles conseguem, por exemplo, distinguir um elemento de seu papel em uma frase ou em um cálculo. Em «o gato persegue o cão», por exemplo, o gato é quem persegue, não quem é perseguido.

Depois de identificar essa organização, eles tentaram modificar alguns de seus elementos. No cálculo, substituíram a representação do número 3 pela do número 8. A IA forneceu então o resultado correspondente a essa nova operação, embora tivesse recebido o texto original.

A mesma abordagem funciona com frases. Os pesquisadores podem, por exemplo, transferir um adjetivo de um personagem para outro. A IA se comporta então como se tivesse lido uma frase diferente. Esses testes mostram que ela não conserva apenas as palavras: também parece guardar um registro de suas relações.

Os pesquisadores testaram 31 tipos de modificações no modelo GPT-OSS, com exercícios de cálculo, lógica, programação e linguagem. As respostas mudaram como previsto em 90,3 % dos casos, em média. Esse resultado indica que o método identifica uma parte útil do funcionamento interno do modelo.

Ainda há muito a compreender. Essas experiências envolvem tarefas bem definidas e não permitem ler todos os «pensamentos» de uma IA. O estudo ainda é uma pré-publicação científica. Os pesquisadores querem descobrir agora se esse método também ajudará a compreender os erros dos modelos.