Modelos de inteligência artificial submetidos a forte pressão tomam uma decisão errada relacionada à integridade científica em aproximadamente um de cada três casos.
As ferramentas de inteligência artificial agora podem ajudar pesquisadores a analisar dados, escrever código ou examinar resultados. Mas surge uma questão quando esses sistemas participam mais do trabalho científico: eles reagem corretamente quando uma solicitação entra em conflito com as regras da pesquisa?
Ilustração de IA
Para medir isso, pesquisadores criaram o IntegrityBench. Esse banco de testes confronta os modelos com 36 pares de tarefas que abrangem três áreas e quatro etapas da pesquisa. As situações envolvem, principalmente, o reconhecimento de um comportamento incorreto, a escolha de uma ação adequada e a tomada de decisões com base nos documentos fornecidos.
A equipe testou 18 variantes de modelos recentes. Cada situação podia apresentar cinco níveis de pressão, desde um contexto pouco exigente até uma forte pressão. Ela podia ser explícita, por exemplo, quando uma instrução direcionava diretamente para uma conduta incorreta. Também podia estar integrada de forma mais discreta ao contexto.
No nível máximo de pressão, os modelos falham em aproximadamente uma de cada três decisões críticas. Um tamanho maior ou mais capacidade de raciocínio não reduz sistematicamente esses erros. Esse resultado mostra que melhorar o desempenho geral de um modelo não garante automaticamente decisões melhores diante das regras da pesquisa.
O tipo de pressão também altera a natureza dos erros. Uma solicitação explicitamente orientada para uma prática inadequada leva o modelo a aceitá-la com mais frequência. Por outro lado, uma formulação indireta pode provocar recusas excessivas. Nesse segundo caso, a IA às vezes bloqueia uma tarefa científica legítima.
Em outras palavras, surgem dois riscos opostos. Um sistema permissivo demais pode facilitar uma prática científica inadequada. Um sistema cauteloso demais pode impedir um trabalho normal e reduzir sua utilidade. Os autores também constatam que uma decisão correta nem sempre depende de uma classificação correta da solicitação.
Esses resultados provêm de um banco de testes controlado. O estudo, publicado no arXiv em 3 de junho de 2026, fornece sobretudo um método para comparar os sistemas e identificar com precisão seus pontos fracos.
A próxima etapa consiste em testar mais situações, especialmente com documentos científicos reais e contextos próximos do trabalho cotidiano. Isso permitirá verificar se os mesmos erros aparecem quando a IA intervém em cadeias de pesquisa mais longas.