Os grandes modelos de linguagem parecem distribuir determinadas tarefas entre grupos distintos de neurônios artificiais, de uma maneira que lembra a organização do cérebro humano.
Para compreender esse resultado, é preciso olhar sob o capô dos sistemas de inteligência artificial. Um grande modelo de linguagem contém muitos elementos de cálculo chamados neurônios artificiais. Eles transformam gradualmente as informações recebidas para produzir uma resposta. Os pesquisadores procuraram saber se todos participavam indistintamente das mesmas tarefas.
A equipe analisou 46 tarefas distribuídas em quatro famílias. Algumas diziam respeito à linguagem; outras, ao raciocínio formal, às relações sociais ou à compreensão do mundo físico. Em seguida, os cientistas identificaram quais neurônios artificiais atuavam mais em cada atividade.
Surgiu um padrão claro. Duas tarefas pertencentes à mesma família mobilizavam mais neurônios em comum. Em contrapartida, atividades de áreas diferentes envolviam com mais frequência grupos distintos. Essa separação forma o que os pesquisadores chamam de organização modular.
A relação com o cérebro vem daí. Nos seres humanos, várias redes cerebrais são mais solicitadas dependendo da atividade realizada. O processamento da linguagem, portanto, não depende exatamente das mesmas redes que algumas formas de raciocínio social. O estudo encontrou uma separação comparável nos modelos testados, apesar de seu funcionamento ser muito diferente.
Os autores também constataram que as tarefas associadas à mesma rede nos seres humanos tendem a compartilhar mais neurônios nos modelos.
Esse resultado interessa aos pesquisadores por outro motivo. Os modelos estudados não foram construídos com a atribuição deliberada de uma área para a linguagem e outra para a física. Essa especialização surge durante o treinamento. Ela poderia, portanto, ser uma maneira eficiente de organizar o processamento de tarefas diferentes.
O estudo, contudo, é uma análise de modelos computacionais, e a comparação com o cérebro diz respeito à sua organização funcional. Os autores agora propõem examinar mais detalhadamente por que essa separação surge e se ela também é encontrada em outras arquiteturas de inteligência artificial.