Los grandes modelos de lenguaje parecen repartir ciertas tareas entre grupos distintos de neuronas artificiales, de una manera que recuerda a la organización del cerebro humano.
Para comprender este resultado, hay que mirar bajo el capó de los sistemas de inteligencia artificial. Un gran modelo de lenguaje contiene numerosos elementos de cálculo llamados neuronas artificiales. Transforman progresivamente la información recibida para producir una respuesta. Los investigadores quisieron saber si todas participaban indistintamente en las mismas tareas.
El equipo analizó 46 tareas distribuidas en cuatro familias. Algunas estaban relacionadas con el lenguaje, y otras con el razonamiento formal, las relaciones sociales o la comprensión del mundo físico. A continuación, los científicos identificaron qué neuronas artificiales intervenían más en cada actividad.
Apareció un patrón claro. Dos tareas pertenecientes a la misma familia movilizaban más neuronas en común. En cambio, las actividades de ámbitos diferentes recurrían con mayor frecuencia a grupos distintos. Esta separación forma lo que los investigadores denominan una organización modular.
La comparación con el cerebro surge de ahí. En los seres humanos, varias redes cerebrales reciben una mayor activación según la actividad realizada. Por tanto, el procesamiento del lenguaje no depende exactamente de las mismas redes que ciertas formas de razonamiento social. El estudio encuentra una separación comparable en los modelos analizados, a pesar de que su funcionamiento es muy diferente.
Los autores también observan que las tareas asociadas a una misma red en los seres humanos tienden a compartir más neuronas en los modelos.
Este resultado interesa a los investigadores por otra razón. Los modelos estudiados no se construyeron asignándoles deliberadamente una zona para el lenguaje y otra para la física. Esta especialización aparece durante su entrenamiento. Por tanto, podría ser una manera eficaz de organizar el procesamiento de tareas diferentes.
Sin embargo, el estudio sigue siendo un análisis de modelos informáticos, y la comparación con el cerebro se refiere a su organización funcional. Los autores se proponen ahora examinar con más detalle por qué aparece esta separación y si también se encuentra en otras arquitecturas de inteligencia artificial.