💡 ¿La luz, un formidable acelerador para la IA?

En los inmensos centros de datos dedicados a la inteligencia artificial, la luz podría evitar que miles de chips pierdan tiempo esperándose unos a otros.

Para comprender el problema, hay que observar cómo trabajan los grandes sistemas de IA. Un modelo puede repartirse entre numerosos procesadores gráficos, o GPU, que calculan cada uno una parte del resultado. Estos chips deben intercambiar y recombinar periódicamente sus datos. Cuanto mayor es su número, más pueden ralentizar estas comunicaciones el conjunto.

Actualmente, estos intercambios pasan principalmente por redes electrónicas y conmutadores. Los investigadores proponen sustituir parte de este funcionamiento por luz, capaz de transmitir información simultáneamente a varios lugares.

Esta arquitectura recibe el nombre de Parallel Photonic Integration, o PPI. En este caso, la luz interviene en los cálculos y los intercambios que coordinan varias máquinas.

Un caso estudiado es la operación AllReduce. Detrás de este nombre se esconde una tarea frecuente durante el entrenamiento de una IA: varios GPU producen resultados parciales que deben combinarse y redistribuirse. Con muchos procesadores, esta etapa puede alargarse. El PPI permitiría realizar estas combinaciones con luz y en paralelo.

Los autores llevaron a cabo una primera demostración experimental de su arquitectura. También utilizaron modelos informáticos para estimar su comportamiento en grandes conjuntos de GPU que ejecutan modelos de tipo Transformer. A muy gran escala, sus cálculos prevén una latencia de AllReduce reducida más de 100 veces en comparación con la de las redes conmutadas actuales.

El interés no se limita a la velocidad. Las mismas simulaciones prevén un consumo de energía inferior en más de un 50 % por operación. Un chip que espera a que termine un intercambio sigue consumiendo electricidad. Por tanto, reducir estos tiempos de espera puede influir en el consumo global del sistema.

Estas cifras aún son proyecciones. En particular, los investigadores tendrán que comprobar cómo se comporta esta arquitectura cuando se integra en infraestructuras reales con un número muy elevado de GPU.