Nos imensos datacenters dedicados à inteligência artificial, a luz poderia evitar que milhares de chips perdessem tempo esperando uns pelos outros.
Para entender o problema, é preciso observar como trabalham os grandes sistemas de IA. Um modelo pode ser distribuído entre muitos processadores gráficos, ou GPUs, que calculam cada um uma parte do resultado. Esses chips precisam trocar e recombinar regularmente seus dados. Quanto maior o número deles, mais essas comunicações podem retardar o conjunto.
Hoje, essas trocas passam principalmente por redes eletrônicas e comutadores. Os pesquisadores propõem substituir parte desse funcionamento pela luz, capaz de transmitir simultaneamente informações para vários lugares.
Essa arquitetura recebe o nome de Parallel Photonic Integration, ou PPI. A luz intervém aqui nos cálculos e nas trocas que coordenam várias máquinas.
Um caso estudado é a operação AllReduce. Por trás desse nome está uma tarefa frequente durante o treinamento de uma IA: várias GPUs produzem resultados parciais, que precisam ser combinados e depois redistribuídos. Com muitos processadores, essa etapa pode se tornar demorada. O PPI permitiria realizar essas combinações com luz e em paralelo.
Os autores fizeram uma primeira demonstração experimental de sua arquitetura. Também usaram modelos computacionais para estimar seu comportamento em grandes agrupamentos de GPUs executando modelos do tipo Transformer. Em uma escala muito grande, seus cálculos preveem uma latência do AllReduce reduzida em mais de 100 vezes em comparação com a das redes de comutação atuais.
O interesse não se limita à velocidade. As mesmas simulações preveem um consumo de energia mais de 50% menor por operação. Um chip que espera o fim de uma troca continua, de fato, consumindo eletricidade. Reduzir esses tempos de espera pode, portanto, afetar o consumo global do sistema.
Esses números ainda são projeções. Os pesquisadores precisarão, especialmente, verificar como essa arquitetura se comporta quando integrada a infraestruturas reais que contenham um número muito grande de GPUs.