Google estaria preparando um novo chip para servidores com o objetivo de executar seus modelos Gemini com menor consumo de energia, aumentando a eficiência por um fator de 6 a 10. A informação foi revelada pelo The Information e reproduzida pela Reuters. A empresa ainda não anunciou oficialmente este componente, cujo nome interno seria Frozen v2.
Os grandes modelos de inteligência artificial exigem grandes capacidades de computação, especialmente no momento de produzir uma resposta. Esta fase, chamada de inferência, mobiliza processadores especializados nos centros de dados. Seu custo depende especialmente do número de requisições, de sua extensão e da eficiência do hardware.
O projeto consistiria em integrar no silício uma parte fixa do funcionamento do Gemini. Ao contrário de um chip muito versátil, um acelerador assim especializado pode evitar certos cálculos ou transferências de dados. Isso permitiria reduzir consideravelmente a energia necessária para gerar cada unidade de texto.
Esta promessa deve, no entanto, permanecer condicional. As informações publicadas baseiam-se em fontes anônimas e o Google não detalhou a arquitetura, o desempenho ou o cronograma de disponibilidade. As estimativas mencionadas na imprensa não constituem, portanto, resultados verificados pela empresa.
O Google já possui seus próprios TPUs, chips projetados para aprendizado de máquina. O Frozen v2 se inseriria nesta estratégia de integração de hardware, enquanto as necessidades de computação para IA generativa aumentam rapidamente. O desafio é técnico, mas também econômico.
Um componente otimizado para um modelo específico pode ser muito eficiente, mas menos flexível que um processador de uso geral. Qualquer evolução importante do Gemini poderia impor um novo projeto de hardware e, portanto, a produção de novos chips. Este é o compromisso habitual entre desempenho especializado e capacidade de adaptação.
Se este projeto for concluído, seu interesse será medido principalmente na escala dos centros de dados. Uma redução na energia utilizada por resposta poderia reduzir os custos operacionais e liberar capacidade de computação para modelos mais potentes.