Google prepararía un nuevo chip para servidores destinado a ejecutar sus modelos Gemini con un menor consumo de energía, con un aumento de la eficiencia de 6 a 10 veces. La información fue revelada por The Information y retomada por Reuters. La empresa aún no ha anunciado oficialmente este componente, cuyo nombre interno sería Frozen v2.
Los grandes modelos de inteligencia artificial requieren importantes capacidades de cálculo, especialmente al momento de producir una respuesta. Esta fase, llamada inferencia, moviliza procesadores especializados en los centros de datos. Su costo depende, entre otros factores, del número de consultas, su longitud y la eficiencia del hardware.
El proyecto consistiría en integrar en el silicio una parte fija del funcionamiento de Gemini. A diferencia de un chip muy polivalente, un acelerador así especializado puede evitar ciertos cálculos o transferencias de datos. Esto permitiría reducir considerablemente la energía necesaria para generar cada unidad de texto.
Esta promesa debe, sin embargo, mantenerse en condicional. Las informaciones publicadas se basan en fuentes anónimas y Google no ha detallado la arquitectura, el rendimiento ni el calendario de disponibilidad. Las estimaciones mencionadas en la prensa no constituyen, por lo tanto, resultados verificados por la empresa.
Google ya dispone de sus propios TPU, chips diseñados para el aprendizaje automático. Frozen v2 se inscribiría en esta estrategia de integración hardware, mientras que las necesidades de cálculo para la IA generativa aumentan rápidamente. El desafío es técnico, pero también económico.
Un componente optimizado para un modelo específico puede ser muy eficiente, pero menos flexible que un procesador de propósito general. Cualquier evolución importante de Gemini podría imponer un nuevo diseño hardware y, por lo tanto, la producción de nuevos chips. Es la compensación habitual entre rendimiento especializado y capacidad de adaptación.
Si este proyecto se concreta, su interés se medirá sobre todo a escala de los centros de datos. Una reducción de la energía utilizada por respuesta podría disminuir los costos de funcionamiento y liberar capacidad de cálculo para modelos más potentes.