Google puso sus unidades de procesamiento de tensores (TPU) Ironwood a disposición del público esta semana y mostró su enorme «superpod», que cuenta con 9.216 TPU Ironwood en un solo sistema. Los TPU son los procesadores más recientes de Google para cargas de trabajo de IA y compiten con AMD, Nvidia y otros para satisfacer la voraz demanda mundial de IA. Los chips están diseñados para computación de inferencia, como cuando los agentes de IA brindan respuestas a preguntas de humanos.
Los TPU Ironwood son ahora los chips de inteligencia artificial más rápidos de Google y ofrecen cuatro veces el rendimiento del TPU v6e, su predecesor inmediato, y 10 veces el rendimiento del TPU v5p. (Esto es tanto para entrenamiento como para inferencia). El superpod tiene 9216 Ironwood TPU y velocidades de red de interconexión entre chips (ICI) de hasta 9,6 Tbps. Google dice que su Superpod también cuenta con 1,77 PB de memoria compartida de gran ancho de banda (HBM). El clúster de TPU también incluye el sistema de refrigeración líquida personalizado de Google, lo que se suma a una huella ya considerable.
Crédito: Google
Pero en su mayor parte (y, posiblemente, el precio) vale la pena, gracias al entrenamiento de IA y al rendimiento de inferencia que los TPU conectados pueden reunir. Según Google, su superpod cuenta con 24 veces la potencia de cálculo de la supercomputadora El Capitán.
Google diseñó el Ironwood TPU, pero no tiene la infraestructura de fabricación para producir los chips por sí mismo. Como señala Reuters, Google no especificó qué fundición produjo el TPU Ironwood. Aún así, dados los problemas de Intel con su negocio de fundición y las capacidades de TSMC, parece probable que TSMC esté detrás de Ironwood. También vale la pena señalar que Intel ha estado recientemente en estrecho contacto con AMD y se rumorea que está considerando fabricar procesadores para AMD. Dada la participación de AMD en los chips de IA y las capacidades de Intel, TSMC tiene sentido para la producción de TPU Ironwood.
La demanda de estos superpods con chips de gran tamaño parece fuerte. Google afirma que tiene más acuerdos de computación en la nube que superan los mil millones de dólares este año que en los dos años anteriores combinados. También registró un aumento interanual del 34% en los ingresos para el tercer trimestre.
Crédito: Google
Uno de esos grandes clientes es Anthropic, que ofrece los modelos Claude AI. La compañía amplió recientemente su relación con Google, dándole acceso a un millón de chips TPU para 2026.
Google también anunció algunas actualizaciones del software que utilizan los clientes para acceder al hardware. La empresa ahora ofrece capacidades de Cluster Director en Google Kubernetes Engine y ofrece mejor soporte de TPU en vLLM. El marco de código abierto MaxText LLM también ha recibido algunas actualizaciones.
