Google TPU 8tx y 8i Max apuntan a Nvidia con un coste un 30 % inferior

La gama de TPU de Google se amplía con dos procesadores especializados, el TPU 8tx y el TPU 8i Max, cuyo lanzamiento está previsto para el próximo año con el fin de desafiar el dominio de Nvidia en el hardware de inteligencia artificial. En lugar de crear un silicio completamente nuevo desde cero, Google ha reconfigurado su arquitectura existente para ofrecer una aceleración diseñada específicamente que reduce los costes de computación en aproximadamente un 30 % en comparación con los procesadores gráficos equivalentes de Nvidia, al tiempo que mantiene un rendimiento competitivo.

Estos aceleradores están dirigidos directamente a equipos empresariales que necesitan hardware dedicado para la protección de datos sensibles y ventanas de contexto masivas de IA. El principal inconveniente para los posibles adoptantes reside en la limitada cadena de suministro de Google: todo el hardware TPU disponible actualmente ya está totalmente reservado por los clientes de la nube existentes, por lo que los compradores potenciales deben esperar a que se amplíe la capacidad de producción mientras Google aborda la escasez de memoria que afecta a todo el sector.

La división de chips de Google ha acelerado notablemente su ritmo de desarrollo. Mientras que anteriormente la empresa actualizaba su arquitectura de unidades de procesamiento tensorial cada dos años, este solo año ha lanzado dos chips distintos y ahora los está ramificando en cuatro configuraciones específicas para distintas cargas de trabajo. Según Amin Vahdat, responsable de las operaciones de chips personalizados de Google, esta estrategia refleja un cambio permanente en todo el sector informático: las futuras mejoras de rendimiento vendrán de adaptar el hardware a las demandas específicas del software en lugar de depender de un silicio único para todos los casos.

Silicio a medida: seguridad confidencial y ventanas de contexto masivas

Las dos nuevas incorporaciones dividen el enfoque de hardware de Google entre el procesamiento seguro y la ejecución de modelos complejos:

• TPU 8tx: Diseñado específicamente para agencias gubernamentales, instituciones financieras y sectores altamente regulados que manejan conjuntos de datos confidenciales. Operando en conjunto con procesadores AMD, el 8tx cifra los datos directamente a nivel de silicio. En los entornos informáticos estándar, la información normalmente debe descifrarse en la memoria del sistema antes de procesarse, lo que crea una breve ventana de vulnerabilidad. El 8tx elimina esa exposición al procesar la información cifrada directamente en el chip.
• TPU 8i Max: Diseñado para procesar ventanas de contexto ultralargas, que determinan cuántos tokens, documentos o líneas de código puede evaluar un modelo de IA en una sola consulta. Al combinar dos matrices TPU en un único paquete físico, el 8i Max duplica la memoria disponible y la densidad de computación. Ese margen de memoria es fundamental para tareas de computación intensiva como la ingeniería de software automatizada, las matemáticas avanzadas y el modelado molecular en el descubrimiento de fármacos.

Google comenzó a desarrollar TPU más de una década atrás junto con Broadcom para gestionar cargas de trabajo internas de búsqueda antes de convertir la tecnología en un negocio comercial externo. Ese giro se está acelerando rápidamente. Bloomberg Intelligence estima que los ingresos externos de Google por TPU, que abarcan el silicio y la infraestructura de software asociada, pasarán de 12.000 millones de dólares este año a más de 135.000 millones para 2028, independientemente de los alquileres de computación de Google Cloud.

Adopción empresarial y compensaciones en el mundo real

El perfil de coste-rendimiento de Google ya ha atraído a importantes actores de la industria, incluidos Apple, Meta y la firma de trading cuantitativo Jump Trading. El director de tecnología de Jump Trading, Alex Davies, señaló que aunque la empresa todavía depende en gran medida del hardware de Nvidia para el entrenamiento de modelos fundacionales, un grupo de ingeniería interno activo prefiere las TPU para tareas de investigación dedicadas debido a su mayor eficiencia energética y rendimiento predecible.

La distribución en la nube también se está ampliando. Oracle anunció un acuerdo que permite a sus clientes de la nube aprovisionar TPU de Google a partir del próximo año, rompiendo su anterior dependencia exclusiva de los aceleradores de Nvidia y AMD. El creador de Claude, Anthropic, tiene una opción de compra de hasta 150.000 millones de dólares en hardware TPU entre 2028 y 2031, mientras que OpenAI también ha explorado la adquisición de TPU para diversificarse y alejarse de la dependencia de un solo proveedor.

A pesar de este impulso, Google enfrenta obstáculos estructurales. El negocio de las TPU opera con márgenes de beneficio más estrechos que el negocio de gráficos de Nvidia, y Google debe sortear graves cuellos de botella en el empaquetado y limitaciones en el suministro de memoria. Para evitar retrasos en la producción, Google está ampliando sus alianzas de hardware más allá de Broadcom para incluir a Marvell Technology y MediaTek. Al mismo tiempo, startups especializadas como Tenspresso, junto con las iniciativas internas de chips de Anthropic y OpenAI —a menudo dotadas de antiguos arquitectos de TPU de Google— amenazan con saturar el panorama del silicio especializado.

Para los desarrolladores empresariales y equipos de aprendizaje automático que actualmente están presupuestando infraestructura, ¿justifica una reducción de costes del 30 % adaptar sus flujos de trabajo de software alejándose del ecosistema CUDA consolidado de Nvidia hacia la arquitectura TPU especializada de Google?