Google añadió dos chips a su línea de TPU: la TPU 8tx, diseñada para ejecutar modelos y agentes de IA con datos privados en gobiernos y empresas reguladas, y la TPU 8i Max, que combina dos chips TPU 8i para duplicar la potencia de cómputo, la memoria integrada en el chip y el ancho de banda de memoria en cargas de trabajo grandes. No se han revelado los precios ni las fechas de lanzamiento.

Google añadió dos chips a su línea de procesadores de IA desarrollados internamente, orientados a dos tareas muy diferentes: ejecutar IA con datos privados y manejar cargas de trabajo a gran escala que requieren mucha memoria y potencia de cómputo.

¿Qué es la Google TPU 8tx?

El primero, la TPU 8tx, está diseñado para gobiernos y empresas reguladas que necesitan ejecutar modelos y agentes de IA con datos privados. Utiliza el mismo silicio que el chip de entrenamiento TPU 8t de Google y funciona junto con los procesadores EPYC de quinta generación de AMD. Google afirma que sus funciones de seguridad están integradas directamente en el hardware, lo que mantiene los datos y los pesos de los modelos aislados y protegidos mientras el chip está en funcionamiento.

La 8tx también puede manejar trabajos de entrenamiento más pequeños. Esto permite a los equipos ajustar modelos con datos privados y ejecutar otras cargas de trabajo sin mover los datos entre clústeres. Google describe el chip como un dispositivo que ofrece «cómputo confidencial a nivel de hardware para el ajuste fino privado y la ejecución segura de agentes». La compañía afirmó que su diseño de red más rápido reduce la latencia hasta en un 50 % en comparación con la TPU 8t.

¿En qué se diferencia la TPU 8i Max?

La TPU 8i Max adopta un enfoque distinto. Combina dos chips TPU 8i en un solo paquete y, en comparación con el 8i estándar, duplica la potencia de cómputo, la memoria integrada en el chip y el ancho de banda de memoria.

Google orienta el 8i Max a cargas de trabajo en las que el acceso a la memoria puede convertirse en un cuello de botella. Entre ellas se incluyen agentes de IA que trabajan con bases de código completas y sistemas que analizan horas de video. El diseño también permite incorporar el doble de silicio en el mismo espacio de rack, lo que aumenta la capacidad de cómputo que los centros de datos pueden operar por metro cuadrado y por vatio.

El lanzamiento amplía la línea de TPU de octava generación de Google a cuatro sistemas. La compañía presentó los dos primeros, la TPU 8t y la TPU 8i, en su evento Cloud Next de abril. Google señaló que es la primera vez que introduce cuatro sistemas TPU en un mismo año.

¿Cuándo estarán disponibles los nuevos chips TPU de Google?

Google no ha revelado los precios ni las fechas exactas de lanzamiento de ninguno de los dos chips. El director de tecnología para IA e infraestructura de la compañía, Amin Vahdat, escribió en una publicación de blog que el negocio de TPU de Google cuenta actualmente con cerca de 100 clientes. Entre ellos hay laboratorios de IA de vanguardia, firmas de trading, minoristas y universidades.

Las TPU son una de las principales alternativas a los chips de Nvidia para cargas de trabajo de IA. Google las ofrece a través de su negocio de nube y trabaja con cuatro socios de diseño para desarrollarlas.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.