O Google adicionou dois chips à sua linha de TPUs: a TPU 8tx, desenvolvida para executar modelos e agentes de IA com dados privados em governos e empresas reguladas, e a TPU 8i Max, que combina dois chips TPU 8i para dobrar a potência de computação, a memória no chip e a largura de banda de memória em cargas de trabalho de grande porte. Preços e datas de lançamento não foram divulgados.

O Google adicionou dois chips à sua linha de processadores de IA desenvolvidos internamente, voltados a duas tarefas muito diferentes: executar IA com dados privados e lidar com cargas de trabalho em grande escala que exigem muita memória e capacidade de computação.

O que é a Google TPU 8tx?

A primeira, a TPU 8tx, foi projetada para governos e empresas reguladas que precisam executar modelos e agentes de IA com dados privados. Ela usa o mesmo silício do chip de treinamento TPU 8t do Google e funciona em conjunto com os processadores EPYC de quinta geração da AMD. O Google afirma que seus recursos de segurança são incorporados diretamente ao hardware, mantendo os dados e os pesos dos modelos isolados e protegidos enquanto o chip está em funcionamento.

A 8tx também pode lidar com trabalhos de treinamento menores. Isso permite que as equipes ajustem modelos com dados privados e executem outras cargas de trabalho sem mover os dados entre clusters. O Google descreve o chip como um oferecimento de “computação confidencial em nível de hardware para ajuste fino privado e execução segura de agentes”. A empresa disse que seu projeto de rede mais rápido reduz a latência em até 50% em comparação com a TPU 8t.

O que a TPU 8i Max faz de forma diferente?

A TPU 8i Max adota uma abordagem diferente. Ela combina dois chips TPU 8i em um único pacote e, em comparação com o 8i padrão, dobra a potência de computação, a memória no chip e a largura de banda de memória.

O Google direciona a 8i Max para cargas de trabalho em que o acesso à memória pode se tornar um gargalo. Entre elas estão agentes de IA que atuam em bases de código inteiras e sistemas que analisam horas de vídeo. O projeto também encaixa o dobro de silício no mesmo espaço de rack, o que aumenta a capacidade de computação que os data centers podem executar por metro quadrado e por watt.

O lançamento expande a linha de TPUs de oitava geração do Google para quatro sistemas. A empresa apresentou os dois primeiros, a TPU 8t e a TPU 8i, em abril, no evento Cloud Next. Segundo o Google, é a primeira vez que a empresa lança quatro sistemas TPU em um único ano.

Quando os novos chips TPU do Google estarão disponíveis?

O Google não divulgou preços nem datas exatas de lançamento para nenhum dos dois chips. O principal tecnólogo da companhia para IA e infraestrutura, Amin Vahdat, escreveu em um post de blog que o negócio de TPUs do Google agora tem quase 100 clientes. Eles incluem laboratórios de IA de ponta, empresas de negociação, varejistas e universidades.

As TPUs estão entre as principais alternativas aos chips da Nvidia para cargas de trabalho de IA. O Google as disponibiliza por meio de sua divisão de nuvem e trabalha com quatro parceiros de design para desenvolvê-las.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.