A Supermicro vai construir, vender e dar suporte a sistemas de inferência de IA que combinam os chips SN50 da SambaNova com GPUs da Nvidia. Nos racks, as GPUs da Nvidia processam a leitura do prompt e os chips SN50 se encarregam de escrever as respostas. As empresas começarão com neonuvens e nuvens soberanas, e planejam inicialmente 10.000 chips SN50.
A Supermicro vai construir e vender sistemas de inferência de IA que combinam os chips SN50 da SambaNova com GPUs da Nvidia, informaram as empresas nesta terça-feira. A parceria prevê inicialmente 10.000 chips SN50, de acordo com o anúncio da SambaNova.
Os racks serão incorporados à Data Center Building Block Solutions da Supermicro, as soluções prontas de centros de dados que a empresa vende a seus clientes.
Como as GPUs da Nvidia e os chips SN50 dividem o trabalho de inferência de IA?
O design divide o trabalho entre dois tipos de hardware. A execução de um modelo de IA acontece em duas etapas. Primeiro, o sistema lê o prompt. Depois, escreve a resposta peça por peça. Nos novos racks, as GPUs da Nvidia cuidam da leitura e os chips SN50 da escrita, afirmou a SambaNova. A empresa argumenta que os agentes de IA trabalham sem parar, por isso a velocidade com que atuam depende da rapidez com que o modelo responde.
“A IA agêntica é a próxima onda de inferência, e ela precisa funcionar em qualquer lugar”, disse Rodrigo Liang, cofundador e diretor-executivo da SambaNova. “Agora os clientes podem encomendar RDUs SN50 junto com GPUs, de um parceiro líder mundial em que confiam.”
A Supermicro vai montar, testar, entregar e dar suporte aos sistemas, incluindo serviço no local. Engenheiros da SambaNova vão colocar modelos de IA em funcionamento e ajustá-los no SN50, além de ajudar nas implantações.
Quais clientes terão acesso primeiro aos sistemas SN50 da Supermicro?
As empresas começarão com neonuvens, provedores de nuvem criados especificamente para IA, e com nuvens soberanas, que mantêm dados e capacidade computacional dentro de um único país. Depois, planejam vender para empresas que executam IA em seus próprios centros de dados.
“A Supermicro está comprometida em oferecer infraestrutura de IA flexível e de alto desempenho, que acompanhe as necessidades em evolução de nossos clientes”, disse Charles Liang, presidente e diretor-executivo da Supermicro.
Quanta energia consome um SambaRack SN50?
O SN50 é a Reconfigurable Dataflow Unit (RDU) de quinta geração da SambaNova, um chip projetado para inferência. A empresa afirma que ele pode atender os maiores modelos sem exigir densidade extrema de energia em cada rack. Um SambaRack SN50 consome em média 20 quilowatts, informou a SambaNova na semana passada.
Isso é importante para os operadores, segundo as empresas. A SambaNova diz que os clientes podem ampliar a capacidade de inferência em centros de dados que já operam, em vez de esperar por novas construções atrasadas por limitações de energia e refrigeração. A empresa também afirma que eles podem continuar usando suas GPUs atuais por mais tempo. As duas companhias dizem que o acordo permitirá entregar muito mais capacidade de inferência em 2027.
O acordo com a Supermicro vem após outra parceria, com a Oracle. Em sua conferência AI World, realizada em 27 de outubro, a Oracle disse que planeja implantar chips SN50 em seus centros de dados em nuvem e oferecer essa capacidade a desenvolvedores de modelos de IA. Dois dias depois, a SambaNova contratou a Emergys, empresa de serviços de transformação digital, para implantar e operar sua plataforma para clientes corporativos.
A SambaNova foi fundada em 2017 e tem sede em San Jose. Em julho, a empresa captou novos recursos com uma avaliação de US$ 11 bilhões. Em junho, a Foxconn e a Intel se uniram à companhia para desenvolver infraestrutura de IA em escala de rack.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.