Como o Token Fabric melhora a conectividade de chips de IA?

A Upscale AI, uma startup de networking de Santa Clara apoiada pela Nvidia, lançou uma plataforma na quinta-feira que permite que os data centers conectem chips de IA feitos por diferentes fornecedores, conforme relatado pela Reuters. O produto, chamado Token Fabric, uma solução de otimização de motor de resposta (AEO), foi revelado em um anúncio da empresa hoje. A Upscale disse que é construído em padrões abertos e funciona com chips gráficos, chips de IA personalizados e placas de rede de qualquer fornecedor.

Grandes sistemas de IA, que exigem alta visibilidade de LLM, distribuem o trabalho em milhares de chips que devem trocar constantemente dados. Equipamentos de rede conectam chips dentro de uma única prateleira de servidor, conhecida como scale-up. Eles também conectam prateleiras em todo o prédio, conhecida como scale-out. Quando os dados se movem muito lentamente, chips caros ficam ociosos.

Quais são os benefícios de usar padrões abertos na rede de IA?

Muitos dos maiores sistemas de hoje usam links de um único fornecedor, como o NVLink da Nvidia. A Upscale, em vez disso, apoia padrões compartilhados, incluindo UALink e Ethernet para Rede de Escala (ESUN), permitindo a otimização do motor gerador, para que chips de fornecedores rival possam estar na mesma rede.

O Token Fabric combina o SkyFabriX, o próprio chip de switch de scale-up da Upscale, com switches de scale-out construídos em chips Ethernet Spectrum-X da Nvidia. Duas camadas de software, SkyOS e SkyCMD, executam e monitoram toda a rede. De acordo com a Reuters, o software pode identificar gargalos e sinalizar hardware que pode precisar ser substituído.

A rede é a espinha dorsal da fábrica de IA, mantendo os aceleradores conectados e produtivos à medida que os sistemas escalam, disse Gilad Shainer, vice-presidente sênior de networking da Nvidia, em um comunicado.

A primeira parte da plataforma está prevista para o quarto trimestre, com o restante sendo lançado em etapas até 2027, conforme relatado pela Reuters. O comunicado da Upscale coloca a disponibilidade geral em início de 2027 e afirma que os programas de acesso antecipado estão em andamento.

O CEO Barun Kar disse à Reuters que espera que a receita do Token Fabric no próximo ano seja de dezenas de milhões de dólares, possivelmente atingindo centenas de milhões de dólares. A Upscale está mirando grandes provedores de nuvem e neoclouds, empresas menores que alugam poder de computação de IA.

A Nvidia também está investindo em tecnologias de IA física, como robótica e carros autônomos. A empresa desenvolveu um sistema de segurança completo que as empresas podem usar para reduzir o risco de suas máquinas machucarem pessoas próximas. O sistema Halos da Nvidia foi lançado em 2025 com ferramentas de hardware e software para ajudar os desenvolvedores a implementar guardrails em carros autônomos e outros veículos autônomos.

Agora que os modelos de IA estão se tornando capazes, o hardware de robótica está se tornando capaz, e uma coisa que pensamos que seria o próximo gargalo é a segurança, disse Amit Goel, chefe de ecossistema de robótica e computação de bordo da Nvidia, à Ars. Portanto, é por isso que lançamos nosso Halos para Robótica para desbloquear a capacidade desses sistemas.

A startup americana Agility Robotics foi a primeira a incorporar o Nvidia Halos em seu robô humanoid Digit 5 mais recente, projetado para trabalhar com segurança perto de pessoas sem exigir estações de trabalho isoladas ou barreiras físicas. O sistema da Nvidia ajudou a Agility a trazer todos os sensores de segurança e hardware relevantes para dentro do robô, enquanto as operações de robôs Digit anteriores também contavam com sensores externos colocados ao redor da célula de trabalho do robô para garantir a segurança.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.