A Majestic Labs, uma startup fundada em 2023 por engenheiros que anteriormente trabalhavam no Google e Meta, lançou um novo servidor de IA que chama de Prometheus. Em vez de confiar em unidades de processamento gráfico tradicionais, o sistema usa até 12 unidades de processamento de IA Ignite por chassis. Cada unidade combina núcleos Arm com motores de vetor e tensor RISC-V, e as unidades compartilham um pool de memória LPDDR6 que varia de 8 TB a 128 TB. Essa memória, comum em smartphones, substitui a memória de largura de banda alta (HBM) encontrada na maioria das GPUs.

A proposta da empresa centra-se em um único obstáculo técnico: o gargalo de memória. Em muitas cargas de trabalho de inferência, os desenvolvedores atingem um teto não porque os chips de computação são muito lentos, mas porque não podem alcançar memória rápida suficiente. Os engenheiros da Majestic responderam a isso desacoplando a memória do processador e agregando-a por meio de chiplets personalizados ligados por cabos de cobre de até um metro de comprimento. O resultado, afirmam eles, é um pool de memória coesa muito maior do que qualquer design centrado em GPU pode abordar.

A Majestic compara o Prometheus ao DGX B300 da Nvidia, que abriga oito GPUs Blackwell e 2,3 TB de HBM. De acordo com a startup, um rack Prometheus único entrega mais de 50 vezes essa quantidade de memória rápida, enquanto fornece 1,7 vezes a largura de banda de interconexão. O mesmo rack, afirma a Majestic, pode igualar a capacidade de memória rápida de 25 racks Nvidia Vera Rubin, tudo enquanto consome uma fração do poder.

A história do hardware é complementada por uma abordagem de software que visa manter a transição indolor para os desenvolvedores. O Prometheus suporta padrões abertos como PyTorch, vLLM e OpenAI Triton, e a Majestic afirma que os modelos construídos para GPUs podem ser executados em sua plataforma sem modificações. A empresa afirma que já obteve pedidos de grandes empresas, provedores de nuvem nativa e hyperscalers, embora nenhuma unidade tenha deixado a fábrica.

As alegações da Majestic permanecem não verificadas por testes independentes. Todos os números de desempenho vêm da própria empresa, e o servidor ainda não foi enviado. O design também levanta questões práticas. Um pool de memória de 128 TB construído com dies LPDDR6 de 2 GB exigiria aproximadamente 64.000 chips individuais, implicando mais de cem chiplets de agregação em um único servidor. Manter a coerência em tantos componentes é um desafio de engenharia não trivial.

Apesar das incertezas, a startup atraiu um apoio financeiro significativo. No final do ano passado, a Majestic fechou uma rodada de financiamento de US$ 100 milhões, uma quantia modesta em comparação com os orçamentos de vários bilhões de dólares de seus rivais maiores. A empresa agora emprega cerca de 40 pessoas divididas entre Tel Aviv e Los Angeles, e planeja começar a enviar hardware no próximo ano.

A Majestic se junta a um grupo crescente de startups de hardware de IA que estão tentando minar a dominância da Nvidia de ângulos não convencionais. Os concorrentes estão explorando interconexões ópticas, silício de inferência focado na borda e equipamentos de rede aberta. Cada abordagem visa uma fraqueza percebida diferente na pilha da Nvidia, seja ela consumo de energia, latência ou, no caso da Majestic, escassez de memória.

Quando o Prometheus finalmente chegar aos clientes, os benchmarks independentes determinarão se a arquitetura de memória primeiro cumpre sua promessa. Até lá, as alegações ousadas da startup permanecem como uma prévia de uma possível mudança na forma como as cargas de trabalho de IA são construídas e dimensionadas.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.