Tags: inferência

Gimlet Labs Garante $80 Milhões em Série A para Melhorar a Eficiência de Inferência de IA

Gimlet Labs Garante $80 Milhões em Série A para Melhorar a Eficiência de Inferência de IA
Gimlet Labs, fundada por ex-co-fundadores da Pixie, incluindo o professor adjunto da Stanford Zain Asgar, anunciou uma rodada de financiamento Série A de $80 milhões liderada pela Menlo Ventures. O software de "nuvem de inferência multi-silicônio" da startup permite que cargas de trabalho de IA executem simultaneamente em CPUs, GPUs e sistemas de alta memória, prometendo uma inferência 3 a 10 vezes mais rápida ao mesmo custo e potência. Ler mais

Dentro do Laboratório de Chips da Amazon em Austin: A História do Trainium e seu Impacto nas Parcerias de IA

Dentro do Laboratório de Chips da Amazon em Austin: A História do Trainium e seu Impacto nas Parcerias de IA
A Amazon convidou um jornalista para uma visita privada ao seu laboratório de chips em Austin, mostrando o desenvolvimento da família de processadores de IA Trainium. Líderes do laboratório, Kristopher King e Mark Carroll, explicaram como o Trainium, originalmente construído para treinamento, agora alimenta a inferência para serviços como o Bedrock e apoia grandes parceiros, como Anthropic, OpenAI e Apple. Ler mais