A Cerebras expandiu seus endpoints públicos com a adição do modelo Qwen 3.8 27B, agora disponível para uso em ambos os níveis de teste gratuito e pague-conforme-vai. Este modelo faz parte do compromisso da Cerebras em fornecer uma variedade de modelos para diferentes casos de uso, todos os quais podem ser acessados por meio de sua API pública.

Navegue por todos os modelos disponíveis nos endpoints públicos da Cerebras para encontrar o que melhor atende às suas necessidades. Para os novos na plataforma, um guia de início rápido está disponível para ajudar a fazer a primeira chamada de API, e um guia de seleção de modelo pode auxiliar na escolha do modelo correto por caso de uso. Cada modelo listado vem com especificações completas, capacidades e limites por nível para transparência.

A Cerebras também hospeda uma variedade de modelos de código aberto da comunidade, embora seja notado que esses são as versões originais, não podadas. A empresa conduz pesquisas sobre técnicas de poda, como a ativação de especialistas ponderados por roteador (REAP), mas esses modelos podados são compartilhados com a comunidade de pesquisa no Hugging Face e não estão disponíveis por meio da API pública.

A empresa usa quantização seletiva de pesos apenas durante o armazenamento para preservar a qualidade máxima, armazenando pesos em 16-bit, 8-bit ou 4-bit parciais, de acordo com os padrões da indústria. Camadas sensíveis à qualidade são armazenadas em precisão total, com desquantização em tempo real para garantir que as operações sejam feitas em alta precisão. Ativações, atenção e cache kv permanecem em precisão total e não quantizados.

Os usuários podem ter certeza de que a Cerebras não altera as arquiteturas dos modelos sem aviso prévio. Os modelos originais são servidos para todos os endpoints existentes sem modificação. Se a empresa explorar técnicas de compressão adicionais no futuro, essas seriam oferecidas como endpoints separados, garantindo transparência e escolha para os usuários.

Para aqueles interessados nos modelos REAP podados da Cerebras, eles estão disponíveis no Hugging Face para fins de pesquisa e experimentação. Essa coleção demonstra a pesquisa de poda da empresa, mas não faz parte da API de produção.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.