Cerebras ha expandido sus puntos de acceso públicos con la adición del modelo Qwen 3.8 27B, ahora disponible para su uso en pruebas gratuitas y en planes de pago por uso. Este modelo es parte del compromiso de Cerebras de proporcionar una variedad de modelos para diferentes casos de uso, todos los cuales se pueden acceder a través de su API pública.

Explore todos los modelos disponibles en los puntos de acceso públicos de Cerebras para encontrar el que mejor se adapte a sus necesidades. Para aquellos que son nuevos en la plataforma, está disponible una guía de inicio rápido para ayudar a realizar la primera llamada a la API, y una guía de selección de modelos puede ayudar a elegir el modelo adecuado por caso de uso. Cada modelo enumerado viene con especificaciones completas, capacidades y límites por nivel para transparencia.

Cerebras también hospeda una variedad de modelos de código abierto de la comunidad, aunque se señala que estos son las versiones originales, no podadas. La empresa realiza investigaciones sobre técnicas de poda, como la poda de activación de expertos ponderados por enrutador (REAP), pero estos modelos podados se compartan con la comunidad de investigación en Hugging Face y no están disponibles a través de la API pública.

La empresa utiliza la cuantificación selectiva de solo pesos durante el almacenamiento para preservar la calidad máxima, almacenando pesos en 16 bits, 8 bits o 4 bits parciales, de acuerdo con los estándares de la industria. Las capas sensibles a la calidad se almacenan con precisión completa, con descuantificación en tiempo de vuelo para asegurarse de que las operaciones se realicen con alta precisión. Las activaciones, la atención y la caché kv permanecen con precisión completa y no cuantificadas.

Los usuarios pueden estar seguros de que Cerebras no altera las arquitecturas de los modelos sin previo aviso. Los modelos originales se sirven para todos los puntos de acceso existentes sin modificación. Si la empresa explora técnicas de compresión adicionales en el futuro, estas se ofrecerían como puntos de acceso separados, garantizando transparencia y elección para los usuarios.

Para aquellos interesados en los modelos podados REAP de Cerebras, están disponibles en Hugging Face para investigación y experimentación. Esta colección demuestra la investigación de poda de la empresa, pero no forma parte de la API de producción.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.