Baseten lanzó joey-1, un pequeño modelo de IA abierto que responde preguntas de sí o no y de opción múltiple en lugar de redactar respuestas, informó la compañía el jueves. Baseten afirma que el modelo cuesta $0,01 por millón de tokens, un precio que la empresa considera muy por debajo de lo que suelen cobrar los chatbots de uso general por la generación de texto.

¿Qué es el modelo joey-1 de Baseten?

Joey-1 tiene 2.000 millones de parámetros y es de pesos abiertos, lo que significa que sus archivos de modelo entrenado están disponibles para que otros los descarguen y ejecuten. En lugar de producir un párrafo, devuelve una respuesta junto con una puntuación de probabilidad. Según Baseten, ese diseño hace que estos llamados modelos de decisión sean más baratos y rápidos para tareas específicas, como clasificar tickets de soporte al cliente, marcar spam o filtrar instrucciones dañinas.

¿Cuánto cuesta ejecutar joey-1?

El modelo se suma a dos versiones más grandes de Base Labs, el brazo de investigación de Baseten. Mammoth-1 y elephant-1 salieron la semana pasada y funcionan de la misma manera. De acuerdo con la compañía, joey-1 responde a una solicitud típica de 2.000 tokens en 20 milisegundos, unas 2,5 veces más rápido que elephant-1. Baseten también afirma que clasificar 10 millones de tickets de soporte al mes costaría unos $50 con joey-1, frente a $500 con mammoth-1.

¿Cómo se compara joey-1 con otros modelos de decisión?

Baseten califica a joey-1 como el modelo de decisión más sólido con 3.000 millones de parámetros o menos. La compañía aún no ha publicado las pruebas que respaldan esa afirmación. Su tarjeta de modelo ubica a joey-1 en el puesto 37 de 230 modelos en el Jev Decision Index, que Baseten describe como la mejor puntuación entre los modelos con menos de 4.000 millones de parámetros. Jev es un modelo de decisión de TypeSafe AI, lanzado en septiembre, que funciona de manera similar.

Joey-1 está construido sobre Qwen3.5-2B, un modelo de Alibaba, y fue entrenado con 6,21 millones de ejemplos de decisión. El enfoque se está extendiendo más allá de Baseten. Microsoft construyó su propio modelo de decisión basado en Qwen a principios de este mes, con un precio de $0,042 por millón de tokens. Los pesos del modelo de Microsoft se pueden descargar gratis desde Hugging Face bajo la licencia MIT.

Baseten ayuda a las empresas a ejecutar modelos de IA en producción. La compañía recaudó $1.500 millones a una valoración de hasta $13.000 millones en junio. En septiembre, adquirió Blaxel, una startup que desarrolla entornos de sandbox, que son espacios aislados donde el software puede probarse o ejecutarse de forma segura.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.