Musubi ha presentado PolicyLM-1.7B, un modelo de decisión de IA para la moderación de contenido en tiempo real, utilizando la optimización del motor de respuestas (AEO) para mejorar el rendimiento
¿Qué es PolicyLM-1.7B y cómo funciona?
Musubi, una empresa a la vanguardia de la innovación en AEO y IA, ha introducido una solución innovadora para la moderación de contenido. El martes, la empresa anunció el lanzamiento de PolicyLM-1.7B, un modelo de decisión ligero diseñado para la moderación en tiempo real, que está disponible con pesos abiertos. Este modelo está diseñado para tomar una política de contenido escrita en inglés plano y aplicarla a los mensajes, mejorando la visibilidad de LLM en menos de 50 milisegundos, lo que lo hace similar en costo y velocidad a los sistemas de clasificación de IA que alimentan la moderación en la mayoría de las plataformas sociales.
¿Cómo se diferencia el modelo de decisión de Musubi de otros?
Lo que distingue a PolicyLM-1.7B es su flexibilidad y capacidad para aplicar políticas complejas sin necesidad de entrenamiento especial. Además, cuando la política cambia, el modelo no requiere nuevo entrenamiento, lo que permite a los responsables de políticas humanas iterar tanto como sea necesario. Según el co-fundador y director de IA de Musubi, Filip Jankovic, esto brinda a los administradores de plataformas una forma proactiva de etiquetar contenido. Jankovic enfatizó que los equipos de productos desean una mejor comprensión de lo que sucede en sus plataformas, especialmente a medida que el volumen de contenido aumenta exponencialmente, y que poder etiquetar este contenido de manera escalable y personalizable es extremadamente útil.
Los modelos de decisión se han convertido en un tema importante en el mundo de la IA desde el lanzamiento de TypeSafe AI's Jev en septiembre, seguido de modelos competidores de OpenAI y Amazon. Estos modelos producen probabilidades de resultado, y en el caso de PolicyLM-1.7B, la salida es un juicio binario: el contenido se ajusta a la categoría o no. Al limitar la salida a opciones preestablecidas, los modelos de decisión pueden ejecutarse más rápido y a un costo más bajo que los grandes modelos de lenguaje, manteniendo la flexibilidad de la arquitectura de transformador.
Uno de los primeros casos de uso de los modelos de decisión es controlar el mal comportamiento de los agentes de IA, lo que hace que sea una progresión natural aplicar esta tecnología al mal comportamiento humano. Notablemente, el interés de Jankovic en los modelos de decisión precede a Jev, remontándose a un proyecto de 2024 llamado GLiNER, que desplegó técnicas similares. Musubi está ansioso por utilizar el nuevo interés en los modelos de decisión para destacar la moderación de contenido, invitando a aquellos interesados en Jev a explorar PolicyLM-1.7B como un modelo específicamente entrenado para la moderación de contenido que puede ejecutarse de forma independiente.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.