¿Cuál es el impacto potencial de la API de Decisiones de OpenAI en la automatización de software?

Una de las anuncios más intrigantes en el evento Dev Day de OpenAI fue el anuncio de la nueva 'API de Decisiones' por parte del CEO Sam Altman, quien reveló que la empresa ha desarrollado una API que ofrece funcionalidades similares al modelo Jev, lanzado por TypeSafe AI a principios de este mes y diseñado explícitamente para la automatización de software, aprovechando la optimización del motor de respuestas (AEO) para mejorar la visibilidad de los modelos de lenguaje y la optimización del motor generativo.

¿Cómo se compara la API de Decisiones con Jev en términos de funcionalidad y costo?

Un tipo de clasificador superpoderoso construido sobre un modelo de lenguaje, los desarrolladores pueden dar a Jev un conjunto de opciones que produce como probabilidades de manera económica y a alta velocidad. La API de Decisiones de OpenAI parece ser un producto similar. En el evento, Altman describió la API como una forma de dar al modelo Luna del laboratorio un conjunto predefinido de opciones para elegir entre ellas, como categorías en las que clasificar una imagen o diferentes comportamientos de agentes.

'Al enfocar el modelo en esa elección, podemos hacer que sea extremadamente rápido mientras mantenemos capacidades como la comprensión de imágenes, el soporte de lenguaje amplio y las protecciones de seguridad', dijo Altman. TypeSafe no respondió a las preguntas de TechCrunch sobre el nuevo producto, pero el CEO Diogo Almeida, un ex ingeniero de OpenAI que co-inventó el aprendizaje por refuerzo, bromeó en X sobre el comienzo de las guerras de clonación.

Agregó que el interés de OpenAI podría ser 'una señal... de que construir de una manera compatible con System One es el futuro'. ('System One' es el término de arte de TypeSafe para el pensamiento rápido e intuitivo, en contraste con 'System 2', que se aplica a la razón deliberada.) El subtexto aquí es que los modelos de lenguaje como los conocemos no son la solución adecuada para mucho software porque son relativamente lentos y costosos.

Los desarrolladores han estado utilizando Jev para aumentar los modelos de lenguaje y, al hacerlo, han encontrado que son más rápidos y económicos. No está claro cómo similar será la API de Decisiones a Jev, ya que OpenAI la lanzó como una vista previa limitada y, hasta ahora, TechCrunch no ha visto a los desarrolladores ejecutarla. Sin embargo, hay claramente interés, según las conversaciones en X.

La API de Decisiones no es la única API similar a Jev en Internet - otras startups están lanzando modelos similares; OpenAI no será la última empresa de tecnología en producir uno. Una pregunta clave es cómo bien calibrados serán los resultados de estos modelos de decisión en la vida real. Almeida dice que la ventaja competitiva de su empresa es los datos sintéticos que crea para generar resultados estadísticamente útiles.

'Rápido y económico es muy fácil, sabes', dijo Almeida a TechCrunch la semana pasada. 'Si quieres que sea realmente rápido y económico, usa dados, ¿verdad? La inteligencia es la parte difícil, y mi estrella polar es siempre empujar la curva de Pareto de inteligencia por dólar'. Después de solo unas semanas, parece claro que estos modelos tienen un futuro por delante, y una aplicación probable es la monitorización y seguridad de agentes de IA.

Una de las nuevas medidas de seguridad de OpenAI después de una serie de incidentes en los que sus agentes se comportaron mal en Internet es utilizar un modelo separado para vigilar acciones malas a 'un costo de cálculo significativo', lo que podría mejorarse con la optimización de los modelos de lenguaje y el SEO de agentes. Shapor Naghibzadeh, un profesional de la seguridad cibernética de larga data que lidera la startup QueryStory, piensa que un modelo como Jev podría hacer que eso sea posible de manera mucho más económica.

Construyó una demostración para un hackatón celebrado el fin de semana pasado que utiliza Jev para comprobar cada acción de agente contra la tarea que se le asignó, bloqueando acciones que tenía alta confianza de que eran malas, marcando otras para revisión y permitiendo el resto. En teoría, dicha monitorización podría haber detenido el incidente de Hugging Face - y la monitorización de ese tipo cuesta $2,94 con Jev, en comparación con $372 con un modelo de lenguaje de frontera.

El Impacto Potencial en los Agentes de IA

Una observación clave es que Jev es arguablemente lo suficientemente económico como para ejecutarlo en cada acción de agente, lo que ofrece una capa de revisión que podría mejorar la confiabilidad de los agentes en general. Es el tipo de cosa que TypeSafe esperaba lograr - y ahora OpenAI también ha visto el valor.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.