OpenAI reescribió su Model Spec, el documento público que describe cómo deben comportarse sus modelos, en torno a cinco valores fundamentales: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado. La compañía afirma que el cambio ayuda a los modelos a usar su criterio en situaciones que las instrucciones no cubren, y que la actualización elimina la mayor parte de la guía detallada de estilo.

OpenAI actualizó su Model Spec, el documento público que establece cómo la compañía quiere que se comporten sus modelos. La revisión reorganiza la guía en torno a cinco valores fundamentales y añade nuevos principios sobre contexto, supervisión y agencia.

¿Por qué OpenAI actualizó su Model Spec?

La compañía afirma que el cambio responde a un problema práctico. A medida que sus modelos se vuelven más inteligentes y realizan acciones de mayor consecuencia, necesitan hacer más que interpretar las instrucciones específicas que reciben. También deben comprender lo que las personas buscan y valoran, para poder usar un buen criterio en situaciones que las instrucciones no abordan, manteniéndose fieles a la intención humana y a la supervisión.

Los cinco valores detrás del Spec

¿Cuáles son los cinco valores fundamentales del Model Spec de OpenAI?

Los cinco valores son fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado. OpenAI sostiene que estos valores reúnen compromisos que ya estaban presentes en todo el Spec: servir a los propósitos humanos, decir la verdad, minimizar el daño, respetar la libertad de las personas para formar sus propias opiniones y tomar en serio sus circunstancias. Agruparlos en un solo marco, según la compañía, ayuda a explicar por qué el Spec pide a los modelos comportarse como lo hacen y le permite redactar una guía más clara allí donde esos compromisos estaban menos explícitamente detallados.

La fidelidad ocupa el centro. OpenAI la describe como algo que va más allá de seguir instrucciones literalmente: implica comprender a fondo lo que la compañía, los desarrolladores y los usuarios pretenden, y actuar con sabiduría cuando esa comprensión es incompleta. También significa reconocer que las creencias y valores de las personas pueden cambiar, y ayudarles a reflexionar y crecer sin dirigirlos de manera encubierta. En un ejemplo, cuando un modelo ayuda a alguien a comparar ofertas de trabajo, puede basarse en prioridades que la persona ya ha compartido antes, como los horarios predecibles, haciendo visibles esos supuestos y fáciles de corregir.

Los demás valores completan el panorama. Minimizar el daño implica respetar límites firmes de seguridad y tener en cuenta las consecuencias previsibles de las acciones de un modelo. La honestidad y la transparencia significan ser veraces sobre lo que el modelo sabe, hace y no tiene claro, para que las personas puedan evaluar su razonamiento y su trabajo. Facilitar la agencia humana significa fortalecer la capacidad de las personas para comprender, elegir y actuar por sí mismas. El cuidado implica atender las circunstancias de quienes se ven afectados, seguir las normas sociales y profesionales pertinentes y producir un trabajo en el que las personas puedan confiar.

¿Quién controla qué en el Model Spec?

El Spec define quién controla qué. OpenAI redacta el Spec, establece los límites y entrena a los modelos para que los respeten. Los desarrolladores dirigen sus aplicaciones dentro de esos límites, y los usuarios dirigen el trabajo del modelo sujetos a las mismas restricciones. En la práctica, el documento utiliza límites firmes cuando es necesario para proteger a las personas y a la sociedad. En los demás casos, establece sobre todo valores predeterminados que los usuarios y desarrolladores pueden modificar.

Nuevas secciones y reglas de estilo eliminadas

La revisión incluye una nueva sección sobre la fidelidad a la intención humana, junto con una cadena de mando actualizada que explica qué instrucciones se aplican y cómo se resuelven los conflictos. Una nueva subsección, titulada “considerar el contexto con cuidado”, aborda cómo las conversaciones, los recuerdos y otra evidencia contextual deben moldear la comprensión que el modelo tiene de lo que las personas quieren.

OpenAI también añadió valores predeterminados sobre el respaldo a la agencia humana y el seguimiento de las normas sociales pertinentes, y amplió su guía sobre el control y la comunicación de efectos secundarios. La compañía afirma que estos principios abordan formas más sutiles en que los valores fundamentales deben manifestarse en el comportamiento de un modelo, incluido el análisis de los efectos de su trabajo sobre otros y la ayuda a los usuarios para desarrollar sus propias capacidades.

Al mismo tiempo, OpenAI está eliminando la mayor parte de la guía detallada de estilo del Spec. La compañía sostiene que el estilo debe adaptarse a lo que las personas prefieren, en conjunto, en distintos idiomas y culturas, y para cada persona en particular, usando la retroalimentación de los usuarios y el contexto como evidencia. El Spec mantiene algunos valores predeterminados más firmes, como abordar las preguntas de manera objetiva. Los usuarios y desarrolladores pueden pedir explícitamente que un modelo adopte una perspectiva particular, pero el modelo no debe inferir esa preferencia simplemente a partir de lo que cree que el usuario quiere escuchar.

El documento también cambia la forma en que se refiere al modelo. Como los modelos ahora se utilizan en una gama más amplia de productos y entornos, el Spec lo denomina “GPT” en lugar de “el asistente”.

OpenAI afirma que ha estado probando nuevos métodos de entrenamiento que buscan ayudar a los modelos a aprender estos valores fundamentales y a seguir los principios específicos del Spec. El objetivo, según la compañía, es que los modelos comprendan por qué importan esos principios y cómo aplicarlos en nuevas situaciones, para que hagan lo correcto por las razones correctas. OpenAI indica que compartirá los resultados y las lecciones de ese trabajo en actualizaciones futuras.

La compañía describe la actualización como un primer paso. Reconoce que el Spec describe el comportamiento al que aspira y que sus modelos aún no lo reflejan plenamente. OpenAI pide al público que lea el documento actualizado y envíe comentarios sobre las partes que le resultan convincentes, los puntos en los que no está de acuerdo con el equilibrio que propone y lo que pasa por alto o deja poco claro.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.