A OpenAI reescreveu seu Model Spec, documento público que descreve como seus modelos devem se comportar, em torno de cinco valores centrais: fidelidade à intenção humana, minimização de danos, honestidade e transparência, agência humana e cuidado. A empresa afirma que a mudança ajuda os modelos a usar discernimento em situações que as instruções não cobrem, e que a atualização corta a maior parte das orientações detalhadas de estilo.

A OpenAI atualizou seu Model Spec, documento público que apresenta como a empresa deseja que seus modelos se comportem. A revisão reorganiza as diretrizes em torno de cinco valores centrais e acrescenta novos princípios sobre contexto, supervisão e agência.

Por que a OpenAI atualizou seu Model Spec?

A empresa afirma que a mudança é motivada por um problema prático. À medida que seus modelos ficam mais inteligentes e realizam ações com consequências mais significativas, eles precisam fazer mais do que interpretar as instruções específicas que recebem. Também precisam entender o que as pessoas pretendem e valorizam, para que possam usar bom discernimento em situações que as instruções não abordam, mantendo-se fiéis à intenção humana e à supervisão.

Os cinco valores por trás do Spec

Quais são os cinco valores centrais do Model Spec da OpenAI?

Os cinco valores são fidelidade à intenção humana, minimização de danos, honestidade e transparência, agência humana e cuidado. A OpenAI diz que eles reúnem compromissos que já estavam presentes em todo o Spec: servir a propósitos humanos, ser verdadeiro, minimizar danos, respeitar a liberdade das pessoas de formar suas próprias opiniões e levar a sério as circunstâncias delas. Reunir tudo em um único arcabouço, segundo a empresa, ajuda a explicar por que o Spec pede que os modelos se comportem da forma como se comportam e oferece uma maneira de escrever orientações mais claras onde esses compromissos estavam menos plenamente explicitados.

A fidelidade ocupa o centro. A OpenAI a descreve como algo que vai além de seguir instruções literalmente, buscando compreender profundamente o que a empresa, os desenvolvedores e os usuários pretendem, e agindo com sabedoria quando essa compreensão é incompleta. Ela também significa reconhecer que as crenças e os valores das pessoas podem mudar, e ajudá-las a refletir e crescer, sem direcioná-las de forma discreta. Em um exemplo, quando um modelo ajuda alguém a comparar propostas de emprego, ele pode se basear em prioridades que a pessoa já compartilhou antes, como horários previsíveis, tornando essas suposições visíveis e fáceis de corrigir.

Os demais valores completam o quadro. Minimizar danos significa respeitar limites rígidos de segurança e levar em conta as consequências previsíveis das ações de um modelo. Honestidade e transparência significam ser verdadeiro sobre o que o modelo sabe, faz e sobre o que é incerto, para que as pessoas possam avaliar seu raciocínio e seu trabalho. Facilitar a agência humana significa fortalecer a capacidade das pessoas de compreender, escolher e agir por conta própria. Cuidado significa considerar as circunstâncias das pessoas afetadas, seguir normas sociais e profissionais relevantes e produzir trabalhos nos quais as pessoas possam confiar.

Quem controla o quê no Model Spec?

O Spec define quem controla o quê. A OpenAI escreve o Spec, estabelece limites e treina os modelos para respeitá-los. Os desenvolvedores direcionam suas aplicações dentro desses limites, e os usuários direcionam o trabalho do modelo sujeitos às mesmas restrições. Na prática, o documento usa limites rígidos quando necessário para proteger as pessoas e a sociedade. Fora isso, ele define principalmente padrões que usuários e desenvolvedores podem alterar.

Novas seções e regras de estilo descartadas

A revisão inclui uma nova seção sobre fidelidade à intenção humana, junto com uma cadeia de comando atualizada que explica quais instruções se aplicam e como os conflitos são resolvidos. Uma nova subseção, intitulada “considerar o contexto com cuidado”, aborda como conversas, memórias e outras evidências contextuais devem moldar a compreensão do modelo sobre o que as pessoas querem.

A OpenAI também acrescentou padrões sobre apoio à agência humana e sobre seguir normas sociais relevantes, além de ampliar suas orientações sobre o controle e a comunicação de efeitos colaterais. A empresa diz que esses princípios tratam de formas mais sutis de os valores centrais aparecerem no comportamento de um modelo, incluindo a avaliação dos efeitos de seu trabalho sobre terceiros e a ajuda aos usuários para desenvolverem as próprias capacidades.

Ao mesmo tempo, a OpenAI está cortando a maior parte das orientações detalhadas de estilo do Spec. A empresa afirma que o estilo deve se adaptar ao que as pessoas preferem, em conjunto, entre idiomas e culturas, e para cada indivíduo, com o feedback dos usuários e o contexto servindo como evidência. O Spec mantém alguns padrões mais fortes, incluindo a abordagem objetiva de perguntas. Usuários e desenvolvedores podem pedir explicitamente que um modelo adote uma perspectiva específica, mas o modelo não deve inferir essa preferência simplesmente a partir do que acredita que o usuário gostaria de ouvir.

O documento também muda a forma como se refere ao modelo. Como os modelos agora são usados em uma gama mais ampla de produtos e contextos, o Spec o chama de “GPT” em vez de “o assistente”.

A OpenAI diz que vem testando novos métodos de treinamento que visam ajudar os modelos a aprender esses valores centrais e a seguir os princípios específicos do Spec. O objetivo, segundo a empresa, é que os modelos compreendam por que esses princípios importam e como aplicá-los em novas situações, para que façam as coisas certas pelos motivos certos. A OpenAI afirma que compartilhará resultados e lições desse trabalho em atualizações futuras.

A empresa chama a atualização de um primeiro passo. Ela reconhece que o Spec descreve o comportamento que busca alcançar e que seus modelos ainda não o refletem totalmente. A OpenAI pede que o público leia o documento atualizado e envie feedback sobre quais partes considera convincentes, onde discorda do equilíbrio proposto e o que ficou de fora ou pouco claro.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.