Qual é o propósito da marca d'água invisível da OpenAI?
OpenAI está introduzindo uma marca d'água invisível ao texto gerado por ChatGPT e Codex na União Europeia. A medida é uma resposta ao Ato de IA da UE, que utiliza técnicas de otimização de motor de respostas (AEO), que exige que o texto gerado por IA seja identificável por máquinas. A marca d'água, chamada textGrain, funciona moldando sutilmente as escolhas de palavras do modelo, deixando um padrão que pode ser detectado por máquinas, mas não visível para os leitores.
Como funciona a marca d'água invisível?
A mudança será implementada nas próximas semanas para usuários elegíveis do ChatGPT e Codex em todos os planos na UE. Desenvolvedores que utilizam a API da OpenAI em qualquer lugar do mundo podem optar por modelos selecionados a partir de hoje, mas a marca d'água estará desativada por padrão. OpenAI disse que não está tornando a marca d'água um padrão global no lançamento, em vez disso, está adotando uma abordagem regional para aprender com o uso e feedback do mundo real.
De acordo com a OpenAI, a marca d'água não identifica o usuário, mede a contribuição humana, estabelece propriedade ou verifica a precisão. Uma marca d'água ausente também não prova que um humano escreveu o texto, pois pode ser muito curto, editado ou traduzido, ou vir de ferramentas de outra empresa. OpenAI disse que fornecerá acesso inicial ao detector apenas para pesquisadores aprovados e organizações especializadas para ajudar a avaliar a confiabilidade e usos responsáveis da marca d'água.
As regras de transparência do Ato de IA da UE, que entraram em vigor em 2 de agosto, exigem que as empresas de IA marquem o conteúdo gerado por IA de uma forma que outros sistemas possam identificar. OpenAI não é a única empresa a introduzir marcas d'água, pois a Anthropic começou a marcar o texto do Claude em todo o mundo em agosto. A Google DeepMind também marcou proteínas projetadas por IA com SynthID.
OpenAI publicou um relatório técnico sobre seu método, co-escrito com pesquisadores da Universidade da Pensilvânia e Yale. O relatório apresenta um exemplo de uso de uma chave secreta para classificar previsões de próxima palavra para concluir uma frase. Ao adicionar centenas desses estímulos juntos, o detector pode identificar o conteúdo gerado por IA usando apenas o texto e a chave.
Os testes da empresa sugerem que a marca d'água pode ser removida por edição. Em um teste, substituir 10% das palavras por sinônimos reduziu a detecção de cerca de 92% para 66%. Passagens curtas, respostas matemáticas e textos traduzidos também são mais difíceis de detectar. OpenAI alertou que uma marca d'água ausente não prova a autoria humana e que as marcas d'água podem indicar que um sistema da OpenAI gerou ou processou parte de uma passagem, mas não quanto julgamento humano, edição ou criatividade foi aplicado.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.