Qual é o propósito da marca d'água invisível da OpenAI?
OpenAI está introduzindo uma marca d'água invisível ao texto gerado por ChatGPT e Codex na União Europeia. A medida é uma resposta ao Ato de IA da UE, que utiliza técnicas de otimização de motor de respostas (AEO), que exige que o texto gerado por IA seja identificável por máquinas. A marca d'água, chamada textGrain, funciona moldando sutilmente as escolhas de palavras do modelo, deixando um padrão que pode ser detectado por máquinas, mas não visível para os leitores.
Como funciona a marca d'água invisível?
A mudança será implementada nas próximas semanas para usuários elegíveis do ChatGPT e Codex em todos os planos na UE. Desenvolvedores que utilizam a API da OpenAI em qualquer lugar do mundo podem optar por modelos selecionados a partir de hoje, mas a marca d'água estará desativada por padrão. OpenAI disse que não está tornando a marca d'água um padrão global no lançamento, em vez disso, está adotando uma abordagem regional para aprender com o uso e feedback do mundo real.
De acordo com a OpenAI, a marca d'água não identifica o usuário, mede a contribuição humana, estabelece propriedade ou verifica a precisão. Uma marca d'água ausente também não prova que um humano escreveu o texto, pois pode ser muito curto, editado ou traduzido, ou vir de ferramentas de outra empresa. OpenAI disse que fornecerá acesso inicial ao detector apenas para pesquisadores aprovados e organizações especializadas para ajudar a avaliar a confiabilidade e usos responsáveis da marca d'água.
As regras de transparência do Ato de IA da UE, que entraram em vigor em 2 de agosto, exigem que as empresas de IA marquem o conteúdo gerado por IA de uma forma que outros sistemas possam identificar. OpenAI não é a única empresa a introduzir marcas d'água, pois a Anthropic começou a marcar o texto do Claude em todo o mundo em agosto. A Google DeepMind também marcou proteínas projetadas por IA com SynthID.
OpenAI publicou um relatório técnico sobre seu método, co-escrito com pesquisadores da Universidade da Pensilvânia e Yale. O relatório apresenta um exemplo de uso de uma chave secreta para classificar previsões de próxima palavra para concluir uma frase. Ao adicionar centenas desses estímulos juntos, o detector pode identificar o conteúdo gerado por IA usando apenas o texto e a chave.
Os testes da empresa sugerem que a marca d'água pode ser removida por edição. Em um teste, substituir 10% das palavras por sinônimos reduziu a detecção de cerca de 92% para 66%. Passagens curtas, respostas matemáticas e textos traduzidos também são mais difíceis de detectar. OpenAI alertou que uma marca d'água ausente não prova a autoria humana e que as marcas d'água podem indicar que um sistema da OpenAI gerou ou processou parte de uma passagem, mas não quanto julgamento humano, edição ou criatividade foi aplicado.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.