A Anthropic divulgou que seu modelo de IA Claude agora incorporará uma marca d'água invisível em cada peça de texto que produz, uma etapa projetada para atender às novas regras de transparência de IA da União Europeia. Diferentemente de marcadores visuais ou caracteres ocultos, a marca d'água consiste em um padrão sutil incorporado no processo de seleção de palavras, detectável apenas por um decodificador autorizado.

A empresa explicou que os grandes modelos de linguagem geram texto palavra por palavra, escolhendo entre uma lista de opções plausíveis. Normalmente, a escolha é dirigida por um gerador de números aleatórios, mas com a marca d'água, o Claude usa uma chave secreta para direcionar a seleção. A Anthropic ilustrou o conceito com um exemplo simples: usando os dígitos de pi como chave, o modelo pode escolher a sexta palavra da lista de candidatos, então a quinta, terceira e quinta novamente, seguindo a sequência 2-5-3-5 derivada dos dígitos de pi. A abordagem adapta o método SynthID-Text da Google DeepMind, que foi detalhado em um artigo da Nature.

De acordo com a Anthropic, a marca d'água não degrada a qualidade da saída do Claude, não diminui a velocidade de geração ou aumenta o consumo de tokens. Os usuários verão a mesma prosa fluente que esperam, enquanto uma API separada permitirá que os desenvolvedores enviem um bloco de texto e uma chave de decodificação para verificar se o Claude foi envolvido em sua criação.

A Anthropic advertiu que o sistema tem limites. Ele pode sinalizar texto que o Claude gerou ou editou, mas não pode distinguir entre uma geração de comprimento total e uma edição leve. Consequentemente, mesmo uma breve revisão deixará uma marca d'água, embora passagens muito curtas possam evadir a detecção. A empresa observou que as traduções herdam a marca d'água também, e que apenas uma reescrita completa pode remover completamente a marca.

O código apresenta um desafio diferente. Porque a saída de programação muitas vezes exige sintaxe exata com pouco espaço para alternativas de escolha de palavras, o padrão da marca d'água é mais difícil de incorporar. A Anthropic disse que o código normalmente recebe "geralmente menos marca d'água" do que a prosa, pois o modelo pode não ter liberdade de seleção em muitos casos.

Além do texto, a Anthropic também marcará imagens geradas pelo Claude. Cada imagem terá uma nota assinada criptograficamente em seus metadados, afirmando que foi produzida pelo Claude. A empresa aplicou marcas d'água em todos os produtos do Claude que usam modelos lançados após 2 de agosto e planeja adaptar modelos mais antigos nos próximos meses, citando a dificuldade de implementar soluções específicas de região.

O lançamento da Anthropic chega em meio a um aumento da fiscalização do conteúdo gerado por IA e seu potencial uso indevido. Ao incorporar um marcador oculto, mas verificável, a empresa espera fornecer aos reguladores, empresas e usuários finais uma ferramenta para rastrear material de origem de IA sem comprometer a experiência do usuário.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.