A Anthropic esclareceu na sexta-feira como incorporará marcas d'água invisíveis nos textos produzidos por seu modelo Claude, uma medida destinada a cumprir o Regulamento de IA da União Europeia. A empresa descreveu o novo sistema como uma "versão da abordagem SynthID-Text", uma técnica de marca d'água de código aberto originalmente criada pela Google DeepMind.
O regulamento da UE exige que áudio, imagem, vídeo e texto sintéticos carreguem marcas legíveis por máquina que permitam que detectores identifiquem o conteúdo como gerado artificialmente. A resposta da Anthropic é incorporar um padrão sutil no processo de escolha de palavras da saída do Claude. O padrão é indetectável para os leitores, mas pode ser identificado por qualquer pessoa com a chave de detecção apropriada.
Na prática, a marca d'água depende de decisões lexicais de baixo risco que ocorrem ao longo de um parágrafo. Por exemplo, após a frase "O tempo hoje estava frio e...", um modelo pode escolher aleatoriamente entre "nublado" ou "cinzento", ambos continuando razoavelmente. Quando a marca d'água está ativa, a seleção aleatória é feita a partir de uma fonte determinística que incorpora uma chave secreta e as palavras anteriores, deixando uma assinatura rastreável em todo o texto.
A Anthropic enfatiza que a marca d'água não aumentará o preço do Claude nem degradará a qualidade de suas respostas. A empresa assegura aos usuários que as alterações permanecem transparentes para o usuário final, enquanto fornecem aos reguladores um método de detecção confiável.
A medida reflete as etapas tomadas por outros desenvolvedores de IA. A Google empregou o SynthID-Text para seu chatbot Gemini desde 2024, e a OpenAI, embora silenciosa sobre planos específicos, enfrenta o mesmo prazo de conformidade sob o Regulamento de IA. A Anthropic também anunciou suporte a padrões C2PA para imagens processadas pelo Claude, extendendo suas medidas de transparência além do texto.
Observadores da indústria notam que as regras da UE podem redefinir como os produtos de IA são construídos e implantados em todo o mundo. Ao adotar um framework de marca d'água de código aberto, a Anthropic se posiciona para atender às demandas regulatórias sem reinventar a tecnologia do zero. A abordagem também sinaliza uma mudança mais ampla na indústria para incorporar sinais de proveniência diretamente em modelos gerativos.
A explicação da Anthropic destaca um consenso crescente: a conformidade pode ser incorporada em sistemas de IA sem sacrificar o desempenho. À medida que a linha do tempo de aplicação do Regulamento de IA se aproxima, mais desenvolvedores provavelmente seguirão o exemplo, integrando marcas invisíveis semelhantes para garantir aos reguladores e aos usuários que o conteúdo sintético possa ser identificado de forma confiável.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.