A Anthropic disse esta semana que cada peça de texto ou imagem gerada por sua família de modelos de IA Claude incluirá uma marca d'água invisível. O recurso é lançado para versões do Claude lançadas em ou após 2 de agosto e se aplica a todos os produtos da marca Claude, desde a API até o Claude Cowork e o Claude Tag. Ao incorporar sinais ocultos diretamente na saída, a empresa espera atender ao Código de Práticas da União Europeia sobre Transparência de Conteúdo Gerado por IA, que obriga os provedores de IA a informar os usuários quando eles estão interagindo com material produzido por máquina.
A marca d'água não é uma etiqueta visível que os leitores possam ver. Em vez disso, consiste em variações sutis no espaçamento, sequência de palavras ou outros padrões estatísticos tecidos no texto. Esses sinais sobrevivem a ações de copiar e colar, independentemente de o usuário mover o conteúdo do Windows Notepad, macOS TextEdit ou qualquer outro editor. Para imagens, a marca d'água assume a forma de metadados de proveniência assinados incorporados em formatos de arquivo como .svg, .png ou .jpg. A assinatura criptográfica registra a origem, criador e quaisquer modificações subsequentes; a alteração do arquivo quebra a assinatura e sinaliza que a imagem pode ter sido alterada.
Como a marca d'água funciona
A Anthropic descreveu o processo como marca d'água de nível de modelo, significando que os marcadores são incorporados na saída, independentemente de qual interface ou superfície do Claude o usuário acessa. Na prática, um sistema de detecção pode scanear o arquivo de texto ou imagem e revelar o padrão oculto, confirmando que o conteúdo originou-se do Claude. A empresa ainda não liberou as ferramentas de detecção para o público, dizendo que fornecerá mais detalhes no futuro.
Embora as marcas d'água sejam projetadas para persistir por meio de edição rotineira, a Anthropic alertou que reescrita pesada, paráfrase extensiva, tradução ou mistura com outras fontes poderia apagar ou obscurecer os marcadores. Da mesma forma, tirar uma captura de tela de uma imagem gerada pelo Claude e salvá-la como um novo arquivo removeria os metadados de proveniência. Devido a esses limites, a presença de uma marca d'água não prova automaticamente que cada palavra ou pixel foi criado pela IA, nem sua ausência garante o oposto.
Observadores da indústria veem a medida como parte de um impulso mais amplo para a transparência da IA. A Substack recentemente se associou à Pangram para rotular postagens assistidas por IA, a Suno anunciou divulgações semelhantes para músicas geradas por IA e o LinkedIn agora permite que os usuários sinalizem conteúdo suspeito de IA. O recurso AI Persona do Spotify também informa os ouvintes quando a música envolve inteligência artificial. A marca d'água da Anthropic se junta a esses esforços, oferecendo uma solução técnica que pode ser verificada por máquinas em vez de confiar apenas em etiquetas visíveis para os usuários.
Criticos observam que as ferramentas de detecção de IA lutaram com a precisão, especialmente para falantes não nativos de inglês cuja escrita pode ser erroneamente sinalizada como sintética. A abordagem da Anthropic evita alguns desses obstáculos incorporando uma assinatura comprovável na fonte, mas também levanta questões sobre quão fácil será para desenvolvedores de terceiros construir detectores confiáveis.
Em uma declaração breve, um representante da Anthropic se recusou a comentar mais sobre detalhes de implementação. A empresa disse que compartilhará orientações de detecção posteriormente e enfatizou que a marca d'água será aplicada globalmente, não apenas dentro da UE. À medida que os reguladores em todo o mundo endurecem as regras sobre divulgação de IA, o passo da Anthropic pode estabelecer um precedente para outros desenvolvedores que buscam equilibrar conformidade com experiência do usuário.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.