A OpenAI lançou uma abordagem de duas vias na terça-feira com o objetivo de reduzir a disseminação de imagens geradas por IA que podem ser confundidas com fotografia real. A empresa irá adotar o padrão Coalition for Content Provenance and Authenticity (C2PA), incorporando uma tag de metadados que explicitamente afirma que uma imagem foi criada por um sistema de IA. Em paralelo, a OpenAI firmou uma parceria com o Google para incorporar uma marca d'água invisível chamada SynthID, que sobrevive a manipulações típicas de imagens, como redimensionamento, capturas de tela ou edições digitais.
ambos os mecanismos são destinados a fornecer aos jornalistas, verificadores de fatos e usuários comuns um método confiável para rastrear a origem de uma imagem. A OpenAI afirmou que o sinal de metadados é legível por software confiável que pode exibir informações de proveniência sem alterar o conteúdo visual. A SynthID, por outro lado, é um padrão criptográfico entrelaçado nos dados de pixel; ele permanece detectável mesmo após a imagem ser comprimida ou alterada, tornando mais difícil para atores mal-intencionados apagar a trilha de origem da IA.
Para tornar a verificação acessível, a OpenAI previewou uma ferramenta pública que scaneia uma imagem para a tag C2PA e a marca d'água SynthID. O serviço atualmente suporta apenas imagens geradas pelos próprios modelos da OpenAI, mas a empresa expressou a esperança de que a ferramenta possa eventualmente lidar com a saída de outros geradores à medida que a indústria adota padrões semelhantes.
O padrão C2PA, fundado em 2021, é uma iniciativa sem fins lucrativos que busca mitigar os efeitos nocivos da mídia sintética no discurso público. O Google já integrou o C2PA em vários de seus produtos, embora a adoção em todo o ecossistema tecnológico mais amplo permaneça irregular. A OpenAI reconhece que a tag de metadados pode ser removida ou alterada por atores mal-intencionados, o que é por que a marca d'água invisível oferece uma linha de defesa complementar.
A marca d'água SynthID do Google foi construída especificamente para durar os tipos de transformações que normalmente apagam marcas d'água visíveis. Ao incorporar um sinal no nível de pixel, a marca d'água pode sobreviver a capturas de tela, compressão e até mesmo tentativas deliberadas de obscurecê-la. A OpenAI destacou que o uso combinado de metadados e marca d'água cria um sistema de proveniência mais resiliente do que qualquer método isolado.
O anúncio da OpenAI ocorre em meio a crescentes preocupações de que a imagens geradas por IA estão alimentando a desinformação, a propaganda de deep-fake e a publicidade fraudulenta. Ao garantir que suas próprias ferramentas deixem um rastro, a empresa espera estabelecer um padrão para a implantação responsável de IA. Críticos observam que as medidas não abordam o fluxo de imagens produzidas por geradores menos confiáveis que carecem de qualquer sinal de proveniência incorporado.
"A marca d'água pode ser mais durável por meio de transformações como capturas de tela, enquanto os metadados podem fornecer mais informações do que uma marca d'água sozinha", disse a OpenAI em seu comunicado. "Juntos, eles tornam a proveniência mais resiliente do que qualquer camada isolada".
Este artigo foi escrito com a assistência de IA.
News Factory SEO ajuda você a automatizar conteúdo de notícias para o seu site.