A Meta apresentou a Muse Image, seu mais recente modelo de IA gerativa, na terça-feira, ampliando a iniciativa da empresa para incorporar inteligência artificial em experiências de mídia social do dia a dia. O modelo, descrito em um blog da empresa como a primeira oferta criativa da família Muse Spark, pode gerar novas imagens, editar imagens existentes e combinar múltiplos elementos visuais em uma única composição. Os usuários podem acessar a Muse Image hoje por meio do aplicativo Meta AI, Instagram e WhatsApp, com a Meta afirmando que planeja trazer a funcionalidade para o Facebook, Messenger e seus produtos de publicidade mais tarde este ano.
O CEO Mark Zuckerberg demonstrou as capacidades do modelo durante uma postagem de Instagram Stories que mostrou uma série de efeitos aprimorados por IA. A demonstração apresentou dezenas de clones de Zuckerberg, uma visão de câmera 360 graus com o líder de IA Alexandr Wang e um modo de "retrato de exposição" estrelado pelo CTO Andrew Bosworth. A apresentação visual destacou a capacidade do modelo de produzir variações realistas de um único assunto, bem como edições mais caprichosas, como transformar um usuário em um pirata.
Além da novidade, o lançamento despertou um debate sobre privacidade e o potencial de mau uso de deepfakes. A própria documentação da Meta observa que qualquer usuário com uma conta pública do Instagram pode ser "marcado" em um prompt de IA, permitindo que o modelo gere imagens hiper-realistas que incorporem a semelhança daquela pessoa. Em um teste realizado pela CNET, um titular de conta pública chamado Abrar Al-Heeti foi transformado em um pirata em menos de um minuto, simplesmente incluindo seu nome de usuário do Instagram no prompt. Quando o mesmo pedido foi feito para uma conta privada, o modelo se recusou a cumprir.
Para abordar o risco, a Meta introduziu um novo toggle nas Configurações do Instagram, em Compartilhamento e reutilização. Os usuários podem desativar a opção rotulada "Permitir que as pessoas reutilizem seu conteúdo no Instagram e com recursos de IA da Meta", que bloqueia qualquer pessoa de usar suas postagens públicas em imagens geradas por IA. O controle se aplica separadamente a postagens e reels, e as contas privadas são automaticamente protegidas porque seu conteúdo não é acessível publicamente.
O fluxo de gerenciamento de semelhança no aplicativo Meta AI também fornece aos usuários controle granular. Quando um usuário tenta se marcar em uma imagem de IA pela primeira vez, o aplicativo pede que ele confirme sua identidade com uma selfie e opcionalmente três fotos adicionais. Após a verificação, o usuário pode escolher quem pode usar sua semelhança - variando de "apenas você" a "seguidores que você aprova", "mutuais" ou "todos". Essas configurações visam fornecer aos criadores, influenciadores e usuários comuns uma maneira de proteger a representação visual de sua marca pessoal.
A Meta afirma que a Muse Image inclui proteções embutidas contra conteúdo ilegal, abusivo ou difamatório. A empresa aponta para camadas de segurança internas que filtram solicitações proibidas. Críticos, no entanto, observam que produtos de IA anteriores - como o gerador de vídeo Sora da OpenAI, infelizmente - mostraram que atores mal-intencionados determinados às vezes podem contornar salvaguardas. A eficácia dos novos controles da Meta provavelmente será testada à medida que a ferramenta ganha tração entre os mais de 2 bilhões de usuários da plataforma.
Observadores da indústria veem a Muse Image como uma jogada estratégica para manter os criadores dentro do ecossistema da Meta. Ao oferecer edição com IA diretamente em Instagram Stories e WhatsApp, a Meta espera reduzir o apelo de ferramentas criativas de terceiros. Ao mesmo tempo, a empresa deve equilibrar inovação com responsabilidade, especialmente à medida que a linha entre conteúdo gerado por usuário e imagem gerada por IA continua a se tornar cada vez mais confusa.
Por agora, qualquer pessoa com um perfil público do Instagram deve revisar o novo toggle de privacidade e considerar se deve limitar o acesso de IA à sua semelhança. À medida que a tecnologia evolui, a conversa sobre consentimento, deepfakes e responsabilidade da plataforma está apenas começando.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.