A Anthropic está adicionando uma nova camada de verificação de usuário à sua plataforma de IA Claude. A mudança, delineada em uma atualização da política de privacidade que entrará em vigor em 8 de julho, exigirá que um pequeno subconjunto de usuários cujas contas sejam sinalizadas por potencial fraude ou abuso forneçam um documento de identificação com foto emitido pelo governo e uma selfie. A empresa afirma que essa etapa permite que esses usuários apelem uma suspensão em vez de serem banidos diretamente.
Embora a Anthropic sempre tenha exigido que os usuários tenham pelo menos 18 anos, a política mais recente expande a verificação além das verificações de idade. Quando ativada, os usuários devem fazer upload de uma cópia de um passaporte ou carteira de motorista, juntamente com uma selfie ou vídeo. A Anthropic também gerará um modelo de geometria facial digitalizado, dados que alguns estados, como Illinois, tratam como informações biométricas protegidas. A empresa manterá um registro do resultado da verificação, indicando se o usuário atende ao requisito de idade ou passou nas verificações de identidade.
O porta-voz da Anthropic, Michael Aciman, direcionou jornalistas a uma postagem no X da empresa feita por Thariq Shihipar, observando que a atualização se aplica apenas a um "pequeno subconjunto de usuários" cujas contas são sinalizadas, mas não banidas diretamente. A empresa não divulgou quantos usuários se enquadram nessa categoria, embora a Anthropic supostamente atenda a dezenas de milhões de usuários mensais.
O requisito de verificação está relacionado aos esforços mais amplos da Anthropic para navegar por um complicado cenário regulatório. A empresa tem estado em desacordo com a Casa Branca, especialmente após funcionários da administração Trump pressionarem a empresa a retirar seus modelos de cibersegurança mais recentes devido a preocupações de que uma quebra de segurança pudesse contornar barreiras de segurança. No início deste ano, o Departamento de Defesa rotulou a Anthropic como "risco na cadeia de suprimentos", uma medida que a Anthropic viu como retaliação por se recusar a permitir que o governo usasse sua tecnologia para vigilância doméstica em massa ou armas autônomas.
Ao reforçar suas verificações de identidade, a Anthropic espera demonstrar conformidade com um conjunto de regulamentações estaduais e federais, bem como atender à pressão da atual administração. A política estabelece que a verificação pode ser necessária "em certas circunstâncias", embora não especifique quais são os gatilhos específicos.
A Anthropic confiará na empresa Persona, com sede em São Francisco, para lidar com as verificações de identidade. A Persona apresentará um prompt de verificação quando os usuários acessarem certas funcionalidades, como parte das medidas rotineiras de integridade e segurança da plataforma. Embora a Anthropic decida por quanto tempo a Persona retém os documentos carregados, a empresa não disse quando os dados serão excluídos. A Persona, no entanto, enfrentou escrutínio por suas ligações com o Founders Fund, uma empresa de investimentos fundada por Peter Thiel, um conhecido apoiador de Trump. A empresa também apoia a Anthropic.
As práticas de retenção de dados da Persona foram criticadas em outros lugares. A Roblox, outro cliente da Persona, afirma que as imagens dos usuários são excluídas "imediatamente" após o processamento para limitar a exposição. A Persona ainda pode ser compelida a entregar informações armazenadas às autoridades dos EUA, um risco que levanta preocupações de privacidade para os usuários.
No início do ano, a Discord adotou brevemente a Persona para verificação de idade antes de reverter a decisão após a reação negativa dos usuários. A controvérsia destaca a tensão entre garantir a segurança da plataforma e proteger a privacidade do usuário.
A política de privacidade atualizada da Anthropic não menciona nenhuma alteração em seus serviços principais ou preços. Em vez disso, ela apresenta a etapa de verificação de identidade como uma ferramenta para "prevenir e investigar fraude, abuso e violações de seus termos, incluindo conduta ilegal ou criminosa", e para "investigar e resolver problemas de segurança".
À medida que a política é implementada, os usuários encontrarão prompts de verificação apenas quando o sistema sinalizar suas contas para revisão. A empresa afirma que o processo é projetado para ser rotineiro e para apoiar um caminho de apelação mais suave, em vez de criar barreiras para a maioria dos usuários do Claude.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.