Usuários de modelos de IA não têm uma forma confiável de confirmar que uma resposta veio do modelo que selecionaram. Um desenvolvedor pode afirmar que está servindo um determinado modelo enquanto um serviço de roteamento troca discretamente por um mais barato. Um invasor poderia alterar o fluxo de saída e fazê-lo passar como se viesse de um sistema confiável. Avaliar apenas o texto raramente resolve a questão, mesmo quando as respostas parecem boas.
\n\nA Anthropic está propondo uma possível solução. A empresa lançou o FlashProve, um protótipo de pesquisa de código aberto que usa provas criptográficas para demonstrar que um modelo específico, com um conjunto específico de pesos, produziu determinada resposta. A empresa descreve o trabalho como uma etapa intermediária, não como um produto acabado, e afirma que está compartilhando o código na expectativa de que outros o testem, melhorem e avancem sobre ele.
\n\nComo o FlashProve comprova qual modelo de IA produziu uma resposta?
O sistema se baseia em um tipo de prova chamado zkSNARK. Na prática, um provedor de modelo se compromete previamente com um conjunto de pesos do modelo e, em seguida, anexa uma prova curta a cada resposta. Qualquer pessoa que tenha esse compromisso, o prompt e a resposta pode verificar a prova sem ver os pesos e sem precisar de grande capacidade computacional. Se a resposta não tiver vindo do modelo comprometido, a verificação falha.
\n\nQual é a velocidade das provas e da verificação do FlashProve?
Os números de desempenho são o principal argumento. Em testes com o Llama 4 Maverick, um modelo de mistura de especialistas com 400 bilhões de parâmetros, os pesquisadores usaram uma versão de 4 bits dos pesos disponível publicamente. Uma única GPU H100 gerou provas a cerca de 110 tokens por segundo. Cada prova para uma requisição de 1.024 tokens teve cerca de 19 megabytes. A Anthropic afirma que provar um lote de requisições levou entre 70 e 95 vezes o tempo de GPU necessário para executar o mesmo modelo no vLLM, uma biblioteca de inferência de código aberto amplamente usada.
\n\nO verificador é muito mais leve. Segundo a empresa, a verificação de uma prova levou cerca de 17 segundos em uma CPU de 24 threads. A fase de configuração, realizada uma única vez, levou cerca de 39 minutos. Esse compromisso cobre aproximadamente 16 milhões de requisições antes que o provedor precise se comprometer novamente.
\n\nA Anthropic apontou vários cenários em que essas provas poderiam ser importantes. Ritmo de desenvolvimento e regulamentação são um deles. Algumas propostas para desacelerar o desenvolvimento de IA dependem da confirmação de que o hardware está sendo usado para inferência, e não para treinar um novo modelo. Um regulador poderia solicitar provas que cubram um período determinado de requisições e verificá-las sem montar sua própria infraestrutura de hardware sofisticada. As provas mostrariam que as requisições foram atendidas pelo modelo aprovado, embora não comprovassem que o hardware não estava também treinando modelos em paralelo.
\n\nA detecção de adulteração é outro cenário. A Anthropic argumenta que, à medida que os modelos se tornam mais valiosos, os servidores que os executam se tornam alvos. Um servidor comprometido, ou um modelo mais capaz se passando por um mais fraco, teria de produzir provas válidas para os pesos esperados para evitar a detecção. A Anthropic afirma que não conseguiria fazer isso. A empresa também sugere que as provas poderiam ajudar usuários a verificar afirmações sobre a quantidade de trabalho que um modelo realizou em uma tarefa, como a análise de segurança de um patch de software.
\n\nA versão inclui cinco artefatos: o post no blog, um relatório técnico, uma especificação de protocolo escrita com o Claude, código executável com um provador e dois verificadores, e provas em Lean das principais afirmações de segurança, além de um visualizador para ajudar auditores a interpretá-las. Um dos verificadores é escrito em C++ e roda mais rápido. O outro é escrito em Lean, oferece garantias formais, mas roda mais devagar. A Anthropic afirma que o verificador em C++ é o que deve ser usado no dia a dia e que ele concordou com o verificador em Lean em todas as provas de seus testes.
\n\nQuais são as limitações do FlashProve?
A empresa também é clara quanto às limitações. As provas ocultam os pesos do modelo, mas não sua arquitetura. O sistema pressupõe um design de mistura de especialistas e ainda não cobre ataques de canal lateral, como medições de tempo que poderiam vazar informações. Atualmente, ele lida com contextos de até 1.024 tokens, muito abaixo das janelas bem mais longas usadas em produtos de chat. A prova também se aplica a uma versão inteira do modelo com decodificação gulosa. Uma implementação de ponto flutuante ou uma saída amostrada poderia divergir em algum ponto, embora a empresa diga que seus testes mostram que a versão inteira permanece dentro de uma pequena taxa de erro em relação à inferência de ponto flutuante verdadeira.
\n\nA Anthropic compara seus resultados com trabalhos anteriores da área. Vários projetos anteriores tentaram a inferência comprovável, incluindo o zkLLM, que comprovou o LLaMA-2-13B a cerca de 2,5 tokens por segundo em uma A100, em 2024. A Anthropic afirma que a única prova anterior do Llama 4 Maverick que conhece, de um projeto chamado VerInf, levou 14,3 horas para gerar provas de 1.000 tokens. A Attestable, uma iniciativa comercial, relatou de forma independente entre 53 e 77 tokens por segundo para um modelo denso de 31 bilhões de parâmetros, embora não tenha lançado uma biblioteca de código aberto correspondente.
\n\nA Anthropic afirmou que o mesmo progresso deve se estender a outros modelos e arquiteturas. A empresa convida pesquisadores externos a auditar o trabalho, executar o código e ampliá-lo.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.