É possível reconstruir prompts de IA a partir das respostas de chatbots?

Um novo artigo científico descreve uma forma de fazer o caminho inverso, partindo da resposta de um chatbot até a pergunta que a provocou, e seus autores afirmam que o método recupera os prompts com precisão quase exata. O artigo, intitulado "PTP: Previous-Token Prediction based LLM Inversion for Near-Exact Prompt Reconstruction", foi publicado no servidor de pré-impressões arXiv em 31 de julho de 2026 e foi enviado por Pirzada Suhail.

O problema começa com o funcionamento dos grandes modelos de linguagem. Eles geram texto amostrando um token por vez, prevendo o próximo trecho de texto com base no que veio antes. Esse processo significa que muitos prompts diferentes podem produzir respostas semelhantes, e muitas respostas podem vir de prompts diferentes. Descobrir o prompt original a partir da saída é difícil, o que os pesquisadores chamam de inversão de LLM.

Esforços anteriores tratavam a tarefa principalmente como um problema semântico. Essas abordagens normalmente ajustavam modelos pré-treinados de sequência para sequência com grandes conjuntos de dados externos, a fim de produzir prompts com aparência plausível. Muitas também precisavam de acesso aos pesos do modelo ou aos seus logits, as pontuações brutas de probabilidade por trás de cada escolha de palavra. Segundo os autores, essa configuração limita os locais onde tais métodos podem ser usados.

A nova abordagem segue um caminho diferente. Os pesquisadores a descrevem como um método funcional para inverter um determinado modelo em um cenário de caixa-preta, o que significa que funciona sem acesso aos componentes internos do modelo e sem ferramentas auxiliares. Eles treinam um modelo de linguagem inverso explícito inteiramente do zero, usando dados gerados sinteticamente pelo próprio modelo-alvo.

Como funciona a previsão do token anterior na reconstrução de prompts?

O modelo inverso é treinado com o que os autores chamam de previsão do token anterior. Ele espelha o processo direto de prever o próximo token, mas funciona no sentido inverso, prevendo o token que veio antes. Os autores argumentam que isso cria um vínculo generativo entre as direções direta e inversa, o que, segundo eles, permite a reconstrução fiel do prompt.

O método também produz mais de uma resposta. Como o modelo inverso pode ser amostrado, ele consegue gerar prompts candidatos diversos. De acordo com o artigo, todos esses candidatos induzem respostas semelhantes quando alimentados de volta no modelo-alvo original, por isso são intercambiáveis do ponto de vista do modelo, mesmo quando a redação é diferente.

Os pesquisadores relatam que a abordagem se generaliza entre diferentes conjuntos de dados. Eles também afirmam que ela consegue reconstruir prompts a partir de respostas geradas por modelos de linguagem diferentes, o que descrevem como transferibilidade. Nas métricas baseadas em tokens usadas para avaliar a reconstrução de prompts e respostas, os autores relatam que seu método supera trabalhos anteriores.

O artigo é uma pré-impressão e não passou por revisão formal por pares. Suas conclusões se baseiam nos experimentos dos próprios autores, e o resumo não descreve os modelos ou conjuntos de dados específicos utilizados nesses testes.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.