¿Se pueden reconstruir los prompts de IA a partir de las respuestas de un chatbot?

Un nuevo artículo de investigación describe una forma de trabajar en sentido inverso, desde la respuesta de un chatbot hasta la pregunta que la provocó, y sus autores afirman que el método recupera los prompts con una precisión casi exacta. El artículo, titulado "PTP: Previous-Token Prediction based LLM Inversion for Near-Exact Prompt Reconstruction", fue publicado en el servidor de preimpresiones arXiv el 31 de julio de 2026 y fue enviado por Pirzada Suhail.

El problema comienza con la forma en que funcionan los modelos de lenguaje grandes. Generan texto muestreando un token a la vez, prediciendo el siguiente fragmento de texto con base en lo que vino antes. Ese proceso significa que muchos prompts diferentes pueden producir respuestas similares, y que muchas respuestas pueden provenir de prompts distintos. Deducir el prompt original a partir de la salida es difícil, lo que los investigadores llaman inversión de LLM.

Los esfuerzos anteriores trataban la tarea principalmente como un problema semántico. Estos enfoques, por lo general, ajustaban modelos preentrenados de secuencia a secuencia con grandes conjuntos de datos externos para producir prompts que sonaran plausibles. Muchos también necesitaban acceso a los pesos del modelo o a sus logits, es decir, las puntuaciones de probabilidad sin procesar detrás de cada palabra elegida. Los autores afirman que esta configuración limita los lugares donde pueden usarse tales métodos.

El nuevo enfoque toma un camino distinto. Los investigadores lo describen como un método funcional para invertir un modelo dado en un entorno de caja negra, lo que significa que funciona sin acceso a los componentes internos del modelo y sin herramientas auxiliares. Entrenan un modelo de lenguaje inverso explícito completamente desde cero, usando datos generados sintéticamente por el propio modelo objetivo.

¿Cómo funciona la predicción del token anterior en la reconstrucción de prompts?

El modelo inverso se entrena con lo que los autores llaman predicción del token anterior. Replica el proceso directo de predicción del siguiente token, pero funciona en reversa, prediciendo el token que vino antes. Los autores sostienen que esto crea un vínculo generativo entre las direcciones directa e inversa, que, según afirman, es lo que permite una reconstrucción fiel del prompt.

El método también produce más de una respuesta. Como el modelo inverso puede muestrearse, puede generar prompts candidatos diversos. Según el artículo, todos esos candidatos inducen respuestas similares cuando se reintroducen en el modelo objetivo original, por lo que son intercambiables desde el punto de vista del modelo, incluso cuando la redacción difiere.

Los investigadores informan que el enfoque se generaliza entre conjuntos de datos. También afirman que puede reconstruir prompts a partir de respuestas generadas por distintos modelos de lenguaje, lo que describen como transferibilidad. En las métricas basadas en tokens utilizadas para evaluar la reconstrucción de prompts y respuestas, los autores reportan que su método supera los trabajos previos.

El artículo es una preimpresión y no ha pasado por una revisión formal por pares. Sus hallazgos se basan en los experimentos de los propios autores, y el resumen no describe los modelos ni los conjuntos de datos específicos utilizados en esas pruebas.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.