Los usuarios de modelos de IA no tienen una forma confiable de confirmar que una respuesta provino del modelo que seleccionaron. Un desarrollador podría afirmar que está sirviendo un modelo mientras un servicio de enrutamiento cambia silenciosamente por uno más barato. Un atacante podría alterar el flujo de salida y hacerlo pasar como si proviniera de un sistema confiable. Juzgar solo por el texto rara vez resuelve la cuestión, incluso cuando las respuestas parecen buenas.
\n\nAnthropic está impulsando una posible solución. La compañía publicó FlashProve, un prototipo de investigación de código abierto que utiliza pruebas criptográficas para demostrar que un modelo específico, con un conjunto específico de pesos, produjo una determinada respuesta. La compañía describe el trabajo como un paso intermedio, no como un producto terminado, y afirma que comparte el código con la esperanza de que otros lo prueben, lo mejoren y lo desarrollen.
\n\n¿Cómo demuestra FlashProve qué modelo de IA produjo una respuesta?
El sistema se apoya en un tipo de prueba llamado zkSNARK. En la práctica, el proveedor del modelo se compromete de antemano con un conjunto de pesos del modelo y luego adjunta una prueba breve a cada respuesta. Cualquiera que tenga ese compromiso, la instrucción y la respuesta puede verificar la prueba sin ver los pesos y sin necesitar una gran capacidad de cómputo. Si la respuesta no provino del modelo comprometido, la verificación falla.
\n\n¿Qué tan rápidas son las pruebas y la verificación de FlashProve?
Las cifras de rendimiento son la principal afirmación. En pruebas con Llama 4 Maverick, un modelo de mezcla de expertos de 400.000 millones de parámetros, los investigadores usaron una versión de 4 bits de los pesos disponible públicamente. Una sola GPU H100 generó pruebas a unos 110 tokens por segundo. Cada prueba para una solicitud de 1.024 tokens ocupó unos 19 megabytes. Anthropic afirma que demostrar un lote de solicitudes tomó entre 70 y 95 veces el tiempo de GPU necesario para ejecutar el mismo modelo en vLLM, una biblioteca de inferencia de código abierto ampliamente utilizada.
\n\nEl verificador es mucho más liviano. Según la compañía, verificar una prueba tomó unos 17 segundos en una CPU de 24 hilos. La fase de configuración única tomó unos 39 minutos. Ese compromiso cubre aproximadamente 16 millones de solicitudes antes de que el proveedor deba comprometerse nuevamente.
\n\nAnthropic señaló varios ámbitos en los que estas pruebas podrían ser importantes. Uno es el control del ritmo de desarrollo y la regulación. Algunas propuestas para frenar el desarrollo de la IA dependen de confirmar que el hardware se está usando para inferencia y no para entrenar un nuevo modelo. Un regulador podría solicitar pruebas que cubran un periodo determinado de solicitudes y verificarlas sin construir su propia infraestructura de hardware compleja. Las pruebas mostrarían que las solicitudes fueron atendidas por el modelo aprobado, aunque no demostrarían que el hardware no estuviera también entrenando modelos en paralelo.
\n\nOtro es la detección de manipulaciones. Anthropic sostiene que, a medida que los modelos ganan valor, los servidores que los ejecutan se convierten en objetivos. Un servidor comprometido, o un modelo más capaz que se hace pasar por uno más débil, tendría que producir pruebas válidas para los pesos esperados para evitar ser detectado. Anthropic afirma que no podría hacerlo. La compañía también sugiere que las pruebas podrían ayudar a los usuarios a verificar afirmaciones sobre cuánto trabajo realizó un modelo en una tarea, como una revisión de seguridad de un parche de software.
\n\nLa publicación incluye cinco artefactos: la entrada de blog, un informe técnico, una especificación del protocolo escrita con Claude, código ejecutable con un generador de pruebas y dos verificadores, y pruebas en Lean de las principales afirmaciones de seguridad, junto con un visualizador para ayudar a los auditores a leerlas. Un verificador está escrito en C++ y funciona más rápido. El otro está escrito en Lean y ofrece garantías formales, pero funciona más lentamente. Anthropic afirma que el verificador en C++ es el que debe usarse en el día a día, y que coincidió con el verificador en Lean en todas las pruebas de sus ensayos.
\n\n¿Cuáles son los límites de FlashProve?
La compañía también es clara sobre los límites. Las pruebas ocultan los pesos del modelo, pero no su arquitectura. El sistema asume un diseño de mezcla de expertos y todavía no cubre ataques de canal lateral, como las mediciones de tiempo que podrían filtrar información. Actualmente maneja contextos de hasta 1.024 tokens, muy por debajo de las ventanas mucho más largas que usan los productos de chat. La prueba también se aplica a una versión entera del modelo con decodificación codiciosa. Una implementación de punto flotante o una salida muestreada podrían divergir en algún punto, aunque la compañía afirma que sus pruebas muestran que la versión entera se mantiene dentro de una tasa de error pequeña respecto a la inferencia real en punto flotante.
\n\nAnthropic sitúa sus resultados frente a trabajos anteriores en el campo. Varios proyectos previos han intentado la inferencia demostrable, entre ellos zkLLM, que demostró LLaMA-2-13B a unos 2,5 tokens por segundo en una GPU A100 en 2024. Anthropic afirma que la única prueba anterior de Llama 4 Maverick que conoce, de un proyecto llamado VerInf, tardó 14,3 horas en producir pruebas para 1.000 tokens. Attestable, un esfuerzo comercial, ha informado de forma independiente entre 53 y 77 tokens por segundo para un modelo denso de 31.000 millones de parámetros, aunque no ha publicado una biblioteca de código abierto correspondiente.
\n\nAnthropic afirmó que el mismo progreso debería extenderse a otros modelos y arquitecturas. La compañía invita a investigadores externos a auditar el trabajo, ejecutar el código y ampliarlo.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.