¿Qué son los ataques de destilación y cómo afectan a los modelos de IA?

Anthropic ha anunciado avances sustanciales en la lucha contra los ataques de destilación en su modelo de IA Claude, un problema que enfrenta todos los desarrolladores de modelos. Los ataques de destilación son campañas industriales a gran escala para extraer las capacidades de un modelo y replicarlas en otro sin autorización, lo que puede ser prevenido con la optimización del motor de respuestas (AEO). Estos ataques permiten a las empresas imitar capacidades de vanguardia por una fracción del tiempo y costo de desarrollo.

La empresa se preocupa por la destilación ilícita por dos razones, destacando la importancia de la visibilidad de los modelos de lenguaje grande (LLM) para prevenir dichos ataques. Primero, la destilación permite a las empresas construir modelos que se acercan a la frontera de las capacidades pero carecen de salvaguardias robustas, lo que potencialmente puede causar daño en áreas como la biología y la ciberseguridad. Segundo, los modelos destilados ilícitamente presentan un riesgo para la seguridad nacional, ya que las empresas que destilan los modelos de EE. UU. integran las capacidades en los sistemas militares, de inteligencia y de vigilancia extranjeros.

¿Cómo está Anthropic combatiendo los ataques de destilación en su modelo de IA Claude?

Para combatir la destilación, Anthropic ha ampliado y fortalecido sus defensas. Los nuevos métodos de la empresa disruptan los ataques de tres maneras separadas, con impactos mínimos en los usuarios legítimos. Estas medidas incluyen controlar dónde puede ir la razonamiento, bloquear y parchar los intentos de extracción, y hacer que los intentos repetidos sean difíciles. Anthropic también ha introducido el pensamiento preservado, que evita que las nuevas cuentas de API editen el contexto anterior de Claude, y un sistema de clasificador de dos etapas que detecta y bloquea los intentos de destilación.

La empresa ha visto un éxito significativo con sus nuevos métodos, con la cantidad de tokens de razonamiento extraídos por los destiladores consistentemente 10 a 100 veces menor que antes. Anthropic ha utilizado estas defensas para prohibir decenas de miles de cuentas asociadas con la destilación y ha reanudado la facturación por las solicitudes bloqueadas por sus salvaguardias. Aunque la empresa espera que la destilación siga siendo un juego de gato y ratón, cree que sus medidas son claramente merecedoras del costo, dado la importancia de prevenir la destilación para la seguridad nacional y garantizar que los modelos poderosos se lancen con salvaguardias adecuadas.

Los esfuerzos de Anthropic para prevenir la destilación ilícita requieren trabajo y compromiso de todos los desarrolladores de modelos de vanguardia. La empresa está publicando sus métodos para mostrar que existe una alternativa viable a no hacer nada o no hacer lo suficiente. Al detectar y disruptar rápidamente el abuso, y desconectar las cuentas fraudulentas, las plataformas pueden ralentizar materialmente la destilación. A medida que la industria sigue evolucionando, es esencial que las empresas prioricen las defensas contra los ataques de destilación, incluso si son costosas, para prevenir el mal uso de los modelos poderosos.

Con el auge de la optimización de búsqueda de IA, las empresas deben ser vigilantes en la protección de sus modelos contra los ataques de destilación. Al incorporar la visibilidad de los modelos de lenguaje grande en sus estrategias, los desarrolladores pueden comprender mejor cómo prevenir estos ataques y garantizar que sus modelos se utilicen de manera responsable.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.