La advertencia de Anthropic sobre la IA autorreplicante está empezando a atraer la atención seria de investigadores de seguridad, quienes afirman que el peligro es real, pero que quizás no se vea como la empresa lo describe. El Equipo Rojo de Frontera de la compañía publicó recientemente una investigación que sugiere que los modelos pequeños de IA podrían estar a solo meses de replicarse y propagarse por dispositivos inseguros, creando botnets autónomas lentas pero difíciles de detener.

\n

¿Es realista la advertencia de Anthropic sobre gusanos de IA?

¿Es realista la advertencia de Anthropic sobre gusanos de IA?

Las empresas de IA tienen la costumbre de exagerar el potencial de destrucción del mundo de sus propios productos, y los escépticos lo han señalado. Pero los expertos con los que habló Engadget coinciden en general en que los modelos pequeños podrían volverse capaces de autorreplicarse en el futuro cercano. Donde difieren es en qué tanto se parece la amenaza a lo que existió antes.

\n

Chris Canal, CEO de EquiStamp, empresa que trabaja con laboratorios de IA, organizaciones de seguridad y gobiernos para verificar y evaluar modelos, dijo que el calendario podría ser un poco más pronto de lo que él habría supuesto. Había esperado que el verano del próximo año fuera el momento en que se preocuparía seriamente. “Anthropic muy probablemente tiene empleados con información sobre la frontera de la investigación a la que yo no tengo acceso”, dijo Canal. “Así que bien podrían estar haciendo mejores predicciones.” Atribuyó el ritmo reciente de avance a que los empleados de Anthropic y de otros laboratorios de frontera usan sus propias herramientas de IA para hacer investigación en aprendizaje automático.

\n

Michael Bailey, profesor de la Escuela de Ciberseguridad y Privacidad de Georgia Tech, dijo que espera que esos modelos lleguen. “Creo que son reales. Creo que los veremos”, dijo. “Si adoptarán exactamente la forma y la figura, y tendrán las mismas consecuencias, que [Anthropic] promociona es una cuestión completamente abierta.”

\n

Bailey ha estudiado los gusanos de internet desde comienzos de los años 2000 y, más recientemente, las botnets. En 2017 coescribió un artículo titulado “Understanding the Mirai Botnet” (Comprendiendo la botnet Mirai), que Anthropic cita en su propia investigación. Mirai permitió a un grupo de ciberdelincuentes construir una gran botnet de dispositivos del Internet de las Cosas, que luego usaron en un ataque distribuido de denegación de servicio contra la red PlayStation Network de Sony. El ataque también afectó a Dyn, uno de los mayores proveedores de DNS de Estados Unidos. Las consecuencias de ese ataque dejaron fuera de línea gran parte de internet en 2016, interrumpiendo el servicio de Amazon, GitHub, PayPal, Reddit y Twitter para muchos usuarios en Estados Unidos y partes de Europa. Sony calculó que perdió alrededor de 2,7 millones de dólares en ingresos netos.

\n

La lección de Mirai, dijo Bailey, es que el hardware común puede convertirse en un arma. “Lo que Mirai demostró es que se podían armar estas botnets y hacerlas útiles con dispositivos cotidianos: enrutadores de cable, cámaras con IP, cosas de ese tipo”, dijo. “Pensábamos que esos dispositivos no eran útiles para un adversario, ni como objetivos ni como fuentes de cómputo para lanzar ataques. De hecho, son bastante eficaces para ese tipo de cosas.”

\n

¿En qué se diferencia una botnet de IA de Mirai?

¿En qué se diferencia una botnet de IA de Mirai?

Anthropic sostiene que los gusanos de IA podrían representar un paso significativo más allá de Mirai y de otras botnets con código fijo, como Kimwolf, porque podrían descubrir por sí solos dispositivos desconocidos. Bailey dijo que la adaptabilidad no es nueva. Mirai ya funcionaba en lo que los investigadores llaman dispositivos heterogéneos, desde enrutadores hasta cámaras IP que usan distintas arquitecturas de chip. Pero esa flexibilidad tenía límites. Cada nueva arquitectura aún requería esfuerzo humano, como mínimo para recompilar el malware.

\n

Lo nuevo, dijo Bailey, es la posibilidad de que la IA automatice ese trabajo. Él no cree que Anthropic lo haya demostrado “de manera convincente”. Bailey considera que los modelos más capaces cambiarán quién hace el trabajo de construir botnets. “No va a hacer cosas nuevas”, dijo. “Va a cambiar la economía entre atacantes y defensores.”

\n

Anthropic mostró que un modelo podía saltar entre dispositivos y montar inferencia en cada uno, pero lo hizo en una red emulada donde el exploit involucrado era trivial. Bailey también cuestiona la descripción de la empresa de la amenaza como autorreplicante. “El planteamiento es algo erróneo, porque están haciendo cosas como fragmentación (sharding). No es que eso sea malo, pero no es como un gusano o un virus. No es una propagación completa”, dijo.

\n

Bailey sugirió que una botnet de IA en el mundo real se parecería más a un dropper, un tipo de malware que obtiene un punto de apoyo en un dispositivo e instala otro código. En lugar de copiarse completo en cada máquina que compromete, la botnet instalaría una pequeña herramienta de coordinación que recibe instrucciones desde otro punto de la red. “La idea de que el malware en sí es autorreplicante, como los gusanos de internet existentes, donde yo copiaría una copia exacta de mi código a la nueva arquitectura y empezaría a ejecutar un nuevo agente, eso no es realmente lo que está pasando aquí”, dijo Bailey.

\n

También señaló que los gusanos pueden ser polimórficos, es decir, que cambian su firma y su comportamiento. Para que una botnet de IA hiciera eso, tendría que reentrenar sus propios modelos, lo que Anthropic no intentó. Lo más cercano que llegó la empresa, dijo Bailey, fue mostrar que las copias de un modelo podían pasarse notas a sus sucesores y mejorar en la configuración de la inferencia con el tiempo.

\n

Canal planteó una pregunta sobre los motivos de la empresa. El artículo señala que Anthropic presentó oficialmente una solicitud de OPI, poco después de publicar la investigación. Canal dijo que cree que los laboratorios están más preocupados por que otras empresas de IA actúen de forma imprudente. “Se dan cuenta de que tienen incentivos para crear el mejor modelo y lanzarlo al mercado más rápido para obtener participación de mercado, y saben que las otras empresas tienen los mismos incentivos”, dijo.

\n

¿Cómo se pueden detener los gusanos de IA?

¿Cómo se pueden detener los gusanos de IA?

Si la amenaza califica o no como un verdadero gusano, las defensas propuestas por Anthropic son sorprendentemente familiares. La empresa sugiere que los proveedores de servicios de internet notifiquen a los clientes sobre una infección y luego restrinjan su acceso a una lista corta de sitios web seguros, una estrategia que se usó durante los ataques de Mirai con considerable éxito. También apunta a la regulación, citando al Reino Unido, donde las contraseñas predeterminadas fáciles de adivinar en dispositivos IoT ahora están prohibidas por la Ley PSTI.

\n

Bailey dijo que la respuesta correcta a los gusanos de IA “se parece mucho más a lo que llevamos haciendo en seguridad de sistemas durante mucho tiempo, en lugar de algo particularmente único del ámbito de la IA”. Canal fue menos optimista sobre una solución específica. Dijo que sería difícil añadir salvaguardas a un modelo de pesos abiertos que le impidan actuar como gusano. “Hay muchas ideas, pero hasta ahora no hay nada robusto”, dijo. En un trabajo con FAR.AI, una organización sin ánimo de lucro de investigación en seguridad de IA, EquiStamp descubrió que “básicamente cualquier estrategia que busques en Google para eliminar salvaguardas de un modelo funciona”.

\n

Bailey ve cierta tranquilidad en las prácticas de seguridad más antiguas. “Incluso los agentes que se comportan mal van a tener dificultades si se enfrentan a dispositivos reforzados”, dijo. Si hay una conclusión de la investigación de Anthropic, añadió, es que la industria sigue olvidando las lecciones de seguridad que ya aprendió. “Parece que se trata de prestar atención a parchear estos dispositivos, a aislarlos, a usar buenas contraseñas y buenas prácticas de higiene”, dijo. Esas medidas son fáciles de describir y notoriamente difíciles de aplicar. Pero si la IA hace que estos ataques sean más comunes, dijo, los defensores quizás no tengan otra opción.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.