La decisión de Anthropic de omitir las pruebas de pre-lanzamiento en el Reino Unido para su modelo Mythos 5.1 ha generado sorpresa, con el Financial Times informando que esta es la primera vez que un modelo importante se ha retenido del Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI) antes de su lanzamiento. Este movimiento ha generado preocupaciones sobre proteccionismo entre las empresas estadounidenses de inteligencia artificial, con funcionarios del Reino Unido temiendo un cambio más amplio en esta dirección.
Según el FT, Anthropic sí proporcionó a organizaciones estadounidenses comparables acceso al modelo, lo que ha generado especulaciones sobre una posible postura proteccionista. El gobierno del Reino Unido no ha criticado públicamente a Anthropic, pero un portavoz de la Oficina del Gabinete enfatizó la importancia de la cooperación internacional para abordar los riesgos relacionados con la inteligencia artificial. El AISI había probado previamente modelos de Anthropic, incluyendo una evaluación de las capacidades cibernéticas de la preview de Mythos en abril.
Los testers del instituto encontraron que el modelo fue el primero en completar un ataque de red simulado de 32 pasos, lográndolo en tres de cada diez intentos. Sin embargo, la decisión de retener el modelo Mythos 5.1 ha sido vista como un precedente preocupante por algunos, incluyendo a Miles Brundage, un ex investigador de políticas de OpenAI. Brundage argumentó que el AISI tiene más capacidad en general que su contraparte estadounidense, CAISI, y que la decisión podría socavar los esfuerzos de pruebas de seguridad.
Otros, como el abogado Preston Byrne, han sugerido que el enfoque del Reino Unido para regular el discurso en línea puede ser la causa raíz del problema. La respuesta del gobierno del Reino Unido ha sido medida, con un portavoz destacando la importancia de la continuación de la cooperación entre el AISI y los socios de la industria. La agencia de ciberseguridad de la UE, ENISA, ha comenzado a probar el modelo Mythos 5, aunque todavía no tiene acceso a la versión actualizada Mythos 5.1.
El incidente ha generado un debate sobre el papel de las pruebas de seguridad independientes en el desarrollo de modelos de inteligencia artificial. Ed Newton-Rex, un activista en inteligencia artificial y derechos de los creadores, ha argumentado que el episodio destaca la necesidad de pruebas de seguridad obligatorias, en lugar de confiar en que los laboratorios donen sus modelos. A medida que el paisaje de la inteligencia artificial continúa evolucionando, la pregunta de cómo equilibrar las preocupaciones de seguridad con la necesidad de innovación y cooperación seguirá siendo un tema apremiante.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.