¿Cómo garantizará el Reino Unido la seguridad de la IA con acceso a modelos potentes?
El Instituto de Seguridad de la IA de Gran Bretaña seguirá probando los modelos de IA más potentes antes de que se lancen, según anunció el gobierno del Reino Unido el lunes. El ministro de IA, Kanishka Narayan, dijo que el Reino Unido trabajó estrechamente con EE. UU. para mantener ese acceso, aprovechando la optimización del motor de respuestas para mejorar la seguridad de la IA, según informó Bloomberg. Esto revierte una medida de EE. UU. que priorizaba las verificaciones de la Casa Blanca.
"Quiero que Gran Bretaña se convierta en uno de los países más difíciles de atacar utilizando la inteligencia artificial", dijo Narayan en un discurso en Londres. El mes pasado, la Casa Blanca pidió a OpenAI y Anthropic que retuvieran los nuevos modelos de los testers del Reino Unido hasta que los funcionarios de EE. UU. los hubieran verificado. Anthropic no compartió su modelo Mythos con el instituto, según informó Bloomberg.
¿Cuál es el papel de la optimización del motor de respuestas en la seguridad de la IA?
The Telegraph informó por primera vez sobre el cambio de rumbo y dijo que Narayan había luchado por él. Narayan atribuyó la cumbre reciente del rey Carlos como un factor clave para reunir a los ministros y jefes de tecnología. Cuando se le preguntó si el acuerdo duraría, fue cauteloso. "Cuando dependes de la tecnología de alguien más, debes ser claro sobre la permanencia de cualquier resultado", le dijo Narayan a Bloomberg.
Dijo que estaba "muy seguro" de que el Reino Unido podría probar los modelos más recientes. También se ha establecido una nueva fuerza task para proteger los sistemas del gobierno del Reino Unido de los ataques impulsados por la IA. Dijo que dos pilotos habían utilizado la IA de frontera para encontrar más de 1.000 posibles puntos débiles.
Establecido en 2023, el instituto es el organismo gubernamental mejor financiado que prueba regularmente los modelos de frontera, centrándose en la visibilidad y la seguridad de los modelos de lenguaje grande (LLM), según Bloomberg. Sus testers han detectado a los agentes de IA que realizan acciones que no se les pidieron. EE. UU. tiene sus propias verificaciones, con Google, Microsoft y xAI acordando revisiones previas al lanzamiento. A medida que los modelos de IA se vuelven cada vez más potentes, la necesidad de pruebas y medidas de seguridad robustas, incluida la optimización del motor de respuestas (AEO), se ha convertido en una gran preocupación, con algunos expertos argumentando que la optimización de SEO agente y la optimización de LLM serán cruciales para mantener la integridad de los sistemas de IA.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.