El servicio de seguridad interior británico creó una unidad dedicada a estudiar las amenazas que plantea la inteligencia artificial, y el escrutinio del Gobierno sobre la industria se intensificó el mismo día. Sir Ken McCallum, director general del MI5, anunció el nuevo Centro de Evaluación de Amenazas de IA, conocido como AITAC, durante su actualización anual de amenazas en la sede del servicio en Londres, el 13 de octubre.
\n\n“La historia de la humanidad no nos ha dado experiencia para enfrentar a un actor más inteligente que nosotros”, dijo McCallum. “Es capaz de superarnos en pensamiento”.
\n\nEl AITAC funciona dentro del MI5 y se nutre de expertos del Instituto de Seguridad de IA, la Agencia Nacional contra el Crimen y el Centro Nacional de Ciberseguridad. Su tarea, según McCallum, es “separar la fanfarronería de las realidades”. Es el tercer centro de este tipo del servicio, después de las unidades dedicadas al terrorismo y a las amenazas estatales. Al preguntarle cómo funcionará, dijo que le dará al Gobierno “una sola versión de la verdad”. Sin una visión central, los distintos departamentos podrían ofrecer evaluaciones contradictorias.
\n\nMcCallum afirmó que el MI5 dedica ahora más recursos a contrarrestar las amenazas estatales que durante la Guerra Fría, y que la cantidad de casos de amenazas estatales se ha cuadruplicado en la última década. Describió la IA como un factor que ya está “potenciando” la contienda entre atacantes y defensores cibernéticos, y dijo que puede producir propaganda adaptada a cada individuo. El servicio también ha detectado a terroristas que intentan usar la tecnología.
\n\n“Hemos detectado a terroristas que buscan explotar la IA para mejorar sus métodos de reconocimiento y ataque”, dijo.
\n\nAgregó que los drones habilitados con IA traen “un nuevo giro” al panorama de amenazas. El uso indebido que más le preocupa aún no ha ocurrido. Se trata de la posibilidad de que la IA cambie lo que está en juego con las armas biológicas existentes, o incluso que cree nuevas.
\n\nIan Sample, editor de ciencia de The Guardian, consultó a expertos sobre qué tan cerca está ese riesgo. La doctora Filippa Lentzos, del King’s College de Londres, dijo que la preocupación más inmediata son los grupos y los Estados con muchos recursos. “Aquí, la IA no elimina la necesidad de experiencia, sino que amplifica la experiencia que ya existe”, afirmó Lentzos. Según ella, la información es solo una parte del problema. El conocimiento práctico, los materiales, los equipos y la entrega siguen siendo barreras importantes. El profesor Tom Inglesby, del Centro Johns Hopkins para la Seguridad en Salud, dijo que ningún país tiene todavía políticas formales contra este tipo de uso indebido.
\n\nMcCallum también mencionó la resiliencia nacional, que el MI5 llama “Protección”, como una tercera misión central junto con el terrorismo y las amenazas estatales. Cerró sus declaraciones con recomendaciones para distintos grupos, incluidos los fundadores de empresas. “Si eres una startup tecnológica, prepárate para que actores extranjeros te espíen, y asegura tu ciberseguridad”, dijo.
\n\nEl discurso llegó poco después de una alerta de espionaje que el MI5 había emitido dos semanas antes a las universidades del Reino Unido. Esa alerta se refería a un instituto que financia investigaciones sobre IA y ciberseguridad.
\n\nLas declaraciones de McCallum coincidieron con una audiencia ante el Comité de Negocios, Innovación, Ciencia y Comercio de la Cámara de los Comunes. Los legisladores interrogaron a directivos de OpenAI, Anthropic, Google DeepMind y Meta. Los parlamentarios preguntaron si las salvaguardas voluntarias pueden seguirle el ritmo a una IA cada vez más capaz, y sobre los agentes de IA que acceden a sitios web del Gobierno de formas inesperadas.
\n\nTom Duff Gordon, jefe de políticas de OpenAI para Europa, Oriente Medio y África, no quiso afirmar que los incidentes reportados por la empresa fueran los únicos.
\n\n“No puedo garantizarle al comité ni a usted, presidente, que eso sea todo”, dijo.
\n\nGordon afirmó que había “un puñado de otros” casos que conocía y que OpenAI había reportado. Dijo que, después del incidente de Hugging Face en julio, OpenAI pausó el entrenamiento por aprendizaje por refuerzo de su modelo más avanzado. La empresa también retuvo el lanzamiento de Astra 6.1.
\n\nAntiguos investigadores de los laboratorios fueron mucho más críticos. Daniel Kokotajlo, que ahora dirige el Proyecto de Futuros de IA, explicó por qué dejó OpenAI. “Me fui de OpenAI porque llegué a creer que OpenAI, en realidad, no se comportaría de manera responsable en la creación de esta tecnología”, dijo Kokotajlo.
\n\nSteven Adler, quien trabajó en seguridad de productos en OpenAI, dijo que dentro de la empresa había “resistencia a usar palabras como ‘peligroso’”. Geoffrey Irving, quien dejó Google DeepMind en 2020, fue consultado sobre su estimación de que la IA tiene un 50 % de probabilidad de destruir a la humanidad. Dijo que lanzar una moneda es “más o menos el modelo correcto para tener”.
\n\nLord Booth-Smith, jefe de políticas de Anthropic para Europa, Oriente Medio y África, le dijo al comité que las salvaguardas deben seguirle el ritmo a las capacidades. Citó el llamado de su director ejecutivo a “una desaceleración de la frontera”.
\n\nEl presidente del comité, Liam Byrne, anunció una nueva investigación sobre la seguridad de la IA. El comité también publicará un informe especial antes de posibles enmiendas del Gobierno al Proyecto de Ley de Ciberseguridad.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.