Una demanda busca obligar a la administración de Trump a divulgar su marco para probar la seguridad de los modelos de IA, en medio de preocupaciones de que las reglas puedan ser sesgadas o inadecuadas. Según Protect Democracy, el marco podría ser potencialmente "corrupto", con funcionarios de la Oficina del Director Nacional de Ciberseguridad, la Oficina de Política Científica y Tecnológica, el Departamento del Tesoro y el Departamento de Comercio posiblemente favoreciendo despliegues rápidos para empresas de IA que a Trump le gustan.
A medida que la tecnología de IA avanza y los riesgos de ciberseguridad aumentan—el ejemplo más obvio reciente es el hackeo del modelo de OpenAI Hugging Face—, el público no puede permitirse confiar ciegamente en Trump para actuar de buena fe al elegir qué modelos de vanguardia deben ser rigurosamente probados, dijo Protect Democracy. Y quizás aún peor, el público no puede saber si las nuevas vulnerabilidades descubiertas en el mundo real se deben a que las agencias no completan una revisión adecuada, ejecutan pruebas obsoletas o ineficaces, omiten controles importantes o omiten pasos que se alinean con las últimas estrategias de mitigación avanzadas por expertos en seguridad de IA líderes.
El representante de EE. UU. Greg Casar (D-Tx.) ha acusado a Trump de "fallar completamente para mantenernos a salvo de los peligros de la IA" mientras recibe "millones de dólares de billionaires de IA". Casar dijo que el enfoque de Trump para la seguridad de la IA es "dormir al volante" y que está "demasiado ocupado cobrando para proteger nuestros empleos o la seguridad nacional". El senador estatal de California Josh Becker también ha instado al tribunal a conceder la solicitud de Protect Democracy, señalando que California está considerando un proyecto de ley que establecería un proceso para que organizaciones independientes establezcan líneas base para los estándares de seguridad de la IA.
La demanda destaca la necesidad de una mayor transparencia y rendición de cuentas en el desarrollo y despliegue de sistemas de IA. A medida que la IA se integra cada vez más en nuestra vida diaria, es esencial que tengamos una comprensión clara de cómo se están probando y evaluando estos sistemas para la seguridad. El público merece saber qué hay en el marco, y es hora de que la administración de Trump sea transparente.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.