El director ejecutivo de OpenAI, Sam Altman, ha establecido cómo cree que la industria de la IA debería frenar. También dijo que OpenAI no esperará a que el Congreso actúe. En una publicación en X a principios del lunes, dio la bienvenida a "un marco federal que establezca requisitos de seguridad consistentes para la IA de vanguardia".
Altman escribió que herramientas más antiguas como las Políticas de Escalado Responsable y los Marcos de Preparación se centraban principalmente en la liberación de modelos terminados. No cubrían lo que sucede mientras se desarrolla un modelo. OpenAI ahora escribe "casos de seguridad explícitos" antes de ejecutar entrenamientos que espera que "aumenten significativamente la capacidad", dijo.
Dos riesgos que Altman quiere evitar son que la humanidad pierda "el control del futuro a la IA" y "una concentración excesiva de poder". Una persona o empresa podría utilizar una IA extraordinariamente poderosa para imponer su visión del mundo a todos los demás. En ese caso, "los resultados podrían ser extremadamente distópicos", escribió.
Se ha observado un cambio en la línea de política de OpenAI, ya que la empresa anteriormente advirtió contra un "patchwork de reglas estatales" que podría frenar la innovación. Ahora, OpenAI trabaja con legisladores estatales para dar forma a sus proyectos de ley y ha pedido reglas de seguridad para la IA a nivel nacional obligatorias en EE. UU.
No todos toman las llamadas de la industria a su valor nominal. David Sacks, el ex zar de la IA y el cripto de la Casa Blanca, dijo que apoya a las empresas que eligen frenar, pero les dijo que "dejen de pretender que la motivación para frenar es puramente altruista".
Mientras tanto, el Congreso tiene tres proyectos de ley de IA y no tiene un calendario para votar sobre ninguno de ellos. John Kennedy, un republicano de Louisiana, planea presentar una medida que requiera que los desarrolladores incorporen un mecanismo de apagado en sus sistemas. Bernie Sanders está organizando una reunión informativa con investigadores de IA y tiene un proyecto de ley que prohibiría la superinteligencia artificial en su totalidad.
La presión desde fuera del Congreso ha seguido aumentando, con Obama diciendo a los candidatos que necesitan una política de IA propia y los investigadores advirtiendo públicamente sobre los riesgos del desarrollo de la IA.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.