El director ejecutivo de Google DeepMind, Demis Hassabis, utilizó una publicación de LinkedIn el martes para hacer una propuesta audaz: la industria de la IA necesita una organización de normas dedicada para evaluar los lanzamientos de modelos de frontera. Se refirió a la entidad propuesta como similar a la Autoridad Reguladora de la Industria Financiera, sugiriendo que podría probar modelos de vanguardia, desarrollar directrices de mejores prácticas y, en última instancia, convertirse en un guardián para la implementación en EE. UU.
El plan de Hassabis establece que los laboratorios deben presentar voluntariamente sus modelos al organismo de normas hasta 30 días antes de un lanzamiento público. Si el protocolo de revisión resulta efectivo, dijo que los requisitos formales podrían seguir, lo que haría que la certificación sea un requisito previo para la entrada al mercado. El organismo también coordinaría con los laboratorios sobre vulnerabilidades posteriores al lanzamiento, asegurando una remediación rápida cuando surjan riesgos.
La financiación provendría de las propias empresas de IA, siguiendo el modelo de autorregulación de la FINRA. La dotación de personal combinaría a defensores de código abierto, expertos técnicos y representantes de grupos de seguridad de IA que podrían ser externalizados para evaluaciones de riesgos especializados. Hassabis argumenta que dicha estructura mantendría el ritmo con la rápida aceleración de las capacidades de IA y se adaptaría a las amenazas emergentes.
La propuesta también aborda el escepticismo político. El asesor de IA de la Casa Blanca, Sriram Krishnan, hablando en nombre de a16z, ha descartado la idea de una "FDA para la IA", argumentando que una agencia reguladora dentro de la rama ejecutiva sería inviable. El enfoque de autorregulación de Hassabis sortea esa preocupación al posicionar al organismo de normas como una entidad respaldada por la industria y apoyada por el gobierno, en lugar de una agencia federal.
Si se adopta, el marco podría redefinir cómo los modelos de IA de frontera se mueven desde el laboratorio hasta los consumidores. Los laboratorios ganarían una ruta clara hacia el cumplimiento, mientras que los reguladores adquirirían un socio técnicamente competente para evaluar sistemas de alto riesgo. El equilibrio entre la supervisión y la innovación, un punto que Hassabis enfatizó, dependería de la capacidad del organismo para evolucionar junto con el campo.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.