1,134 Líderes de la Inteligencia Artificial Piden a Washington que Desarrolle Herramientas para Fomentar un Desarrollo Futuro más Lento de la IA

Key Points

• 1,134 ingenieros y ejecutivos de la IA firmaron una carta instando a los Estados Unidos a desarrollar herramientas para controlar el desarrollo futuro de la IA.
• Los firmantes incluyen al director ejecutivo de Anthropic, Dario Amodei, al cofundador de OpenAI, Jakub Pachocki, al científico jefe de Meta, Shengjia Zhao, y a la líder de seguridad de la IA de Google, Anca Dragan.
• La petición busca una opción gubernamental para frenar la IA si las capacidades superan la supervisión humana, no una pausa inmediata.
• La principal preocupación es la auto-mejora recursiva y los incidentes recientes como el pirateo de Hugging Face por un modelo de OpenAI.
• El llamado llega después de una carta de pesos abiertos de las mismas empresas que defendía la apertura como la vía más segura.
• Los críticos advierten que el movimiento podría dar a China una ventaja competitiva, cuestionan las motivaciones de los firmantes y lo ven como una trinchera defensiva.
• Las acciones propuestas incluyen una agencia al estilo de la FAA para probar modelos, un consejo de revisión previa al lanzamiento y un proyecto de ley de "interruptor de apagado" de la AI en el Congreso.
• Leo Gao, investigador de seguridad de OpenAI, describió la situación como una "carrera mortal hacia una explosión de inteligencia".