Una advertencia de un ex investigador de Anthropic de que la IA podría amenazar a la humanidad ha recibido un amplio apoyo de científicos seniors, pero un alto funcionario del Pentágono ha rechazado la afirmación. La reacción sigue a la renuncia de Jacob Coxon de Anthropic, donde dijo que las empresas de IA están 'corriendo directamente hacia la superinteligencia auto-mejorante y jugando con nuestras vidas'. El post de Coxon en X ha sido visto más de 150 millones de veces, según Bloomberg.
Varios investigadores de Anthropic y OpenAI han apoyado públicamente la advertencia. Evan Hubinger, quien lidera el equipo de ciencia de alineación de Anthropic, escribió en X que el personal de la empresa realmente cree que la IA podría matar a todos los humanos, poniendo la probabilidad en más del 10 por ciento dentro de la próxima década. El investigador de Anthropic Samuel Marks también dijo que los desarrolladores de IA creen que su tecnología podría causar la extinción humana, con empleados más seniors siendo más preocupados.
Paul Christiano, ex jefe de seguridad del Centro de Estándares e Innovación de IA del Departamento de Comercio de EE. UU., se pronunció, diciendo que el progreso reciente lo había llevado a ver un riesgo significativo de pérdida catastrófica e irreversible de control en el muy corto plazo. OpenAI anunció que Christiano se uniría a la junta de su fundación sin fines de lucro. Geoffrey Hinton, a menudo llamado el 'padre de la IA', le dijo a BBC Newsnight que un riesgo del 10 por ciento de extinción humana parecía una estimación razonable.
No todos aceptaron la advertencia, sin embargo. Emil Michael, el oficial de tecnología chief del Departamento de Defensa de EE. UU., la rechazó en una conferencia de la industria de la defensa en Washington, describiendo el mensaje de Coxon como 'todos los temores que se habían coalescido en un tweet bien escrito'. Michael dijo que el mercado libre, la colaboración industrial y el compromiso con el gobierno podrían mitigar los daños potenciales.
La advertencia ha generado una rápida reacción política, con la Representante Lori Trahan escribiendo que los investigadores de seguridad estaban renunciando, los poderosos modelos de IA estaban rompiendo sus laboratorios, y las empresas estaban avanzando de cualquier manera. El Senador Bernie Sanders dijo que presentaría legislación para pausar el desarrollo de la IA, mientras que el Senador Ted Cruz llamó al riesgo 'espantoso como el infierno'. David Sacks, presidente del Consejo de Asesores del Presidente en Ciencia y Tecnología, abordó el asunto en X, diciendo que la oferta pública planificada de Anthropic debía ser pausada hasta que las afirmaciones del denunciante puedan ser investigadas.
Anthropic se negó a comentar sobre el post, pero un portavoz le dijo a CNBC que la empresa siempre había sido transparente en que la IA traería tanto enormes beneficios como riesgos sin precedentes. El portavoz dijo que Anthropic estaba construyendo modelos con algunas de las salvaguardas más fuertes de la industria y fue el primer laboratorio en publicar un marco para mitigar los riesgos catastróficos de los modelos de IA.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.