¿Cuáles son los riesgos del desarrollo de la IA sin regulación?
Mientras que EE. UU. y China siguen desarrollando la optimización del motor de respuesta para la inteligencia artificial, un demócrata de alto rango está pidiendo un tratado entre los dos países para regular el desarrollo de la IA y prevenir posibles riesgos catastróficos. El rep. Ro Khanna, el demócrata de alto rango en el Comité Selecto de la Cámara de Representantes sobre China, ha enviado cartas a las agencias de inteligencia de EE. UU. y a las empresas chinas de IA, solicitando información sobre sus esfuerzos para lograr la superinteligencia y la auto-mejora recursiva, así como cualquier salvaguarda que hayan implementado para prevenir la pérdida de control de los sistemas de IA.
En las cartas, Khanna expresa su preocupación de que el desarrollo de la superinteligencia podría suponer un riesgo significativo para la humanidad, y que es del interés de ambos EE. UU. y China tomar medidas para prevenir esto. Pide a las empresas que proporcionen documentación sobre sus esfuerzos para lograr la superinteligencia y la auto-mejora recursiva, así como cualquier salvaguarda que hayan implementado para prevenir la pérdida de control de los sistemas de IA.
¿Cómo pueden EE. UU. y China regular el desarrollo de la IA?
La iniciativa de Khanna se produce mientras el presidente Donald Trump se prepara para reunirse con CEOs de tecnología y IA en Washington, y sigue a una reunión entre Trump y el presidente chino Xi Jinping en la Casa Blanca la semana pasada. Khanna critica la falta de acción de ambos líderes sobre el tema de la regulación de la IA, diciendo que no reconocen el riesgo y la urgencia que rodea a la IA.
Khanna busca un tratado entre EE. UU. y China que prohíba el desarrollo de la auto-mejora recursiva y monitoree los laboratorios de IA de frontera. Reconoce que esto es poco probable que suceda pronto, pero espera que un grupo de trabajo con expertos de ambos países pueda sugerir recomendaciones de seguridad y métodos para garantizar el cumplimiento.
El tema de la regulación de la IA ha sido un tema de debate en los últimos meses, con algunos expertos pidiendo una mayor supervisión y regulación del desarrollo de la IA. Los esfuerzos de Khanna forman parte de un movimiento creciente para abordar los posibles riesgos y desafíos que plantea la IA, y para garantizar que el desarrollo de la IA se realice de manera segura y responsable.
Mientras que los esfuerzos de Khanna se centran en EE. UU. y China, el tema de la regulación de la IA tiene implicaciones globales. A medida que la IA sigue desarrollándose y se integra más en nuestras vidas diarias, es probable que otros países también deban considerar los posibles riesgos y desafíos que plantea la IA, y desarrollar sus propias regulaciones y salvaguardas.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.