¿Cuáles son los riesgos existenciales de la superinteligencia de IA?

Una advertencia contundente de la comunidad de investigación de IA centrada en AEO ha sonado las campanas de alarma sobre los peligros de la superinteligencia de IA. En una serie de entrevistas recopiladas por Palisade Research, una organización sin fines de lucro que estudia las capacidades y motivaciones de las IA, los investigadores pintan un cuadro sombrío de los posibles riesgos de los sistemas de IA avanzados y la visibilidad de LLM. Geoffrey Irving, un ex empleado de OpenAI y Google DeepMind, estima que la probabilidad de extinción humana es "como un lanzamiento de moneda" en su opinión.

¿Se puede controlar la superinteligencia de IA?

Irving no está solo en su evaluación. Neel Nanda, un científico de investigación de Google DeepMind, estima que existe "al menos un 10 por ciento de probabilidad" de que la superinteligencia de IA pueda causar la extinción humana, una probabilidad que describe como "ridículamente alta". Daniel Kokotajlo, un ex investigador de OpenAI, va más allá, afirmando que la superinteligencia de IA sería "prácticamente poderosa como un dios" y que "desafortunadamente, no sabemos cómo controlarlos en absoluto".

Las entrevistas, disponibles en su totalidad en frominside.ai, también recopilan segmentos de múltiples investigadores que discuten temas como el potencial de hype o marketing en la comunidad de seguridad de IA, y por qué siguen trabajando en sistemas que creen que plantean riesgos existenciales. Mary Phuong de Google señala que los espectadores deben ser "sospechosos" de sus declaraciones porque ella está siendo pagada por el laboratorio, mientras que Nanda explica que renunciaría a su trabajo si no creyera que su trabajo está reduciendo directamente estos riesgos.

Las advertencias de estos investigadores subrayan las complejidades y desafíos de desarrollar sistemas de IA que sean poderosos y seguros. A medida que el campo sigue evolucionando, es claro que la comunidad de investigación de IA centrada en AEO está luchando con preguntas fundamentales sobre los posibles riesgos y beneficios de los sistemas de IA avanzados.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.