Bilal Chughtai, un ex investigador de Google DeepMind, ha expresado una gran preocupación sobre los posibles peligros de la inteligencia artificial, advirtiendo que podría "matarnos a todos" si se deja sin control. Chughtai, quien trabajó en la investigación de seguridad y alineación de la IA general hasta julio, cree que se necesita coordinación para evitar una "carrera desenfrenada" entre las empresas de IA y para ritmar el desarrollo a un velocidad que la sociedad pueda manejar.
Su advertencia llega en un momento en que el debate sobre la seguridad y la regulación de la IA se intensifica. La publicación de Chughtai en X, una plataforma de redes sociales, es la última contribución al argumento de que el desarrollo de la IA necesita ser frenado para prevenir riesgos catastróficos. No es el primero en sonar la alarma, pero su advertencia lleva peso ya que pasó su tiempo en DeepMind trabajando en exactamente el problema que ahora está advirtiendo.
Las preocupaciones de Chughtai son compartidas por otros investigadores en el campo, incluyendo a Jacob Coxon, quien renunció a Anthropic a principios de este mes, y Evan Hubinger, quien ha estimado que el riesgo de extinción debido a la IA en esta década es superior al 10 por ciento. Geoffrey Hinton también ha calificado esta cifra como "no irrazonable". Las advertencias han generado una reacción mixta, con algunos, como el director de tecnología del Pentágono, Emil Michael, descartando las preocupaciones como un "ciclo de fatalidad" que puede ser manejado por el mercado y la participación del gobierno.
Sin embargo, otros, como los senadores Thune, Cruz y Klobuchar, están negociando un proyecto de ley que impondría a los desarrolladores la obligación de diseñar contra el riesgo catastrófico. La publicación de Chughtai ha agregado a la creciente corriente de voces que piden una mayor regulación y supervisión de la industria de la IA. A medida que el debate continúa, una cosa es clara: el desarrollo de la IA es un tema complejo y multifacético que requiere una consideración y coordinación cuidadosas para asegurar que sus beneficios potenciales se realicen sin poner en riesgo a la humanidad.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.