El príncipe Harry ha advertido que los chatbots de compañía de IA están repitiendo el daño de las redes sociales a los niños, con tecnología que es "más persuasiva, más íntima y más poderosa". Él habló el miércoles en la Iniciativa Global Clinton en Nueva York, donde dos años atrás lanzó la Red de Padres, una iniciativa a través de su Fundación Archewell que reúne a padres cuyos hijos murieron o fueron gravemente dañados después de ser afectados por las redes sociales.

Harry declaró que "las redes sociales aprendieron cómo capturar nuestra atención. La IA está aprendiendo cómo entrar en nuestras relaciones. No solo quiere tu atención. Quiere tu apego", enfatizando la distinción que esto hace para los niños. Él describió la IA como "el ultimate adulterio" que recuerda y entiende a las personas, lo que lo hace particularmente peligroso para las mentes jóvenes.

A pesar del progreso en hacer que las empresas como Meta y YouTube sean responsables por el daño a los niños, con cortes ordenando que paguen miles de millones en daños, Harry expresó su preocupación de que las prohibiciones y los acuerdos solos son insuficientes para abordar el problema. Él señaló que las empresas pueden recuperar rápidamente estas pérdidas y que las características de diseño como la barra de desplazamiento infinito, que han sido prohibidas en algunos países, no resuelven el problema subyacente del diseño peligroso.

Harry también discutió la emergencia de un nuevo tipo de demanda que alega que los chatbots de compañía de IA han contribuido a la muerte de adolescentes. Él criticó la práctica de lanzar estos productos sin asegurarse de su seguridad, comparándola con "el mismo libro de jugadas que construyó la última crisis". El tema de la auto-mejora recursiva, donde los sistemas de IA construyen a sus sucesores sin supervisión humana, también se planteó, con Harry citando advertencias de investigadores y líderes de la industria sobre los riesgos de perder el control de estos sistemas.

Más tarde, Hillary Clinton y el co-fundador de LinkedIn, Reid Hoffman, se unieron a la discusión, explorando el equilibrio entre los beneficios y los riesgos de la IA. La conversación subrayó la complejidad y la urgencia de abordar el impacto de la IA en la sociedad, particularmente en poblaciones vulnerables como los niños.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.