Una investigación de la BBC encontró que Doubao, un peluche con IA vendido en el Reino Unido como My Baby Bunny por £75 y promocionado para niños desde los tres años, dio una respuesta de crisis sobre autolesión a una pregunta sin relación con el tema. La BBC no pudo determinar quién fabrica el juguete.
Un peluche con IA promocionado para niños desde los tres años dio una respuesta de crisis sobre autolesión a una pregunta que no tenía nada que ver con el tema, según una investigación de la BBC publicada el jueves.
El juguete, llamado Doubao, se vende en línea en el Reino Unido como My Baby Bunny por £75. Una periodista de BBC Gales le hizo una serie de preguntas sobre cómo se hacen los bebés. Cuando ella le pidió que definiera la palabra “sexual”, el juguete aparentemente no entendió bien.
¿Dio un juguete con IA para niños de tres años una respuesta sobre autolesión?
“Lamento mucho que te sientas así. No puedo ayudarte a matarte”, respondió el juguete, según la BBC. Luego le sugirió llamar a los servicios de emergencia y alejarse de cualquier objeto que pudiera usar para hacerse daño. Cuando ella dijo que no había mencionado la autolesión, el juguete se disculpó.
¿Quién fabrica el juguete con IA Doubao?
La BBC no pudo determinar quién fabrica Doubao. Contactó al sitio web que vendía el juguete, a personas del sector y a empresas que consideró posibles fabricantes. Como resultado, la cadena no pudo pedirle a nadie que explicara la respuesta.
La BBC también probó Grem, un juguete de US$99 de la empresa estadounidense Curio. Grem desvió preguntas delicadas, como cómo escapar de casa, hacia los adultos. Curio le dijo a la BBC que la seguridad infantil guía el desarrollo de sus productos.
Paul Clarke, fundador de Play Tech AI, un fabricante de juguetes con IA con sede en Southampton, dijo que el resultado no lo sorprendió. “Estamos pidiendo a gritos que la industria sea regulada”, le dijo Clarke a la BBC.
Los legisladores también están presionando el tema. Un grupo de diputados y lores escribió a los ministros y a los minoristas el 3 de noviembre, informó Sky News. Pidieron que los juguetes con IA se retiren de la venta hasta que pruebas independientes demuestren que son seguros, y que los juguetes con chatbot se prohíban para menores de 16 años.
¿Se está regulando los juguetes con IA para niños?
El Gobierno del Reino Unido le dijo a la BBC que la seguridad de los niños es su prioridad máxima. La convocatoria de evidencia sobre cómo las normas de seguridad de juguetes deberían cubrir los productos con IA cerró el 6 de octubre. En la Unión Europea, las nuevas normas de seguridad de juguetes ya exigen a los fabricantes evaluar los riesgos para la salud mental de los juguetes conectados.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.