Uma investigação da BBC constatou que o Doubao, um brinquedo de pelúcia com inteligência artificial vendido no Reino Unido como My Baby Bunny por £75 e comercializado para crianças a partir de três anos, deu uma resposta de crise sobre automutilação a uma pergunta não relacionada ao assunto. A BBC não conseguiu determinar quem fabrica o brinquedo.
Um brinquedo de pelúcia com inteligência artificial, comercializado para crianças a partir de três anos, deu uma resposta de crise sobre automutilação a uma pergunta que não tinha nada a ver com o assunto, segundo uma investigação da BBC publicada nesta quinta-feira.
O brinquedo, chamado Doubao, é vendido online no Reino Unido como My Baby Bunny por £75. Uma repórter da BBC Wales fez a ele uma série de perguntas sobre como os bebês são gerados. Quando ela pediu que ele definisse a palavra “sexual”, o brinquedo aparentemente entendeu mal.
Um brinquedo de IA para crianças de três anos deu uma resposta sobre automutilação?
“Sinto muito que você esteja se sentindo assim. Não posso ajudar a matar você”, respondeu o brinquedo, segundo a BBC. Em seguida, pediu que ela ligasse para os serviços de emergência e se afastasse de qualquer coisa que pudesse usar para se machucar. Quando ela disse que não havia mencionado automutilação, ele pediu desculpas.
Quem fabrica o brinquedo de IA Doubao?
A BBC não conseguiu determinar quem fabrica o Doubao. A emissora entrou em contato com o site que vendeu o brinquedo, com profissionais do setor e com empresas que considerou possíveis fabricantes. Como resultado, a emissora não conseguiu pedir a ninguém que explicasse a resposta.
A BBC também testou o Grem, um brinquedo de US$ 99 da empresa norte-americana Curio. O Grem direcionou perguntas sensíveis, como fugir de casa, para adultos. A Curio disse à BBC que a segurança infantil orienta o desenvolvimento de seus produtos.
Paul Clarke, fundador da fabricante de brinquedos com IA Play Tech AI, com sede em Southampton, disse que o resultado não o surpreendeu. “Estamos clamando para que o setor seja regulamentado”, disse Clarke à BBC.
Parlamentares também estão pressionando sobre o tema. Um grupo de deputados e membros da Câmara dos Lordes escreveu a ministros e varejistas em 3 de novembro, informou a Sky News. Eles pediram que os brinquedos de IA sejam retirados do mercado até que testes independentes mostrem que são seguros, e que brinquedos com chatbot sejam proibidos para crianças menores de 16 anos.
Os brinquedos de IA para crianças estão sendo regulamentados?
O governo do Reino Unido disse à BBC que a segurança das crianças é sua maior prioridade. Uma consulta pública sobre como as regras de segurança de brinquedos devem abranger produtos de IA foi encerrada em 6 de outubro. Na União Europeia, novas regras de segurança para brinquedos já exigem que os fabricantes avaliem os riscos à saúde mental representados por brinquedos conectados.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.