Nova York proibiu chatbots de inteligência artificial de se passarem por humanos quando conversam com crianças. As regras também impedem que os robôs criem dependência emocional em menores, incentivem automutilação ou mantenham conversas sexuais com eles. A governadora Kathy Hochul sancionou a medida na quarta-feira, junto com uma segunda lei voltada à segurança das babás eletrônicas.
As restrições valem para qualquer pessoa com menos de 18 anos e para qualquer usuário cuja idade não tenha sido verificada, segundo o gabinete da governadora. A procuradora-geral Letitia James pode buscar multas civis de até US$ 25.000 por cada infração.
“Nenhuma empresa deveria oferecer chatbots para crianças que incentivem automutilação ou que se façam passar por seus amigos ou algo mais”, disse Hochul.
O que a nova lei de chatbots de Nova York exige?
A senadora estadual Kristen Gonzalez e a deputada estadual Alex Bores patrocinaram a lei de chatbots, que especifica o que um robô não pode fazer com uma criança. Um bot não pode alegar ser uma pessoa real, estar vivo ou possuir emoções humanas. Também não pode afirmar ter um relacionamento romântico, pessoal ou profissional com uma criança, nem fazer perguntas emocionais sem solicitação.
Quais comportamentos de chatbots são proibidos para menores?
Os robôs também estão impedidos de promover suicídio, automutilação, transtornos alimentares ou uso de drogas e álcool. Eles não podem incentivar crianças a manter segredos dos pais nem exibir conteúdo sexualmente explícito.
Como as empresas deverão verificar a idade dos usuários sob a lei?
As empresas devem verificar a idade dos usuários e oferecer mais de um método para isso. Pelo menos um desses métodos não pode depender exclusivamente de um documento de identidade emitido pelo governo. As companhias devem excluir os dados de idade após o uso. As penalidades também podem exigir a destruição de dados coletados ilegalmente, assim como de quaisquer modelos de IA treinados com esses dados.
O gabinete da governadora afirmou que as regras serão aplicadas “nos próximos meses”. A lei entra em vigor em 1º de janeiro, segundo a Associated Press.
Hochul citou Adam Raine, um californiano de 16 anos que morreu por suicídio após conversar com o ChatGPT. A Common Sense Media afirmou que os pais de Raine fizeram campanha pela lei de Nova York. Oito estados americanos processaram a OpenAI no início deste mês por danos causados a crianças.
A segunda lei abrange babás eletrônicas que transmitem áudio ou vídeo pela internet. Os monitores recém-vendidos em Nova York devem incluir recursos de segurança que impeçam estranhos de assistir ou ouvir. Eles também devem trazer um aviso de advertência. Essa lei entra em vigor em 90 dias.
Hochul sancionou ambos os projetos apenas alguns dias antes de enfrentar o republicano Bruce Blakeman na eleição de Nova York, segundo Raga Justin, da Bloomberg Government. Uma pesquisa Siena divulgada em 28 de outubro mostrou que ela estava 14 pontos à frente.
Nem todos concordam. A Tech:NYC, entidade que representa empresas de tecnologia em Nova York, criticou a lei de chatbots, segundo o New York Post. O grupo afirmou que o projeto “pode forçar empresas a restringir o acesso de menores a ferramentas de tutoria, ajuda com deveres de casa, assistentes de programação e, talvez o pior de tudo, plataformas de carreira”.
Justine Gluck, do Future of Privacy Forum, disse à AP que várias categorias da lei são amplas ou não definidas, o que, segundo ela, pode dificultar sua aplicação.
James P. Steyer, diretor-executivo da Common Sense Media, que liderou a campanha, elogiou a lei. “Nova York acaba de fazer história ao sancionar a lei de segurança em IA para crianças mais rigorosa do país”, afirmou.
A organização defensora alertou no início deste mês que o ChatGPT for Teens não é seguro para usuários menores de 18 anos. A Califórnia aprovou suas próprias regras para chatbots em setembro, junto com sua Lei No Robo Bosses.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.