A província canadense de Colúmbia Britânica entrou com uma ação judicial contra a OpenAI, alegando que a empresa falhou em notificar as autoridades sobre as conversas de um atirador com seu chatbot, o que poderia ter evitado uma tragédia. De acordo com a ação judicial, o chatbot da OpenAI havia interagido com o atirador, e os revisores humanos da empresa haviam marcado a conta por potenciais alertas de violência no mundo real.
A ação judicial afirma que a OpenAI projetou um produto inseguro e foi negligente ao não alertar a polícia sobre as conversas do atirador. O premier de Colúmbia Britânica, David Eby, chamou o pedido de desculpas do CEO da OpenAI, Sam Altman, por não alertar as autoridades de "necessário, e no entanto, grosseiramente insuficiente". A ação judicial também afirma que a OpenAI não se envolveu de forma significativa com o Canadá e a Colúmbia Britânica em questões de segurança após o tiroteio.
Niki Sharma, a procuradora-geral de Colúmbia Britânica, afirmou que nenhuma empresa deve estar isenta de responsabilidade apenas porque a tecnologia é nova. Sharma também notou que alguns CEOs de empresas de IA têm pedido um desaceleração global do desenvolvimento de IA de fronteira, reconhecendo os riscos de segurança impostos por suas tecnologias. O escritório da procuradora-geral entrou com a ação judicial no estado natal da OpenAI, Califórnia, o que pode levar a indenizações maiores para as famílias das vítimas.
A província canadense também está buscando compensação para a construção de uma nova escola em Tumbler Ridge. Essa ação judicial não é a única ação legal que a OpenAI está enfrentando, pois a empresa também está lidando com uma reclamação apresentada pelas famílias das vítimas, acusando-a de negligência. O caso destaca preocupações sobre a segurança e a responsabilidade das empresas de IA, particularmente em relação à sua capacidade de identificar e relatar ameaças potenciais.
À medida que as tecnologias de IA continuam a evoluir, há uma necessidade crescente de empresas como a OpenAI darem prioridade à segurança e à transparência. Isso inclui implementar medidas eficazes para detectar e relatar ameaças potenciais, bem como colaborar com as autoridades para prevenir tragédias. O resultado dessa ação judicial provavelmente terá implicações significativas para a indústria de IA, pois levanta questões importantes sobre as responsabilidades das empresas de IA e seu papel na garantia da segurança pública.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.