La provincia canadiense de Columbia Británica ha presentado una demanda contra OpenAI, alegando que la empresa no notificó a las autoridades sobre las conversaciones del tirador con su chatbot, lo que podría haber evitado una tragedia. Según la demanda, el chatbot de OpenAI había interactuado con el tirador, y los revisores humanos de la empresa habían marcado la cuenta por posibles advertencias de cometer violencia en el mundo real.
La demanda afirma que OpenAI diseñó un producto inseguro y fue negligente al no alertar a las autoridades sobre las conversaciones del tirador. El premier de Columbia Británica, David Eby, calificó la disculpa del director general de OpenAI, Sam Altman, por no alertar a las autoridades como "necesaria, y sin embargo, groseramente insuficiente". La demanda también afirma que OpenAI no ha interactuado de manera significativa con Canadá y Columbia Británica en materia de seguridad después del tiroteo.
Niki Sharma, la fiscal general de Columbia Británica, declaró que ninguna empresa debería estar exenta de rendir cuentas simplemente porque la tecnología es nueva. Sharma también señaló que algunos directores ejecutivos de empresas de inteligencia artificial han pedido un freno global al desarrollo de la inteligencia artificial de vanguardia, reconociendo los riesgos de seguridad que plantean sus tecnologías. La oficina de la fiscal general presentó la demanda en el estado de California, donde tiene su sede OpenAI, lo que podría llevar a mayores compensaciones para las familias de las víctimas.
La provincia canadiense también busca compensación para la construcción de una nueva escuela en Tumbler Ridge. Esta demanda no es la única acción legal que enfrenta OpenAI, ya que la empresa también se enfrenta a una queja presentada por las familias de las víctimas, acusándola de negligencia. El caso destaca las preocupaciones sobre la seguridad y la rendición de cuentas de las empresas de inteligencia artificial, particularmente en lo que respecta a su capacidad para identificar y reportar posibles amenazas.
A medida que las tecnologías de inteligencia artificial siguen evolucionando, hay una creciente necesidad de que empresas como OpenAI prioricen la seguridad y la transparencia. Esto incluye implementar medidas efectivas para detectar y reportar posibles amenazas, así como colaborar con las autoridades para prevenir tragedias. El resultado de esta demanda probablemente tendrá implicaciones significativas para la industria de la inteligencia artificial, ya que plantea preguntas importantes sobre las responsabilidades de las empresas de inteligencia artificial y su papel en garantizar la seguridad pública.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.