Anthropic, una empresa líder en IA, ha señalado y detenido a múltiples científicos que utilizaban sus modelos de IA para crear posibles armas biológicas, según un nuevo informe. El informe de la empresa incluye cinco estudios de caso sobre el uso de los modelos de Anthropic para desarrollar armas biológicas, las medidas de seguridad que llevaron al conocimiento de la empresa sobre el mal uso y cómo respondió.
Detectar el posible mal uso es complicado, como enfatizó la empresa, porque la investigación sobre una nueva vacuna podría parecerse mucho a la creación de un arma biológica. En todos los casos, la empresa afirma que se inclinó por ser excesivamente cautelosa debido a las posibles consecuencias. "No estás viendo a alguien de manera cómica decir: 'Hey, quiero construir un arma biológica para matar a todos'
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.