El científico jefe de IA de Tencent, Yao Shunyu, advirtió que los modelos de IA pronto podrán causar daño en el campo de la biología, como ya pueden hacerlo en el de la ciberseguridad. Dijo que las empresas chinas que publican modelos abiertos deben tomarse la seguridad en serio, y que los riesgos biológicos podrían ser más difíciles de controlar que los riesgos cibernéticos. Habló en un evento realizado en Hong Kong.
El científico jefe de IA de Tencent ha advertido que los modelos de inteligencia artificial pronto podrán causar daño en el campo de la biología, de la misma manera en que ya pueden hacerlo en ciberseguridad.
¿Por qué el jefe de IA de Tencent advierte sobre los riesgos biológicos?
Yao Shunyu hizo las declaraciones el sábado en un evento científico en Hong Kong, según informó el South China Morning Post. “Las capacidades cibernéticas de los modelos [de IA] y, pronto, la capacidad biológica de los modelos alcanzarán un umbral en el que realmente será posible causar daño”, afirmó Yao, según el SCMP.
¿Por qué los modelos abiertos de IA necesitan precauciones adicionales?
Yao dijo que las empresas chinas que publican modelos abiertos, que cualquier persona puede descargar y modificar, deben tomarse la seguridad muy en serio. También advirtió que los riesgos biológicos podrían ser más difíciles de manejar que los riesgos cibernéticos.
Yao, de 29 años, se unió a Tencent el año pasado, después de un año en OpenAI. Habló días después de que Tencent lanzara Hy4, su nuevo modelo insignia, el 4 de noviembre.
En el anuncio de lanzamiento, Tencent indicó que excluyó de los datos de entrenamiento de Hy4 el material sobre la explotación de fallas de software. Según la compañía, el modelo fue entrenado en cambio con datos de seguridad defensiva.
Tencent también afirmó que Hy4 tiene un sólido conocimiento básico de biología, pero que es más débil que los modelos líderes en el diseño de experimentos. La compañía basó esa evaluación en revisiones internas de expertos. The Next Web, que fue el primero en informar sobre el lanzamiento, dijo que no ha probado el modelo por sí mismo.
La compañía planea publicar en los próximos días los pesos de Hy4 y un informe sobre sus pruebas de seguridad, informó Reuters. Según la firma de evaluación comparativa Artificial Analysis, Hy4 ocupa el segundo lugar entre los mejores modelos chinos, según el SCMP.
¿Los modelos abiertos de IA son más riesgosos que los cerrados?
Yao reconoció que empresas estadounidenses como Anthropic presentan argumentos sólidos para mantener cerrados sus modelos más avanzados. Sin embargo, sostuvo que una combinación de modelos abiertos y cerrados podría funcionar mejor, porque los modelos abiertos también pueden ayudar a los defensores.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.