O cientista-chefe de IA da Tencent, Yao Shunyu, alertou que modelos de IA em breve poderão causar danos na biologia, da mesma forma que já podem na cibersegurança. Ele afirmou que empresas chinesas que lançam modelos abertos precisam levar a segurança a sério e que os riscos biológicos podem ser mais difíceis de controlar do que os riscos cibernéticos. Ele falou em um evento em Hong Kong.
O cientista-chefe de IA da Tencent alertou que modelos de inteligência artificial em breve poderão causar danos na biologia, da mesma forma que já podem na cibersegurança.
Por que o chefe de IA da Tencent alerta sobre riscos biológicos?
Yao Shunyu fez as declarações em um evento científico em Hong Kong no sábado, segundo informou o South China Morning Post. "As capacidades cibernéticas dos modelos [de IA] e, em breve, a capacidade biológica dos modelos atingirão um limite em que será realmente possível causar danos", disse Yao, de acordo com o SCMP.
Por que modelos abertos de IA precisam de cuidados extras com segurança?
Yao disse que empresas chinesas que lançam modelos abertos, que qualquer pessoa pode baixar e modificar, precisam levar a segurança muito a sério. Ele também alertou que os riscos biológicos podem ser mais difíceis de controlar do que os riscos cibernéticos.
Yao, de 29 anos, ingressou na Tencent no ano passado, após um ano na OpenAI. Ele falou dias depois de a Tencent lançar o Hy4, seu novo modelo principal, em 4 de novembro.
No anúncio do lançamento, a Tencent afirmou que excluiu dos dados de treinamento do Hy4 material sobre exploração de falhas de software. Segundo a empresa, o modelo foi treinado com dados de segurança defensiva.
A Tencent também afirmou que o Hy4 tem forte conhecimento básico de biologia, mas é mais fraco que os principais modelos na elaboração de experimentos. A empresa baseou essa avaliação em análises internas de especialistas. O The Next Web, que noticiou o lançamento em primeiro lugar, disse não ter testado o modelo em si.
A empresa planeja divulgar os pesos do Hy4 e um relatório sobre seus testes de segurança nos próximos dias, informou a Reuters. Segundo a empresa de avaliação comparativa Artificial Analysis, o Hy4 é o segundo melhor modelo chinês, de acordo com o SCMP.
Modelos abertos de IA são mais arriscados que os fechados?
Yao reconheceu que empresas americanas como a Anthropic apresentam argumentos sólidos para manter seus modelos mais avançados fechados. No entanto, ele defendeu que uma combinação de modelos abertos e fechados pode funcionar melhor, pois os modelos abertos também podem ajudar os defensores.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.