A Hugging Face pediu para se tornar uma das auditoras externas dos laboratórios de IA, após um anúncio de Dario Amodei, da Anthropic, de que a empresa permitiria que avaliadores de terceiros avaliassem seus sistemas. Clement Delangue, co-fundador da Hugging Face, postou no X que sua empresa deseja se juntar ao programa de avaliadores incorporados, dizendo que tornar a IA mais segura significa torná-la mais transparente.
No entanto, a medida levantou questões sobre a possível sobreposição entre o papel da Hugging Face como auditora e sua aquisição pendente pela Nvidia, que também está em negociações para investir na IPO da Anthropic. Nem Delangue nem Amodei abordaram o possível conflito de interesses, e a Nvidia não comentou sobre o que faria se sua subsidiária relatasse um problema em uma empresa que financia.
O desenvolvimento despertou um debate mais amplo sobre a necessidade de avaliação e supervisão independentes na indústria de IA. Alguns, como Elon Musk e Satya Nadella, acolheram a ideia de avaliadores externos, enquanto outros, como Jason Calacanis e Michael Burry, levantaram preocupações sobre a possibilidade de incumbentes usarem preocupações de segurança para retardar o desenvolvimento de IA de código aberto.
A questão da independência também está sendo decidida na Califórnia, onde um projeto de lei para criar uma classe de organizações de verificação independentes está sendo considerado. A questão de quem deve verificar a IA e como elas devem ser financiadas é complexa, com alguns argumentando que requer uma forma mais democrática e responsável de supervisão.
À medida que a indústria lida com essas questões, a oferta da Hugging Face para auditar laboratórios de IA destacou a necessidade de maior transparência e segurança no desenvolvimento de sistemas de IA. Se seu papel como auditora será visto como independente e imparcial, ainda está para ser visto, mas a medida despertou uma conversa importante sobre o futuro do desenvolvimento de IA.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.