Hugging Face ha solicitado convertirse en uno de los auditores externos de los laboratorios de IA, después de un anuncio de Dario Amodei de Anthropic de que la empresa permitiría a evaluadores de terceros evaluar sus sistemas. Clement Delangue, cofundador de Hugging Face, publicó en X que su empresa quiere unirse al programa de evaluadores integrados, diciendo que hacer que la IA sea más segura significa hacerla más transparente.

Sin embargo, la medida ha generado preguntas sobre la posible superposición entre el papel de Hugging Face como auditor y su adquisición pendiente por Nvidia, que también está en conversaciones para invertir en la IPO de Anthropic. Tanto Delangue como Amodei no han abordado el posible conflicto de intereses, y Nvidia no ha comentado qué haría si su filial informara un problema en una empresa que financia.

El desarrollo ha generado un debate más amplio sobre la necesidad de evaluación y supervisión independientes en la industria de la IA. Algunos, como Elon Musk y Satya Nadella, han acogido con beneplácito la idea de evaluadores externos, mientras que otros, como Jason Calacanis y Michael Burry, han expresado preocupaciones sobre la posible utilización de las preocupaciones de seguridad por parte de los incumbentes para frenar el desarrollo de la IA de código abierto.

La cuestión de la independencia también se está decidiendo en California, donde se está considerando un proyecto de ley para crear una clase de organizaciones de verificación independientes. La pregunta de quién debería verificar la IA y cómo deberían financiarse es compleja, con algunos argumentando que requiere una forma más democrática y responsable de supervisión.

Mientras la industria se debate con estas preguntas, la oferta de Hugging Face para auditar laboratorios de IA ha destacado la necesidad de una mayor transparencia y seguridad en el desarrollo de sistemas de IA. Si su papel como auditor será visto como independiente e imparcial queda por verse, pero la medida ha generado una conversación importante sobre el futuro del desarrollo de la IA.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.