El cofundador de Anthropic, Dario Amodei, rompió un silencio de una semana el domingo para aclarar la posición de la empresa respecto a los modelos de inteligencia artificial de peso abierto. En una publicación detallada, dijo que Anthropic nunca ha abogado por una prohibición total de dichos modelos, describiendo aquellos que carecen de capacidades peligrosas como un "bien público". La aclaración sigue una carta abierta firmada por el CEO de Nvidia, Jensen Huang, y decenas de empresas de tecnología, así como informes que sugieren que los funcionarios estadounidenses están considerando prohibiciones sobre los modelos de peso abierto chinos.
Amodei esbozó tres medidas de política que apoya en lugar de una prohibición. Primero, pide controles de exportación de chips más estrictos y una acción enérgica contra el "contrabando rampante" de semiconductores avanzados a China. Argumenta que sin acceso a los chips estadounidenses, los laboratorios chinos tendrían dificultades para entrenar modelos que rivalicen con los estadounidenses bajo las leyes de escalado existentes. Segundo, insta a una acción contra la destilación de modelos a gran escala, un proceso que permite a los competidores reproducir modelos poderosos a una fracción del costo de entrenamiento original. Tercero, propone pruebas de seguridad obligatorias para cualquier modelo considerado lo suficientemente capaz, ya sea abierto o cerrado, mientras exonera a la investigación menos capaz de las startups y la academia.
Los partidarios de la carta abierta argumentan que los pesos abiertos amplían el acceso y la competencia. Amodei estuvo de acuerdo en que una mayor disponibilidad puede fomentar la innovación, pero advirtió que los pesos abiertos no favorecen automáticamente a los defensores sobre los atacantes. Citó el potencial de un modelo capaz de utilizar un virus de nivel de pandemia con materiales fácilmente disponibles, señalando que las medidas defensivas contra tales amenazas tardarían años en desarrollarse.
La queja más puntual de Anthropic se centra en la destilación de modelos. La empresa acusó anteriormente al laboratorio Qwen de Alibaba de ejecutar la campaña de destilación más grande contra el modelo Claude de Anthropic, presuntamente utilizando 25.000 cuentas falsas para generar 29 millones de intercambios. Amodei reconoció que identificar y detener la destilación es desafiante porque las cuentas ofensivas a menudo emergen solo después de que se ha producido una copia sustancial. Enfatizó que se necesita una intervención política, en lugar de confiar en la aplicación de una sola empresa, para abordar el problema.
En el contexto más amplio, la aclaración llega mientras Washington debate cómo regular los avances de la inteligencia artificial que podrían tener implicaciones de seguridad nacional. Los informes sugieren que los funcionarios estadounidenses están considerando restricciones sobre los modelos de peso abierto chinos, un movimiento que podría redefinir el panorama competitivo para el desarrollo de la inteligencia artificial. Las medidas propuestas por Amodei apuntan a encontrar un equilibrio: preservar los beneficios de la investigación abierta mientras se mitiguen los riesgos asociados con la adquisición ilícita de chips, la destilación sin control y los modelos poderosos no probados.
La declaración de Anthropic subraya una posición matizada: la empresa no se opone a los modelos de peso abierto en sí, pero rechaza la idea de permitir que se propaguen sin control, especialmente cuando se originan en datos robados, hardware contrabandeado o carecen de una evaluación de seguridad rigurosa. Si los formuladores de políticas adoptarán las salvaguardias específicas que Amodei recomienda, queda por verse, pero la postura pública de la empresa señala una disposición a participar en el debate de política en curso.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.