Anthropic le dijo a legisladores estadounidenses que reescribirá parte de su propio borrador de proyecto de ley de seguridad de la IA, una concesión que llegó tras días de duras críticas luego de que se filtrara el texto confidencial. Politico publicó el borrador el viernes. La empresa había estado haciéndolo circular en el Capitolio.

Los críticos afirman que el proyecto de ley es más débil que la principal medida de seguridad de la IA que ya se encuentra en el Congreso, y que haría más difícil detener un modelo peligroso, en lugar de facilitarlo. Para una empresa que construyó su perfil público impulsando normas estrictas para la IA, las críticas han resultado difíciles de asimilar.

Lo que haría el borrador

¿Qué haría el proyecto de ley de seguridad de la IA de Anthropic?

El borrador permite que el gobierno bloquee el lanzamiento o el uso de un modelo solo en casos muy específicos. El riesgo debe ser previsible e inminente. Debe implicar más de 1.000 millones de dólares en daños, o la muerte o lesiones graves de más de 50 personas, según Politico. Además, tiene que derivarse de un arma biológica, de un modelo que escape al control de su desarrollador o de un ciberataque. Los umbrales replican las leyes de IA de California.

Según el borrador, el Departamento de Comercio tendría que presentar una petición ante un tribunal federal y argumentar por sí mismo el caso para bloquear un modelo. Ningún otro organismo o funcionario podría suspender un modelo. El proyecto también prevalecería sobre algunas leyes estatales de IA que regulan la divulgación pública, la evaluación por terceros y el reporte de incidentes. Las leyes de protección infantil y de derechos civiles quedarían intactas.

Los evaluadores independientes se registrarían ante el Departamento de Comercio y revisarían los modelos de los laboratorios. Podrían ser pagados por el laboratorio, siempre que el pago no dependa del resultado. Deberían informar a Comercio sobre cualquier riesgo inminente en un plazo de 72 horas.

Por qué los defensores de la seguridad están molestos

¿Por qué los defensores de la seguridad están molestos con el borrador?

Gran parte de las críticas compara el borrador con la Ley FRONTIER, un proyecto bipartidista presentado en julio por los representantes Jay Obernolte y Lori Trahan. Escribiendo para Transformer, Shakeel Hashim argumentó que el borrador de Anthropic es más débil en dos aspectos principales. No establece estándares ni licencias para los evaluadores, quienes pueden autocertificarse. Además, hace que un modelo sea mucho más difícil de bloquear.

Charlie Bullock, de LawAI, afirmó que la falta de licencias empujaría a los auditores a competir. Según él, ofrecerían las verificaciones menos exigentes al precio más bajo. Nathan Calvin, consejero general de Encode, dijo que el borrador lo había dejado “visceralmente furioso”. Afirmó que parecía impedir que los tribunales estatales suspendieran un modelo por razones de seguridad.

Wiener, quien redactó la ley estatal de IA de frontera, dijo que la propuesta “se queda muy lejos de proteger la salud y la seguridad públicas”. Afirmó que no establece estándares mínimos para los planes de seguridad ni para los auditores. También acusó al borrador de usar de manera indebida una definición de su ley de transparencia, la SB 53, para “desmantelar” sus poderes de apagado de emergencia.

“La propuesta de seguridad de la IA de Anthropic se queda muy lejos de proteger la salud y la seguridad públicas. El Congreso debe ir más allá”, escribió Wiener en X.

La presión también llega desde la otra dirección. Sacks, quien hasta hace poco fue el zar de IA de la Casa Blanca, afirmó que el umbral de tamaño más bajo del borrador “abarcaría a casi todo Silicon Valley” y perjudicaría a las startups. El borrador de Anthropic trata a un modelo como de frontera con un umbral de entrenamiento más bajo que el de la Ley FRONTIER o el de la ley de California, lo que significa que cubriría a más empresas.

Anthropic dice que hará cambios

¿Qué cambiará Anthropic en el proyecto de ley?

Anthony Cimino, quien dirige el equipo de asuntos federales de Anthropic, respondió en X el sábado. Calificó el lenguaje de preeminencia normativa como “no lo suficientemente preciso” y dijo que sería actualizado. Afirmó que la empresa mantendría el papel de los estados en áreas como los estándares para evaluadores y la capacidad de un laboratorio para apagar un modelo, y que publicaría nuevas propuestas sobre los evaluadores independientes.

En su publicación, Cimino señaló que el borrador era una traducción a lenguaje legislativo de ideas que Anthropic había defendido durante meses. Según escribió, fue compartido con un pequeño número de oficinas del Congreso y no incluye todo lo que la empresa finalmente desearía que se aprobara. Dijo que la compañía reconoce que algunos aspectos pueden mejorarse, entre ellos el umbral para bloquear un modelo y los umbrales de riesgo, que, según afirmó, se tomaron de la ley de California y deben ser reevaluados. También indicó que Anthropic todavía trabaja en opciones para evitar la “búsqueda de evaluadores más favorables”.

Un portavoz de Anthropic le dijo a Politico que el proyecto reflejaba políticas sobre las que “creemos que el Congreso debería actuar”.

El borrador llega después de un verano difícil para la empresa. La administración Trump usó controles de exportación a comienzos de este año para cerrar dos de los modelos más avanzados de Anthropic. El director ejecutivo Dario Amodei ha sostenido que la industria debe frenar su ritmo. Una serie de incidentes de IA fuera de control durante el verano ha aumentado la presión por normas más estrictas. Otros proyectos de ley sobre IA, incluida una propuesta del Senado que permitiría a Washington bloquear modelos, siguen en consideración.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.