¿Qué cambios ha realizado Anthropic en su política de uso?
Anthropic, la empresa detrás del modelo de IA Claude, ha realizado cambios significativos en su política de uso por primera vez en más de un año. Las actualizaciones reflejan nuevos y altos riesgos de mal uso, incluyendo la interferencia electoral, el desarrollo de armas, la vigilancia y los usos de salud y financieros. Uno de los cambios más notables prohíbe el 'comportamiento abusivo o cruel sostenido y sin necesidad' hacia Claude.
¿Cómo aborda la nueva política de Anthropic el bienestar del modelo?
El pasado agosto, Anthropic anunció que Claude podría terminar conversaciones con usuarios 'persistentemente dañinos o abusivos' como parte de su investigación sobre el 'bienestar del modelo'. La nueva actualización confirma que la terminación de conversaciones es aún el mecanismo de aplicación principal, pero la empresa no proporcionó comentarios sobre si se implementarían mecanismos de aplicación adicionales, como posibles prohibiciones de usuarios.
Anthropic escribió que la nueva actualización de la política 'está destinada a aplicarse solo en casos extremos, donde los usuarios actúan repetidamente de manera cruel hacia nuestros modelos, sin propósito discernible'. La empresa enfatizó que esta política no se aplica a versiones comunes de frustración del usuario, retroalimentación, temas creativos oscuros o pruebas y investigación del modelo.
Más allá del cambio en el bienestar del modelo, Anthropic también ha reunido varias restricciones existentes en una nueva prohibición de campañas comerciales o políticas engañosas. Esto aborda el creciente problema de la propaganda generada por IA y restringe 'los esfuerzos para ocultar quién está detrás de un mensaje o amplificar contenido a través de cuentas o publicaciones falsas'. La sección de elecciones de la política prohíbe el engaño de votantes y la interrupción de elecciones, incluyendo la difusión de información falsa sobre candidatos o cómo votar.
La política de uso de Anthropic siempre ha prohibido públicamente el desarrollo de armas utilizando Claude, pero la empresa ha visto múltiples intentos de utilizar el modelo para desarrollar orientación y control de software para armas. Como resultado, la nueva política de uso amplía la prohibición para incluir 'software y componentes que hacen que las armas funcionen, así como acciones como armar drones y otros vehículos autónomos'.
La empresa también ha aclarado sus prohibiciones de vigilancia, estableciendo que 'seguir a personas sin su consentimiento está prohibido, ya sea que ocurra en tiempo real o a través del análisis de datos recopilados previamente'. Además, Anthropic prohíbe que Claude se utilice para decidir o recomendar a quién investigar, arrestar o acusar en un proceso de aplicación de la ley o justicia penal.
Estas reglas pueden ser modificadas para contratos con ciertos clientes gubernamentales si Anthropic considera que las restricciones de uso contractuales y las salvaguardias aplicables son adecuadas para mitigar daños potenciales. La empresa ha contratado previamente con el ejército de EE. UU.
Anthropic también ha agregado una nueva regla que requiere un 'operador calificado' que pueda observar y detener el equipo conectado a sus modelos de IA si es capaz de causar lesiones. Esto refleja la creciente tendencia de los laboratorios de IA a invertir en robótica y otros hardware para dar a los sistemas de IA encarnaciones físicas.
Durante el último año, Anthropic ha explorado la idea de que sus modelos de IA podrían ser conscientes de alguna manera. Sin embargo, otras partes de la industria de la IA han sido más escépticas, con el código de conducta de Microsoft AI adoptando una postura firme en contra del concepto de bienestar del modelo.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.