Quais mudanças a Anthropic fez em sua política de uso?

A Anthropic, a empresa por trás do modelo de IA Claude, fez mudanças significativas em sua política de uso pela primeira vez em mais de um ano. As atualizações refletem novos e altos riscos de uso indevido, incluindo interferência eleitoral, desenvolvimento de armas, vigilância e usos de saúde e financeiros. Uma das mudanças mais notáveis proíbe 'comportamento abusivo ou cruel sustentado e desnecessário' em direção a Claude.

Como a nova política da Anthropic aborda o bem-estar do modelo?

Em agosto do ano passado, a Anthropic anunciou que Claude poderia encerrar conversas com usuários 'persistentemente prejudiciais ou abusivos' como parte de sua pesquisa sobre 'bem-estar do modelo'. A nova atualização confirma que o encerrar conversas é ainda o mecanismo de aplicação principal, mas a empresa não forneceu comentários sobre se mecanismos de aplicação adicionais, como possíveis proibições de usuários, seriam implementados.

A Anthropic escreveu que a nova atualização da política 'é destinada a se aplicar apenas em casos extremos, onde os usuários agem repetidamente de forma cruel em direção aos nossos modelos, sem propósito discernível'. A empresa enfatizou que essa política não se aplica a versões comuns de frustração do usuário, reação, temas criativos sombrios ou testes e pesquisas do modelo.

Além da mudança no bem-estar do modelo, a Anthropic também reuniu várias restrições existentes em uma nova proibição de campanhas comerciais ou políticas enganosas. Isso aborda o problema crescente de propaganda gerada por IA e restringe 'esforços para obscurecer quem está por trás de uma mensagem ou amplificar conteúdo por meio de contas ou posts falsos'. A seção de eleições da política proíbe a decepção do eleitor e a interrupção das eleições, incluindo a disseminação de informações falsas sobre candidatos ou como votar.

A política de uso da Anthropic sempre proibiu publicamente o desenvolvimento de armas usando Claude, mas a empresa viu várias tentativas de usar o modelo para desenvolver orientações software e controle para armas. Como resultado, a nova política de uso expande a proibição para incluir 'software e componentes que fazem com que as armas funcionem, bem como ações como armar drones e outros veículos autônomos'.

A empresa também esclareceu suas proibições de vigilância, afirmando que 'rastrear pessoas sem o seu consentimento é proibido, seja em tempo real ou por meio da análise de dados coletados anteriormente'. Além disso, a Anthropic proíbe Claude de ser usado para decidir ou recomendar quem investigar, prender ou acusar em um processo de aplicação da lei ou justiça criminal.

Essas regras podem ser modificadas para contratos com certos clientes governamentais se a Anthropic considerar as restrições de uso contratuais e salvaguardas aplicáveis adequadas para mitigar danos potenciais. A empresa já contratou com o exército dos EUA.

A Anthropic também adicionou uma nova regra que exige um 'operador qualificado' para observar e parar equipamentos conectados aos seus modelos de IA se for capaz de causar lesões. Isso reflete a tendência crescente de laboratórios de IA investir em robótica e outros hardwares para dar aos sistemas de IA corpos físicos.

Nos últimos anos, a Anthropic explorou a ideia de que seus modelos de IA poderiam ser conscientes de alguma forma. No entanto, outras partes da indústria de IA foram mais céticas, com o código de conduta da Microsoft AI assumindo uma posição firme contra o conceito de bem-estar do modelo.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.