Tags: segurança de IA

A Anthropic lançou um modo auto para sua ferramenta Claude Code, permitindo que a IA atue em nome dos usuários enquanto reduz o risco de ações indesejadas. O recurso sinaliza e bloqueia operações potencialmente arriscadas, solicitando que o modelo tente novamente ou peça intervenção do usuário. Atualmente disponível como uma prévia de pesquisa para usuários do plano Team, a Anthropic planeja estender o acesso a usuários Enterprise e API nos próximos dias. A empresa enfatiza que a ferramenta permanece experimental e recomenda seu uso em ambientes isolados. Ler mais

A Anthropic começou a pré-visualizar um novo 'modo automático' dentro do Claude Code, oferecendo um meio-termo entre o comportamento padrão de segurança em primeiro lugar e a operação totalmente autônoma. O recurso usa um classificador para permitir que o Claude execute ações que julga seguras, enquanto se afasta de comandos potencialmente perigosos, como exclusões em massa de arquivos ou execução de código malicioso. Ler mais

A OpenAI anunciou que irá encerrar seu aplicativo e API de geração de vídeos Sora, uma decisão que também encerra a parceria de licenciamento de alto perfil com a Disney. Executivos disseram que a decisão segue discussões internas sobre prioridades de pesquisa e alocação de recursos, observando que o Sora exigia uma grande quantidade de poder de processamento que limitava outras equipes. Ler mais

A Anthropic introduziu um "modo automático" para sua IA Claude Code, permitindo que o sistema execute ações automaticamente quando consideradas seguras, bloqueando aquelas que parecem arriscadas. O recurso, agora em pré-visualização de pesquisa, adiciona uma camada de segurança que verifica comportamentos perigosos e ataques de injeção de prompts antes de qualquer ação ser executada. Ler mais

A Anthropic introduziu uma funcionalidade de uso de computador para o seu modelo de IA Claude, permitindo que o sistema interaja diretamente com a área de trabalho do usuário. A empresa enfatizou um conjunto de salvaguardas projetadas para bloquear ações arriscadas, como mover dinheiro, modificar arquivos ou acessar dados sensíveis, embora tenha advertido que essas proteções não são absolutas. Os usuários são aconselhados a começar com aplicativos confiáveis e evitar lidar com informações sensíveis durante a fase de pré-visualização. Ler mais

A Anthropic anunciou que seu AI Claude agora pode controlar um computador MacOS, permitindo que ele execute tarefas como abrir arquivos, rolar, clicar e usar aplicativos como Google Calendar ou Slack. A capacidade é limitada a assinantes Claude Pro e Claude Max, requer permissão antes de cada ação e inclui salvaguardas de segurança para bloquear injecções de prompts e outras vulnerabilidades. Ler mais