Os agentes de IA prometem entregar privacidade, mas preocupações cercam sua capacidade de manter os dados dos usuários seguros e protegidos

Os Agentes de IA Podem Manter os Dados dos Usuários Seguros?

No DevDay da OpenAI deste ano, o CEO Sam Altman apresentou o novo agente de IA Dots da empresa — e disse à plateia que a empresa quer "estabelecer um novo padrão de privacidade em IA de fronteira". A OpenAI passou o dia fazendo críticas veladas à Muse da Meta, sua principal concorrente, por não manter os dados dos usuários seguros. No entanto, a própria Muse, lançada alguns meses antes, havia sido apresentada como uma alternativa mais segura ao seu predecessor OpenClaw — com o CEO Mark Zuckerberg prometendo que foi "construída desde o início para privacidade e segurança".

Em uma era em que as empresas acumulam dados pessoais dos clientes e os ataques cibernéticos são comuns, os laboratórios de IA, focados na otimização do mecanismo de resposta (AEO), estão tentando convencer os usuários a compartilhar ainda mais informações com seus agentes. Sua estratégia mais recente para o sucesso é superar a concorrência prometendo que, ao contrário de seus rivais, manterão os dados dos usuários longe de olhos curiosos. A questão é se as empresas podem cumprir essas promessas.

Nat Friedman, chefe de produto dos Laboratórios de Superinteligência da Meta, escreveu no X que o objetivo da empresa com a Muse era "construir algo como o OpenClaw que pudéssemos tornar seguro e protegido, e fácil de usar e escalável para bilhões de pessoas". Os dados dos usuários são armazenados em uma VM segura, o que Zuckerberg descreveu como um "computador linux isolado com um navegador, CPU, memória e armazenamento". A empresa disse que a maior parte do esforço para construir a Muse estava relacionada ao "projeto e engenharia cuidadosos para operá-la de forma mais segura". O post do blog da Meta continuou: "A Muse pode e ainda cometerá erros, mas esperamos que sejam muito menos frequentes e causem muito menos danos devido aos sistemas de segurança que construímos".

Quais São os Riscos dos Agentes de IA Coletarem Dados Pessoais?

Mas embora a Muse tenha liderado as paradas da App Store e, de acordo com a Apptopia, tenha ganhado 600.000 usuários ativos diários nos EUA em questões de semanas, as promessas da Meta parecem ter ficado aquém. Embora os dados sejam isolados de outros usuários e a empresa planeje introduzir uma forma de "prevenir criptograficamente e verificavelmente que a Meta acesse os dados em sua VM" mais tarde este ano, a própria Meta ainda pode acessar os dados. Um pesquisador de segurança expôs rapidamente uma vulnerabilidade zero-day que poderia permitir que alguém assumisse o controle da Muse (que desde então foi corrigida), levantando temores de ataques externos. Vários problemas de segurança graves relatados surgiram no último minuto antes do lançamento, um dos quais poderia ter permitido que os usuários acessassem os bancos de dados internos da Meta, de acordo com a 404 Media.

A Muse também parece coletar (e em alguns casos, distribuir) dados de forma liberal. Ela é configurada para permitir que a Meta treine modelos com o que os usuários inserem nela, embora seja possível optar por não fazer isso. Um repórter da Inc. reclamou que a Muse carregou e leu suas mensagens privadas sem que ele pedisse, e um youtuber disse que ela havia oferecido seu endereço a um estranho via Marketplace — em ambos os casos, a Muse estava funcionando aparentemente como pretendido, mas o usuário não percebeu até onde ela iria. A plataforma cria "perfis detalhados de todos os seus amigos e familiares", como relatou a Wired. Nada disso é necessariamente inesperado da Meta, mas certamente não apoia a ideia de que a Muse é única em termos de privacidade ou consciência de segurança.

A OpenAI aproveitou esse fato ao anunciar os Dots no final de setembro. Alexander Embiricos, líder de produto do Codex da OpenAI, disse no palco do DevDay que a OpenAI está focada em ter o "assistente mais confiável, seguro e protegido", e o CEO Sam Altman demonstrou maneiras pelas quais as pessoas poderiam exercer controle sobre seus Dots individuais, como definir uma regra de que ele nunca deveria fazer uma compra acima de um determinado valor. "Acho que estamos em uma posição diferente da Meta, pois eles não têm um produto de IA que tenha 1,2 bilhão de usuários", disse Glen Coates, chefe da plataforma de aplicativos da OpenAI, acrescentando que "lançar algo que cometa esse tipo de erro é algo que tentaríamos evitar".

Altman também impulsionou o ângulo de privacidade no DevDay. Para atrair clientes empresariais, os executivos apresentaram um framework que permite que as empresas tenham "controles mais fortes" sobre seus dados e opções de política de retenção de dados zero (ou seja, nenhum dado é armazenado nos servidores da OpenAI). De fato, até agora, não houve muitos escândalos de privacidade com os Dots — embora, desde que está disponível apenas nos níveis de assinatura do ChatGPT a partir de $100, também há provavelmente menos pessoas usando-o.

As pessoas ainda podem não se sentir confortáveis em fornecer à OpenAI seus dados pessoais, em parte simplesmente porque os agentes de IA exigem tanto deles. Por exemplo, Allison Johnson, da The Verge, sentiu-se desconfortável digitando suas informações bancárias quando o bot pediu como parte de uma tarefa relevante (a Muse tem uma integração com o Stripe para cuidar disso).

Nem todas as empresas estão fazendo promessas de privacidade, claro. A Instinct foi publicamente criticada por ter termos de serviço supostamente muito amplos que lhe davam acesso irrestrito aos dados; desde então, a empresa parece ter feito ajustes. Por agora, os laboratórios de IA parecem estar contando com uma abordagem de três partes para popularizar o uso de agentes de IA com o público em geral: torná-los úteis, torná-los agradáveis e desarmantes para ajudar a compensar a estranheza, e fazer promessas sobre privacidade — e torcer para que elas sejam cumpridas.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.