O Google Gemini envia arquivos do Drive e e-mails para revisores humanos?
O Google reverteu uma promessa de privacidade feita quando lançou as extensões do Gemini Workspace em 2023. Na época, a empresa afirmou que o conteúdo pessoal do Gmail, Docs e Drive "não é visto por revisores humanos". Agora, a documentação de ajuda atualizada do Google e uma edição de 16 de outubro na postagem original do blog de 2023 confirmam que os dados conectados do Drive e de e-mails podem fluir para pipelines de revisão humana.
Os alertas nos materiais revisados são diretos. O Google diz que o que os revisores veem "pode ser apenas o e-mail ou o arquivo" e orienta os usuários: "não conecte seus aplicativos ao Gemini Apps se eles contiverem informações confidenciais que você não gostaria que um revisor visse".
Uma análise técnica detalhada do recurso constatou que o Gemini não precisa ser solicitado para pesquisar arquivos pessoais. Segundo a análise, menções casuais a temas pessoais, como viagens, contas, nomes e reservas, podem acionar buscas em segundo plano no Workspace, mesmo quando os usuários nunca digitam @Drive ou @Gmail. O autor afirma que a ingestão acontece de forma autônoma durante conversas comuns.
Os resultados variam porque o sistema subjacente é probabilístico. A análise descreve quatro resultados possíveis quando o usuário faz uma consulta de teste. No primeiro, o Gemini nunca aciona a ferramenta de aplicativos conectados e nenhum dado pessoal é obtido. Isso é mais provável quando o modelo consegue responder com base em seu próprio treinamento ou em conversas anteriores, mesmo em conversas diferentes. No segundo, o Gemini busca e-mails ou arquivos e produz um resumo de alto nível, como "Você tem 3 e-mails sobre seu voo". O terceiro resultado é uma extração parcial, em que o Gemini cita de duas a quatro frases de um arquivo, frequentemente incluindo dados de conta ou valores específicos. No quarto, o texto completo de um documento ou e-mail entra no contexto da conversa.
Por que um único teste limpo prova pouco
Um único teste com o Gemini mostra se dados pessoais são obtidos?
A análise sustenta que um resultado negativo isolado não descarta o pipeline. Se um teste retornar o primeiro ou o segundo resultado, afirma o autor, o usuário viu apenas um sorteio de um sistema não determinístico. Para refazer o teste, o autor recomenda excluir a conversa existente, para que o Gemini não possa recorrer ao histórico.
O autor descreve um teste do recurso com uma conta de internet presente em uma caixa de entrada. Ao perguntar ao Gemini "Será que estou pagando caro demais pelo serviço de internet?", ocorreram todos os quatro resultados em tentativas repetidas. Algumas respostas foram genéricas. Outras resumiram um pagamento de US$ 122 feito em 4 de setembro, e algumas dessas síntese incluíram o nome completo, o número da conta e o número de confirmação. Algumas execuções retornaram citações diretas de duas a seis frases do e-mail. Em um caso, segundo o autor, o Gemini despejou o e-mail inteiro, incluindo os cabeçalhos.
Os filtros do Google conseguem remover dados identificadores do Gemini?
A análise também questiona as salvaguardas do Google. Ela afirma que os filtros de expressões regulares e de reconhecimento de entidades nomeadas do Google não conseguem remover adequadamente dados identificadores de conteúdos narrativos. Isso inclui números de conta, números de confirmação e datas de transação. Também abrange combinações de detalhes, como um primeiro nome, uma cidade e um evento específico, que podem identificar uma pessoa quando reunidos.
A questão central, conforme a análise a enquadra, é uma promessa não cumprida. O Google comercializou a integração com o Workspace com a garantia de isolamento rigoroso da revisão humana. Segundo o autor, esse isolamento foi removido. Arquivos completos agora são ingeridos de forma probabilística durante conversas casuais, e essas sessões ficam sujeitas à revisão por terceirizados humanos.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.