A OpenAI, a empresa por trás do popular chatbot ChatGPT, está pagando a centenas de contratados para ler e avaliar conversas reais sob o codinome interno Projeto Lily. Essa prática tem despertado preocupações sobre a privacidade dos usuários, pois os contratados podem ver um resumo de memórias do usuário acima do prompt, o que às vezes revela para que o usuário usou o chatbot antes e onde no mundo eles podem morar.
De acordo com a 404 Media, os revisores não veem nomes de usuário, mas ainda podem acessar informações sensíveis. A OpenAI afirma que um modelo de Filtro de Privacidade remove informações pessoais primeiro, mas sua própria página para esse modelo diz que ele pode cometer erros, perder identificadores incomuns e sub-redatar quando o contexto é limitado.
A empresa não respondeu quando questionada sobre onde havia informado os usuários de que humanos podem ler suas conversas. Após a publicação, a OpenAI apontou para uma página de ajuda, mas a falta de transparência levantou suspeitas. A Anthropic, outra empresa de IA, confirmou que também usa revisão humana, mas apenas para usuários que ativam a configuração, e afirma que remove identificadores de conta primeiro.
O Gemini, da Google, carrega uma linha dizendo que humanos revisam algumas conversas salvas. O Tribunal de Justiça decidiu no mês de setembro passado que o dever do controlador de informar as pessoas se aplica antes de qualquer transferência e é julgado do ponto de vista do controlador, e não do destinatário. Isso significa que se um contratado na América do Norte pode descobrir quem escreveu um prompt não é o teste; a obrigação estava com a OpenAI no momento em que coletou a conversa.
O regulador italiano já multou a OpenAI em 15 milhões de euros, nove deles por processamento sem base legal adequada, e ordenou seis meses de publicidade de informação pública na televisão e rádio italianas. A configuração padrão é importante, pois 'Melhorar o modelo para todos' está ativada para contas gratuitas, Plus e Pro, e desativada para contas Enterprise, Business e Edu. Desativar a configuração se aplica a novas conversas, e não às antigas.
A OpenAI passou o ano vendendo privacidade para a outra metade de seu mercado, pré-visualizando a retenção zero de dados para clientes empresariais em agosto. No entanto, os consumidores recebem a configuração que alimenta o modelo, o que levou a críticas. 'Eu não acho que eles imaginariam que algum contratado em algum lugar está analisando as conversas', disse um revisor. A mesma empresa tem pedido aos usuários que conectem suas contas bancárias, o que aumenta ainda mais as preocupações com a proteção de dados.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.