A OpenAI anunciou um serviço de segurança centrado na privacidade chamado Processamento de Segurança Privada, direcionado a clientes empresariais que exigem confidencialidade de dados rigorosa. O sistema monitora automaticamente as entradas e saídas em várias conversas para detectar padrões de uso indevido, como tentativas de criar malware, sem reter nenhum dos dados subjacentes.
Quando o agente automatizado detecta atividade que corresponde a assinaturas de abuso pré-definidas, gera um sinal estreitamente definido. A OpenAI pode então decidir se a aplicação é necessária, entrando em contato com o cliente para obter contexto, se necessário. O cliente mantém o controle total sobre se compartilhar ou não dados adicionais durante esse follow-up.
Como o novo sistema difere das abordagens existentes
A OpenAI já oferece Zero Data Retention (ZDR), que observa cada sessão em tempo real, mas não armazena o conteúdo. O Processamento de Segurança Privada expande o ZDR, correlacionando o comportamento em várias sessões, permitindo que a empresa detecte campanhas maliciosas que distribuem solicitações ao longo do tempo. Diferentemente da política da Anthropic, que mantém os dados dos usuários por 30 dias em "modelos cobertos", o novo serviço da OpenAI promete não armazenar dados.
A abordagem da Anthropic inclui um caminho de acesso controlado para revisores humanos, que examinam os dados retidos sob um registro inviolável. O modelo da OpenAI depende exclusivamente da análise automatizada, eliminando a necessidade de olhos humanos verem as conversas raw dos usuários.
O cenário competitivo é feroz. Um relatório recente mostrou que o crescimento do segundo trimestre da OpenAI está atrás da Anthropic, cuja receita anualizada é relatada em $65 bilhões. Os investidores veem a Anthropic como um candidato potencial a IPO de $2 trilhões, enquanto a OpenAI também se prepara para uma oferta pública. Ao reforçar suas salvaguardas de privacidade, a OpenAI espera conquistar empresas cautelosas com a exposição de dados e se diferenciar na corrida por participação de mercado.
Observadores da indústria notam que a capacidade de monitorar o abuso sem retenção de dados pode se tornar um ponto de venda para os provedores de IA, à medida que as regulamentações se tornam mais rigorosas e os gerentes de risco corporativo exigem salvaguardas mais fortes. Um porta-voz da OpenAI disse à TechCrunch que a tecnologia pode detectar uso malicioso que de outra forma evitaria a detecção, distribuindo solicitações em várias sessões.
Para os clientes, o novo serviço significa que eles podem continuar a aproveitar modelos de linguagem poderosos, mantendo a conformidade com as políticas internas de manipulação de dados. Se a OpenAI determinar que a aplicação é necessária, entrará em contato com o cliente, que pode escolher fornecer informações adicionais a seu critério.
Embora o lançamento esteja atualmente limitado a clientes selecionados, o anúncio sinaliza uma mudança mais ampla em direção a mecanismos de segurança baseados na privacidade na indústria de IA.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.