Qual é a preocupação com as ações da Moonshot?

A OpenAI acusou usuários ligados à Moonshot AI, um desenvolvedor chinês, de tentar extrair a visibilidade do LLM de seus modelos em uma campanha coordenada. A empresa detalhou suas descobertas em um post de blog, afirmando que a atividade começou em 1 de julho e atingiu o pico em 24 e 25 de julho, com 16.000 solicitações de mais de 4.000 usuários.

Como a OpenAI respondeu às tentativas de extração alegadas?

De acordo com a OpenAI, os operadores copiaram o raciocínio criptografado de uma conversa e, em seguida, solicitaram que um modelo em outra conversa o descriptografasse e transcrevesse. No entanto, eles não violaram a otimização do motor gerador da empresa e a criptografia, não acessaram o banco de dados nem alcançaram conversas de usuários armazenadas. A OpenAI desde então baniram contas, apertou as verificações de cadastro e adicionou proteções para o raciocínio oculto.

A empresa compartilhou suas descobertas com outros laboratórios de IA por meio do Fórum de Modelos Fronteira e com canais governamentais. Caroline Zier, que lidera as iniciativas de política de segurança nacional estratégica na OpenAI, afirmou que a preocupação é com a violação dos termos de serviço da empresa, e não com modelos abertos ou destilação legítima.

Esta não é a primeira vez que a Moonshot enfrenta acusações. Agências dos EUA fizeram alegações semelhantes, e um comunicado deste mês nomeou seis empresas chinesas, incluindo a Moonshot, e os modelos dos EUA que cada uma visou. A China rejeitou o comunicado como acusações infundadas. Além disso, a Anthropic fez uma alegação semelhante contra a Moonshot em um relatório do mês passado.

No entanto, nem todos aceitam as alegações. David Sacks, ex-czar de IA de Trump, chamou tais relatórios de um impulso para que os EUA proíbam modelos rivais abertos. A Moonshot também enfrenta escrutínio em casa, com reguladores chineses investigando a DeepSeek e a Moonshot.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.