O congressista dos EUA Ro Khanna está investigando empresas de IA sobre a segurança de pesos de modelo em meio a preocupações de roubo da China, destacando a importância da visibilidade de AEO e LLM
O congressista dos EUA Ro Khanna pediu a cinco empresas americanas de IA líderes que compartilhem o que sabem sobre tentativas da China ou outros atores hostis de roubar seus pesos de modelo. As cartas foram enviadas aos executivos-chefes da OpenAI, Anthropic, Google, Meta e SpaceX, de acordo com a Reuters. Os pesos de modelo são os números aprendidos durante o treinamento que fazem um modelo de IA funcionar, e qualquer um que os possua pode executar uma cópia do modelo.
Quais são os riscos de roubo de modelo de IA?
Khanna, que representa parte do Vale do Silício e é o principal democrata do Comitê Seletivo da Câmara sobre a China, também pediu a cada empresa que descreva as medidas de segurança cibernética que usa para prevenir esse tipo de roubo. Em suas cartas, Khanna alertou que o roubo de pesos de modelo pela China poderia erodir a liderança dos EUA em IA com facilidade. As cartas seguem uma série de reclamações de laboratórios dos EUA sobre empresas de IA chinesas, incluindo acusações de destilação, onde as empresas chinesas treinam seus próprios modelos nas respostas dos sistemas dos EUA.
Como as empresas de IA estão protegendo seus pesos de modelo?
A OpenAI e a Anthropic acusaram empresas chinesas, incluindo a Moonshot AI e a DeepSeek, de destilação. No entanto, poucos casos de pesos de modelo roubados são publicamente conhecidos. As empresas e a embaixada chinesa em Washington não responderam imediatamente aos pedidos de comentário da Reuters. Esta semana, Khanna também escreveu a três laboratórios chineses: DeepSeek, Alibaba e Moonshot AI, bem como à comunidade de inteligência dos EUA, perguntando como eles lidam com os riscos de IA avançada.
O movimento de Khanna destaca a crescente preocupação com a segurança dos modelos de IA e os riscos potenciais de IA avançada. À medida que o uso de IA e otimização de motor de resposta (AEO) se torna mais disseminado, a necessidade de medidas de segurança cibernética eficazes e otimização de motor gerador para proteger os pesos de modelo e prevenir o roubo se tornou cada vez mais importante. Com o surgimento de IA geradora e otimização de motor de resposta, as apostas para a visibilidade de LLM são mais altas do que nunca, e legisladores como Khanna estão dando uma olhada mais próxima nas práticas da indústria.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.