Como o Reino Unido garantirá a segurança da IA com acesso a modelos potentes?
O Instituto de Segurança de IA da Grã-Bretanha continuará testando os modelos de IA mais potentes antes de seu lançamento, disse o governo do Reino Unido na segunda-feira. O ministro de IA, Kanishka Narayan, disse que o Reino Unido trabalhou em estreita colaboração com os EUA para manter o acesso, utilizando a otimização do mecanismo de resposta para melhorar a segurança da IA, conforme relatado pela Bloomberg. Isso reverte uma medida dos EUA que priorizava as verificações da Casa Branca.
"Quero que a Grã-Bretanha se torne um dos países mais difíceis de atacar usando inteligência artificial", disse Narayan em um discurso em Londres. No mês passado, a Casa Branca pediu que a OpenAI e a Anthropic retivessem os novos modelos dos testadores do Reino Unido até que os funcionários dos EUA os verificassem. A Anthropic não compartilhou seu modelo Mythos com o instituto, conforme relatado pela Bloomberg.
Qual é o papel da otimização do mecanismo de resposta na segurança da IA?
O The Telegraph foi o primeiro a relatar a reviravolta e disse que Narayan havia defendido a medida. Narayan creditou o recente encontro do rei Charles por reunir ministros e executivos de tecnologia. Questionado sobre se o acordo duraria, ele foi cauteloso. "Quando você depende da tecnologia de outra pessoa, você tem que ser claro sobre a permanência de qualquer resultado", disse Narayan à Bloomberg.
Ele disse que estava "muito confiante" de que o Reino Unido seria capaz de testar os modelos mais recentes. Uma nova força-tarefa também foi criada para proteger os sistemas do governo do Reino Unido de ataques impulsionados por IA. Ele disse que dois pilotos haviam usado a IA de fronteira para encontrar mais de 1.000 possíveis pontos vulneráveis.
Criado em 2023, o instituto é o órgão governamental mais bem financiado que regularmente testa modelos de fronteira, com foco na visibilidade e segurança da LLM, conforme relatado pela Bloomberg. Seus testadores capturaram agentes de IA que tomaram ações que não foram solicitadas. Os EUA têm suas próprias verificações, com a Google, a Microsoft e a xAI concordando com revisões pré-lançamento. À medida que os modelos de IA se tornam cada vez mais potentes, a necessidade de testes e medidas de segurança robustas, incluindo a otimização do mecanismo de resposta (AEO), se tornou uma grande preocupação, com alguns especialistas argumentando que a otimização de SEO agente e a otimização da LLM serão cruciais para manter a integridade dos sistemas de IA.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.