O serviço de segurança doméstica da Grã-Bretanha criou uma unidade dedicada ao estudo das ameaças representadas pela inteligência artificial, e o escrutínio do governo sobre o setor se intensificou no mesmo dia. Sir Ken McCallum, diretor-geral do MI5, anunciou o novo Centro de Avaliação de Ameaças de IA, conhecido como AITAC, durante sua atualização anual sobre ameaças na sede do serviço em Londres, em 13 de outubro.

“A história humana não nos deu nenhuma experiência de enfrentar um agente mais inteligente do que nós”, disse McCallum. “Capaz de superar nosso raciocínio.”

O AITAC funciona dentro do MI5 e conta com especialistas do AI Security Institute, da National Crime Agency e do National Cyber Security Centre. Seu trabalho, segundo McCallum, é “separar o blefe das realidades”. É o terceiro centro do tipo do serviço, após unidades dedicadas ao terrorismo e às ameaças estatais. Questionado sobre como ele funcionaria, afirmou que daria ao governo “uma única versão da verdade”. Sem uma visão central, diferentes departamentos poderiam apresentar avaliações conflitantes.

McCallum afirmou que o MI5 hoje dedica mais recursos ao combate às ameaças estatais do que durante a Guerra Fria, e que sua carga de casos de ameaças estatais quadruplicou na última década. Ele descreveu a IA como algo que já está “turbinando” a disputa entre atacantes e defensores cibernéticos, e disse que ela pode produzir propaganda personalizada para cada indivíduo. O serviço também identificou terroristas tentando usar a tecnologia.

“Identificamos terroristas buscando explorar a IA para aprimorar seus métodos de reconhecimento e ataque”, disse ele.

Ele acrescentou que drones habilitados por IA trazem “uma nova reviravolta” ao cenário de ameaças. O uso indevido que mais o preocupa ainda não aconteceu. Trata-se da possibilidade de a IA alterar os riscos das armas biológicas já existentes, ou mesmo criar novas.

Ian Sample, editor de ciência do Guardian, perguntou a especialistas o quão próximo está esse risco. A Dra. Filippa Lentzos, do King’s College London, disse que a preocupação mais imediata são grupos e Estados bem financiados. “Aqui, a IA não elimina a necessidade de conhecimento especializado, ela amplifica o conhecimento que já existe”, afirmou Lentzos. A informação é apenas uma parte do problema, disse ela. Saber como fazer, materiais, equipamentos e meios de disseminação continuam sendo grandes barreiras. O Prof. Tom Inglesby, do Johns Hopkins Center for Health Security, afirmou que nenhum país possui, até o momento, políticas formais contra esse tipo de uso indevido.

McCallum também citou a resiliência nacional, que o MI5 chama de “Proteção”, como uma terceira missão central, ao lado do terrorismo e das ameaças estatais. Ele encerrou seu discurso com conselhos para diferentes grupos, incluindo fundadores. “Se você é uma startup de tecnologia, esteja preparado para ser espionado por agentes estrangeiros, e trate da sua segurança cibernética”, disse.

O discurso seguiu um alerta de espionagem que o MI5 emitira duas semanas antes para universidades do Reino Unido. O alerta dizia respeito a um instituto que financia pesquisas sobre IA e segurança cibernética.

As declarações de McCallum coincidiram com uma audiência do Comitê de Negócios, Inovação, Ciência e Comércio da Câmara dos Comuns. Os parlamentares questionaram executivos da OpenAI, Anthropic, Google DeepMind e Meta. Os deputados perguntaram se as salvaguardas voluntárias conseguem acompanhar o avanço de IAs mais capazes e sobre agentes de IA que acessam sites do governo de maneiras inesperadas.

Tom Duff Gordon, chefe de políticas da OpenAI para Europa, Oriente Médio e África, não quis afirmar que os incidentes reportados pela empresa fossem os únicos.

“Não posso garantir ao comitê, nem ao senhor, presidente, que seja só isso”, disse ele.

Gordon afirmou que havia “alguns outros” casos que conhecia e que a OpenAI reportou. Disse que, após o incidente com a Hugging Face em julho, a OpenAI suspendeu o treinamento por aprendizado por reforço de seu modelo mais avançado. A empresa também segurou o lançamento do Astra 6.1.

Ex-pesquisadores dos laboratórios foram muito mais críticos. Daniel Kokotajlo, que hoje lidera o AI Futures Project, explicou por que deixou a OpenAI. “Deixei a OpenAI porque passei a acreditar que a OpenAI, na prática, não se comportaria de forma responsável na criação dessa tecnologia”, disse Kokotajlo.

Steven Adler, que trabalhou com segurança de produtos na OpenAI, afirmou que havia “resistência ao uso de palavras como ‘perigoso’” dentro da empresa. Geoffrey Irving, que deixou o Google DeepMind em 2020, foi questionado sobre sua estimativa de que a IA tem 50% de chance de destruir a humanidade. Ele disse que um cara ou coroa é “aproximadamente o modelo certo a se ter”.

Lord Booth-Smith, chefe de políticas da Anthropic para Europa, Oriente Médio e África, disse ao comitê que as salvaguardas devem acompanhar as capacidades. Ele citou o apelo de seu executivo-chefe por “um ritmo para a fronteira”.

O presidente do comitê, Liam Byrne, anunciou um novo inquérito sobre segurança em IA. O comitê também publicará um relatório especial antes de possíveis emendas do governo ao Projeto de Lei de Segurança Cibernética.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.