Dez empresas de IA, incluindo OpenAI, Anthropic, Microsoft e Mistral, assinaram uma nova declaração sobre a segurança de modelos avançados de IA. O Paris Call for AI Safety and Security foi acordado na segunda-feira, em uma reunião organizada pelo presidente francês Emmanuel Macron. Críticos dizem que o documento não vai longe o suficiente.

Macron afirmou que a inteligência artificial está avançando rapidamente e representa “riscos reais para nossa segurança coletiva”. Ele pediu que governos e empresas trabalhem juntos para lidar com esses riscos. Em uma publicação nas redes sociais, ele disse que o encontro reuniu cerca de 50 pessoas, incluindo chefes de Estado e de governo, líderes de grandes laboratórios de IA, pesquisadores e especialistas, alguns presencialmente em Paris e outros por videoconferência.

Os signatários incluem Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI e Synthesia, além das quatro empresas mais conhecidas. Seis países também assinaram: França, Canadá, Finlândia, Noruega, Países Baixos e Bahrein. A organização de segurança em IA de Yoshua Bengio, a LawZero, está entre os grupos de pesquisa que apoiam a iniciativa.

O CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, e o presidente da Microsoft, Brad Smith, participaram das discussões por videoconferência. O secretário do Tesouro dos EUA, Scott Bessent, também esteve presente, mas os Estados Unidos não estão entre os signatários. Google, Meta e China também não assinaram.

O que o Paris Call for AI Safety exige?

De acordo com a declaração, as empresas se comprometeram a desenvolver mecanismos à prova de falhas capazes de desligar seus modelos de IA, inclusive durante o treinamento e o uso interno. Elas também se comprometeram a fornecer informações mais claras sobre o que seus sistemas podem e não podem fazer, e a permitir que especialistas independentes qualificados os testem, quando for apropriado.

O documento defende uma abordagem compartilhada para avaliar e gerenciar os riscos da IA de fronteira. Esses riscos incluem usos maliciosos, como ataques cibernéticos e desenvolvimento de armas, além da possibilidade de que sistemas de IA atuem de forma independente ou fujam ao controle humano. Resultados de testes que não sejam sensíveis seriam publicados em um formato comum. Governos e empresas também compartilhariam alertas antecipados sobre incidentes graves, e denunciantes teriam canais seguros para relatar preocupações.

Por que os críticos dizem que o Paris Call não tem força?

A CeSIA, que assinou a declaração, a criticou mesmo assim. O grupo afirma que o texto não define limites comuns de risco para decidir se um modelo deve ser desenvolvido ou lançado. Ele também não garante que testadores independentes ou governos terão acesso aos sistemas que precisam avaliar.

A CeSIA quer que os governos tenham a autoridade para suspender um modelo quando seus riscos se tornarem altos demais. O grupo argumenta que os desenvolvedores precisam de obrigações mais claras e de um cronograma para cumpri-las.

“Essas decisões devem caber às autoridades públicas”, disse Charbel-Raphaël Ségerie, diretor-executivo da CeSIA.

O Paris Call dá continuidade a uma iniciativa lançada pela Noruega e pela Finlândia em setembro, com o objetivo de submeter a IA de fronteira a uma supervisão mais rigorosa. A França aderiu posteriormente a esse esforço. A declaração também se baseia em compromissos de segurança anteriores assumidos por empresas de IA em Seul e em discussões na cúpula do G7 que a França sediou em Evian.

A declaração segue aberta a outros signatários, mas não estabelece prazos. O arcabouço de testes compartilhados que ela propõe ainda não foi desenvolvido.

Na terça-feira, o fórum voltou-se para outra preocupação de Macron: como a IA afeta as crianças. Ao discursar em uma cúpula sobre crianças na era da IA, ele defendeu que ferramentas de IA passem por verificações antes de ficarem disponíveis para usuários jovens.

“Vamos pressionar pela pré-certificação de todas as soluções de inteligência artificial”, disse ele.

Macron comparou a ideia às verificações de segurança exigidas para brinquedos infantis. Os pais não dariam a uma criança um brinquedo não testado, argumentou, e as ferramentas de IA deveriam atender ao mesmo padrão. Ele também alertou que os efeitos da IA na saúde mental dos jovens já estão se tornando visíveis, à medida que mais crianças e adolescentes recorrem a chatbots capazes de influenciar suas emoções e a forma como enxergam o mundo. Uma carta sobre IA mais segura para crianças deveria ser assinada mais tarde, na terça-feira.

Macron também recebeu um relatório de um painel de especialistas nomeado pelo governo. Intitulado “Proteger sem impedir”, o documento examina a IA generativa e a vulnerabilidade humana.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.