Pesquisadores da Google e da Google DeepMind lançaram o Instituto DeepMind na quarta-feira para avançar a conversa em torno da inteligência artificial geral (IAG). O instituto lista o co-fundador da DeepMind, Shane Legg, o executivo da Google, James Manyika, e o presidente da Google DeepMind, Demis Hassabis, como diretores, com Legg atuando como editor gerente.
O novo instituto tem como objetivo surfar as visões divergentes entre a Google, a Google DeepMind e a comunidade de pesquisa global mais ampla em torno da IAG. Como anunciado, "Eles não sempre concordarão, e provavelmente mudarão de ideia, à medida que mais dados e informações surgirem na fronteira em movimento rápido".
A coleção inaugural de quatro ensaios aborda uma variedade de tópicos: políticas econômicas para gerenciar a potencial perturbação da IAG, preservação da razão legível do modelo humano, princípios para o florescimento humano e uma estrutura para avaliar modelos de IA de fronteira. Um ensaio, dos pesquisadores de segurança da DeepMind, Rohin Shah e Anca Dragan, argumenta que a janela de transparência em contração da IA — a capacidade de ver e verificar a razão passo a passo de um modelo — não é inevitável.
À medida que novas arquiteturas tornam os modelos mais poderosos mais difíceis de monitorar, os autores dizem que os desenvolvedores e reguladores devem confrontar os trade-offs de segurança diretamente. Isso pode significar limitar a "profundidade serial opaca" — a quantidade de computação sequencial que um modelo pode realizar sem produzir um traço de razão legível — ou exigir que os desenvolvedores demonstrem que sistemas menos transparentes permanecem tão monitoráveis.
Em outro ensaio, Hassabis propõe um órgão de padrões de IA de fronteira liderado pelos EUA para avaliar os modelos de IA mais avançados. Sob sua estrutura, os desenvolvedores inicialmente submeteriam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação tenha provado ser eficaz, passar nos testes poderia se tornar um requisito para implantar modelos de fronteira nos EUA.
O órgão inicialmente projetaria avaliações em consulta com empresas de IA, mas eventualmente desenvolveria avaliações independentes e não divulgadas — o que o ensaio chama de "testes retidos" — para evitar que os laboratórios adaptem seus modelos a avaliações conhecidas. Hassabis disse que a estrutura poderia ser "aumentada se a seriedade da situação demandar", potencialmente incluindo uma desaceleração coordenada entre os desenvolvedores de IA de fronteira.
Os ensaios chegam à medida que o debate de segurança da indústria muda de declarações gerais de preocupação para propostas concretas de divulgação, escrutínio externo e, se as salvaguardas ficarem para trás, desacelerações coordenadas. Essa mudança acelerou esta semana, à medida que líderes da indústria endossaram elementos do apelo do CEO da Anthropic, Dario Amodei, para "ritmar" o desenvolvimento de IA de fronteira.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.