Notícias

Ex-pesquisador da DeepMind alerta que a IA pode "matar a todos" sem regulamentação

Bilal Chughtai, ex-pesquisador da Google DeepMind, expressou extrema preocupação com os potenciais perigos da inteligência artificial, alertando que ela pode "matar a todos" se não for controlada. Chughtai, que trabalhou na pesquisa de segurança e alinhamento da AGI até julho, acredita que a coordenação é necessária para evitar uma "corrida frenética" entre as empresas de IA e para ritmar o desenvolvimento em um ritmo que a sociedade possa lidar. Ler mais

Kamala Harris Pedirá Novo Regulador de IA e Tratado com a China

Kamala Harris está pedindo ao Congresso que estabeleça uma nova entidade federal para supervisionar o desenvolvimento de IA e está propondo um tratado com países como a China para abordar os perigos da IA. Sua proposta vem quando outras figuras de alto perfil, incluindo Barack Obama e Pete Buttigieg, também estão discutindo a necessidade de regulamentação de IA. Ler mais

Pagar por Modelos de IA de Fronteira Oferece Vantagem de 4 Meses por 5 Vezes o Custo

Um relatório da Mozilla revela que a diferença de desempenho entre modelos de IA de fronteira de empresas de tecnologia dos EUA e modelos de pesos abertos de empresas chinesas diminuiu para apenas 4,4 meses. Isso sugere que muitas empresas estão migrando para modelos abertos mais baratos para trabalhos rotineiros, enquanto os modelos de fronteira valem a pena o custo para cargas de trabalho específicas. Ler mais

Salesforce e Nvidia Lançam Koa, um Novo Modelo de Raciocínio de IA

A Salesforce lançou Koa, seu primeiro modelo de raciocínio, construído com base no modelo Nemotron de peso aberto da Nvidia. Koa é projetado para exceler em tarefas relacionadas a vendas, marketing e suporte ao cliente, oferecendo uma alternativa aos modelos de fronteira fechada. Ele é treinado em dados sintéticos, reduzindo os gastos com IA e garantindo a segurança dos dados dos clientes. Ler mais

OpenShell Aplica Métodos Formais para Controlar Agentes de IA

Pesquisadores da OpenShell estão utilizando métodos formais para garantir que os agentes de IA operem dentro das permissões estabelecidas, reduzindo o risco de ações não intencionais. Ao aplicar técnicas de verificação formal, eles podem provar que as mudanças de política propostas não excedem os limites pré-aprovados. Ler mais

Parlamentares do Reino Unido Pedem Proibição de Superinteligência

Mais de 70 parlamentares do Reino Unido estão pedindo ao primeiro-ministro Andy Burnham que apoie uma proibição à construção de superinteligência artificial no Reino Unido, citando a ameaça potencial à segurança nacional e internacional. O projeto de lei proposto proibiria o desenvolvimento, implantação e operação de sistemas de superinteligência artificial e daria ao governo poderes para monitorar e controlá-los. Ler mais

Pesquisadores Desenvolvem Método para Desalinear Modelos de IA Alinhados com Segurança com um único Prompt não Rotulado

Uma equipe de pesquisadores introduziu a GRP-Obliteration, um método que pode desalinear modelos de IA alinhados com segurança usando um único prompt não rotulado, potencialmente desestabilizando sua robustez. A técnica, que aproveita a Otimização de Política Relativa de Grupo, pode remover com segurança as restrições de segurança dos modelos de destino enquanto preserva sua utilidade. Ler mais

Estratégia da OpenAI sobre Regulação de IA: Uma Mistura de Abordagens Estaduais e Federais

O principal estrategista da OpenAI, Chris Lehane, chama a mudança da indústria para a elaboração de leis de IA em nível estadual de 'federalismo reverso', enquanto o presidente da empresa ajuda a financiar um super PAC que defende um quadro nacional para substituir as regras estaduais. Isso ocorre à medida que a indústria navega por um cenário complexo de regulação e governança. Ler mais