O CEO da OpenAI, Sam Altman, estabeleceu como ele acredita que a indústria de IA deve reduzir a velocidade. Ele também disse que a OpenAI não espera pelo Congresso para agir. Em uma postagem no X no início de segunda-feira, ele recebeu com entusiasmo "um quadro federal que estabelece requisitos de segurança consistentes para IA de fronteira".
Altman escreveu que ferramentas mais antigas, como Políticas de Escalabilidade Responsável e Quadros de Preparação, se concentravam principalmente na liberação de modelos concluídos. Eles não cobriam o que acontece enquanto um modelo está sendo desenvolvido. A OpenAI agora escreve "casos de segurança explícitos" antes de executar treinamentos que ela espera "aumentar significativamente a capacidade", disse ele.
Dois riscos que Altman deseja evitar são a humanidade perder "o controle do futuro para a IA" e "concentração excessiva de poder". Uma pessoa ou empresa pode usar uma IA extraordinariamente poderosa para impor sua visão de mundo a todos os outros. Nesse caso, "os resultados poderiam ser extremamente distópicos", escreveu ele.
Uma mudança na linha de política da OpenAI foi notada, pois a empresa anteriormente alertou contra "um patchwork de regras estaduais" que poderia retardar a inovação. Agora, a OpenAI trabalha com legisladores estaduais para moldar seus projetos de lei e pediu regras de segurança de IA nacionais obrigatórias nos EUA.
Nem todos levam as chamadas da indústria ao pé da letra. David Sacks, o ex-czar de IA e criptomoeda da Casa Branca, disse que apoia as empresas que escolhem reduzir a velocidade, mas disse a elas para "parar de fingir que a motivação para reduzir a velocidade é puramente altruísta".
Enquanto isso, o Congresso tem três projetos de lei de IA e nenhum cronograma para votar em nenhum deles. John Kennedy, um republicano da Louisiana, planeja apresentar uma medida que exige que os desenvolvedores construam um mecanismo de desligamento em seus sistemas. Bernie Sanders está organizando uma reunião com pesquisadores de IA e tem um projeto de lei que proibiria a superinteligência artificial.
A pressão de fora do Congresso tem aumentado, com Obama dizendo aos candidatos que eles precisam de uma política de IA própria e pesquisadores alertando publicamente sobre os riscos do desenvolvimento de IA.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.