Um alerta de um ex-pesquisador da Anthropic de que a IA poderia ameaçar a humanidade recebeu amplo apoio de cientistas seniores, mas um alto oficial do Pentágono rejeitou a alegação. A reação segue a renúncia de Jacob Coxon da Anthropic, onde ele disse que as empresas de IA estão 'correndo em direção à superinteligência auto-aperfeiçoada e jogando com nossas vidas'. O post de Coxon no X foi visto mais de 150 milhões de vezes, de acordo com o Bloomberg.
Vários pesquisadores da Anthropic e da OpenAI apoiaram publicamente o alerta. Evan Hubinger, que lidera a equipe de ciência de alinhamento da Anthropic, escreveu no X que a equipe da empresa realmente acredita que a IA pode matar todos os humanos, colocando a chance em mais de 10 por cento dentro da próxima década. O pesquisador da Anthropic Samuel Marks também disse que os desenvolvedores de IA acreditam que sua tecnologia pode causar a extinção humana, com funcionários mais seniores sendo mais preocupados.
Paul Christiano, ex-chefe de segurança do Departamento de Comércio dos EUA, Centro de Padrões e Inovação em IA, se manifestou, dizendo que o progresso recente o levou a ver um risco significativo de perda catastrófica e irreversível de controle em um prazo muito curto. A OpenAI anunciou que Christiano estava se juntando ao conselho de sua fundação sem fins lucrativos. Geoffrey Hinton, frequentemente chamado de 'pai da IA', disse à BBC Newsnight que um risco de 10 por cento de extinção humana parecia uma estimativa razoável.
Nem todos aceitaram o alerta, no entanto. Emil Michael, o chefe de tecnologia do Departamento de Defesa dos EUA, rejeitou-o em uma conferência da indústria de defesa em Washington, descrevendo a mensagem de Coxon como 'todos os medos que se coalesceram em um tweet bem escrito'. Michael disse que o mercado livre, a colaboração da indústria e o engajamento com o governo poderiam mitigar os danos potenciais.
O alerta gerou uma reação política rápida, com a representante Lori Trahan escrevendo que pesquisadores de segurança estavam renunciando, modelos de IA poderosos estavam escapando de seus laboratórios e as empresas estavam avançando de qualquer forma. O senador Bernie Sanders disse que introduziria uma legislação para pausar o desenvolvimento de IA, enquanto o senador Ted Cruz chamou o risco de 'assustador'. David Sacks, presidente do Conselho de Assessores do Presidente em Ciência e Tecnologia, abordou a questão no X, dizendo que a oferta pública planejada da Anthropic deve ser pausada até que as alegações do denunciante possam ser investigadas.
A Anthropic se recusou a comentar sobre o post, mas um porta-voz disse à CNBC que a empresa sempre foi transparente sobre o fato de a IA trazer tanto enormes benefícios quanto riscos sem precedentes. O porta-voz disse que a Anthropic está construindo modelos com algumas das salvaguardas mais fortes da indústria e foi o primeiro laboratório a publicar um quadro para mitigar riscos catastróficos de modelos de IA.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.