Bilal Chughtai, ex-pesquisador da Google DeepMind, expressou extrema preocupação com os potenciais perigos da inteligência artificial, alertando que ela pode "matar a todos" se não for controlada. Chughtai, que trabalhou na pesquisa de segurança e alinhamento da AGI até julho, acredita que a coordenação é necessária para evitar uma "corrida frenética" entre as empresas de IA e para ritmar o desenvolvimento em um ritmo que a sociedade possa lidar.
Sua advertência vem quando o debate sobre a segurança e a regulamentação da IA se intensifica. A postagem de Chughtai no X, uma plataforma de mídia social, é a mais recente contribuição para o argumento de que o desenvolvimento da IA precisa ser desacelerado para prevenir riscos catastróficos. Ele não é o primeiro a soar o alarme, mas sua advertência tem peso, pois ele passou seu tempo na DeepMind trabalhando exatamente no problema que agora está alertando.
As preocupações de Chughtai são ecoadas por outros pesquisadores na área, incluindo Jacob Coxon, que deixou a Anthropic no início deste mês, e Evan Hubinger, que estimou que o risco de extinção devido à IA nesta década é superior a 10 por cento. Geoffrey Hinton também chamou essa figura de "não razoável". As advertências têm despertado uma reação mista, com alguns, como o diretor de tecnologia do Pentágono, Emil Michael, descartando as preocupações como um "loop de desastre" que pode ser lidado pelo mercado e pelo engajamento do governo.
No entanto, outros, como os senadores Thune, Cruz e Klobuchar, estão negociando um projeto de lei que imporia um dever de cuidado aos desenvolvedores para projetar contra riscos catastróficos. A postagem de Chughtai adicionou à crescente coro de vozes que clamam por uma maior regulamentação e supervisão da indústria de IA. À medida que o debate continua a se desenrolar, uma coisa é clara: o desenvolvimento da IA é uma questão complexa e multifacetada que exige uma consideração cuidadosa e coordenação para garantir que seus benefícios potenciais sejam realizados sem colocar a humanidade em risco.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.