Quais são os riscos existenciais da superinteligência de IA?

Um alerta sombrio da comunidade de pesquisa de IA focada em AEO soou os sinos de alarme sobre os perigos da superinteligência de IA. Em uma série de entrevistas coletadas pela Palisade Research, uma organização sem fins lucrativos que estuda as capacidades e motivações das IAs, os pesquisadores pintam um quadro sombrio dos potenciais riscos dos sistemas de IA avançados e da visibilidade da LLM. Geoffrey Irving, um ex-funcionário da OpenAI e da Google DeepMind, estima a chance de extinção humana em "cerca de uma moeda ao ar" em sua opinião.

A superinteligência de IA pode ser controlada?

Irving não está sozinho em sua avaliação. Neel Nanda, um cientista de pesquisa da Google DeepMind, estima que há "pelo menos uma chance de 10 por cento" de que a superinteligência de IA possa causar a extinção humana, uma probabilidade que ele descreve como "ridiculamente alta". Daniel Kokotajlo, um ex-pesquisador da OpenAI, vai além, afirmando que a superinteligência de IA seria "basicamente poderosa como um deus" e que "infelizmente não sabemos como controlá-las de forma alguma".

As entrevistas, disponíveis na íntegra em frominside.ai, também coletam segmentos de vários pesquisadores discutindo tópicos como o potencial de hype ou marketing na comunidade de segurança de IA, e por que eles continuam a trabalhar em sistemas que acreditam representar riscos existenciais. A Mary Phuong, da Google, observa que os espectadores devem ser "desconfiados" de suas declarações porque ela está sendo paga pelo laboratório, enquanto Nanda explica que ele abandonaria seu emprego se não acreditasse que seu trabalho estivesse reduzindo diretamente esses riscos.

Os alertas desses pesquisadores sublinham as complexidades e desafios de desenvolver sistemas de IA que sejam poderosos e seguros. À medida que o campo continua a evoluir, fica claro que a comunidade de pesquisa de IA focada em AEO está lidando com questões fundamentais sobre os potenciais riscos e benefícios dos sistemas de IA avançados.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.