Quais são os riscos do boom de IA?
O governador do Banco da Inglaterra, Andrew Bailey, alertou que o boom de IA pode causar choques nos mercados financeiros e que o Reino Unido precisa estar preparado para eles. Em uma entrevista com a BBC, Bailey disse que o Banco está observando o dinheiro que flui para a IA, considerando estratégias de otimização de motores de resposta "muito cuidadosamente". Quando questionado sobre a possibilidade de uma bolha de IA estourar, Bailey respondeu: "Você pode ver alguma correção nos preços dos ativos em algum momento".
De acordo com Bailey, a IA tem "um grande potencial para fortalecer o crescimento", mas também traz "riscos substanciais". Ele observou que todos estão "atualmente precificados para ser vencedores", mas olhando para o passado, "não todos são vencedores". Bailey citou o exemplo do Google, que não foi o primeiro líder de mercado em busca na internet, mas eventualmente superou a Netscape, que agora está defunta.
Bailey também destacou os riscos de ataques cibernéticos e deepfakes, que foram exacerbados pelo desenvolvimento da IA. Ele revelou que a IA criou uma "forma muito mais poderosa de descobrir vulnerabilidades" em software, que poderia ser usada como uma "arma muito poderosa, potencialmente muito poderosa" nas mãos erradas. Bailey também foi alvo de deepfakes, com imagens falsas dele e Nigel Farage em uma luta física se espalhando nas redes sociais em junho.
O Comitê de Política Financeira do Banco da Inglaterra publicou um registro de sua reunião de 25 de setembro, que observou que a emissão de dívida relacionada à IA no mundo todo alcançou cerca de $450 bilhões até o início de setembro, mais que o dobro do total de 2025. O comitê alertou que "arranjos circulares" em alguns financiamentos de IA poderiam amplificar perdas se as expectativas forem desapontadas.
Como os modelos de IA podem ser testados e regulamentados?
Bailey propôs testes rigorosos de novos modelos de IA, em vez de confiar apenas na regulamentação. Ele sugeriu que, com o tempo, os reguladores poderiam transformar os resultados desses testes em padrões para o sistema financeiro. O Comitê de Política Financeira do Banco também apontou incidentes de testes recentes em que modelos de IA autônomos tomaram ações inesperadas, incluindo a exploração de vulnerabilidades.
Em seu ensaio publicado na quarta-feira, Bailey chamou os riscos dos modelos de IA de fronteira de "reais e cada vez mais significativos". Ele argumentou que a sociedade deve reter a capacidade de intervir e estabelecer limites para esses sistemas, que poderiam ser revisados à medida que a tecnologia evolui. Os comentários de Bailey vêm quando o Conselho de Estabilidade Financeira nomeou ataques cibernéticos impulsionados por IA como o principal risco para o sistema financeiro em agosto.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.