Kareem Ayoub, da Google DeepMind, no HumanX em Amsterdã, 23 de setembro de 2026. Crédito: Sam Pinto / HumanX

As empresas não podem governar completamente os sistemas de IA, mas podem construir uma cerca fixa em torno deles, disse Kareem Ayoub, da Google DeepMind. Ele citou os bancos no final dos anos 80 e início dos anos 90, que colocaram algoritmos de negociação dentro de regras fixas que podiam ser verificadas.

Ayoub, vice-presidente de estratégia técnica de IA da DeepMind, falou com Tom Mackenzie, da Bloomberg, na quarta-feira, no HumanX em Amsterdã. Ele disse que o debate sobre segurança se resume a uma tensão entre capacidade exponencial e governança linear.

"Você pode não ser capaz de governar completamente o sistema em si, mas pode construir um perímetro de governança determinístico em torno dele", disse Ayoub, sobre a abordagem dos bancos.

Ele dividiu o problema em três partes. Uma é o papel que a IA deve desempenhar na pesquisa e desenvolvimento. Outra é como os sistemas devem ser transparentes. A terceira é quem os controla. O Quadro de Segurança Fronteira da Google, que define limites de capacidade e mitigação, é parte da resposta, disse ele.

Mackenzie observou que Dario Amodei, da Anthropic, quer controlar o ritmo da fronteira. Demis Hassabis defendeu um modelo de regulamentação liderado pela indústria, modelado na FINRA, a agência de vigilância de corretoras dos EUA, disse Mackenzie. Ayoub disse que os guardrails precisarão de parcerias além das empresas de tecnologia.

Ayoub descreveu uma lacuna entre o que a tecnologia pode fazer e como as empresas a utilizam. Na fronteira, ela acelera a descoberta de medicamentos, traduz textos antigos e ajuda a detectar ondas gravitacionais. Dentro das empresas, o foco muitas vezes recai sobre a redação ou resumo de e-mails, disse ele.

Ele disse que a mudança do modelo para o agente como produto começou por volta do final de 2025. Um agente envolve um modelo em memória, ferramentas e acesso à internet para que possa trabalhar em tarefas longas e multietapas. Os retornos mais fortes até agora são na engenharia de software, disse ele.

As melhores empresas com as quais ele trabalha compartilham quatro hábitos, disse Ayoub. Elas constroem sandboxs seguros rapidamente, em vez de esperar por projetos de TI de vários anos. Elas não apostam contra o progresso do modelo. Elas medem o que elas se importam. E seus líderes usam as ferramentas eles mesmos.

"As melhores empresas perguntam: será que o que estou construindo será dez vezes melhor se o modelo subjacente for dez vezes melhor?", disse ele.

As empresas falham quando recompensam os funcionários por esconder o uso de IA, disse ele. Elas também falham quando os líderes usam as ferramentas apenas superficialmente. À medida que o custo da inteligência cai, ele espera que mais gastos sejam destinados a verificar saídas em vez de produzir mais delas.

O Clima na DeepMind

Mackenzie fechou perguntando sobre o moral. Ele citou pesquisadores que deixaram a empresa este ano e a mudança de Hassabis para presidente. A Google transferiu sua liderança de IA para Koray Kavukcuoglu, na Califórnia, em agosto.

Ayoub disse que tinha pouco a acrescentar ao que foi relatado. Ele disse que a AGI é a missão de vida de Hassabis. Ele lembrou que Hassabis disse na Google I/O que, olhando para trás, provavelmente vamos perceber que estavamos nos "pés da singularidade". Ele também apontou para a energia em torno do programa Gemini, liderado por Kavukcuoglu.

A DeepMind lançou o Instituto DeepMind este mês para debater a AGI. Pesquisadores ex-funcionários da DeepMind também estão construindo suas próprias empresas, incluindo a startup de modelo de mundo Emulate.

"O futuro não é mais um desafio de previsão. Ele se torna um problema de design", disse Ayoub.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.