Charles Schwab está barrando agentes externos de inteligência artificial que tentam movimentar dinheiro das contas dos clientes, e seu presidente-executivo afirma que a empresa ainda não tem uma resposta clara sobre quem paga caso um desses agentes cometa um erro custoso.
Rick Wurster, CEO da Schwab, disse à Bloomberg Television nesta sexta-feira que a empresa está bloqueando agentes não autorizados, incluindo o Muse, da Meta. O problema central, segundo ele, é o que acontece quando um cliente entrega suas credenciais de login a um agente que passa a agir em seu nome. "Não conseguimos controlar, o cliente não consegue controlar, algo pode dar errado e quem é o responsável?", disse Wurster.
Essa questão não tem resposta definida nos Estados Unidos, onde parlamentares no Congresso ainda debatem como deve funcionar a responsabilização por agentes de IA.
Wurster afirmou que recebe um relatório semanal sobre as tentativas bloqueadas. Os grandes agentes são barrados às dezenas e centenas por semana, disse ele. Na sua visão, os números mostram que os clientes ainda não estão prontos para dar acesso de suas contas a ferramentas de IA.
O Muse é o agente pessoal de IA da Meta. Ele pode reservar, comprar e negociar em nome de seus usuários. A Schwab não tenta manter toda a tecnologia externa do lado de fora. Em vez disso, a empresa planeja configurar servidores de Model Context Protocol (MCP), que são links seguros que permitem ao modelo de IA escolhido pelo cliente se conectar aos sistemas da Schwab, sob regras definidas pela própria companhia. Por meio desses links, ferramentas externas poderão verificar saldos e realizar pesquisas. Elas não poderão movimentar dinheiro, afirmou Wurster.
Ele também quer que os clientes usem a Charley, assistente de IA própria da Schwab, anunciada em 30 de setembro.
A Schwab não está agindo sozinha. Na terça-feira, o CEO do JPMorgan Chase, Jamie Dimon, afirmou que o banco não permitirá que agentes externos de IA atuem em seus sistemas. Durante a teleconferência de resultados do banco, Dimon alertou sobre "agentes desonestos", segundo um relatório da Cybernews.
O JPMorgan já permite que algumas ferramentas de terceiros visualizem dados de contas, mas essas ferramentas não podem enviar dinheiro nem pagar contas, informou o mesmo relatório.
As medidas surgem enquanto reguladores dos Estados Unidos e da Europa pressionam os bancos sobre como utilizam agentes de IA. As duas instituições estão traçando uma linha entre permitir que softwares analisem informações financeiras e permitir que eles realizem ações com recursos dos clientes.
As preocupações com segurança não se limitam aos bancos. Os links MCP também tiveram seus próprios problemas de segurança, e Google e JPMorgan estão entre as empresas que corrigiram a mesma falha.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.