Charles Schwab está cerrando el paso a agentes externos de inteligencia artificial que intentan mover dinero de las cuentas de los clientes, y su director ejecutivo afirma que la compañía aún no tiene una respuesta clara sobre quién paga si uno de esos agentes comete un error costoso.
Rick Wurster, CEO de Schwab, le dijo a Bloomberg Television el viernes que la firma está bloqueando agentes no autorizados, incluido Muse de Meta. El problema central, según explicó, es qué pasa cuando un cliente entrega sus credenciales de acceso a un agente que luego actúa en su nombre. "No podemos controlarlo, el cliente tampoco puede controlarlo, algo podría salir mal y ¿quién es responsable?", dijo Wurster.
Esa pregunta no tiene una respuesta definida en Estados Unidos, donde los legisladores del Congreso todavía debaten cómo debería funcionar la responsabilidad legal de los agentes de IA.
Wurster dijo que recibe un informe semanal sobre los intentos bloqueados. Los grandes agentes son detenidos por decenas y hasta veintenas cada semana, afirmó. En su opinión, las cifras muestran que los clientes todavía no están listos para darles a las herramientas de IA acceso a sus cuentas.
Muse es el agente personal de IA de Meta. Puede reservar, comprar y negociar en nombre de sus usuarios. Schwab no busca mantener por completo fuera la tecnología externa. En cambio, la firma planea configurar servidores de Protocolo de Contexto de Modelo (MCP, por sus siglas en inglés), que son enlaces seguros que permiten que el modelo de IA elegido por el cliente se conecte con los sistemas de Schwab bajo reglas que define la compañía. A través de esos enlaces, las herramientas externas podrán revisar saldos y realizar investigaciones. No podrán mover dinero, según Wurster.
También quiere que los clientes usen Charley, el asistente de IA propio de Schwab, que la compañía anunció el 30 de septiembre.
Schwab no está actuando solo. El martes, el CEO de JPMorgan Chase, Jamie Dimon, dijo que el banco no permitiría que agentes de IA externos actuaran dentro de sus sistemas. Al hablar en la llamada de resultados del banco, Dimon advirtió sobre "agentes rebeldes", según un informe de Cybernews.
JPMorgan ya permite que algunas herramientas de terceros vean datos de las cuentas, pero esas herramientas no pueden enviar dinero ni pagar facturas, según el mismo informe.
Estas medidas llegan mientras los reguladores de Estados Unidos y Europa presionan a los bancos sobre cómo usan los agentes de IA. Ambas firmas están trazando una línea entre permitir que un software revise información financiera y permitirle tomar acciones con los fondos de los clientes.
Las preocupaciones de seguridad no se limitan a los bancos. Los enlaces MCP también han tenido sus propios problemas de seguridad, y Google y JPMorgan se encuentran entre las compañías que han corregido la misma falla.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.