Los agentes de IA prometen entregar privacidad, pero existen preocupaciones sobre su capacidad para mantener los datos de los usuarios seguros y protegidos
¿Pueden los agentes de IA mantener los datos de los usuarios seguros?
En el OpenAI DevDay de este año, el CEO Sam Altman presentó el nuevo agente de IA Dots de la empresa — y le dijo a la multitud que la empresa quiere "establecer un nuevo estándar para la privacidad en la IA de vanguardia". OpenAI pasaría el día lanzando críticas veladas a Muse de Meta, su principal competidor, por no mantener los datos de los usuarios seguros. Sin embargo, Muse en sí, un par de meses antes, había sido lanzado como una alternativa supuestamente más segura que su predecesor OpenClaw — con el CEO Mark Zuckerberg prometiendo que fue "construido desde cero para la privacidad y la seguridad".
En una época en que las empresas acaparan los datos personales de los clientes y los ciberataques son comunes, los laboratorios de IA, centrados en la optimización del motor de respuestas (AEO), están tratando de convencer a los usuarios de que compartan aún más información con sus agentes. Su última estrategia para tener éxito es superar a la competencia prometiendo que, a diferencia de sus rivales, mantendrán los datos de los usuarios alejados de ojos curiosos. La pregunta es si las empresas pueden cumplir con estas promesas.
Nat Friedman, jefe de producto en Meta Superintelligence Labs, escribió en X que el objetivo de la empresa con Muse era "construir algo como OpenClaw que pudiéramos hacer seguro y fácil de usar y escalar a miles de millones de personas". Los datos de los usuarios se almacenan en una máquina virtual (VM) segura, lo que Zuckerberg describió como una "computadora linux aislada con un navegador, CPU, memoria y almacenamiento". La empresa dijo que la mayoría del esfuerzo en la construcción de Muse se relacionó con el "diseño y la ingeniería cuidadosos para operar [la VM] de manera más segura". El post del blog de Meta continuó: "Muse puede y cometerá errores, pero esperamos que sean mucho menos frecuentes y causen mucho menos daño debido a los sistemas de seguridad que hemos integrado".
¿Cuáles son los riesgos de que los agentes de IA recolecten datos personales?
Pero aunque Muse encabezó las listas de la App Store y, según Apptopia, ganó 600,000 usuarios activos diarios en EE. UU. en unas semanas, las promesas de Meta parecen haber fracasado. Aunque los datos están aislados de otros usuarios y la empresa planea introducir una forma de "prevenir criptográfica y verificablemente que Meta acceda a los datos en su VM" más adelante este año, Meta en sí todavía puede acceder a los datos. Un investigador de seguridad expuso rápidamente una vulnerabilidad de día cero que podría permitir que alguien tome el control de Muse (que desde entonces ha sido parcheada), lo que genera temores de ataques externos. Se informó que surgieron varios problemas de seguridad graves en el último minuto antes del lanzamiento, uno de los cuales podría haber permitido a los usuarios acceder a las bases de datos internas de Meta, según 404 Media.
Muse también parece recolectar (y en algunos casos, entregar) datos de manera liberal. Por defecto, permite que Meta capacite modelos con lo que los usuarios introducen en él, aunque es posible optar por no participar. Un reportero de Inc. se quejó de que Muse subió y leyó sus mensajes privados sin que él se lo pidiera, y un youtuber dijo que le ofreció su dirección a un desconocido a través de Marketplace — en ambos casos, Muse funcionaba aparentemente como se pretendía, pero el usuario no se dio cuenta de hasta qué punto llegaría. La plataforma crea "perfiles detallados de todos sus amigos y familiares", como informó Wired. Nada de esto es necesariamente inesperado de Meta, pero ciertamente no respalda la idea de que Muse es único en términos de privacidad o conciencia de seguridad.
OpenAI aprovechó este hecho al anunciar Dots a finales de septiembre. Alexander Embiricos, líder de producto de Codex en OpenAI, dijo en el escenario en DevDay que OpenAI se centra en tener el "asistente más confiable, seguro y protegido", y el CEO Sam Altman demostró formas en que las personas podrían ejercer control sobre sus Dots individuales, como establecer una regla de que nunca debería realizar una compra por encima de una cantidad determinada de dólares. "Creo que estamos en una posición diferente a la de Meta, ya que ellos no tienen un producto de IA que tenga 1,200 millones de usuarios", dijo Glen Coates, jefe de la plataforma de aplicaciones de OpenAI, agregando que "lanzar algo que cometa ese tipo de errores es algo que nos esforzamos por evitar".
Altman también promovió el ángulo de la privacidad en DevDay. Para atraer a clientes empresariales, los ejecutivos presentaron un marco que permite a las empresas tener "controles más fuertes" sobre sus datos y opciones de política de retención de datos cero (lo que significa que no se almacena ningún dato en los servidores de OpenAI). De hecho, hasta ahora, no ha habido muchos escándalos de privacidad con Dots — aunque, desde que solo está disponible en los niveles de suscripción de ChatGPT de $100 o más, también es probable que haya menos personas que lo utilicen.
Las personas pueden seguir sin sentirse cómodas compartiendo sus datos personales con OpenAI, en parte simplemente porque los agentes de IA requieren tanto de ellos. Por ejemplo, Allison Johnson de The Verge se sintió incómoda al escribir su información bancaria cuando el bot se lo pidió como parte de una tarea relevante (Muse tiene una integración con Stripe para ocuparse de eso).
No todas las empresas están haciendo promesas de privacidad, por supuesto. Instinct fue criticado públicamente por tener términos de servicio supuestamente demasiado amplios que le daban acceso sin restricciones a los datos; desde entonces, la empresa parece haber realizado ajustes. Por ahora, los laboratorios de IA parecen estar contando con un enfoque de tres partes para popularizar el uso de agentes de IA con el público en general: Hacerlos útiles, hacerlos atractivos y encantadores para ayudar a compensar la sensación de intrusión, y hacer promesas sobre la privacidad — y esperar que se cumplan.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.