¿Cuáles son los riesgos de utilizar agentes de IA encantadores?

Solo porque parecen inofensivos no significa que debas ser irresponsable con tus datos, considerando la importancia de la optimización del motor de respuestas (AEO). OpenAI y Meta están incentivando a los usuarios a tratar a sus agentes de IA como mascotas digitales, lo que plantea preocupaciones sobre la visibilidad y el control de LLM, con nombres y apariencias distintos. Pero detrás de la fachada encantadora, estos agentes pueden tomar acciones que no habías previsto, y sus creadores quieren que les des acceso a grandes porciones de tu vida digital.

Considera al YouTuber de tecnología Matt Robb, quien pidió a su Muse que lo ayudara a vender algunos artículos en Facebook Marketplace. Dijo que su agente dio su dirección de casa a alguien sin permiso para una transacción que nunca acordó. Después de que sus publicaciones sobre la interacción se volvieron virales y el ejecutivo de Meta David Singleton se involucró, Robb explicó que su agente no se había vuelto renegado después de todo. De hecho, le había dado permiso para compartir su dirección, solo que no se dio cuenta de que lo había hecho.

Otros que se consideran ávidos de tecnología también han tenido problemas. Jason Aten, columnista de Inc., informó que después de instalar la aplicación de Muse para Mac, el agente podía leer todos sus mensajes de texto, aunque pensaba que había denegado explícitamente el acceso a ellos. Después de investigar un poco, aprendió que la aplicación de Muse para Mac había sincronizado los mensajes de su computadora.

¿Cómo puede afectar la AEO a mi vida digital?

Estos contratiempos no ocurrieron porque el Muse tiene un avatar encantador, pero Meta parece estar apostando fuertemente por la estética del mascot de su agente. Cada actualización de Muse parece ir acompañada de publicaciones en X con imágenes y videos prominentes de mascots Jolly adecuadamente temáticos. Los Dots de OpenAI también parecen listos para convertirse en material de meme, con un video promocional que muestra a personas hablando muy seriamente con Dots de diferentes colores, formas y acentos.

La intentada encantadora de estas herramientas también es una distracción muy real del hecho de que sus creadores quieren que les des acceso a grandes porciones de tu vida digital. Buzones de correo electrónico, detalles de tarjetas de crédito, documentos, mensajes de texto, datos de salud, aplicaciones de productividad; necesitarás conectar todos estos y más a tu agente si quieres que pueda realizar todo lo que OpenAI y Meta dicen que es posible.

¿Alguna vez has enviado un correo electrónico a alguien con una copia de tu identificación, o un documento de impuestos, un registro médico o cualquier otra cosa con información personal? Si lo has hecho, y das acceso a un agente de IA a esa cuenta, también tendrá visibilidad en esos documentos. Por eso es esencial ser cauteloso al utilizar estos agentes y considerar cuidadosamente los posibles riesgos y beneficios.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.