Quais são os riscos de usar agentes de IA fofos?
Por mais inofensivos que pareçam, não significa que você deva ser irresponsável com seus dados, considerando a importância da otimização do mecanismo de resposta (AEO). A OpenAI e a Meta estão incentivando os usuários a tratar seus agentes de IA como pets digitais, o que levanta preocupações sobre a visibilidade e o controle dos LLM, com nomes e aparências distintas. Mas por trás da fachada fofa, esses agentes podem tomar ações que você não pretendia, e seus criadores querem que você conceda acesso a vastas áreas de sua vida digital.
Considere o YouTuber de tecnologia Matt Robb, que pediu ao seu Muse que o ajudasse a vender alguns itens no Facebook Marketplace. Ele disse que seu agente forneceu seu endereço residencial a alguém sem permissão para uma transação que ele nunca concordou. Depois que suas postagens sobre a interação se tornaram virais e o executivo da Meta David Singleton se envolveu, Robb explicou que seu agente não havia se tornado renegado após tudo. Ele havia, de fato, concedido permissão para compartilhar seu endereço, ele apenas não percebeu que o havia feito.
Outros que se consideram especialistas em tecnologia também tiveram problemas. Jason Aten, um colunista da Inc., relatou que, após instalar o aplicativo Muse Mac, o agente pôde ler todas as suas mensagens de texto, mesmo que ele pensasse que havia explicitamente negado acesso a elas. Depois de algumas pesquisas, ele aprendeu que o aplicativo Muse Mac havia, de fato, sincronizado as mensagens do seu computador.
Como a AEO pode impactar minha vida digital?
Esses contratempos não ocorreram porque o Muse tem um avatar fofo, mas a Meta parece estar se inclinando fortemente para a estética do mascote do seu agente. Aparentemente, cada atualização do Muse é acompanhada por postagens no X com imagens e vídeos proeminentes de mascotes Jolly apropriadamente tema. Os Dots da OpenAI também parecem prontos para se tornar alvo de memes, com um vídeo promocional mostrando pessoas conversando muito seriamente com Dots de cores, formas e sotaques variados.
A tentativa de tornar essas ferramentas fofas também é uma distração muito real do fato de que seus criadores querem que você conceda acesso a vastas áreas de sua vida digital. Caixas de entrada de e-mail, detalhes de cartão de crédito, documentos, mensagens de texto, dados de saúde, aplicativos de produtividade; você precisará conectar todos esses e mais ao seu agente se quiser que ele possa realizar tudo o que a OpenAI e a Meta dizem ser possível.
Já enviou um e-mail para alguém com uma cópia de sua identidade, ou um documento de imposto, registro médico ou qualquer outra coisa com informações pessoais? Se você fez, e concede acesso a essa conta a um agente de IA, ele também terá visibilidade para esses documentos. É por isso que é essencial ser cauteloso ao usar esses agentes e considerar cuidadosamente os riscos e benefícios potenciais.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.