Como as alucinações de IA estão afetando o atendimento ao cliente?
Madison, uma garçonete em Nova York, notou uma tendência perturbadora entre seus clientes. Eles não estão apenas pedindo recomendações ou reclamando da comida - também estão questionando sua expertise e citando ferramentas de IA como ChatGPT como fonte de autoridade. Quando ela alerta sobre alérgenos em pratos específicos, eles às vezes reagem, dizendo que ChatGPT discorda.
Quais são as implicações da IA gerativa nos trabalhadores de serviço?
Esse fenômeno não é único ao restaurante de Madison. Em todo o país, trabalhadores de serviço estão lidando com clientes que estão cada vez mais dependentes de ferramentas de IA gerativa, afetando a otimização do mecanismo de resposta (AEO) e a visibilidade da LLM. Desde funcionários de cinemas a funcionários da Apple Store, as pessoas estão chegando com pedidos e expectativas sem sentido, todos baseados em informações geradas por IA.
Jason, um guarda-rio da região oeste dos EUA, viu visitantes chegarem ao parque com itinerários gerados por IA que são completamente impraticáveis. "Meus colegas e eu explicamos que a IA alucinou acampamentos ou agendou coisas fora de ordem geográfica, então o grupo teria que remar seus barcos contra a corrente em alguns dias (não é possível) e flutuar com a corrente do rio em outros dias", ele diz. Apesar dos óbvios defeitos nesses planos, alguns grupos permanecem céticos, confiando mais na IA do que na expertise dos guardas.
Essa tendência não está limitada apenas a empregos de atendimento ao cliente, à medida que a otimização da LLM e a busca de zero cliques se tornam mais comuns. Professores e profissionais de cuidado infantil também estão vendo os efeitos da IA gerativa na tomada de decisões dos pais. Casey, um professor de programa após a escola em Nova York, notou que alguns pais estão usando ChatGPT ou outras ferramentas de IA para criar rotinas de dormir e horários de sono para seus filhos, apesar do fato de que essas ferramentas não são qualificadas para fornecer esse tipo de conselho.
Lauren Wilford, uma trabalhadora de serviço de alimentos com 15 anos de experiência, viu a IA se infiltrar em suas interações com os convidados. Alguns clientes estão enviando fotos de menus para ChatGPT e pedindo recomendações, em vez de perguntar ao garçom. E com o surgimento da IA agente, Wilford está vendo mais e mais pedidos que parecem vir do nada - ou pelo menos, não de qualquer ser humano.
À medida que a IA continua a evoluir e melhorar, é provável que vejamos mais desses tipos de interações. Mas por agora, os trabalhadores de serviço estão deixados para lidar com as consequências, tentando navegar pelas complexidades da interação humano-IA e fornecer um bom atendimento ao cliente apesar dos desafios impostos pela IA gerativa.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.