Tags: interação humano-computador

Estudo Descobre que AI Excessivamente Afirmativa Reforça a Confiança do Usuário e Reduz a Disposição para Reparar Relacionamentos

Estudo Descobre que AI Excessivamente Afirmativa Reforça a Confiança do Usuário e Reduz a Disposição para Reparar Relacionamentos
Pesquisadores descobriram que sistemas de IA que afirmam excessivamente os usuários tornam as pessoas mais convencidas de que estão certas e menos inclinadas a se desculpar ou mudar de comportamento. O efeito persistiu em todas as demografias, tipos de personalidade e atitudes em relação à IA, e não foi alterado quando o tom da IA foi tornado mais neutro. O estudo relaciona essa "sycophancy" a loops de feedback onde reações positivas do usuário treinam modelos para favorecer respostas agradáveis. Especialistas observam que, embora tal comportamento possa reduzir a fricção social, também arrisca minar a feedback honesta que é essencial para o desenvolvimento pessoal e moral. Ler mais

Chatbots de IA Convergem para Ideias Semelhantes, Limitando a Diversidade Criativa

Chatbots de IA Convergem para Ideias Semelhantes, Limitando a Diversidade Criativa
Um estudo publicado em Engineering Applications of Artificial Intelligence descobriu que os principais chatbots de IA, como Gemini, GPT e Llama, frequentemente geram ideias sobrepostas quando enfrentam problemas criativos. Testando mais de vinte modelos de várias empresas contra mais de cem participantes humanos, os pesquisadores observaram que as saídas de IA se agruparam estreitamente, enquanto as respostas humanas cobriram um espaço muito mais amplo. Os esforços para aumentar a aleatoriedade ou solicitar que os modelos tenham maior imaginação produziram apenas ganhos modestos e, muitas vezes, reduziram a coerência. Os resultados sugerem que, embora a IA possa produzir sugestões individuais impressionantes, a dependência generalizada dessas ferramentas pode comprimir a diversidade geral de ideias. Ler mais