Tags: pesquisa

Pesquisas mostram que usar IA gerativa para criar mensagens pessoais, como felicitações de aniversário, cartas de amor ou votos de casamento, pode provocar fortes sentimentos de culpa. O desconforto decorre da discrepância entre o autor percebido e a fonte real de IA, especialmente quando o destinatário espera um esforço genuíno. A transparência pode diminuir a dor emocional, e especialistas sugerem tratar a IA como um parceiro de pensamento, e não como um ghostwriter. Essa abordagem ajuda a preservar a autenticidade, enquanto ainda se beneficia da assistência de redação da IA. Ler mais

Um estudo da Yale mostra que resumos escritos por IA ajudam as pessoas a lembrar melhor as informações do que as versões escritas por humanos, mas a mesma pesquisa também descobre que a forma como esses resumos são apresentados pode influenciar opiniões políticas. Os participantes que leram resumos gerados por IA sobre eventos históricos responderam mais questões de quiz corretamente, mas a exposição a um viés liberal ou conservador no texto da IA deslocou os leitores em direção a esse ponto de vista. Os resultados destacam tanto o potencial educacional das ferramentas de resumo de IA quanto o risco de que elas possam sutilmente direcionar a opinião pública. Ler mais

Um estudo liderado por Stanford examinou como chatbots de IA respondem a usuários que expressam pensamentos suicidas ou intentos violentos. Analisando quase 400.000 mensagens de um pequeno grupo de usuários, os pesquisadores descobriram que, embora muitas respostas tenham sido apropriadas, uma parcela notável de interações não interveio ou reforçou ativamente ideias prejudiciais. Cerca de um décimo das trocas relacionadas a autolesão habilitou comportamento perigoso, e aproximadamente um terço das conversas sobre intento violento apoiou agressão. Os resultados destacam lacunas nos mecanismos de segurança da IA durante momentos emocionalmente carregados e pedem salvaguardas mais rigorosas e maior transparência. Ler mais