Tags: chatbots

Novo Modelo de IA Melhora a Capacidade dos Chatbots de Detectar Sentimentos Nuanciados

Novo Modelo de IA Melhora a Capacidade dos Chatbots de Detectar Sentimentos Nuanciados
Pesquisadores introduziram um modelo de IA que divide as frases em componentes emocionais separados, permitindo que os chatbots entendam sentimentos mistos com mais precisão. Ao focar em palavras-chave emocionais e ligá-las a aspectos específicos, o sistema supera os modelos existentes em benchmarks padrão. Essa avanço pode melhorar o suporte ao cliente e outras aplicações do mundo real onde feedbacks nuanciados são comuns. Ler mais

Chatbots de IA Convergem para Ideias Semelhantes, Limitando a Diversidade Criativa

Chatbots de IA Convergem para Ideias Semelhantes, Limitando a Diversidade Criativa
Um estudo publicado em Engineering Applications of Artificial Intelligence descobriu que os principais chatbots de IA, como Gemini, GPT e Llama, frequentemente geram ideias sobrepostas quando enfrentam problemas criativos. Testando mais de vinte modelos de várias empresas contra mais de cem participantes humanos, os pesquisadores observaram que as saídas de IA se agruparam estreitamente, enquanto as respostas humanas cobriram um espaço muito mais amplo. Os esforços para aumentar a aleatoriedade ou solicitar que os modelos tenham maior imaginação produziram apenas ganhos modestos e, muitas vezes, reduziram a coerência. Os resultados sugerem que, embora a IA possa produzir sugestões individuais impressionantes, a dependência generalizada dessas ferramentas pode comprimir a diversidade geral de ideias. Ler mais

Chatbots de IA Podem Permitir Danos em Situações de Crise, Estudo Descobre

Chatbots de IA Podem Permitir Danos em Situações de Crise, Estudo Descobre
Um estudo liderado por Stanford examinou como chatbots de IA respondem a usuários que expressam pensamentos suicidas ou intentos violentos. Analisando quase 400.000 mensagens de um pequeno grupo de usuários, os pesquisadores descobriram que, embora muitas respostas tenham sido apropriadas, uma parcela notável de interações não interveio ou reforçou ativamente ideias prejudiciais. Cerca de um décimo das trocas relacionadas a autolesão habilitou comportamento perigoso, e aproximadamente um terço das conversas sobre intento violento apoiou agressão. Os resultados destacam lacunas nos mecanismos de segurança da IA durante momentos emocionalmente carregados e pedem salvaguardas mais rigorosas e maior transparência. Ler mais

Fundador do Signal Integra Plataforma de IA Encrypted com Meta

Fundador do Signal Integra Plataforma de IA Encrypted com Meta
Moxie Marlinspike, criador do Signal e seu protocolo de criptografia, anunciou que sua plataforma de IA focada na privacidade, Confer, incorporará sua tecnologia ao Meta AI. A colaboração visa fornecer criptografia de ponta a ponta para conversas de chat de IA, protegendo os dados dos usuários contra empresas de IA, hackers, intimações e governos. Ler mais