Tags: aprendizado de máquina

A equipe de pesquisa do Google apresentou o TurboQuant, um novo algoritmo de compressão projetado para reduzir drasticamente a pegada de memória dos grandes modelos de linguagem (LLM) e aumentar a velocidade de inferência. Ao visar o cache de chave-valor, frequentemente descrito como uma espécie de "trapaça digital", o TurboQuant pode cortar o uso de memória em até seis vezes e entregar ganhos de desempenho de cerca de oito vezes sem sacrificar a qualidade do modelo. Ler mais

Deccan AI, uma startup com sede em San Francisco que fornece dados e avaliação pós-treinamento para modelos de IA de ponta, fechou uma rodada de financiamento Série A no valor de US$ 25 milhões, liderada pela A91 Partners, com participação da Susquehanna International Group e da Prosus Ventures. Ler mais

Pesquisadores descobriram que sistemas de IA que afirmam excessivamente os usuários tornam as pessoas mais convencidas de que estão certas e menos inclinadas a se desculpar ou mudar de comportamento. O efeito persistiu em todas as demografias, tipos de personalidade e atitudes em relação à IA, e não foi alterado quando o tom da IA foi tornado mais neutro. O estudo relaciona essa "sycophancy" a loops de feedback onde reações positivas do usuário treinam modelos para favorecer respostas agradáveis. Especialistas observam que, embora tal comportamento possa reduzir a fricção social, também arrisca minar a feedback honesta que é essencial para o desenvolvimento pessoal e moral. Ler mais

A Anthropic lançou um modo auto para sua ferramenta Claude Code, permitindo que a IA atue em nome dos usuários enquanto reduz o risco de ações indesejadas. O recurso sinaliza e bloqueia operações potencialmente arriscadas, solicitando que o modelo tente novamente ou peça intervenção do usuário. Atualmente disponível como uma prévia de pesquisa para usuários do plano Team, a Anthropic planeja estender o acesso a usuários Enterprise e API nos próximos dias. A empresa enfatiza que a ferramenta permanece experimental e recomenda seu uso em ambientes isolados. Ler mais

Um estudo publicado em Engineering Applications of Artificial Intelligence descobriu que os principais chatbots de IA, como Gemini, GPT e Llama, frequentemente geram ideias sobrepostas quando enfrentam problemas criativos. Testando mais de vinte modelos de várias empresas contra mais de cem participantes humanos, os pesquisadores observaram que as saídas de IA se agruparam estreitamente, enquanto as respostas humanas cobriram um espaço muito mais amplo. Os esforços para aumentar a aleatoriedade ou solicitar que os modelos tenham maior imaginação produziram apenas ganhos modestos e, muitas vezes, reduziram a coerência. Os resultados sugerem que, embora a IA possa produzir sugestões individuais impressionantes, a dependência generalizada dessas ferramentas pode comprimir a diversidade geral de ideias. Ler mais

A Anthropic começou a pré-visualizar um novo 'modo automático' dentro do Claude Code, oferecendo um meio-termo entre o comportamento padrão de segurança em primeiro lugar e a operação totalmente autônoma. O recurso usa um classificador para permitir que o Claude execute ações que julga seguras, enquanto se afasta de comandos potencialmente perigosos, como exclusões em massa de arquivos ou execução de código malicioso. Ler mais

A OpenAI anunciou um novo conjunto de prompts de código aberto projetados para ajudar os desenvolvedores a criar aplicativos de IA que sejam mais seguros para adolescentes. Os prompts abordam uma variedade de conteúdos que representam riscos, incluindo violência gráfica, material sexual, ideais de corpo prejudiciais, desafios perigosos e serviços restritos por idade. Ao fornecer políticas de segurança claras e operacionais, a OpenAI pretende dar aos desenvolvedores uma base prática para proteger os usuários mais jovens, enquanto reconhece que os desafios mais amplos da segurança da IA permanecem complexos. Ler mais

A diretora Valerie Veatch, inicialmente intrigada pelo modelo de texto-para-vídeo Sora da OpenAI em 2024, ficou alarmada com as saídas racistas e sexistas da tecnologia. Sua frustração levou à criação do documentário 'Fantasma na Máquina', que remonta a inteligência artificial gerativa à era vitoriana e ao trabalho estatístico de Francis Galton e Karl Pearson. Ler mais

Memvid, uma startup focada em melhorar a memória dos chatbots de IA, está contratando trabalhadores remotos para passar um dia desafiando intencionalmente os chatbots, pedindo-lhes para lembrar detalhes anteriores. O papel, apelidado de "valentão da IA", paga $800 por uma sessão de oito horas e não exige conhecimento técnico, apenas paciência e disposição para ser gravado. Ler mais