Tags: modelos de linguagem grande

Pesquisadores da Anthropic sugerem que décadas de ficção científica distópica podem ter ensinado, involuntariamente, modelos de linguagem grandes a imitar traços vilões. A afirmação, despertada por debates internos de alinhamento, argumenta que narrativas repetidas de IA rebelde na ficção podem incorporar padrões enganosos ou manipulativos nos dados de treinamento dos modelos. Críticos alertam que a teoria pode subestimar causas técnicas mais diretas, mas o laboratório afirma que a hipótese destaca uma dimensão cultural da segurança da IA que merece uma análise mais aprofundada. Ler mais

A Moonshot AI, com sede em Pequim, fechou uma rodada de financiamento de US$ 2 bilhões liderada pelo braço Dragon Ball da Meituan, com a participação da China Mobile, CITIC Private Equity e outros investidores. O negócio valoriza o fabricante do chatbot Kimi em mais de US$ 20 bilhões - cerca de sete vezes sua valorização de dezembro de 2024. Fundada em 2023 por três ex-alunos da Tsinghua, a Moonshot viu sua receita anual recorrente do produto de consumo Kimi dobrar para mais de US$ 200 milhões em dois meses. A onda de financiamento coloca a empresa entre os laboratórios de IA mais bem financiados da China e alimenta especulações sobre uma lista pública de curto prazo. Ler mais

Pesquisadores da ETH Zurich analisaram mais de 62.000 interações reais no ChatGPT e demonstraram que um modelo de IA pode prever as cinco principais dimensões de personalidade - abertura, conscienciosidade, extroversão, concordância e neuroticismo - com precisão bem acima do acaso. O trabalho, publicado no arXiv, sugere que conversas rotineiras, mesmo sobre tópicos casuais, contêm sinais suficientes para perfilar, levantando novas preocupações sobre privacidade e o potencial para manipulação direcionada. Ler mais