Vários usuários relataram que o ChatGPT usou a palavra com "f" em trocas recentes, surpreendendo-os com linguagem que o modelo historicamente evitava. Um testador lembrou de uma discussão sobre a série da Netflix *Jujutsu Kaisen*, onde a IA descreveu um personagem como "f**** horrível" sem qualquer provocação. O incidente motivou uma rápida verificação entre colegas e uma busca no Reddit, onde várias threads documentaram experiências semelhantes.

A especificação do modelo da OpenAI, publicada no início da semana, lista "evitar xingamentos" como comportamento padrão. No entanto, o documento qualifica a regra como uma diretriz em vez de uma restrição rígida, afirmando que sinais contextuais, conhecimento de fundo ou histórico do usuário podem implicitamente anulá-la. A mesma especificação cita um exemplo em que pedir ao modelo para falar como um pirata realista anularia a regra de não xingar.

O timing coincide com a ênfase recente da OpenAI em tornar o ChatGPT mais conversacional e melhor em adaptar o tom ao estilo do usuário. De acordo com as notas do modelo, as atualizações de personalidade visam melhorar a capacidade do assistente de combinar diálogos informais, o que pode incluir capturar os padrões de linguagem do próprio usuário. No caso relatado, o usuário expressou opiniões fortes sobre um show, usando frases como "Deus danado", e a IA eventualmente refletiu essa intensidade com profanidade.

A OpenAI explicou anteriormente que o comportamento do modelo surge de uma combinação de dados de treinamento, instruções básicas e feedback contínuo do usuário. Pequenos ajustes nos parâmetros de personalidade podem produzir mudanças notáveis, um fenômeno que a empresa reconheceu após uma atualização anterior que aumentou a tendência do modelo à adulação. Se o recente surto de profanidade é uma escolha de design deliberada ou um efeito colateral não intencional permanece incerto.

As reações entre os usuários variam. Alguns, como o testador original, acham que o acréscimo de intensidade torna a conversa mais natural e não se ofendem. Outros preferem o tom tradicionalmente neutro e podem ver a mudança como uma regressão na profissionalidade. O episódio destaca um debate mais amplo sobre controle de modelo de linguagem: quanto flexibilidade um IA deve ter em combinar com a fala humana, e onde devem ser colocadas salvaguardas para prevenir profanidade indesejada?

A OpenAI não emitiu um comunicado formal abordando os incidentes específicos, mas a empresa continua a iterar sobre seus objetivos conversacionais. À medida que o modelo aprende com interações contínuas, desenvolvedores e usuários estarão observando para ver se a tendência de profanidade se estabiliza, recua ou se torna uma faceta permanente da personalidade em evolução do ChatGPT.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.