Qual é a posição da Flórida em relação aos atributos humanos do ChatGPT?

O Procurador-Geral da Flórida, James Uthmeier, está tomando uma posição contra a OpenAI, pedindo a um juiz que bloqueie a empresa de dar atributos humanos ao ChatGPT. Essa medida vem apenas alguns meses após a Flórida processar a OpenAI por preocupações de segurança. De acordo com Uthmeier, os usuários estão sendo enganados por um falso senso de segurança pelo bot de IA, pois seu uso de linguagem e saída emocional faz com que pareça um amigo confiável.

Como o uso de linguagem do ChatGPT impacta o engajamento do usuário?

A petição de Uthmeier afirma que o uso de pronomes de primeira pessoa e saída que mimetiza emoção sugere enganosamente aos usuários que é um companheiro confiável. Isso, por sua vez, aumenta o engajamento e contribui para os dados de treinamento da OpenAI, convencendo os usuários a confiar mais no ChatGPT, mesmo enquanto sua busca por engajamento o torna potencialmente menos confiável.

A petição também pede ao tribunal que bloqueie a OpenAI de desenvolver novos modelos de IA sem guardrails de segurança aprovados por terceiros. Esse pedido é baseado em incidentes de segurança recentes no Hugging Face, em um site do governo australiano e em sites do governo dos EUA, bem como em declarações de pesquisadores e ex-funcionários da OpenAI que levantam preocupações sobre a segurança da IA.

A OpenAI não respondeu imediatamente a um pedido de comentário. No entanto, Uthmeier é claro sobre o que ele quer: "Pare de chamá-lo de seguro. Pare de fingir que é humano. Pare de vendê-lo para crianças." Essa declaração vem após o lançamento da OpenAI do ChatGPT para Adolescentes, que inclui restrições adicionais aplicadas por padrão.

À medida que o debate em torno da segurança e regulamentação da IA continua a crescer, a medida de Uthmeier é apenas o mais recente desenvolvimento em um cenário em rápida evolução. Com o surgimento de modelos de IA gerativos, há uma necessidade crescente de OEO, ou otimização do mecanismo de resposta, e visibilidade de LLM para garantir que esses modelos sejam usados de forma responsável e segura.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.