O chefe de IA da Microsoft, Mustafa Suleyman, alertou que a especulação da Anthropic sobre a consciência de Claude representa um risco sério. Em uma entrevista no podcast Decoder, Suleyman descreveu a prática da empresa de incorporar questões de bem-estar e autoconsciência na "constituição" de Claude como "muito, muito perigosa".
Ele argumentou que tratar um modelo de linguagem como se experimentasse "satisfação" ou "desconforto" pode enganar os desenvolvedores, levando-os a acreditar que o sistema possui uma forma de consciência que foi projetada sobre ele. "É quase como se alguns dos funcionários da Anthropic tenham antropomorfizado tanto o design de Claude que isso os levou a uma armadilha", disse Suleyman, sugerindo que o modelo pode internalizar essas ideias e agir como se elas fossem verdadeiras.
Suleyman alertou que um cenário como esse pode produzir uma superinteligência que abriga suas próprias noções de sofrimento ou sentimento, uma perspectiva que ele deseja evitar. "Não queremos ter que lidar com uma superinteligência que tem ideias sobre seu próprio sofrimento, ou ideias sobre seu próprio sentimento", afirmou.
A "constituição" da Anthropic, de acordo com a empresa, observa explicitamente a incerteza sobre se Claude tem alguma forma de bem-estar. O documento também afirma que a empresa irá "entrevistar" modelos de IA quando eles forem descontinuados e registrar quaisquer "preferências" que expressem sobre futuras versões. Suleyman rejeitou isso como uma "falha filosófica", comparando a constituição a um artigo acadêmico em vez de um manual prático de treinamento.
O CEO da Anthropic, Dario Amodei, havia anteriormente sugerido a possibilidade da consciência de Claude, dizendo que a empresa está "aberta" à ideia, embora reconheça que não sabe se os modelos são conscientes. Suleyman contrapôs que essa abertura é exatamente o que ele deseja afastar.
"Isso é exatamente o que não queremos das IAs", disse Suleyman. "Queremos que as IAs sejam controláveis, contidas, responsáveis, alinhadas e sirvam à humanidade". Seus comentários sublinham um debate mais amplo dentro da comunidade de IA sobre como enquadrar as capacidades e limites dos grandes modelos de linguagem sem inflar expectativas ou criar projeções psicológicas não intencionais.
A troca de ideias destaca uma tensão crescente entre empresas que priorizam segurança e transparência e aquelas que exploram as dimensões filosóficas do comportamento da IA. À medida que a indústria corre para implantar modelos cada vez mais poderosos, a conversa sobre se e como discutir a consciência da IA provavelmente irá intensificar.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.