Vários executivos de destaque da área de tecnologia recentemente enfrentaram críticas por comentários que muitas pessoas consideraram desconectados da realidade, e um painel de repórteres da TechCrunch afirma que o padrão aponta para um problema maior para o setor de IA. Os críticos fazem uma pergunta simples: afinal, para quem esses produtos são realmente feitos?

A CEO da Dazzle AI, Marissa Mayer, foi criticada após descrever como pediu a uma ferramenta de IA que a ajudasse com uma descrição da filha exigida por uma escola. O CEO da OpenAI, Sam Altman, sugeriu que os pais poderiam criar podcasts personalizados para tocar durante o trajeto dos filhos até a escola. Ele também disse que não conseguiria imaginar a criação de filhos sem o ChatGPT. O CEO da Meta, Mark Zuckerberg, argumentou que será cada vez mais aceitável atender necessidades sociais e românticas por meio da IA.

Executivos de IA estão distantes demais da realidade para criar produtos para pessoas comuns?

Esses comentários levaram Amanda Silberling, da TechCrunch, a questionar se os executivos de IA estão simplesmente distantes demais da realidade para criar produtos para pessoas comuns. A pergunta ganha ainda mais peso agora. A Anthropic deve abrir capital justamente no momento em que Wall Street começa a perder o apetite por gastos pesados com IA.

Silberling participou do podcast Equity para discutir o tema com os apresentadores Kirsten Korosec e Sean O'Kane. Korosec quis saber se o problema era principalmente de marketing ou dos próprios produtos. Silberling respondeu que era um pouco dos dois.

A IA está levando as pessoas a otimizar para longe a conversa humana cotidiana?

Ela apontou para o que considera uma tendência mais ampla. A indústria de tecnologia, disse ela, está cada vez mais empurrando um futuro em que "a interação humana básica é otimizada para deixar de acontecer". Ela acrescentou: "E pode me chamar de antiquada, mas acho que os humanos poderem conversar entre si é provavelmente um saldo positivo para a sociedade".

Anthony Ha disse que o público já desconfia das motivações das pessoas que comandam empresas de IA. Muitas pessoas, afirmou, suspeitam que esses líderes não têm os melhores interesses delas em mente. Ele descreveu o dilema enfrentado pelos CEOs. Há um grande incentivo financeiro para convencer os clientes a usar a tecnologia em todas as partes de suas vidas. Mas o cenário resultante nem sempre é atraente. "Em alguns casos, é simplesmente distópico", disse ele.

Silberling citou outros exemplos. O CEO da Bumble já falou sobre concierges de IA, nos quais o agente de IA de cada pessoa tem encontros com o agente de IA da outra, e os usuários humanos só são apresentados se as IAs se derem bem. Mayer, em um artigo do New York Times, mencionou uma ideia semelhante, perguntando o que aconteceria se sua IA pudesse coordenar com a IA de seu marido. Silberling disse que essas ideias refletem uma tendência a otimizar excessivamente a conversa cotidiana.

Ela também descreveu mudanças em seus próprios hábitos. Disse que agora se sente constrangida ao ligar para um restaurante para pedir comida para viagem, porque está tão acostumada a fazer pedidos pela internet sem falar com ninguém.

O'Kane levantou o lado comercial da questão. Ele perguntou sobre o retorno sobre o investimento de uma conversa entre duas pessoas. Silberling respondeu que namorar é ineficiente e que é fácil entender por que alguém gostaria que uma IA cuidasse do processo. Ainda assim, disse, algo essencial está faltando. Ela também questionou a confiança envolvida em deixar um computador decidir com quem você deve namorar, já que você estaria dependendo de um sistema que presume conhecê-lo melhor do que você mesmo. Ela não acredita que essa premissa se sustente.

Por que os discursos sobre produtos de IA parecem desconectados dos usuários comuns?

Silberling disse que o problema de marketing costuma começar quando executivos de alto perfil de empresas muito valiosas se reúnem e discutem as dificuldades do seu dia a dia. Muitos dos exemplos que citam, como fazer reservas em restaurantes ou comprar passagens aéreas, não são desafios que a maioria das pessoas enfrenta regularmente. Ela disse que não compra passagens uma vez por semana e que o valor cotidiano que as pessoas encontram em ferramentas como o ChatGPT e o Claude não está necessariamente em comprar uma passagem.

Ha comparou a situação aos primeiros dias da Uber. A empresa inicialmente mirou entusiastas de tecnologia em São Francisco, e Ha afirmou que, na época, estava confiante de que o serviço nunca se popularizaria de forma mais ampla. Empresas de tecnologia frequentemente venceram apostando que estão à frente dos consumidores e que sua visão de futuro acabará se tornando a realidade de todos. Ha disse que essa aposta ainda não parece estar dando certo. A sociedade que recebe essa tecnologia é diferente daquela que seus criadores imaginam, e muitas pessoas estão reagindo. Algumas dizem que não querem que a IA molde todas as partes de suas vidas e que desejam viver as próprias vidas e criar os próprios filhos.

Silberling relacionou a tendência a outras mudanças culturais. Ela observou que as pessoas estão comprando celulares de tampa e CDs. Algumas fazem isso porque estão cansadas de algoritmos escolhendo o que elas ouvem. Ela descreveu uma tensão não resolvida: a sociedade ainda não descobriu quais tipos de otimização realmente ajudam as pessoas e quais apenas as fazem se sentir menos humanas.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.