Como a IA está afetando a confiança entre leitores e escritores?

A romancista Rachel Kadish afirma que a IA generativa está corroendo a confiança entre leitores e escritores, e aponta para um chatbot que descreveu incorretamente o próprio livro dela como prova disso. Em um ensaio, Kadish descreve um momento em uma sessão de autógrafos no fim de 2025 que, segundo ela, tornou o problema pessoal.

Um homem de meia-idade se aproximou da mesa dela com a esposa e explicou que tinha a doença de Parkinson. Ele não havia lido o romance de 2017 de Kadish, The Weight of Ink, mas entendeu que a obra apresentava uma personagem com Parkinson que escolhe o suicídio assistido. Ele tinha objeções. Kadish disse que o relato estava errado. A personagem, Helen Watt, não põe fim à própria vida.

Kadish disse que tinha uma suspeita sobre a origem do equívoco. Algumas semanas antes, ela havia feito ao ChatGPT várias perguntas sobre o romance, e a ferramenta lhe deu uma versão falsa da trama de Helen. Desde então, ela temia que essa deturpação pudesse se espalhar, e agora parecia que isso havia acontecido.

Há livros com títulos idênticos aparecendo na Amazon?

O problema se estende ao título do livro. Kadish afirma que nenhuma outra obra tinha o nome The Weight of Ink em inglês até o outono de 2025. Desde então, pelo menos outros cinco romances com títulos idênticos apareceram na Amazon, três deles em um intervalo de três semanas. Vários outros livros com títulos quase idênticos também estão listados. Kadish não conseguiu determinar se a IA escreveu esses livros e encontrou apenas um que inclui um aviso reconhecendo a autoria por IA. Ela citou Will Oremus, da The Atlantic, que informou que os lançamentos de novos livros na Amazon dispararam após 2022, período em que os modelos de IA se tornaram amplamente disponíveis. Kadish achou difícil acreditar que a enxurrada de livros fosse produto de um súbito surto de criatividade humana.

Sua amiga, a romancista Daphne Kalotay, passou por uma experiência pior. No fim de 2024, Kalotay encontrou na página dela de autora na Amazon um novo romance que não havia escrito. Ela o descreveu como “uma alucinação de IA baseada em descrições de Russian Winter”, seu romance de 2010. O livro falso havia sido associado a um título e a uma capa de uma obra não relacionada, publicada décadas antes. Kalotay disse a Kadish que a parte mais difícil foi provar que o livro não tinha valor. A Authors Guild, uma associação de defesa de interesses da qual Kalotay é membro, acabou convencendo a Amazon a remover o título da página dela. A entidade também lançou um programa de certificação destinado a separar livros escritos por humanos daqueles gerados por IA.

Produzir um texto do tamanho de um livro com IA custa muito pouco, e a Amazon permite que indivíduos publiquem até seis livros por semana. Um vendedor precisa de apenas alguns compradores enganados por um título ou nome de autor emprestado para lucrar com cada obra. Mary Rasenberger, diretora-executiva da Authors Guild, disse a Kadish que a Amazon trabalha para bloquear esses títulos, mas que “é sempre uma corrida para alcançar”.

Quais golpes de phishing com IA têm como alvo os escritores?

Os escritores também são alvo de e-mails de phishing gerados por IA que se passam por leitores agradecidos. Kadish afirma que muitos de seus colegas agora hesitam em abrir correspondências de leitores. As mensagens costumam começar com elogios pessoais e depois se transformam em ofertas de serviços de marketing pagos. Um exemplo recente começava com: “Querida Rachel, isto parece assustador de enviar, mas hoje estou confiando no meu coração.” A Authors Guild mantém uma lista atualizada desses golpes. Escritores que pagam pelos serviços prometidos costumam perder seu dinheiro.

Alguns e-mails fraudulentos são enviados em nome de autores publicados. Kadish afirma que um escritor que ela não conhece encaminhou a ela um e-mail de alguém que se identificava como “Rachel Kadish”, que o procurou de “autor para autor”. A mensagem incluía links para o site real dela, sua página na Amazon e sua página no Goodreads. Quando Kadish pediu ao remetente que explicasse, a resposta admitiu a falsificação de identidade e afirmou que o objetivo era ajudar. Kadish diz que a despedida dizia: “Daqui em diante, vou me comunicar com meu próprio nome e não usarei sua identidade para contatar outros autores.”

Kadish traça uma linha clara entre esse tipo de fraude e as farsas literárias anteriores. Ela cita The Education of Little Tree, publicado em 1976 como a história real de um menino cherokee e revelado em 1991 como obra de um ex-membro da Ku Klux Klan. Ela também menciona Fragments, de Binjamin Wilkomirski, cuja exposição deu origem ao termo “síndrome de Wilkomirski”. Esses escândalos, escreve ela, revelaram motivações humanas e a forma como os desejos dos leitores podem cegá-los. As novas falsificações não oferecem nada comparável. “Não podemos extrair nenhum significado de um robô de marketing que cospe romances derivativos”, escreve ela.

Kadish afirma que as apostas nas trocas entre leitores e escritores são altas. Ela observa que Charles Dickens revisou sua representação dos judeus depois que um leitor criticou sua obra, e que uma reação indignada de leitores ajudou a convencer Arthur Conan Doyle a trazer Sherlock Holmes de volta. Ela cita a conferência do Prêmio Nobel de Toni Morrison, de 1993: “A narrativa é radical, criando-nos no exato momento em que é criada.” Kadish argumenta que a IA ameaça essa troca. O casal que a confrontou, escreve ela, merecia saber se ela havia escrito suas personagens com cuidado, e ela merecia uma conversa sobre a história que realmente escreveu.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.