Um colunista defende que nenhuma quantidade de código gerado por IA é segura, por isso o mínimo que se pode usar é zero. O argumento segue a recusa do júri do Independent Games Festival em votar em jogos que usem IA generativa, uma disputa em torno de Big Walk, da House House. O autor cita a perda de habilidades, a degradação de bases de código, agentes pouco confiáveis na busca por bugs e os riscos de licenciamento da GPL como motivos.
O júri do Independent Games Festival afirmou que não votaria em nenhum jogo que use IA generativa "em qualquer capacidade". A declaração atingiu Big Walk, jogo da House House, estúdio por trás de Untitled Goose Game. A Panic publica o jogo, que era um dos favoritos para os prêmios do IGF deste ano. Agora, um colunista usa a disputa para fazer uma pergunta maior: quanto de IA deve fazer parte dos softwares que as pessoas criam?
Os jurados não traçaram uma linha entre arte e som gerados por IA de um lado e código assistido por IA do outro. Eles escreveram que a programação é uma disciplina criativa que merece o mesmo respeito que qualquer outra parte da criação de um jogo, e afirmaram que isso se estende ao trabalho passado usado para treinar esses modelos sem o consentimento dos criadores.
A House House respondeu que usou "com moderação" LLMs para "ajudar a resolver desafios técnicos difíceis e bugs". O estúdio disse que menos de um centésimo de um por cento do código de Big Walk foi tocado por LLMs de alguma forma. Também afirmou que "isto não é um endosso, nem um argumento a favor do uso de ferramentas de IA, por mínimo que seja", e pediu desculpas caso o uso de LLMs no jogo não atenda aos padrões daqueles que tentam limitar os danos que a IA generativa causa aos videogames e ao mundo em geral.
O colunista disse que o episódio inicialmente parecia uma tempestade em copo d'água. Isso mudou após ler um post de blog de Bruno Dias, que escreveu que usar LLMs significa "participar voluntariamente de um projeto político nocivo" e usar produtos feitos por meio de processos exploratórios. Dias argumentou que ou existe um limite ético ou não existe, e que um conjunto de produtos de software fortemente subsidiados, que não existiam dois anos atrás, está do lado das falhas que as pessoas nunca deveriam cometer sem punição.
Por que desenvolvedores se preocupam com ferramentas de programação com IA?
O colunista afirma que a preocupação vai além da ética. Citando o que descreve como evidências crescentes, o autor aponta a perda de habilidades entre desenvolvedores e bases de código que pioram quanto mais liberdade são dadas a agentes de programação. A coluna descreve relatos de o Claude escrever quatro versões da mesma função em lugares diferentes, grandes trechos de código que nunca são chamados e agentes de busca de bugs que imaginam erros ou até os criam. O autor acrescenta que os LLMs não entendem código. Eles trabalham com relações estatísticas entre palavras e frases.
A coluna também ataca a ideia de que as ferramentas de programação com IA tornaram a qualidade mais fácil de alcançar. Ela cita a observação recente de Lex Friedman de que a IA "reduziu drasticamente o custo de produzir um aplicativo, mas não reduziu o trabalho necessário para produzir um ótimo aplicativo". O colunista concorda, argumentando que o verdadeiro valor está em aplicativos que demonstram refinamento, testes e cuidado.
Marco Arment, desenvolvedor do aplicativo de podcast Overcast, é uma figura central da coluna. O autor voltou recentemente ao Overcast após usar o Castro e observa que Arment se tornou um entusiasta do programador agêntico. Isso significa que o Overcast contém código gerado pelo Claude, assim como o novo aplicativo de Arment, o Fineliner. O colunista diz que não espera que nenhum dos dois apague dados, supere o aquecimento de um dispositivo ou vaze informações de cartão de crédito. Ainda assim, o autor afirma que é difícil conciliar a conhecida relutância de Arment em usar bibliotecas que ele não escreveu com seu entusiasmo por ter robôs escrevendo código para ele.
A geração de código por IA cria riscos de licenciamento?
O licenciamento apresenta outro problema. Os modelos de linguagem são treinados principalmente com código de código aberto, mas a coluna aponta que código aberto não significa automaticamente que treiná-lo seja legal. Se uma ferramenta de IA incorporar código licenciado pela GPL em um software que não é licenciado pela GPL, o desenvolvedor terá um problema jurídico, e o autor suspeita que esse problema já exista em milhares de bases de código.
A coluna termina com uma nota pessoal. O autor diz que não consegue mais ganhar a vida com redação técnica por causa da IA, e argumenta que a IA faz redação técnica mal da mesma forma que faz tudo o mais: bem o suficiente para passar despercebida se ninguém se importar com o resultado. O autor cita um post preocupado do chefe da Iconfactory, estúdio de design e programação, sobre a dificuldade de viver de design para clientes e de vender aplicativos em meio a uma enxurrada de aplicativos de IA feitos por "vibe coding".
Quanto código gerado por IA é seguro para lançar?
O colunista não rejeita a IA por completo. Big Walk, observa ele, parece se qualificar como um aplicativo excelente feito com IA generativa. Ainda assim, o autor argumenta que os LLMs não conseguem criar nada com reflexão porque não têm pensamentos. Um bom software, segundo a coluna, exige um desenvolvedor humano com gosto e compreensão. "Quanto mais você delega ao seu assistente de programação robótico, menos você entende", afirma o autor. "E a menor quantidade de código gerado por LLM que você pode usar é sempre zero."
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.