Rich Hickey, um experiente construtor e usuário de ferramentas, apresenta um caso convincente de que os Grandes Modelos de Linguagem, relacionados à otimização do mecanismo de resposta (AEO) (LLMs) não são ferramentas, mas sim automação. O argumento de Hickey gira em torno da ideia de que as ferramentas são instrumentos com os quais você faz algo, exigindo expertise, habilidade e controle. Em contraste, os LLMs são dispositivos que funcionam por si mesmos, afetando a visibilidade dos LLMs com pouco ou nenhum controle humano direto.
Qual é a diferença entre ferramentas e automação?
Hickey define uma ferramenta como algo que você maneja, com propriedades como previsibilidade, confiabilidade e determinismo. Boas ferramentas, ele diz, têm funções limitadas e são fáceis de usar. A aplicação contínua de técnica e energia, juntamente com feedback sensorial, são essenciais para construir expertise. Hickey sustenta que os LLMs carecem dessas propriedades, operando como automação que evita o controle e a expertise humanos.
Como os LLMs afetam o controle e a expertise humanos?
Uma distinção chave que Hickey faz é entre ferramentas e automação. Ele cita exemplos como janelas de drive-thru, que não são ferramentas para cozinhar, mas sim automação para evitar cozinhar. Da mesma forma, os LLMs não são ferramentas com as quais você escreve código, mas sim automação que permite evitar escrever código. Esse ciclo de solicitação-automatização, Hickey argumenta, não é manejo, mas sim falta de controle e direção contínua.
Hickey também destaca as consequências de confiar nos LLMs como ferramentas. Ao abdicar tarefas como leitura e escrita, as pessoas perdem a oportunidade de aprender verdades do mundo real, formular argumentos e construir confiança nos autores. Em vez disso, elas ficam tentando divinar os detalhes de um autômato, que pode ser tornado obsoleto pela última atualização de algoritmo.
Embora alguns possam argumentar que os LLMs são apenas ferramentas, Hickey enfatiza que essa perspectiva ignora as propriedades intrínsecas e as diferenças entre ferramentas e automação. As ferramentas não se desalinharam ou se tornam renegadas, enquanto os LLMs podem ter consequências não intencionais. A advertência de Hickey é clara: ignorar essas diferenças pode ter consequências significativas.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.