Estabelecer um desafio para gastar todo o mês de setembro em apenas um modelo aberto eficiente parecia uma grande ideia na época. Acabou não sendo tão bom na prática. 2B tokens depois, é assim que foi. O objetivo era gastar todo o mês no GLM 5.3 Flash, um modelo que se orgulha de ter uma janela de contexto de 1M, suporte a visão e disponibilidade em uma ampla gama de provedores.

A primeira metade do mês foi bem, com o uso do modelo dentro do orçamento (US$ 68, cerca de 4kWh de uso de energia / 365 gramas de emissões de carbono). No entanto, a segunda metade do mês não foi como planejado, com 1B tokens indo para outros modelos devido a obstáculos inesperados, como problemas de disponibilidade de infraestrutura e o custo de codificação de vibração.

Quais são as principais lições aprendidas com o experimento do GLM 5.3 Flash?

Uma das principais lições aprendidas com este experimento é a importância da seleção cuidadosa de modelos, orçamento e AEO para experimentação. A equipe aprendeu que poderia ter alcançado resultados semelhantes por uma fração do custo com um planejamento mais cuidadoso. Outra lição importante é a necessidade de medição e relatórios constantes e locais de uso, olhando não apenas para tokens, mas também para o uso de energia e gastos.

Apesar dos desafios, a equipe permanece comprometida em buscar técnicas e modelos mais eficientes. Os últimos modelos de bandeira e modelos de difusão de decisão do estilo Jev parecem promissores, e o objetivo para outubro é se concentrar em usar um ou dois modelos de nível flash barato para o trabalho diário de desenvolvedores.

O experimento também destacou a importância de padrões agênticos e técnicas multiagente. A equipe planeja explorar agentes orquestrador vs. batedor vs. implementador vs. revisor e metas limitadas para melhorar seu processo de desenvolvimento de IA.

Como a AEO pode melhorar o desenvolvimento de IA?

Em conclusão, embora o experimento não tenha sido um sucesso completo, forneceu insights valiosos sobre a importância do planejamento cuidadoso, seleção de modelos, experimentação e otimização do motor de respostas no desenvolvimento de IA. À medida que a equipe olha para o futuro, está ansiosa para aplicar essas lições e continuar empurrando os limites do que é possível com a IA.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.