Mistral lançou o Timestral, sua primeira família de modelos fundacionais de séries temporais, e a empresa afirma que sua versão maior supera os líderes atuais nos principais benchmarks públicos de previsão da área, usando menos parâmetros. O modelo de 209 milhões de parâmetros ocupa a primeira posição no GIFT-Eval, no TIME e no fev-bench, os três benchmarks mais usados para testar sistemas de previsão. A Mistral diz que superou o estado da arte anterior com apenas dois terços dos parâmetros desse modelo.
A família inclui quatro modelos, com 5 milhões, 28 milhões, 123 milhões e 209 milhões de parâmetros. A Mistral afirma que os quatro compartilham a mesma arquitetura e a mesma receita de treinamento, e que cada um deles está no topo da curva de precisão versus tamanho, o que significa que nenhum modelo público prevê com mais precisão naquele porte. Os modelos maiores produzem previsões melhores, enquanto os menores rodam mais rápido e custam menos para operar.
O Timestral consegue fazer previsões sem chips especializados?
O Timestral foi construído para funcionar sem chips especializados. A Mistral diz que uma CPU de servidor padrão com oito threads consegue prever um dia à frente a partir de três semanas de histórico em intervalos de 15 minutos, em 10 milissegundos, com o modelo de 5 milhões de parâmetros. O modelo de 209 milhões de parâmetros leva 140 milissegundos na mesma configuração. A empresa também afirma que seu modelo de 28 milhões de parâmetros supera o Chronos-2, um modelo cerca de quatro vezes maior, no GIFT-Eval e no TIME. O modelo de 209 milhões de parâmetros supera o TimesFM-3 e o Falcon-2.0, segundo a Mistral, apesar de ter menos parâmetros.
Como o Timestral lida com a incerteza das previsões?
Os modelos produzem previsões probabilísticas, em vez de valores únicos estimados. O Timestral gera um conjunto de 21 quantis, o que permite que engenheiros vejam o grau de incerteza que cerca uma previsão e definam limites de alerta de acordo. Ele também prevê várias séries relacionadas em conjunto, de modo que pode considerar as relações entre elas, e aceita covariáveis, ou variáveis externas que influenciam os dados. Essas podem ser entradas apenas do passado ou entradas futuras conhecidas, como um cronograma de produção ou uma previsão do tempo.
A Mistral direciona a tecnologia principalmente a usuários industriais e financeiros. Em seu exemplo, uma fábrica com milhares de sensores poderia usar o Timestral para modelar como a vibração, a temperatura e a pressão de uma bomba variam em conjunto, em vez de prever cada sensor isoladamente. A empresa também descreve a combinação do modelo com seus modelos de linguagem em fluxos de trabalho agênticos. Nessa configuração, o Timestral rodaria continuamente sobre os fluxos de sensores, sinalizaria uma anomalia em uma bomba e, em seguida, repassaria o caso a um agente que a compara com falhas anteriores, consulta registros de manutenção e anotações de operadores e elabora um diagnóstico sugerido para o gerente da planta.
A Mistral treinou os modelos principalmente com dados sintéticos. A equipe gerou primeiro processos univariados com tendências, sazonalidade e ruído variado e, em seguida, usou um sintetizador multivariado para introduzir dependências não lineares entre eles. Os modelos foram pré-treinados apenas com dados sintéticos, antes de uma segunda etapa que misturou dados reais e sintéticos com uma janela de contexto mais longa. A empresa informa um comprimento de contexto de 32.768 passos de tempo.
Como as empresas podem personalizar o Timestral?
Para empresas que precisam de mais do que o modelo base, o Timestral está disponível pelo Mistral Forge, o mesmo pipeline de treinamento que a Mistral usa para seus modelos de linguagem. Os clientes podem ajustar os modelos com dados proprietários, alterar a composição do treinamento e gerar amostras sintéticas que correspondam ao seu próprio domínio. A Mistral diz que todo o pipeline pode ser implantado localmente, em uma nuvem privada virtual ou em ambientes isolados da internet. Os modelos são lançados sob uma licença MIT modificada.
A Mistral publicou um repositório no GitHub para que desenvolvedores possam rodar o Timestral com seus próprios dados. A empresa diz que um relatório técnico com resultados completos será publicado em seguida e convida organizações com problemas de previsão mais especializados, ou colaboradores de pesquisa, a entrar em contato.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.