A OpenAI lançou um novo modo de processamento chamado Ultrafast para seu modelo de linguagem grande GPT-5.6 Sol, prometendo um aumento dramático na velocidade de saída. A empresa afirma que o modo pode entregar até 750 tokens de saída por segundo, aproximadamente 14 vezes a taxa da configuração padrão do modelo.
Os principais pontos do Ultrafast incluem:
- A OpenAI introduz o modo Ultrafast para GPT-5.6 Sol.
- O modo processa até 750 tokens por segundo, um aumento de velocidade 14 vezes maior.
- É impulsionado por hardware da Cerebras, atualmente em pré-visualização.
- É destinado a resposta a incidentes, suporte ao cliente, finanças e comércio eletrônico.
- Está limitado a um pequeno grupo de clientes; uma disponibilidade mais ampla está planejada à medida que a capacidade cresce.
- O concorrente Anthropic oferece um modo rápido, mas a uma velocidade mais baixa.
- O Ultrafast visa entregar mais trabalho por segundo sem reduzir o tamanho do modelo.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.