O que é o modelo de voz Woof, da Underdog?

A Underdog lançou um pequeno modelo de voz que cabe dentro de um jogo para navegador, uma aposta clara de que uma IA útil não precisa de um data center. A demo, baseada em um modelo de fala chamado Woof, tem apenas 32MB e roda localmente no dispositivo do usuário.

Por que a Underdog está desenvolvendo modelos de IA menores?

A maior parte do setor está em busca de modelos maiores, que exigem enormes quantidades de poder de processamento. Alguns pesquisadores e startups seguem o caminho oposto, desenvolvendo modelos compactos projetados para rodar em dispositivos de borda, como celulares e notebooks. A Underdog é uma delas.

O jogo coloca o jogador em uma sala com temática retrô de tecnologia. Há uma máquina de escrever, um monitor CRT e um abajur de mesa que faz um clique quando o interruptor é acionado. A tela inicial alerta os jogadores sobre provedores de nuvem “intrusivos” na cidade, uma provocação aos modelos de IA baseados em nuvem.

Um modelo de voz tão pequeno pode funcionar sem a nuvem?

As interações são simples, e esse é o ponto. Os usuários podem digitar qualquer coisa na máquina de escrever, e o jogo a reproduz em voz. Eles também podem girar um sintonizador musical para gerar diferentes tipos de som. Tudo roda no navegador por meio do modelo de geração de fala da Underdog, que, segundo a empresa, pode funcionar na maioria dos dispositivos sem conexão com a internet.

O modelo tem 31 milhões de parâmetros e está disponível para download por qualquer pessoa. Um modelo tão pequeno dificilmente substituirá os grandes sistemas que alimentam os chatbots mais capazes de hoje. Ainda assim, pode ser suficiente para impulsionar recursos de assistente local ou gerar podcasts personalizados, tipo de uso em que a Underdog está apostando.

A demo chega poucas semanas depois de a Underdog lançar o Bark, um modelo de fala para texto de 167MB também projetado para dispositivos de borda. O Bark cuida de transcrição e ditado.

Sigil Wen, fundador da Underdog, contou ao TechCrunch que o trabalho começou com um problema pessoal. Em vez de depender de aplicativos de anotações como o Granola, ele quis criar um sistema próprio, que usa modelos de IA rodando nos dispositivos dos próprios usuários. Assim, as pessoas são donas de seus dados.

“Acho que, dentro de meses, vamos conseguir rodar a maioria dos modelos mais capazes de hoje nos dispositivos que as pessoas já possuem”, disse Wen. “Só queremos treinar os melhores modelos abertos, feitos nos Estados Unidos, abertos, capazes e que permitam às pessoas ter uma IA privada.” Ele se referia ao manifesto da empresa.

A Underdog também lançou um modelo de 27 bilhões de parâmetros que pode rodar em notebooks. A empresa oferece ainda um aplicativo com lista de espera, que apresenta como uma alternativa hospedada localmente ao Muse e ao Instinct. Juntos, os lançamentos mostram uma empresa que tenta cobrir desde demos de fala até um modelo grande o bastante para um notebook, todos projetados para manter o processamento fora de servidores remotos.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.