¿Qué es el modelo de voz Woof de Underdog?

Underdog lanzó un pequeño modelo de voz que cabe dentro de un juego para navegador, una apuesta contundente de que la IA útil no necesita un centro de datos. La demo, construida sobre un modelo de voz llamado Woof, pesa apenas 32 MB y funciona localmente en el dispositivo del usuario.

¿Por qué Underdog está desarrollando modelos de IA más pequeños?

La mayor parte de la industria persigue modelos más grandes, y estos modelos exigen enormes cantidades de potencia de procesamiento. Algunos investigadores y startups van en la dirección opuesta, desarrollando modelos compactos pensados para ejecutarse en dispositivos de borde, como teléfonos y portátiles. Underdog es una de ellas.

El juego ubica a los jugadores en una habitación con temática tecnológica retro. Hay una máquina de escribir, un monitor CRT y una lámpara de escritorio que hace clic cuando se activa su interruptor. La pantalla inicial advierte a los jugadores sobre proveedores de nube “intrusivos” en la ciudad, una pulla a los modelos de IA basados en la nube.

¿Puede un modelo de voz tan pequeño funcionar sin la nube?

Las interacciones son sencillas, y ese es el punto. Los usuarios pueden escribir lo que quieran en la máquina de escribir, y el juego lo devuelve en voz. También pueden girar un sintonizador musical para generar distintos tipos de sonido. Todo se ejecuta en el navegador a través del modelo de generación de voz de Underdog, que, según la empresa, puede funcionar en la mayoría de los dispositivos sin conexión a internet.

El modelo tiene 31 millones de parámetros y está disponible para que cualquiera lo descargue. Un modelo tan pequeño difícilmente reemplazará a los grandes sistemas que impulsan los chatbots más capaces de hoy. Aun así, podría bastar para impulsar funciones de asistente local o generar podcasts personalizados, el tipo de caso de uso en el que apuesta Underdog.

La demo llega apenas unas semanas después de que Underdog lanzara Bark, un modelo de voz a texto de 167 MB también diseñado para dispositivos de borde. Bark maneja la transcripción y el dictado.

Sigil Wen, fundador de Underdog, le dijo a TechCrunch que el trabajo comenzó con un problema personal. En lugar de depender de aplicaciones de toma de notas como Granola, quería construir su propio sistema, uno que use modelos de IA que se ejecuten en los dispositivos de los propios usuarios. De esa forma, las personas son dueñas de sus datos.

“Creo que en cuestión de meses podremos ejecutar en los dispositivos que ya tienes la mayoría de los modelos capaces de hoy”, dijo Wen. “Solo queremos entrenar los mejores modelos abiertos que sean de fabricación estadounidense, que sean abiertos, que sean capaces y que permitan a las personas tener una IA privada”. Se refería al manifiesto de su empresa.

Underdog también lanzó un modelo de 27.000 millones de parámetros que puede ejecutarse en portátiles. La compañía además ofrece una aplicación con lista de espera que posiciona como una alternativa de alojamiento local a Muse e Instinct. En conjunto, los lanzamientos muestran a una empresa que intenta cubrir desde demos de voz hasta un modelo lo bastante grande para un portátil, todos diseñados para mantener el procesamiento fuera de servidores remotos.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.