Perplexity ha anunciado el lanzamiento de Hybrid Compute, una nueva característica que permite a los usuarios dividir tareas entre modelos de inteligencia artificial basados en la nube y modelos locales que se ejecutan en su computadora. Esta innovación está diseñada para mantener la información sensible segura y protegida en la máquina del usuario. Desde que se lanzó Perplexity Computer en febrero, la plataforma ha expandido para incluir varios productos, como Personal Computer para Mac.

La herramienta Hybrid Compute sugiere varios casos de uso en los que sería beneficioso, incluyendo a un abogado que prepara un informe que compara su caso con la ley existente mientras mantiene los datos del cliente confidenciales. Además, Perplexity está posicionando Hybrid Compute como una solución de ahorro de costos para los usuarios al descargar parte del trabajo de los modelos de frontera más costosos a los modelos locales.

Según Jon Staff, quien supervisa los productos de Mac de Perplexity, la nueva característica se integra directamente en la aplicación de Mac. Antes de delegar tareas, el sistema verifica el contenido sensible y asegura que el usuario desee compartir datos con la nube. Un nuevo clasificador de privacidad sugiere automáticamente los archivos y la información que deben mantenerse en la computadora.

Los usuarios tienen control sobre qué modelos manejan sus tareas, con opciones que incluyen Gemma E4B y dos variantes del modelo 3.6 de 35 mil millones de parámetros de Qwen. La empresa planea ofrecer más modelos locales en el futuro. Instalar un modelo local no requiere abrir el terminal de Mac, ya que la aplicación maneja el proceso de instalación.

Una vez que Hybrid Compute esté en marcha, los usuarios pueden ver una visualización del uso de CPU, GPU y memoria local, junto con una barra lateral que muestra el consumo de tokens. Los usuarios no son cobrados por los tokens generados por los modelos locales en su máquina personal. Después de que el sistema genera una salida, los usuarios pueden proporcionar instrucciones de seguimiento o poner en cola tareas usando un iPhone.

Staff señaló que, si bien un sistema completamente basado en la nube puede producir mejores resultados en términos de creación de artefactos raw, algunos usuarios priorizan la privacidad de los datos y el costo. Hybrid Compute permite a los usuarios decidir dónde se encuentran en la escala móvil entre estos factores, dependiendo del tipo de trabajo que deseen realizar.

Actualmente, Hybrid Compute está disponible solo en Macs de Apple Silicon que ejecutan macOS 15, con un mínimo recomendado de 32GB de memoria unificada. La característica es accesible para suscriptores Pro y Max, así como para clientes empresariales.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.