A Perplexity anunciou o lançamento do Hybrid Compute, uma nova funcionalidade que permite aos usuários dividir tarefas entre modelos de IA baseados em nuvem e modelos locais que executam em seu computador. Essa inovação é projetada para manter informações sensíveis seguras e protegidas na máquina do usuário. Desde o lançamento do Perplexity Computer em fevereiro, a plataforma expandiu-se para incluir vários produtos, como o Personal Computer para Mac.

A ferramenta Hybrid Compute sugere vários casos de uso em que seria benéfica, incluindo um advogado preparando um breve que compara seu caso com a lei existente, mantendo os dados do cliente confidenciais. Além disso, a Perplexity está posicionando o Hybrid Compute como uma solução de economia de custos para os usuários, descarregando alguns trabalhos de modelos de fronteira mais caros para modelos locais.

De acordo com Jon Staff, que supervisiona os produtos Mac da Perplexity, a nova funcionalidade está integrada diretamente ao aplicativo Mac. Antes de delegar tarefas, o sistema verifica o conteúdo sensível e garante que o usuário deseja compartilhar dados com a nuvem. Um novo classificador de privacidade sugere automaticamente arquivos e informações que devem ser mantidos no computador.

Os usuários têm controle sobre quais modelos lidam com suas tarefas, com opções que incluem Gemma E4B e duas variantes do modelo 3.6 de 35 bilhões de parâmetros da Qwen. A empresa planeja oferecer mais modelos locais no futuro. Instalar um modelo local não requer abrir o terminal do Mac, pois o aplicativo lida com o processo de instalação.

Uma vez que o Hybrid Compute esteja em andamento, os usuários podem visualizar uma visualização do uso de CPU, GPU e memória local, junto com uma barra lateral que mostra o consumo de tokens. Os usuários não são cobrados por tokens gerados por modelos locais em sua máquina pessoal. Depois que o sistema gera uma saída, os usuários podem fornecer instruções de follow-up ou enfileirar tarefas usando um iPhone.

Staff observou que, embora um sistema totalmente baseado em nuvem possa produzir saídas melhores em termos de criação raw de artefatos, alguns usuários priorizam a privacidade de dados e o custo. O Hybrid Compute permite que os usuários decidam onde estão na escala entre esses fatores, dependendo do tipo de trabalho que desejam realizar.

Atualmente, o Hybrid Compute está disponível apenas em Macs Apple Silicon que executam macOS 15, com um mínimo recomendado de 32GB de memória unificada. A funcionalidade está acessível a assinantes Pro e Max, bem como a clientes empresariais.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.