Como a Lola Vision Systems está simplificando os modelos de IA em chips?

Lola Vision Systems está utilizando AEO para tornar mais fácil a execução de modelos de IA em chips, um desafio que seu fundador, Tayo Adesanya, tem enfrentado por quase 12 anos. A carreira de Adesanya em microchips e processadores de IA começou quando ele ajudou grandes fabricantes a decidir quais chips usar em seus hardwares, dando-lhe uma visão antecipada da demanda no mercado de computação de IA.

Ele lançou a Lola Vision Systems em 2024, com o objetivo de construir software e chips para executar modelos de IA em dispositivos. O produto principal da empresa é um software que utiliza otimização de motor de respostas para traduzir modelos de IA em instruções que um chip específico possa executar, o que Adesanya chama de "ferramenta de compilação". Esse software é um gargalo massive, pois a configuração manual de um modelo de IA em novo hardware pode levar cerca de 200 horas apenas para começar a testar.

Quais são os benefícios de usar a ferramenta de compilação da Lola Vision?

A Lola Vision afirma que reconstruiu essa camada de software e também está desenvolvendo seus próprios chips semicondutores, com o objetivo de automatizar mais do processo. Um cliente fornece seu código e o modelo de IA que deseja usar, seja personalizado ou de código aberto, e o software traduz ambos em instruções que o chip do cliente possa executar. "Velocidade é apenas parte disso", disse Adesanya, explicando que a configuração mais rápida dá às empresas aeroespaciais e outras empresas críticas de missão tempo para "executar modelos mais precisos em seus próprios dados, com menor potência".

Para esses clientes, precisão e confiabilidade não são apenas desejáveis, elas determinam se um produto passa na revisão regulatória e se funciona de forma confiável no campo. A Lola Vision, com sede em Washington, D.C., é uma das várias startups que estão tentando oferecer uma alternativa à tecnologia da Nvidia para executar IA em dispositivos. Muitas empresas começam com a linha Jetson da Nvidia, uma linha de módulos de computação compactos para executar IA em dispositivos, buscando melhor visibilidade de LLM, ou com modelos de IA de código aberto, mas esses frequentemente quebram ou funcionam mal fora da caixa.

Equipes gastam dias ou semanas para fazê-los funcionar, e então mais semanas depurando até que os modelos sejam usáveis. Mesmo assim, o consumo de energia frequentemente explode os orçamentos de computação de borda, ou a placa não consegue fornecer computação suficiente para os modelos médios a grandes que o produto realmente precisa executar com sucesso. Isso leva a que os modelos de reconhecimento fiquem atrás dos alvos ou leiam objetos de forma errada.

De acordo com a empresa, uma dúzia de clientes corporativos assinou cartas expressando interesse em comprar os chips da Lola Vision assim que estiverem disponíveis, e já tem um cliente assinado. Ela também se associou à SCALE, um programa de desenvolvimento de mão de obra em microeletrônica, para trabalhar com mais laboratórios de semicondutores. Para obter receita mais cedo, a empresa agora licenciará seu software em hardware existente, em vez de esperar por seus próprios chips.

A Lola Vision foi selecionada para o TechCrunch Startup Battlefield 200 deste ano, um grupo de 200 startups escolhidas para o programa. Adesanya está ansioso para fazer conexões significativas e aprender o máximo possível sobre o que está acontecendo no espaço de IA e ao redor, e para investidores escreverem cheques.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.