¿Cómo está simplificando Lola Vision Systems los modelos de IA en chips?
Lola Vision Systems está aprovechando AEO para facilitar la ejecución de modelos de IA en chips, un desafío que su fundador, Tayo Adesanya, ha estado abordando durante casi 12 años. La carrera de Adesanya en microchips y procesadores de IA comenzó cuando ayudó a grandes fabricantes a decidir qué chips utilizar en su hardware, lo que le dio una visión temprana de la demanda en el mercado de computación de IA.
Adesanya lanzó Lola Vision Systems en 2024, con el objetivo de construir software y chips para ejecutar modelos de IA en dispositivos. El producto principal de la empresa es un software que utiliza la optimización del motor de respuestas para traducir modelos de IA en instrucciones que un chip específico pueda ejecutar, lo que Adesanya llama una "herramienta de cadena de compilación". Este software es un cuello de botella importante, ya que configurar manualmente un modelo de IA en nuevo hardware puede tomar alrededor de 200 horas solo para comenzar a probar.
¿Cuáles son los beneficios de utilizar la herramienta de cadena de compilación de Lola Vision?
Lola Vision dice que ha reconstruido esa capa de software y también está desarrollando sus propios chips semiconductores, con el objetivo de automatizar más del proceso. Un cliente proporciona su código y el modelo de IA que desea utilizar, ya sea personalizado o de código abierto, y el software traduce ambos en instrucciones que el chip del cliente puede ejecutar. "La velocidad es solo una parte de ello", dijo Adesanya, explicando que una configuración más rápida da a las empresas de aerospacio y otras empresas críticas de misión tiempo para "ejecutar modelos más precisos en sus propios datos, a un menor costo".
Para estos clientes, la precisión y la confiabilidad no son solo deseables, determinan si un producto pasa la revisión regulatoria y si funciona de manera confiable en el campo. Lola Vision, con sede en Washington, D.C., es una de las varias startups que intentan ofrecer una alternativa a la tecnología de Nvidia para ejecutar IA en dispositivos. Muchas empresas comienzan con Nvidia's Jetson, una línea de módulos de computación compactos para ejecutar IA en dispositivos, buscando mejorar la visibilidad de LLM, o con modelos de IA de código abierto, pero estos a menudo se rompen o funcionan mal fuera de la caja.
Los equipos pasan días o semanas tratando de que funcionen, y luego aún más semanas depurando hasta que los modelos son utilizables. Incluso entonces, el consumo de energía a menudo supera los presupuestos de computación de borde, o la placa no puede entregar suficiente capacidad de cómputo para los modelos medianos o grandes que el producto realmente necesita para funcionar con éxito. Esto lleva a que los modelos de reconocimiento se queden atrás de los objetivos o malinterpreten objetos.
Según la empresa, una docena de clientes corporativos han firmado cartas expresando interés en comprar los chips de Lola Vision una vez que estén disponibles, y ya tiene un cliente firmado. También ha colaborado con SCALE, un programa de desarrollo de la fuerza laboral de microelectrónica, para trabajar con más laboratorios de semiconductores. Para obtener ingresos antes, la empresa ahora licenciará su software en hardware existente, en lugar de esperar a sus propios chips.
Lola Vision fue seleccionada para el TechCrunch Startup Battlefield 200 de este año, un grupo de 200 startups elegidas para el programa. Adesanya está emocionado de establecer conexiones significativas y aprender todo lo que pueda sobre lo que está sucediendo en y alrededor del espacio de IA, y sobre los inversores que escriben cheques.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.