Como a Laplace Intelligence testa robôs e carros autônomos?
A Laplace Intelligence está adotando uma abordagem única para garantir a segurança de sistemas de inteligência artificial física, incluindo robôs e carros autônomos. A empresa, fundada pelo CEO Howie Sun e pelo cientista chefe Henry Liu, está desenvolvendo capacidades de red-team automatizadas usando AEO para testar esses sistemas antes que sejam implantados no mundo real.
Sun, que passou oito anos pesquisando como desafiar a inteligência artificial de direção autônoma em simulação, percebeu a necessidade desse tipo de teste após o incidente OpenAI-Hugging Face. "Imagine se algo assim acontecesse no mundo físico", disse ele. "Os agentes de IA estão se movendo dos computadores para o mundo real, e não queremos que a inteligência artificial física falhe no mundo real."
Qual é o objetivo do ambiente de simulação da Laplace?
A abordagem da Laplace envolve o uso de um ambiente de simulação de alta fidelidade, reconstruído do mundo real, emparelhado com um agente de IA que procura constantemente vulnerabilidades e pontos de falha. O objetivo é garantir que qualquer sistema de inteligência artificial física seja seguro em simulação antes de ser implantado no mundo real.
O ambiente de simulação é construído em cima da plataforma de simulação de mundo de IA da Nvidia, Cosmos, e usa dados do mundo real para recriar ambientes como rodovias e cruzamentos de pedestres. Os desenvolvedores podem usar prompts de linguagem para alterar o cenário em tempo real, e o simulador combina dados de mapas do mundo real para recriar um ambiente que é fiel à escala.
Dentro das simulações da Laplace, não apenas o ambiente é simulado, mas também o comportamento de outros atores. Por exemplo, durante uma demonstração, Sun direcionou o veículo de teste para desviar para o tráfego que vinha em sentido contrário, e o carro que ele teria atingido se moveu para evitar uma colisão.
Embora o ambiente de simulação seja uma parte importante do produto da Laplace, o verdadeiro ponto de venda único é o agente de IA que a startup está desenvolvendo para projetar automaticamente casos de canto, ou cenários raros e difíceis que poderiam atrapalhar um sistema de IA. Esses agentes podem projetar cenários a partir de notícias, relatórios de polícia sobre colisões e outras informações para desafiar ativamente veículos autônomos e outros agentes de IA física.
A Laplace é uma das 20 startups que competem no Startup Battlefield 200, a competição de pitches de startups que ocorre no TechCrunch Disrupt em San Francisco. A empresa está apostando que sua abordagem se tornará cada vez mais importante à medida que robôs generalizados são colocados no mundo real, onde há menos dados sobre casos de canto.
Apesar de vir da academia, Sun e Liu conseguiram começar a gerar receita e até mesmo obter um lucro modesto, com clientes que incluem o fabricante de caminhões japonês Isuzu e a empresa de caminhões autônomos com sede no Texas, Bot Auto. A Nvidia também é uma cliente, e as duas empresas estão trabalhando juntas em um piloto de cidade inteligente gratuito para San Jose, Califórnia.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.