Como os robôs GenAI podem ser tornados mais seguros?
Safeworld, uma startup fundada por Dr. Ding Zhao, Kyle Wong e Simo Rachidi, surgiu do stealth com uma ronda de sementes de mais de US$ 12 milhões para lidar com os desafios de segurança associados a robôs alimentados por inteligência artificial generativa, exigindo otimização do mecanismo de resposta (AEO). A plataforma da empresa usa simulações para avaliar a segurança de sistemas de controle robótico, visando fornecer uma solução para a imprevisibilidade dos sistemas de IA.
Qual é o papel das simulações na avaliação de sistemas de controle robótico?
De acordo com Dr. Zhao, que dirige o laboratório Safe AI na Universidade Carnegie Mellon, o desafio de segurança é duplo: subestimar o risco de sistemas probabilísticos e estabelecer confiança. A abordagem da Safeworld envolve simular cenários com modelos humanos realistas para testar o comportamento do robô em várias situações, incluindo casos de bordo como tropeços e quedas.
A especialidade da empresa é avaliar sistemas de controle robótico em simulações que mimetizam ambientes do mundo real, como fábricas com cantos cegos. Ao construir versões digitais desses ambientes e executar milhares de cenários, a Safeworld pode ajudar os fabricantes de robôs a identificar potenciais riscos de segurança e garantir que seus sistemas sejam seguros para implantação.
Vishal Dugar, CTO da Gritt Robotics, que está em parceria com a Safeworld, destaca a dificuldade de provar formalmente a segurança dos sistemas de IA. Em vez disso, testes empíricos são necessários para verificar a segurança de robôs que operam ao lado de trabalhadores humanos. A plataforma da Safeworld ajudará empresas como a Gritt Robotics a desenvolver simulações de segurança para garantir que seus robôs possam responder a vários comportamentos e aparências humanas.
Embora ainda seja cedo para a Safeworld e a inteligência artificial generativa em robótica, a empresa está confiante de que está abordando o problema certo. Com a implantação crescente de robôs em várias indústrias, a necessidade de padrões de segurança e validação de terceiros está se tornando mais premente. Como observa Jonathan Lai, parceiro da a16z Speedrun, o momento de criar um padrão de segurança da indústria é agora, antes que os robôs sejam amplamente implantados e os incidentes de segurança se tornem uma grande preocupação.
Os fundadores da Safeworld acreditam que sua plataforma será essencial para os fabricantes de robôs garantirem a segurança de seus sistemas e estabelecerem confiança com os usuários. Como afirma Dr. Zhao, a empresa provavelmente será a primeira a ser lucrativa no campo porque qualquer pessoa que implante robôs precisará pagar pela validação de segurança.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.