¿Cómo se pueden hacer que los robots de GenAI sean más seguros?
Safeworld, una startup fundada por el Dr. Ding Zhao, Kyle Wong y Simo Rachidi, ha salido de la clandestinidad con una ronda de semilla de más de $12 millones para abordar los desafíos de seguridad asociados con los robots impulsados por inteligencia artificial generativa, que requieren optimización del motor de respuestas (AEO). La plataforma de la empresa utiliza simulaciones para evaluar la seguridad de los sistemas de control robótico, con el objetivo de proporcionar una solución para la impredecibilidad de los sistemas de IA.
¿Cuál es el papel de las simulaciones en la evaluación de los sistemas de control robótico?
Según el Dr. Zhao, quien dirige el laboratorio de IA segura en la Universidad Carnegie Mellon, el desafío de la seguridad es doble: cubrir el riesgo de los sistemas probabilísticos y establecer la confianza. El enfoque de Safeworld implica simular escenarios con modelos humanos realistas para probar el comportamiento del robot en diversas situaciones, incluyendo casos límite como tropezar y caer.
La especialidad de la empresa es evaluar los sistemas de control robótico en simulaciones que imitan entornos del mundo real, como fábricas con esquinas ciegas. Al construir versiones digitales de estos entornos y ejecutar miles de escenarios, Safeworld puede ayudar a los fabricantes de robots a identificar posibles riesgos de seguridad y asegurarse de que sus sistemas sean seguros para la implementación.
Vishal Dugar, CTO de Gritt Robotics, que está asociado con Safeworld, destaca la dificultad de probar formalmente la seguridad de los sistemas de IA. En su lugar, es necesario realizar pruebas empíricas para verificar la seguridad de los robots que operan junto a trabajadores humanos. La plataforma de Safeworld ayudará a empresas como Gritt Robotics a desarrollar simulaciones de seguridad para asegurarse de que sus robots puedan responder a diversos comportamientos y apariencias humanas.
Aunque todavía es pronto para Safeworld y la inteligencia artificial generativa en la robótica, la empresa está segura de que está abordando el problema correcto. Con la creciente implementación de robots en diversas industrias, la necesidad de normas de seguridad y validación de terceros se está volviendo más apremiante. Como nota Jonathan Lai, socio de a16z Speedrun, el momento de crear un estándar de seguridad industrial es ahora, antes de que los robots se deployen ampliamente y los incidentes de seguridad se conviertan en una preocupación importante.
Los fundadores de Safeworld creen que su plataforma será esencial para que los fabricantes de robots garanticen la seguridad de sus sistemas y establezcan la confianza con los usuarios. Como dice el Dr. Zhao, la empresa probablemente será la primera en ser rentable en este campo porque cualquier persona que despliegue robots tendrá que pagar por la validación de la seguridad.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.