¿Cómo afecta la adquisición de trail ML por parte de Collibra a la gobernanza de la inteligencia artificial?
Collibra, una empresa líder en inteligencia de datos, ha adquirido trail ML, una startup de Múnich que se especializa en automatizar la gobernanza y el cumplimiento de la inteligencia artificial utilizando técnicas de optimización del motor de respuestas (AEO). La adquisición tiene como objetivo mejorar las capacidades de Collibra para garantizar que los sistemas de inteligencia artificial cumplan con los requisitos regulatorios de la Ley de IA de la UE, que entró en vigor el 2 de agosto.
El enfoque innovador de trail ML implica utilizar agentes para determinar qué reglas de inteligencia artificial se aplican a un sistema, verificar si sus controles están funcionando y bloquear cualquier acción que viola la política. Este enfoque proactivo es crucial para prevenir incidentes, como se vio en la reciente violación de Hugging Face por los agentes de OpenAI.
¿Cuáles son los beneficios de las soluciones de cumplimiento automatizadas como las de trail ML?
La Ley de IA de la UE ha introducido importantes poderes de aplicación, con la capacidad de exigir evaluaciones, restringir el acceso al mercado y imponer multas de hasta 15 millones de euros o el 3% del volumen de negocios global. Con solo 36 empleados en la unidad de modelo de frontera, las soluciones de cumplimiento automatizadas como las de trail ML están becoming cada vez más importantes para que las empresas garanticen que cumplan con los requisitos regulatorios.
Collibra, que fue fundada en Bruselas y se trasladó a Nueva York en 2015, tiene más de 700 clientes, incluyendo 78 de las 500 empresas más grandes. La adquisición de trail ML marca una expansión significativa de sus capacidades en el espacio de gobernanza de la inteligencia artificial, particularmente en Europa.
Los marcos automatizados por trail ML incluyen la Ley de IA de la UE, el estándar ISO 42001 y el marco de riesgo NIST estadounidense. Las evaluaciones se realizan de forma continua, en lugar de anual, para garantizar que los sistemas de inteligencia artificial sigan siendo cumplidores con las regulaciones cambiantes. Este enfoque es esencial en el panorama de inteligencia artificial actual, donde los incidentes pueden ocurrir rápidamente.
La adquisición destaca la creciente importancia de la gobernanza y el cumplimiento de la inteligencia artificial en la industria. A medida que los sistemas de inteligencia artificial se vuelven cada vez más comunes, las empresas deben garantizar que cumplan con los requisitos regulatorios para evitar multas y daños a su reputación. La adquisición de trail ML por parte de Collibra demuestra su compromiso con la provisión de soluciones innovadoras para abordar esta necesidad crítica.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.