OpenAI anunció un servicio de seguridad centrado en la privacidad llamado Procesamiento de Seguridad Privada, dirigido a clientes empresariales que exigen una confidencialidad de datos estricta. El sistema monitorea automáticamente las entradas y salidas en varias conversaciones para detectar patrones de mal uso, como intentos de ingeniería de malware, sin retener ninguno de los datos subyacentes.
Cuando el agente automatizado detecta actividad que coincide con firmas de abuso predefinidas, genera una señalizada estrechamente definida. OpenAI puede decidir entonces si es necesaria la aplicación, contactando al cliente para obtener contexto si es necesario. El cliente mantiene el control total sobre si compartir datos adicionales durante el seguimiento.
Cómo el nuevo sistema difiere de los enfoques existentes
OpenAI ya ofrece Retención de Datos Cero (RDC), que vigila cada sesión en tiempo real pero no almacena el contenido. Procesamiento de Seguridad Privada extiende RDC correlacionando el comportamiento en varias sesiones, lo que permite a la empresa detectar campañas maliciosas que distribuyen solicitudes con el tiempo. A diferencia de la política de Anthropic que mantiene los datos de los usuarios durante 30 días en "modelos cubiertos", el nuevo servicio de OpenAI promete no almacenar datos en absoluto.
El enfoque de Anthropic incluye una ruta de acceso controlada para revisores humanos, que examinan los datos almacenados bajo un registro a prueba de manipulaciones. El modelo de OpenAI se basa únicamente en el análisis automatizado, eliminando la necesidad de que los ojos humanos vean las conversaciones raw de los usuarios.
El telón de fondo competitivo es feroz. Un informe reciente mostró que el crecimiento del segundo trimestre de OpenAI se quedó atrás del de Anthropic, cuya tasa de ingresos anualizada es de $65 mil millones. Los inversores ven a Anthropic como un candidato potencial a una oferta pública inicial (OPI) de $2 billones, mientras que OpenAI también se prepara para una oferta pública. Al fortalecer sus salvaguardias de privacidad, OpenAI espera ganar a las empresas que temen la exposición de datos y diferenciarse en la carrera por la participación de mercado.
Los observadores de la industria señalan que la capacidad de monitorear el abuso sin retención de datos podría convertirse en un punto de venta para los proveedores de inteligencia artificial a medida que se endurecen las regulaciones y los gerentes de riesgos corporativos exigen salvaguardias más sólidas. Un portavoz de OpenAI le dijo a TechCrunch que la tecnología puede detectar el uso malicioso que de otro modo evadiría la detección al distribuir solicitudes en varias sesiones.
Para los clientes, el nuevo servicio significa que pueden seguir aprovechando modelos de lenguaje potentes mientras mantienen el cumplimiento de las políticas internas de manejo de datos. Si OpenAI determina que se requiere aplicación, se pondrá en contacto con el cliente, quien puede elegir proporcionar información adicional a su discreción.
Aunque la implementación actual está limitada a clientes seleccionados, el anuncio señala un cambio más amplio hacia mecanismos de seguridad de privacidad en primer lugar en la industria de la inteligencia artificial.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.