Cisco e IBM se preparan para integrar Claude Mythos de Anthropic en sus productos de seguridad, un movimiento que pondría uno de los modelos más celosamente custodiados de la compañía frente a clientes corporativos seleccionados. Cisco anunció el plan en su evento Cisco Live en Melbourne. IBM dijo el lunes que tiene la intención de seguir el mismo camino.

¿Qué es el red teaming en la herramienta AI Defense de Cisco?

Cisco añadirá Mythos a AI Defense, una herramienta que ataca los propios sistemas de IA de las empresas para encontrar debilidades antes de que lo hagan los criminales. Esta práctica se conoce como red teaming. En su función, Mythos planeará pruebas y generará ideas de ataque contra aplicaciones y agentes de IA. Investigadores de Cisco ya lo usaron en julio para llevar a 15 chatbots más allá de sus barreras de protección.

¿Qué restricciones se aplican a Claude Mythos en las herramientas de Cisco?

La compañía ha incorporado varias restricciones. Los clientes no pueden escribir instrucciones directamente en Mythos. El modelo solo trabaja en una tarea fija y únicamente contra sistemas que el cliente posee y ha registrado para pruebas. Cada prueba está vinculada a una persona identificada, queda registrada para auditoría y puede detenerse en cualquier momento. Mythos no puede escanear la internet en general, indicó Cisco en una entrada de blog.

Mythos llegará primero a clientes empresariales seleccionados, y Cisco no ha fijado una fecha para su disponibilidad más amplia. Michael Moore, responsable de ciberseguridad de Anthropic, dijo que la demanda proviene de empresas que están integrando agentes de IA en sus operaciones centrales.

“Las empresas están integrando cada vez más agentes de IA en sus operaciones centrales y quieren probar esos agentes a fondo antes de ponerlos en producción”, dijo Moore.

¿Cómo planea IBM usar Claude Mythos en Concert Protect?

El plan de IBM sigue otra línea. La compañía quiere añadir Mythos a Concert Protect para que los clientes puedan escanear su propio código en busca de fallas que nadie ha encontrado aún, incluidas aquellas que los escáneres estándar no detectan. Concert Protect luego verificaría si los hackers realmente podrían explotar cada falla en los sistemas de ese cliente. Las herramientas de IBM y Red Hat redactarían las correcciones, pero los desarrolladores tendrían que revisarlas y aprobarlas antes de implementarlas.

IBM advirtió que sus planes podrían cambiar. La compañía no depende de un solo laboratorio de IA. En junio, se unió al programa cibernético de OpenAI para ofrecer un servicio similar.

IBM planteó el problema en términos de lo que ocurre después de que se encuentra una falla. “El cuello de botella ya no es encontrar vulnerabilidades. Es determinar cuáles pueden explotarse realmente y corregirlas antes de que los atacantes lo hagan”, escribió la compañía.

Esa brecha es amplia. Project Glasswing, el programa restringido de Mythos de Anthropic, marcó más de 10.000 posibles fallas graves en su primer mes. Para entonces, solo 97 habían sido parchadas. IBM dijo que su trabajo previo con Mythos a través de Glasswing fue investigación interna, y que el plan de Concert Protect es su primer paso hacia la venta de esta capacidad a clientes.

Ambos movimientos encajan con la estrategia de Anthropic de ubicar Mythos dentro de los productos de sus socios, en lugar de lanzar el modelo por sí solo. Los usuarios de esos productos recibirían hallazgos y correcciones sin tener contacto alguno con el modelo subyacente.

El acceso sigue muy controlado. Anthropic desactivó brevemente Mythos en junio para cumplir con los controles de exportación de Estados Unidos, y la Casa Blanca, según se informa, decide ahora quién se une a su lista de socios. Anthropic lanzó Mythos 5.2 el lunes, pero sigue disponible únicamente para organizaciones verificadas.

La seguridad no fue la única noticia de IA de Cisco. La compañía también actualizó sus herramientas Splunk, que rastrean cuánto cuestan los agentes de IA y evalúan la calidad de su trabajo. Una herramienta de costos llamada Tokenomics entrará en vista previa privada en diciembre.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.