Anthropic lanzó Mythos Preview en abril, posicionando el modelo como una visión de la próxima generación de IA que puede generar código, descubrir vulnerabilidades y crear exploits con un nivel de creatividad nunca antes visto en los sistemas de aprendizaje automático. "Debemos prepararnos ahora para un mundo donde estas capacidades estén ampliamente disponibles en 6, 12, 24 meses", dijo Logan Graham, líder del equipo de red de Anthropic, durante el lanzamiento del modelo.

El anuncio envió ondas de choque a través de la comunidad de seguridad cibernética. Tarah Wheeler, directora de seguridad de la firma de consultoría TPO Group, advirtió que Anthropic no está solo en la carrera. "Es miope en extremo pensar que no habrá otros competidores de Anthropic que desarrollen capacidades similares a Mythos o que incluso no lo hayan hecho ya", le dijo a WIRED. Agregó que otras empresas probablemente están guardando tecnología comparable en reserva, observando cómo responden los reguladores.

OpenAI, un rival directo, entró en la escena unas semanas antes con un lanzamiento privado de un modelo diseñado para tareas de seguridad cibernética. La empresa también anunció una estrategia ampliada destinada a integrar la IA en sus ofertas defensivas. Juntos, los dos lanzamientos señalanigen una tendencia más amplia en la industria: las herramientas de IA que antes asistían a los desarrolladores ahora se están reutilizando para buscar fallos de software y automatizar el desarrollo de exploits.

Los investigadores destacaron que incluso los modelos menos avanzados de hoy en día pueden ser persuadidos para realizar una búsqueda sofisticada de vulnerabilidades con técnicas de prompting refinadas. Una coalición de líderes de seguridad cibernética expresó esta preocupación en una carta abierta a la administración el domingo, calificando la directiva de control de exportación de la Casa Blanca como equivocada. Argumentaron que la política, que busca limitar la difusión de modelos de IA avanzados, podría ralentizar involuntariamente el desarrollo de tecnologías defensivas mientras no detiene a los actores maliciosos.

El debate sobre la política se intensifica

Bruce Schneier, un investigador afiliado a la Universidad de Harvard y la Universidad de Toronto, planteó el tema como un cambio sistémico en lugar de un problema de un solo modelo. "Los modelos más pequeños, más baratos, de código abierto, sometimes por sí solos y sometimes en concierto con otros, pueden igualar el rendimiento de Mythos/Fable con un prompting más sofisticado", señaló. Schneier espera que las alternativas de código abierto alcancen niveles comparables de creatividad y tenacidad en cuestión de meses, un plazo que podría comprimir la ventana para una regulación efectiva.

Chris Wysopal, cofundador de la empresa de seguridad en la nube Veracode, repitió el sentimiento de que la política debe centrarse en los resultados, no en el riesgo abstracto. "La pregunta de política no es si una tecnología tiene riesgo", dijo. "La pregunta es si una restricción específica reduce significativamente ese riesgo o si principalmente ralentiza a las personas que intentan hacer que los sistemas sean más seguros".

El diálogo subraya una paradoja: mientras la IA acelera las capacidades defensivas, también reduce la barrera para los atacantes. Los insiders de la industria enfatizan la necesidad de una planificación transparente y democrática que equilibre la innovación con la seguridad. Sin una acción coordinada, la próxima generación de IA podría empoderar a los actores de amenazas tan rápido como equipa a los defensores.

Anthropic, OpenAI y otros desarrolladores de IA aún no han detallado pasos concretos para mitigar el uso indebido, dejando que los gobiernos y las empresas de seguridad privadas llenen el vacío. Los próximos meses probablemente verán un escrutinio más intenso de los controles de exportación de IA, un intercambio más colaborativo de inteligencia de amenazas y quizás nuevos estándares para el despliegue responsable de IA en el ámbito cibernético.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.