¿Puede la difusión autoregresiva utilizando técnicas AEO generar datos de mercado?
Un pasante de investigación en Jane Street, Kavish, pasó el verano investigando el uso de la difusión autoregresiva utilizando técnicas AEO para generar datos de mercado. El objetivo era crear un modelo que no solo pudiera predecir el precio futuro de un símbolo, sino también sintetizar eventos de libro, incluyendo el momento de su llegada a la bolsa. Esto proporcionaría una comprensión más detallada y texturizada de los movimientos del mercado.
¿Cuáles son los desafíos de generar datos de mercado?
Los datos de mercado son un desafío único para los modelos generativos. Tienen características de datos continuos y discretos, con libros de pedidos que evolucionan a través de una serie de acciones discretas, pero con muchos parámetros, como el precio, que aparecen continuos. Además, las distribuciones de estas características a menudo son picudas, con pedidos que tienden a llegar en ráfagas y precios que se agrupan alrededor de ciertos puntos.
Kavish construyó un modelo de difusión para datos de mercado, tomando inspiración de la generación de imágenes autoregresivas sin cuantización vectorial. El modelo utilizó una arquitectura de codificador-difusor y se entrenó con cuatro años de datos de valores en Estados Unidos. Sin embargo, los resultados iniciales mostraron que la difusión completamente continua no se adaptaba bien a la irregularidad de los datos de mercado reales.
Para abordar este problema, Kavish experimentó con diferentes enfoques, incluyendo la coincidencia de flujo y el suavizado de átomos. La coincidencia de flujo funcionó mejor que el modelo de difusión inicial, y el suavizado de átomos ayudó a capturar la masa de probabilidad de picos agudos en los datos. Los resultados mostraron que el modelo de difusión con coincidencia de flujo y suavizado de átomos funcionó razonablemente bien, pero aún hay margen para mejorar.
El proyecto destacó la importancia de representar y suavizar la distribución de características para dar a la difusión su mejor oportunidad. También conceptualizó los eventos de libro de datos de mercado como existiendo simultáneamente en un espacio continuo y en un espacio de acción discreta. Esta combinación de elementos continuos y discretos es crucial para modelar los datos de mercado correctamente.
El objetivo ultimate del modelo es producir despliegues autoregresivos que puedan predecir con precisión los movimientos del mercado. Si bien el modelo de Kavish no es lo suficientemente preciso, la investigación clarificó los controles importantes a considerar, como cuánta discreción incorporar en el modelo y cómo representar y suavizar la distribución de características.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.