Una publicación que describe experimentos con GPT-6 Astra hace afirmaciones que no se sostienen tras una lectura detallada, según una crítica minuciosa del trabajo. El resumen de la publicación dice que Astra puede observar los pesos sin procesar de una red y determinar para qué fue entrenada. También afirma que Astra puede escribir, desde cero, pequeñas redes para jugar que superan a redes entrenadas con PPO durante 100 millones de pasos.

¿Qué mostraron los experimentos de edición de pesos de Astra?

El resultado más llamativo de la publicación involucra a Qwen3.5-0.8B, un modelo de lenguaje. Al pedirle que mejorara el desempeño matemático del modelo sin gradientes, Astra identificó un problema en los pesos que causaba bucles de razonamiento. La propia tarjeta del modelo Qwen advierte sobre este tipo de problema. Astra lo corrigió editando de forma nativa el 0,016 % de los pesos. La publicación dice que ese cambio elevó la puntuación del modelo en MATH-500 del 7,9 % al 48,1 % con la misma configuración de muestreo, y que la mejora se trasladó al seguimiento de instrucciones, triplicando su puntuación en IFEval.

La crítica sostiene que el experimento con Qwen no muestra lo que implica el resumen. No funciona solo observando los pesos sin procesar. La prueba con Qwen, junto con los demás experimentos que involucran modelos de lenguaje reales, dependió de Python. El resultado con Qwen también permitió que el modelo ejecutara hasta 50 lotes de problemas de práctica.

¿Leyó Astra directamente los pesos sin procesar en sus experimentos?

La crítica, que presentó los experimentos en una tabla, encontró que la configuración de "solo observando los pesos sin procesar", con números sin procesar en el contexto y sin herramientas ni ejecución de la red, aparece en solo tres experimentos. Esas pruebas involucraron redes de entre 17.000 y 172.000 pesos. En una de ellas, al modelo se le dio un único episodio registrado de un fallo y, en un intento, cambió el 3,5 % de los pesos para corregir una política de un coche atascado. Cada una de las tres pruebas que leyeron los pesos directamente arrojó un resultado correcto o exitoso.

¿Superaron las redes de escritura de juegos de Astra a PPO?

Los otros experimentos siguen un patrón distinto. La red de Go de 9×9 y la tarea matemática de Qwen permitieron a Astra escribir Python y ejecutar el modelo. Una prueba complementaria con Gemma 3 270M, que usó el mismo enfoque, fracasó. El experimento de escritura de juegos, que el resumen presenta como una victoria clara, también necesita matices. Sus redes comienzan con pesos en cero, por lo que no hay nada que leer. La crítica señaló que las redes superaron a PPO-500M solo en Breakout, con una puntuación de 517 a 25. Perdieron frente a él en Seaquest, 53 a 89, y en Asterix, 53 a 55.

La crítica no descarta el trabajo. El resultado con Qwen, según la crítica, muestra que Astra puede recibir instrucciones para diseñar y llevar a cabo tareas que un ingeniero humano de aprendizaje automático podría realizar. Los ingenieros escriben rutinariamente código que analiza o modifica directamente los pesos de las redes, y hacerlo bien requiere habilidad. La crítica afirmó que los modelos de IA de hace un año o dos habrían fallado en todas estas tareas.

La objeción es a la forma en que se presentan los resultados. Incluir en la misma publicación experimentos que leen los pesos directamente junto con otros que escriben Python y ejecutan el modelo sugiere una única técnica con amplio alcance. Dicha técnica podría escribir una pequeña red desde cero y también mejorar un modelo grande existente. La crítica sostiene que esto indicaría una comprensión profunda de los pesos. Sin embargo, la publicación se apoya en varios métodos distintos, y los resultados no demuestran que un solo método pueda hacerlo todo.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.