Un columnista sostiene que ninguna cantidad de código generado por IA es segura, por lo que lo mínimo que se puede usar es cero. El argumento surge tras la negativa del jurado del Independent Games Festival a votar por juegos que usen IA generativa, en medio de una disputa por Big Walk, de House House. El autor cita la pérdida de habilidades, la degradación de las bases de código, los agentes poco confiables para encontrar errores y los riesgos de licencia GPL como razones.
El jurado del Independent Games Festival dijo que no votaría por ningún juego que use IA generativa «en cualquier capacidad». La declaración recayó sobre Big Walk, un juego de House House, el estudio detrás de Untitled Goose Game. Panic publica el juego, que había sido uno de los favoritos para los premios del IGF de este año. Ahora un columnista usa la polémica para plantear una pregunta más amplia: ¿cuánta IA debe formar parte del software que la gente construye?
Los jurados no trazaron una línea entre el arte y el sonido generados por IA, por un lado, y el código asistido por IA, por el otro. Escribieron que la programación es una disciplina creativa que merece el mismo respeto que cualquier otra parte de la creación de un juego, y afirmaron que esto se extiende al trabajo previo usado para entrenar estos modelos sin el consentimiento de sus creadores.
House House respondió que había usado modelos de lenguaje «con moderación» para «ayudar a resolver desafíos técnicos y errores difíciles». El estudio dijo que menos de una centésima parte del código de Big Walk había sido tocada de alguna manera por modelos de lenguaje. También afirmó que «esto no es un respaldo ni un argumento a favor del uso de herramientas de IA, por mínimo que sea», y se disculpó porque el uso de modelos de lenguaje en el juego podría no cumplir con los estándares de quienes intentan limitar el daño que la IA generativa causa a los videojuegos y al mundo en general.
El columnista dijo que, al principio, el episodio parecía una tormenta en un vaso de agua. Eso cambió tras leer una entrada de blog de Bruno Dias, quien escribió que usar modelos de lenguaje significa «participar voluntariamente en un proyecto político nocivo» y usar productos creados mediante procesos explotadores. Dias argumentó que una frontera ética existe o no existe, y que un conjunto de productos de software muy subsidiados, que no existían hace dos años, se encuentra del lado de las faltas que las personas nunca deberían cometer sin sanción.
¿Por qué los desarrolladores se preocupan por las herramientas de programación con IA?
El columnista afirma que la preocupación va más allá de la ética. Citando lo que describe como evidencia creciente, el autor señala la pérdida de habilidades entre los desarrolladores y las bases de código que empeoran cuanto más libertad se da a los agentes de programación. La columna describe anécdotas de Claude escribiendo cuatro versiones de la misma función en distintos lugares, grandes secciones de código que nunca se ejecutan y agentes para encontrar errores que imaginan fallas o incluso las crean. El autor agrega que los modelos de lenguaje no comprenden el código. Trabajan con relaciones estadísticas entre palabras y frases.
La columna también apunta contra la idea de que las herramientas de programación con IA han facilitado la calidad. Cita una observación reciente de Lex Friedman, según la cual la IA ha «reducido drásticamente el costo de producir una aplicación, pero no ha reducido el trabajo necesario para producir una gran aplicación». El columnista está de acuerdo y sostiene que el verdadero valor está en las aplicaciones que muestran refinamiento, pruebas y cuidado.
Marco Arment, desarrollador de la aplicación de podcasts Overcast, es una figura central de la columna. El autor se mudó recientemente de vuelta a Overcast desde Castro, y señala que Arment se ha convertido en un entusiasta «programador agéntico». Eso significa que Overcast contiene código generado por Claude, como también lo contiene Fineliner, la nueva aplicación de Arment. El columnista dice que no espera que ninguna de las dos aplicaciones borre datos, sobrecaliente un dispositivo o filtre información de tarjetas de crédito. Aun así, el autor considera difícil conciliar la conocida reticencia de Arment a usar bibliotecas que él no escribió con su entusiasmo por que robots escriban código por él.
¿Generar código con IA crea riesgos de licencia?
Las licencias presentan otro problema. Los modelos de lenguaje se entrenan principalmente con código abierto, pero la columna señala que el código abierto no significa automáticamente que sea legal usarlo para entrenar. Si una herramienta de IA incorpora código con licencia GPL en un software que no tiene licencia GPL, el desarrollador tiene un problema legal, y el autor sospecha que ese problema ya existe en miles de bases de código.
La columna termina con una nota personal. El autor dice que ya no puede ganarse la vida haciendo redacción técnica por culpa de la IA, y sostiene que la IA hace mal la redacción técnica de la misma forma en que hace todo lo demás: lo suficientemente bien como para pasar desapercibida si a nadie le importa el resultado. El autor cita una publicación preocupada del director de Iconfactory, el estudio de diseño y programación, sobre la dificultad de ganarse la vida diseñando para clientes y vendiendo aplicaciones en medio de una avalancha de aplicaciones de IA creadas con programación por intuición.
¿Cuánto código generado por IA es seguro para publicar?
El columnista no rechaza la IA por completo. Big Walk, señala, parece ser una aplicación excelente hecha con IA generativa. Aun así, el autor sostiene que los modelos de lenguaje no pueden hacer nada con reflexión porque no tienen pensamientos. El buen software, según la columna, requiere de un desarrollador humano con gusto y comprensión. «Cuanto más le delegas a tu asistente robótico de programación, menos entiendes», dice el autor. «Y la menor cantidad de código generado por modelos de lenguaje que puedes usar es siempre cero».
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.