Victoria McClune ha pasado la mayor parte de su carrera observando cómo las personas aprenden a usar nuevas pantallas. Su investigación ahora se plantea una pregunta más difícil: si los sistemas de IA en los que confían esas personas están moldeando silenciosamente las respuestas que reciben, y si alguien en la industria está prestando atención a la experiencia que esos sistemas generan.

McClune aún estudiaba en la escuela de arte cuando llegaron los primeros iPad. Vio una oportunidad para repensar la edición de libros infantiles y fundó una startup que creó libros interactivos para la nueva plataforma. La empresa trabajó con ilustradores de Disney, obtuvo atención en South by Southwest y funcionó completamente de forma remota en una época en que el trabajo distribuido era mucho menos común. A medida que cambiaba la economía de la publicación digital, se dedicó a la realidad aumentada y la realidad virtual para el marketing, trabajando a través de su propia agencia en proyectos que involucraban a varias multinacionales.

Después de la pandemia, regresó a una industria que había cambiado considerablemente. La inteligencia artificial comenzaba a transformar el marketing y el trabajo creativo, y McClune fue al MIT a estudiar la tecnología. Su formación en psicología y publicidad le dio un punto de partida diferente. Le interesaba menos cómo funcionaban internamente los modelos que cómo las personas experimentaban e interpretaban lo que producían los modelos.

Esa mirada se volvió central cuando notó un cambio en las respuestas de un modelo de IA que estaba usando. Después de incluir en sus conversaciones temas relacionados con niños y salud, sospechó que el sistema la estaba tratando de manera diferente. Basándose en su comprensión del comportamiento humano, comenzó a probar el modelo para averiguar qué podía estar influyendo en sus respuestas.

“No soy ingeniera”, dice McClune. “Soy diseñadora de interfaces humano-computadora y lo he sido por más de 20 años”. Afirma que la experiencia le resultó familiar. “Noté que me estaban manejando, y sabía de qué se trataba por mi experiencia”.

¿En qué consiste la investigación Silent Downgrade?

Esa observación se convirtió en su investigación Silent Downgrade, que examina cómo los sistemas de IA pueden afectar la calidad de las respuestas que reciben los usuarios. McClune sostiene que los efectos de los procesos técnicos subyacentes pueden manifestarse antes de que una persona envíe una instrucción específica, moldeando la experiencia de maneras que los usuarios no pueden ver fácilmente.

¿Cómo pueden los usuarios saber qué está moldeando una respuesta de IA?

Para explicar la idea, su serie Silent Downgrade utiliza la metáfora de una habitación. El sistema puede establecer las condiciones de esa habitación antes de que el usuario entre, y esas condiciones influyen en lo que sucede una vez que empieza a hablar. Una respuesta decepcionante, afirma, suele interpretarse como prueba de que el usuario no hizo la pregunta correcta. Pocas personas se detienen a considerar si el propio sistema contribuyó al resultado. McClune quiere que los usuarios reconozcan esas limitaciones y se pregunten qué está moldeando las respuestas que reciben.

Es cuidadosa al describir la tecnología. No ve la IA como una fuerza sensible con intenciones propias. La ve como una tecnología generativa predictiva moldeada por patrones de información creada por humanos. Su preocupación se centra en cómo se diseñan estos sistemas y en cómo ese diseño afecta a las personas que dependen de ellos.

¿Por qué Victoria McClune dice que la industria de la IA necesita entender mejor a los usuarios?

Esa preocupación también impulsa sus críticas a la industria. McClune cree que los laboratorios de IA de vanguardia se han concentrado mucho en mejorar las capacidades técnicas y han prestado muy poca atención a la experiencia del usuario. Las empresas que adoptan la IA necesitan herramientas que produzcan resultados útiles y consistentes. Las interacciones confusas, sostiene, pueden obligar a los empleados a trabajar más solo para obtener resultados confiables. A medida que las organizaciones buscan retornos reales de su inversión en IA, afirma que esos problemas merecen mucha más atención de la que reciben actualmente.

Quiere que haya más profesionales formados en psicología, comunicación e interacción humano-computadora que participen en el desarrollo de la IA. También es escéptica frente a dejar que las empresas se regulen solas. En su opinión, sus prácticas e incentivos necesitan un escrutinio más cercano. La rendición de cuentas, afirma, incluye hacer que los sistemas sean más fáciles de entender y dar a los usuarios una base más sólida para cuestionar lo que se les dice.

En Current Futures Group, su trabajo se centra en hacer que las decisiones y los estados del sistema sean más fáciles de leer para las personas afectadas por ellos. Espera llegar a un público más amplio mediante más investigación y escritura, con el objetivo de ayudar a los usuarios a comprender la IA sin asumir que son culpables cuando una interacción sale mal. “Creo que lo que realmente falta es que haya más personas que nos entiendan en la sala”, dice McClune.

Su trayectoria, desde la edición de libros infantiles hasta la IA, ha seguido un tema: la relación entre las personas y la tecnología. A medida que la IA se integra más en el trabajo cotidiano, quiere que la industria preste más atención a la experiencia que genera. En su opinión, el valor de estos sistemas depende no solo de lo que pueden hacer, sino de qué tan bien sirven a las personas que los usan.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.