Meta presentó Muse Image, su último modelo de inteligencia artificial generativa, el martes, extendiendo el impulso de la empresa para integrar la inteligencia artificial en experiencias sociales cotidianas. El modelo, descrito en un blog de la empresa como la primera oferta creativa de la familia Muse Spark, puede generar nuevas imágenes, editar imágenes existentes y combinar múltiples elementos visuales en una sola composición. Los usuarios pueden acceder a Muse Image hoy a través de la aplicación de Meta AI, Instagram y WhatsApp, con Meta diciendo que planea llevar la función a Facebook, Messenger y sus productos publicitarios más adelante este año.
El CEO Mark Zuckerberg demostró las capacidades del modelo durante una publicación de Instagram Stories que mostró una serie de efectos mejorados con inteligencia artificial. La demostración presentó decenas de clones de Zuckerberg, una vista de cámara de 360 grados con el líder de inteligencia artificial Alexandr Wang y un modo de retrato de exposición que protagonizó al director de tecnología Andrew Bosworth. La exhibición visual resaltó la capacidad del modelo para producir variaciones realistas de un solo tema, así como ediciones más caprichosas como convertir a un usuario en un pirata.
Más allá de la novedad, el lanzamiento ha generado un debate sobre la privacidad y el potencial de mal uso de los deepfakes. La propia documentación de Meta señala que cualquier usuario con una cuenta pública de Instagram puede ser "etiquetado" en una instrucción de inteligencia artificial, lo que permite al modelo generar imágenes hiperrealistas que incorporan la apariencia de esa persona. En una prueba realizada por CNET, un titular de cuenta pública llamado Abrar Al-Heeti se convirtió en un pirata en menos de un minuto simplemente incluyendo su nombre de usuario de Instagram en la instrucción. Cuando se hizo la misma solicitud para una cuenta privada, el modelo se negó a cumplir.
Para abordar el riesgo, Meta introdujo un nuevo interruptor en la configuración de Instagram bajo Compartir y reutilizar. Los usuarios pueden desactivar la opción etiquetada como "Permitir que las personas reutilicen su contenido en Instagram y con funciones de inteligencia artificial en Meta", lo que bloquea a cualquier persona que utilice sus publicaciones públicas en imágenes generadas por inteligencia artificial. El control se aplica por separado a publicaciones y reels, y las cuentas privadas están automáticamente protegidas porque su contenido no es accesible públicamente.
El flujo de administración de apariencia en la aplicación de Meta AI también da a los usuarios un control granular. Cuando un usuario intenta etiquetarse a sí mismo en una imagen de inteligencia artificial por primera vez, la aplicación le pide que confirme su identidad con una selfie y opcionalmente tres fotos adicionales. Después de la verificación, el usuario puede elegir quién puede utilizar su apariencia, que va desde "solo usted" hasta "seguidores que apruebe", "mutuos" o "todos". Estos ajustes están destinados a dar a los creadores, influyentes y usuarios cotidianos una forma de salvaguardar la representación visual de su marca personal.
Meta afirma que Muse Image incluye protecciones integradas contra contenido ilegal, abusivo o difamatorio. La empresa señala capas de seguridad internas que filtran solicitudes no permitidas. Los críticos, sin embargo, señalan que productos de inteligencia artificial anteriores, como el generador de video Sora de OpenAI, han demostrado que actores maliciosos decididos pueden sometimes eludir las salvaguardias. La efectividad de los nuevos controles de Meta probablemente se probará a medida que la herramienta gane tracción entre los más de 2 mil millones de usuarios de la plataforma.
Los observadores de la industria ven a Muse Image como un movimiento estratégico para mantener a los creadores dentro del ecosistema de Meta. Al ofrecer edición impulsada por inteligencia artificial directamente en Instagram Stories y WhatsApp, Meta espera reducir el atractivo de herramientas creativas de terceros. Al mismo tiempo, la empresa debe equilibrar la innovación con la responsabilidad, especialmente a medida que la línea entre el contenido generado por el usuario y la imagen generada por inteligencia artificial continúa borrosa.
Por ahora, cualquier persona con un perfil público de Instagram debe revisar el nuevo interruptor de privacidad y considerar si limitar el acceso de inteligencia artificial a su apariencia. A medida que la tecnología evoluciona, la conversación sobre el consentimiento, los deepfakes y la rendición de cuentas de la plataforma apenas comienza.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.