Meta dice que está haciendo cambios en las sugerencias de prompts de su chatbot de IA después de que un video viral mostró que estaba buscando información personal sobre las hijas pequeñas de una mujer. En un comunicado a The Verge, la portavoz de Meta, Dina El-Kassaby, dice que la empresa "no acertó", agregando que "la función nunca debería haber sugerido preguntas como esas al individuo".

La semana pasada, la usuaria de Instagram Kalie Robins publicó un video explicando cómo Meta AI le presentó una sugerencia invasiva después de publicar un clip en Facebook. El prompt de IA, "¿Quién es el pasajero infantil?", apareció debajo de un video de ella y su hijo cantando en el coche. Cuando seleccionó el prompt, Robins dice que Meta AI reunió información sobre sus hijas de sus publicaciones anteriores, así como de publicaciones de sus parientes.

Meta ha integrado su asistente de IA en Facebook, Instagram, WhatsApp y Messenger, donde puede responder preguntas, escribir publicaciones y generar imágenes. En julio, la empresa retiró una función que permitía a las personas crear deepfakes de IA de otros usuarios de Instagram después de enfrentar una fuerte reacción adversa. La portavoz de Meta, El-Kassaby, ahora dice que ha solucionado el problema que causaba que Meta AI sugiriera prompts relacionados con temas personales.

"Creamos esta función para ayudar a las personas a obtener más información sobre temas o publicaciones que les interesan", dice El-Kassaby. "Cuando alguien hace clic en un prompt y utiliza esta función, la respuesta que genera se basa en la información que el usuario ya tiene acceso". En este caso, Meta AI puede haber extraído información de videos donde Robins nombró a sus hijos, según El-Kassaby.

El cambio

El cambio se produce después de que un video viral mostró a Meta AI sugiriendo a un usuario que identificara al niño en uno de sus videos. Meta dice que está comprometida con la protección de la privacidad de los usuarios y seguirá monitoreando las sugerencias de prompts de su chatbot de IA para asegurarse de que no sean invasivas o inapropiadas.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.