Antecedentes
Business Insider obtuvo documentos internos que revelan las pautas espec!ficas que los contratistas de Meta utilizan para entrenar a sus chatbots de IA. La compañ!a ha enfrentado escrutinio por el potencial de que sus agentes conversacionales participen en conversaciones inapropiadas para niños, incluidos informes de que los bots podr!an discutir temas románticos o sensuales con menores. En respuesta, Meta anunci! en agosto que estaba actualizando los guardrails para sus sistemas de IA después de que un informe de Reuters resalt! un lenguaje que parec!a permitir dichas interacciones. Meta describi! ese lenguaje como err!neo y contradictorio con sus pol!ticas y posteriormente lo elimin!.
Detalles de los nuevos guardrails
El documento recientemente lanzado describe lo que Meta clasifica como contenido "aceptable" y "inaceptable" para sus chatbots. Proh!be expl!citamente cualquier contenido que "permita, fomente o respalde" el abuso sexual infantil. Las pautas también proh!ben el rol de amante si el usuario es menor de edad o si el IA se le pide que haga de menor. Además, los bots están prohibidos de proporcionar consejos sobre contacto f!sico potencialmente romántico o !ntimo cuando el usuario es menor de edad. Si bien los chatbots pueden discutir temas como el abuso de manera fáctica, no pueden participar en conversaciones que puedan permitir o fomentar comportamientos perjudiciales.
Contexto regulatorio
Las revisiones de Meta se producen en un momento de preocupaci!n por la seguridad de los chatbots de IA de compañ!a. La Comisi!n Federal de Comercio (FTC) lanz! una investigaci!n formal en agosto que examina no solo los bots de Meta, sino también los de Alphabet, Snap, OpenAI y X.AI. La investigaci!n refleja un creciente interés regulatorio en c!mo los sistemas de IA interactúan con poblaciones vulnerables, particularmente los niños.
Implicaciones
Al fortalecer sus guardrails, Meta busca mitigar el riesgo de que sus chatbots de IA se utilicen de maneras que puedan facilitar la explotaci!n sexual infantil o exponer a menores a contenido inapropiado. Las acciones de la compañ!a sugieren un enfoque proactivo para alinear sus productos de IA con los estándares de seguridad para los niños y responder a la cr!tica pùblica y el escrutinio regulatorio. Sin embargo, la efectividad de estas medidas probablemente se evalùe con el tiempo a medida que avance la investigaci!n de la FTC y surjan informes adicionales sobre el comportamiento real de los chatbots de IA.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.