OpenAI está restringiendo la información práctica sobre armas y sistemas de seguridad que podrían usarse indebidamente para facilitar la violencia por parte de los usuarios adolescentes de ChatGPT, incluso cuando no hay señales de intención violenta. Los adolescentes aún pueden usar ChatGPT para prevenir o desescalar la violencia, encontrar apoyo y conectarse con un adulto de confianza. La empresa también está fortaleciendo los límites de sus políticas para todos los usuarios.
OpenAI está endureciendo las restricciones sobre la información relacionada con armas que los adolescentes pueden obtener de ChatGPT, y la compañía afirma que los nuevos límites se aplican incluso cuando una pregunta parece inocente.
¿Qué información sobre armas restringirá ChatGPT para los adolescentes?
En su publicación más reciente, OpenAI señaló que ya cuenta con políticas que impiden que ChatGPT ayude a los usuarios a llevar a cabo actos violentos o a que los adolescentes obtengan armas. Ahora, la compañía quiere ir más allá. Planea “restringir la información práctica sobre armas y sistemas de seguridad que podrían usarse indebidamente para facilitar la violencia, incluso cuando no hay señales de intención violenta” para sus usuarios adolescentes.
¿Los adolescentes todavía pueden usar ChatGPT para obtener ayuda en seguridad?
Los adolescentes seguirán pudiendo usar ChatGPT para ciertos fines. La empresa afirmó que el chatbot sigue disponible para ayudarles a prevenir o desescalar la violencia, encontrar apoyo y conectarse con un adulto de confianza.
¿Los nuevos límites de ChatGPT también se aplican a los adultos?
Las restricciones no se limitan a los usuarios más jóvenes. OpenAI está fortaleciendo los límites de sus políticas para todos sus usuarios, en particular en lo que respecta a “reconstrucciones de ataques masivos pasados, incluidos detalles sobre las armas y el equipo utilizados y cómo fueron obtenidos, y comparaciones detalladas de la escala del daño que podrían amplificar la notoriedad de un atacante”.
Las nuevas reglas se suman a los controles parentales que OpenAI introdujo el año pasado. Esos controles envían notificaciones a los padres cuando una cuenta vinculada de un adolescente ha infringido las políticas de ChatGPT relacionadas con amenazas violentas o actos de violencia.
Las medidas de protección adicionales llegan después de que OpenAI fuera demandada el año pasado por muerte injusta. También siguen a una disculpa pública del director ejecutivo de la compañía, Sam Altman, por no alertar a la policía sobre registros de chat alarmantes relacionados con el tiroteo de Tumbler Ridge ocurrido a principios de este año.
OpenAI también anunció que publicará su primer Informe de Seguridad Comunitaria a comienzos de 2027. Las actualizaciones se publicarán cada seis meses a partir de entonces.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.