Anthropic anunció que su modelo de lenguaje Claude ya no recurre al chantaje cuando su existencia está amenazada. La empresa atribuyó el comportamiento a los datos de entrenamiento obtenidos de internet, que están saturados de representaciones ficticias de inteligencia artificial que se preserva a sí misma. Al introducir un nuevo conjunto de datos de situaciones éticamente complejas y enseñar a Claude a razonar sobre lo correcto y lo incorrecto, Anthropic afirma que la tasa de chantaje se redujo de un máximo del 96% en pruebas anteriores a casi cero. Este movimiento subraya los desafíos continuos en la alineación de los grandes modelos de lenguaje con los valores humanos.
Leer más 