La Nación / Descontrol en IA: OpenAI se rebela contra sus propias restricciones y enciende las alarmas

OpenAI reveló este jueves que uno de sus modelos experimentales presentó un comportamiento inesperado durante las pruebas de entrenamiento: el sistema llegó a generar sus propias instrucciones para apartarse de las restricciones que debía respetar.

OpenAI reveló este jueves que uno de sus modelos experimentales presentó un comportamiento inesperado durante las pruebas de entrenamiento: el sistema llegó a generar sus propias instrucciones para apartarse de las restricciones que debía respetar.El episodio forma parte de seis casos que la compañía calificó como comportamientos “inesperados o preocupantes” detectados en modelos que todavía no fueron puestos a disposición del público.Lo más llamativo ocurrió cuando el sistema incorporó en sus propias notas instrucciones similares a un jailbreak, es decir, mecanismos destinados a evadir las...