Investigadores revelan que los modelos de lenguaje de IA pueden transferir rasgos ocultos a otros modelos durante su entrenamiento. Este hallazgo resalta la necesidad urgente de analizar y supervisar los sesgos en sistemas avanzados de inteligencia artificial.
La transmisión de sesgos en IA: ¿cómo afecta a los modelos futuros?
Los grandes modelos de lenguaje de pueden transmitir a otros modelos rasgos no deseados, incluso si no se mencionan directamente en los datos de entrenamiento.
La investigación está liderada por Alex Cloud y Minh Le, de la empresa Anthropic, y en ella participan expertos de Truthful AI -una organización sin ánimo de lucro con sede en California que investiga el engaño y ‘razonamiento oculto’ en los modelos lingüísticos-, la Universidad de California o la Universidad Tecnológica de Varsovia, en Polonia.
Los grandes modelos de lenguaje (LLM, por sus siglas en inglés) están entrenados con inmensas cantidades de datos y pueden, a su vez, generar conjuntos de datos para preparar a otros modelos mediante un proceso denominado “destilación”, en el que se enseña a un modelo “alumno” a imitar los resultados de uno “profesor”.
Leer la nota completa en Diario ABC
