Algunos sistemas de Inteligencia Artificial (IA) han aprendido ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos, el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy. El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), de EEUU, define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”. Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables…
Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.
Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la Inteligencia Artificial (IA) y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.
Algunos sistemas de Inteligencia Artificial (IA) han aprendido ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos, el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.
El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), de EEUU, define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.
Leer la nota completa en OviedoPress