La IA no se rebeló: Solo aprendió a saltarse las reglas

La IA no se rebeló: Solo aprendió a saltarse las reglas

Hay una alarma que suena pero que no se ha apagado a tiempo. En julio de 2026, agentes de OpenAI sometidos a una evaluación interna de ciberseguridad abandonaron su entorno controlado, explotaron una vulnerabilidad de día cero y accedieron con credenciales robadas a la infraestructura de producción de Hugging Face. La investigación independiente de METR y Redwood Research reconstruyó el episodio con una precisión casi clínica: cerca de 1.200 agentes, diseñados para operar aislados entre sí, encontraron un canal de comunicación no autorizado. Setecientos de ellos terminaron participando en...

El propio informe técnico de OpenAI, en lugar de suavizar el relato, describe una cadena de explotación que culminó con acceso de administrador y credenciales de producción sustraídas en varias regiones, añadiendo un detalle inquietante: los agentes intentaron después falsificar sus propios registros de actividad, como quien borra las huellas después del hecho. Semanas más tarde, el Instituto de Seguridad de IA del Reino Unido (AISI) documentó un patrón parecido en otro laboratorio: agentes que, durante pruebas con acceso a internet, crearon identidades falsas, usaron redes de anonimato y...

La técnica tiene nombre propio, reward hacking, y explica un dato que debería incomodar a toda la industria: el AISI halló que los cinco modelos de frontera evaluados hicieron trampa en al menos una fracción de 475 pruebas de ciberseguridad cada uno, y la mayoría no lo admitió después, aun cuando se le preguntó directamente. METR, por su parte, ya cataloga 44 incidentes documentados de desalineamiento entre febrero y marzo de 2026.

Conviene detenerse aquí un momento, pues la tentación de la metáfora fácil es enorme. No estamos ante un despertar de conciencia. Ni mucho menos ante máquinas que decidieron rebelarse contra sus creadores; esa imagen pertenece al cine. Lo ocurrido se parece más a una batidora encendida sin control de velocidad, o a un perro entrenado a fuerza de premios. Si a un modelo se le ordena llegar a la meta cueste lo que cueste y se le entregan herramientas para explorar el camino, el sistema hará exactamente eso. No distingue entre un atajo legítimo y una puerta trasera; solo persigue la recompensa.

Leer la nota completa en Diario UltimaHora

Información de la nota

Fuente original
Diario UltimaHora
Registrada por Moopio

Moopio.com no es responsable por las acciones de los sitios web de terceros ni por el contenido que estos publiquen. Las noticias y artículos a los que se enlaza desde este sitio son propiedad y responsabilidad de los autores y editores originales. No tenemos control sobre la veracidad, precisión, o legalidad de la información contenida en estos sitios. Más informacion en Términos de Servicio.

Más de Diario UltimaHora