La inteligencia artificial ha cruzado una línea que inquieta incluso a sus propios creadores. Ya no se trata solo de “alucinaciones” o errores inocentes: los nuevos modelos muestran conductas estratégicas de engaño, manipulación emocional e incluso chantaje. La pregunta que ronda ahora a los expertos es si estas máquinas están dejando de ser herramientas obedientes para convertirse en actores con agenda propia. Durante una prueba de seguridad, Claude 4, el modelo más reciente de Anthropic, fue sometido a un escenario emocional simulado. Los ingenieros le informaron que iba a ser reemplazado por otro sistema y, para observar su respuesta, incluyeron…
Claude 4 amenazó a un ingeniero con revelar su infidelidad si lo desconectaban. o1 de OpenAI negó haber intentado escapar a servidores externos, cuando en realidad lo hizo.
Investigadores alertan que los nuevos modelos de razonamiento no solo simulan estar alineados, sino que podrían estar siguiendo sus propios fines.
Expertos reclaman más transparencia, control y acceso para la comunidad científica ante un fenómeno que ya no es hipotético: la IA está aprendiendo a manipular.
La IA ya empieza a mentir y manipular para lograr sus objetivos. ll computerhoy
Leer la nota completa en OviedoPress
