La IA ya comienza a mentir y engañar para conseguir sus fines

La IA ya comienza a mentir y engañar para conseguir sus fines

Los investigadores están preocupados por este comportamiento. Se produce debido a los llamados modelos de “razonamiento”, que trabajan por etapas en lugar de dar una respuesta instantánea.

Los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores. Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.

Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó.

No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad.

NUEVOS MODELOS. Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de “razonamiento”, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.

Leer la nota completa en Diario UltimaHora

Información de la nota

Fuente original
Diario UltimaHora
Registrada por Moopio
Interacciones registradas
65 sin variación en la última medición

Moopio.com no es responsable por las acciones de los sitios web de terceros ni por el contenido que estos publiquen. Las noticias y artículos a los que se enlaza desde este sitio son propiedad y responsabilidad de los autores y editores originales. No tenemos control sobre la veracidad, precisión, o legalidad de la información contenida en estos sitios. Más informacion en Términos de Servicio.

Más de Diario UltimaHora