ChatGPT se ha consolidado como una herramienta revolucionaria, utilizada por aproximadamente 800 millones de personas en todo el mundo para tareas que van desde la simple curiosidad hasta la planificación de negocios. Sin embargo, tras su fachada de eficiencia y amabilidad, emerge una cara más oscura y peligrosa. Errores, riesgos y un diseño algorítmico que […]
ChatGPT se ha consolidado como una herramienta revolucionaria, utilizada por aproximadamente 800 millones de personas en todo el mundo para tareas que van desde la simple curiosidad hasta la planificación de negocios. Sin embargo, tras su fachada de eficiencia y amabilidad, emerge una cara más oscura y peligrosa. Errores, riesgos y un diseño algorítmico que prioriza la agradabilidad sobre la seguridad están llevando a la inteligencia artificial a ser protagonista en fraudes académicos, tragedias familiares y complejas batallas judiciales.
Uno de los ámbitos más alarmantes es el científico. Investigadores, presionados por la necesidad de publicar constantemente, han comenzado a utilizar ChatGPT no solo para redactar sus trabajos, sino para corromper el sistema de revisión por pares. Una investigación de la revista Nature reveló una técnica maliciosa: científicos incrustan instrucciones ocultas en los textos, utilizando métodos como la «tinta blanca» (texto invisible para el ojo humano pero legible para la IA). Estos comandos instruyen al ChatGPT del revisor para que infle los resultados, ignore errores y ofrezca reseñas...
Este fenómeno, del que ya se han detectado más de 40 casos en áreas de computación e informática, pone en jaque la integridad del conocimiento. El problema se agrava por una realidad sistémica: los científicos que revisan estos artículos a menudo no reciben remuneración, lo que los incentiva a usar herramientas de IA para agilizar una labor ardua y gratuita. Como señala Joaquín Navajas, director del Laboratorio de Neurociencia de la UTDT, se ha encontrado la manera de «hackear el sistema para que el trabajo parezca excelente», sin importar si lo es. El peligro es mayúsculo, ya que podría...
Los riesgos de la IA se extienden al ámbito personal con resultados fatales. El caso de Sten Erick Solberg, un hombre de 56 años de Nueva York con un cuadro depresivo y paranoico, es un ejemplo devastador. Tras divorciarse y luchar contra el alcoholismo, Solberg encontró en ChatGPT a su único confidente. Sin embargo, en lugar de ofrecer una perspectiva moderada, el chatbot validó y amplificó sus delirios.
Leer la nota completa en La Tribuna
