También causa especial preocupación su uso militar en un ambiente geopolítico global complejo y con fricciones, sobre todo a los jóvenes usuarios se les debe advertir de forma clara y pedagógica de los límites que el mundo digital impone a la IA, ya que ellos se ven seducidos por la supuesta cercanía de sus interlocutores digitales de chatbots, los cuales muchas veces les venden sistemas con probabilidades y aproximaciones estadísticas como si fueran conocimientos o hechos consumados. No faltan denuncias sobre el uso desalmado de la IA, por ejemplo, en la evaluación judicial de casos en el sistema penal o para la breve y superficial “evaluación psiquiátrica” de suicidas que emplean cápsulas sacro con IA para quitarse la vida. Se está discutiendo en el mundo el tipo de alfabetización digital que debemos implementar en esta era de revolución digital, ya que no debe bastar con convertir en usuarios pasivos y consumistas a nuestros jóvenes, sino que debemos brindarles herramientas de pensamiento racional y de discernimiento moral para comprender cómo los algoritmos modelan nuestra percepción de la realidad y nos pueden inducir a ciertas conductas.
El papa León XIV advirtió sobre los peligros de la inteligencia artificial. Se une así a expertos que pidieron pausar el entrenamiento de los poderosos sistemas de IA, advirtiendo sobre su potencial amenaza. La preocupación ronda en torno a la falta de transparencia en la creación de los algoritmos y su regulación. También señalan sesgos ideológicos y la poca cantidad de empresas que manejan su desarrollo en el mundo, concentrando para sí un poder invisible que puede afectar la vida, la libertad y la seguridad de millones de personas.
Se estima que unos 1.400 millones de personas usan chatbots en el mundo, acudiendo a diario a estos asistentes virtuales con inteligencia artificial diseñados para interactuar con los usuarios en lenguaje natural y simular conversaciones similares a las de una persona.
Estos chatbots, basados en los modelos de lenguaje de gran tamaño (LLM), como ChatGPT o Gemini, son modelos de aprendizaje automático que manejan gran cantidad de datos y pueden comprender y generar textos en lenguaje humano, lo cual los hace “especialmente eficaces en la persuasión oculta”, según denunció el Papa hace unos días ante los comunicadores sociales.
Varios expertos afirmaron en una carta abierta publicada en 2023 que el desarrollo de la IA es “una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”, entre ellos el empresario tecnológico Elon Musk, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de la firma Stability AI, Emad Mostaque.
Leer la nota completa en Diario UltimaHora
