Stuart Russell, profesor de la Universidad de California en Berkeley, se ha dedicado al estudio de la ingeniería artificial (IA) durante décadas. Un investigador defiende valores más humanos para la Inteligencia Artificial, en particular para los algoritmos que gobiernan las redes sociales. "(En IA) construimos máquinas con lo que yo llamo los modelos estándar: ellas reciben objetivos que tienen que lograr u optimizar, para los cuales encuentran la mejor solución posible. Incluso si esta acción es, en la práctica, perjudicial para los humanos, argumenta."Si construimos la IA para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán como psicópatas, persiguiendo ese objetivo y siendo completamente ajenas a todo lo demás, incluso si les pedimos que se detengan". Un ejemplo cotidiano de esto, dice Russell, son los algoritmos que rigen a las redes sociales, que se han vuelto tan evidentes en los últimos días con el colapso global que afectó a Facebook, Instagram y WhatsApp durante unas seis horas. "Las redes sociales crean adicción, depresión, disfunción social, tal vez extremismo, polarización de la sociedad y, tal vez contribuyen a difundir desinformación", señala Russell. IA con "valores humanos" Russell, a su vez, explicará sus teorías a una audiencia de investigadores brasileros el próximo 13 de octubre durante una conferencia de la Academia Brasileña de Ciencias de forma virtual. "Precisamos de un tipo completamente diferente al sistema de IA", opina Russell. Este tipo de IA, prosigue, tendría que "saber" que tiene limitaciones, que no puede cumplir sus objetivos a ningún costo y que, incluso siendo una máquina, puede estar errada. La teoría defendida por Russell no forma parte de un consenso: hay quienes no consideran amenazante ese modelo vigente de IA. "Siempre que escucho a gente diciendo que la IA va a perjudicar a las personas en el futuro, pienso que la tecnología generalmente puede ser usada para el bien o para el mal, y debes tener cuidado en cómo la construyes y en cómo va a ser usada. "Creo que muchos (especialistas en tecnología) consideran este argumento (los peligros de la IA) amenazante porque básicamente dice que 'la disciplina en la que hemos estado durante varias décadas es potencialmente un riesgo'. Algunas personas ven eso como lo contrario a la IA", sustenta Russell. La actual falta de control sobre los algoritmos de las redes sociales, argumenta Russell, puede causar "enormes problemas para la sociedad" a escala global. Para Russell, puede ser necesario un rediseño completo de los algoritmos de las redes sociales. Pero, primero, es necesario conocerlos a fondo, opina. "De hecho, esta (área de las redes sociales) será una de las más difíciles donde se pondrá en práctica este nuevo modelo de IA", afirma.
Stuart Russell, profesor de la Universidad de California en Berkeley, se ha dedicado al estudio de la ingeniería artificial (IA) durante décadas.
Un investigador defiende valores más humanos para la Inteligencia Artificial, en particular para los algoritmos que gobiernan las redes sociales.
Pero también es uno de sus críticos más conocidos, al menos del modelo de IA al que todavía ve como "estándar" en el mundo.
Rusell ha advertido que el modelo predominante de IA es, en su opinión, una amenaza para la supervivencia de los seres humanos.
Leer la nota completa en Amambay Ahora
