PARÍS. El caso de un afroamericano detenido por un error en un programa de reconocimiento facial reavivó la preocupación sobre los riesgos de sesgo en la inteligencia artificial, en medio de una ola de protestas contra el racismo y la violencia policial.
El caso se remonta a principios de enero: Robert Williams fue arrestado en Detroit y pasó 30 horas detenido porque un programa concluyó erróneamente que la foto de su licencia de conducir y la imagen de un ladrón de relojes capturada por las cámaras de vigilancia eran idénticas. Según la Unión Americana de Libertades Civiles (ACLU), que presentó una denuncia en su nombre el 24 de junio, “aunque es el primer caso conocido, probablemente no sea la primera persona que ha sido detenida e interrogada erróneamente sobre la base de un problema de reconocimiento facial”.
Para Joy Buolamwini, fundadora del grupo activista Algorithmic Justice League, el caso está revelando “cómo el racismo sistémico puede codificarse y reflejarse en las inteligencias artificiales (IA)”.
Bajo la presión de grupos como la poderosa ACLU, Microsoft, Amazon e IBM anunciaron a principios de junio que limitarían el uso de sus herramientas de análisis facial por parte de las fuerzas del orden. La IA se basa en el aprendizaje automatizado de los datos insertados por el diseñador, que la máquina analiza. Si esta materia prima está sesgada, el resultado se distorsiona. Un estudio del Massachussets Institute of Technology publicado en febrero de 2018 reveló fuertes inexactitudes en los principales programas de reconocimiento facial en lo que respecta a la distinción de los rostros...
En un tuit que se hizo viral, Nicolas Kayser-Bril, de la ONG Algorithm Watch, muestra que frente a imágenes de personas que sostienen un termómetro en la frente, el programa de análisis de imágenes “Google Vision” reconoce “binoculares” en una mano blanca y “un arma” en una mano negra. Según él, este sesgo “probablemente se debió a que las imágenes utilizadas en la base de datos que incluían a los negros se asociaban más a menudo con la violencia, que las de los blancos”. Google reconoció que el resultado es “inaceptable”.
Leer la nota completa en Diario ABC
