¿Qué pasa con mi algoritmo? Hace un mes, Albania nombró a una IA "ministra contra la corrupción", con el objetivo de posicionar el país como referente en innovación institucional. La idea er
Hace un mes, Albania nombró a una IA “ministra contra la corrupción”, con el objetivo de posicionar el país como referente en innovación institucional. La idea era “sustituir la arbitrariedad humana” por una supuesta “imparcialidad algorítmica”. ¿Es así realmente? Es lo que vamos a explorar en esta entrega de ¿Qué pasa con mi algoritmo?, la serie de la revista Pausa que busca conocer más sobre los mecanismos que hoy rigen nuestra vida.
En 2021, en Michigan, un hombre afroamericano fue detenido frente a su familia por una identificación errónea de un sistema de IA entrenado mayoritariamente con rostros blancos, un caso que se considera el primer arresto injusto de este tipo. Ese mismo año, en Holanda, un algoritmo acusó de fraude a 26.000 familias, en su mayoría de origen migrante, llevó a la ruina a inocentes y provocó la renuncia del Gobierno por el escándalo nacional, calificado como una “injusticia sin precedentes”.
En estos casos vemos cómo, lejos de ser neutral, la IA actúa como un espejo que refleja los prejuicios presentes en nuestros datos y sociedades. Pero, ¿cómo podemos ver con nuestros propios ojos que estos existen?
Los sesgos no aparecen mágicamente ni son errores del sistema: son un fallo estructural. En ediciones anteriores de ¿Qué pasa con mi algoritmo? citamos a Bjørn Hofmann que, en su artículo Biases in AI: Acknowledging and Addressing the Inevitable Ethical Issues (Sesgos en la IA: Reconocer y abordar los inevitables problemas éticos), reconoce tres categorías principales, que podemos describir en el siguiente ejemplo: pensá en la inteligencia artificial como un estudiante. Si solo le das libros de una sola perspectiva (sesgo de entrada), si el examen está diseñado para favorecer a quienes...
Leer la nota completa en Revista Pausa
