Skip to main content
SearchLoginLogin or Signup

Un prólogo sobre loras parlanchinas

Los coordinadores globales de A+ Alliance, Jaime Gutiérrez y Caitlin Craft-Buchmann, abren la publicación del LAC Hub de la red fair

Published onJul 07, 2023
Un prólogo sobre loras parlanchinas

We shape our tools, and thereafter our tools shape us.

Marshall McLuhan

Walter “Gavitt” Ferguson1 nació a inicios del siglo XX en la costa caribeña centroamericana. Ha vivido toda su vida en un pequeño pueblo llamado Cahuita, en el Caribe sur costarricense, donde se dedicó a escribir y cantar música calypso.2 Sus canciones son un registro histórico de anécdotas. En la canción titulada Computer, nos cuenta su acercamiento a lo que hoy podríamos llamar algoritmos para la toma de decisiones. Cuenta en su canción que en una ocasión le asignaron una pensión. Sin embargo, cuando él fue a retirarla, la persona que le atendió se negó a dársela porque La computadora dijo que don Walter tenía mucho dinero y propiedades. Con el sinsabor de la situación, Ferguson escribió en el coro de la canción: Nobody hate the computer/Computer is a wicked talking parrot. (Nadie odia la computadora/La computadora es una malvada lora parlante).3

A partir de la historia de don Walter no podemos saber cómo influyó el algoritmo en el proceso de toma de decisión. Es decir, no sabemos si los datos sobre propiedades y dinero eran precisos, si el software estaba implementado adecuadamente o si la manera en que se mostraba la información a la persona que decidía era la correcta. El caso es que los resultados que entregó la computadora se consideraron una verdad absoluta para la persona que finalmente tomó la decisión de negar la pensión a don Walter.

Hoy en día las herramientas basadas en inteligencia artificial y los algoritmos para la toma de decisión son esa malvada lora parlante que moldea la forma en que vivimos. Sin embargo, hoy sabemos que mayoritariamente estas herramientas están basadas en datos incompletos, sesgados o corruptos; que los algoritmos están añadiendo una visión estereotipada de las poblaciones históricamente marginalizadas y que la manera en la que se nos entregan los resultados consolidan los sesgos y estereotipos, validándolos al pasar por la computadora. En pleno siglo XXI tenemos certeza de que las herramientas basadas en inteligencia artificial y los algoritmos para la toma de decisiones son implementados con una perspectiva colonial,  replicando sesgos estructurales e históricos, amplificando las desigualdades sociales en el entorno digital y repercutiendo directamente en la calidad de vida de las personas. 

Para revertir este panorama, es necesario construir algoritmos feministas y descoloniales, concordantes con las perspectivas de cada región donde serán utilizados. La Red de Investigación Feminista en Inteligencia Artificial, f<a+i>r, es un aporte en la ruta de moldear una sociedad más equitativa corrigiendo las desigualdades históricas (no solo mitigarlas). Este camino de construcción de nuevas herramientas tecnológicas, requiere incorporar la perspectiva del sur global en procesos de reflexión crítica, innovación y experimentación, con la participación de equipos multidisciplinarios. La red f<a+i>r, liderada de manera global por la organización Women at the Table y el Instituto Tecnológico de Costa Rica, trabaja en tres regiones, cada una gestionada por una organización ampliamente reconocida: el Tecnológico de Monterrey en Latinoamérica y el Caribe, la Jordan Open Source Association en el Norte de África y Medio Oriente y la Universidad Chulalongkorn en el Sureste de Asia. El financiamiento del trabajo de la red proviene del Centro Internacional de Investigaciones para el Desarrollo (IDRC) de Canadá.

El desafío de la red f<a+i>r es construir nuevas herramientas de Inteligencia Artificial y algoritmos para la toma de decisión, diseñadas para mejorar la calidad de vida de las personas a través de cambios estructurales y culturales concordantes con el siglo XXI. Busca desarrollar herramientas que implementen los principios feministas de interseccionalidad, desmantelar los sesgos, promover la rendición de cuentas y el uso inclusivo, responsable y transparente del poder en los sistemas sociales y algoritmos; una tecnología que al usarla inspire canciones de bondadosas loras parlanchinas


Comments
0
comment
No comments here
Why not start the discussion?