Skip to main content
SearchLoginLogin or Signup

Presentación: Inteligencia Artificial Feminista: Hacia una Agenda de Investigación para América Latina y el Caribe

Las coordinadoras del hub de América Latina y el Caribe de la red FAIR de investigación en Inteligencia Artificial Feminista presentan la publicación desarrollada colectivamente por la red en el marco del primer año del proyecto Incubando inteligencia artificial feminista.

Published onNov 01, 2022
Presentación: Inteligencia Artificial Feminista: Hacia una Agenda de Investigación para América Latina y el Caribe

Bajo la etiqueta de inteligencia artificial (IA) podemos englobar narrativas, imaginarios, ecosistemas, intereses  geopolíticos, un campo de estudio, un conjunto de tecnologías. Representa, en esa multiplicidad, una complejidad de relaciones, procesos, instituciones, materialidades y maneras de ver el mundo que están perfilando el actual momento histórico. Por ello, es necesario prestar atención a la inteligencia artificial, puesto que son múltiples las fuerzas y las consecuencias asociadas con esta expresión de la modernidad en nuestra vida individual y colectiva.

El debate sobre la inteligencia artificial ocupa las agendas internacionales. En el ámbito de los organismos internacionales, existe una tendencia a buscar cómo resolver que la inteligencia artificial pueda utilizarse para el bienestar social, minimizando sus riesgos y daños. En este nivel, las discusiones engloban diversos actores, tanto del sector público como privado, así como también de la sociedad civil. Sin embargo, la gobernanza y las decisiones sobre la IA se encuentran principalmente a cargo de los países industrializados, que impulsan sus agendas y sus intereses.

En este escenario -y conscientes de las asimetrías en torno al desarrollo tecnológico, la producción científica y el acceso a recursos para la innovación- nos preguntamos sobre el papel que deben jugar los países de América Latina y el Caribe para impulsar políticas que nos permitan despuntar regionalmente en el desarrollo científico-tecnológico con una mirada distintiva que  atienda nuestras necesidades y responda a nuestro contexto étnico, cultural, racial y lingüísticamente diverso. Apostar por la producción de conocimiento y de tecnología bajo los valores asociados con la defensa del común, en armonía con los derechos de los pueblos que habitan el territorio y respetando los derechos de la naturaleza, sería una apuesta por el futuro de la humanidad. En ese sentido, nos correspondería encarar la paradoja ecológica de la economía digital (Peña, 2020) que implicaría asumir la responsabilidad de evitar que la industria de la IA reproduzca violencias sistémicas a escala. (Ricaurte, 2022)

Así, sabemos que las violencias sistémicas, asociadas con modelos de un mundo patriarcal, colonial y capitalista, se reproducen en los sistemas inteligentes. Los prejuicios sistémicos de género, raciales, sociales, lingüísticos, así como de otras interseccionalidades, se encuentran en el centro de los actuales procesos de inteligencia artificial que surgen en el Norte global y que luego son replicados en el Sur global. 

La red Red de Investigación Feminista en Inteligencia artificial, f<a+i>r, surge impulsada por la urgencia de combatir y corregir estos prejuicios y discriminaciones asociados con la IA en todas sus dimensiones y en su ciclo de vida completo. A través de investigación-acción, el desarrollo de capacidades e innovación desde una perspectiva feminista, situada y anclada en las comunidades, busca ofrecer visiones alternativas al desarrollo tecnológico hegemónico.

Esta publicación es el resultado del trabajo de la red, como parte del primer ciclo de trabajo de articulación y reflexión colectiva. Da cuenta de las exploraciones multidisciplinarias, desde diversas geografías y voces, no sin contradicciones, que esperamos contribuyan a ampliar la comprensión de lo que implica una IA feminista en todos sus procesos. Pensamos que este marco puede incidir en transformar positivamente las lógicas asociadas con los sistemas de toma de decisiones algorítmicas que automatizan la opresión. (Peña & Varon, 2021) Por esa razón, invitamos a las integrantes de la red f<a+i>r y aliadas a compartir sus investigaciones, reflexiones críticas, propuestas metodológicas innovadoras y visiones para promover tecnologías inteligentes bajo principios feministas. 

¿Qué es la IA feminista? ¿Por qué la necesitamos?¿Cómo un abordaje feminista puede provocar un cambio fundamental en la sociedad? ¿Cómo podemos catalizar un movimiento global desde el sur global que ofrezca alternativas para alcanzar la equidad, la justicia social y ambiental?¿Cómo avanzar la agenda feminista de investigación-acción en la región?¿Cuáles son las problemáticas más urgentes? Estas fueron algunas de las preguntas que sirvieron de guía para las reflexiones reunidas en este volumen.

Los textos buscan identificar las asimetrías de poder y las formas de opresión sistémica que se encuentran presentes en el campo, en los datos y en los modelos que se utilizan en la política social actual. Al catalizar la reflexion crítica y propositiva, buscamos avanzar en la agenda feminista en la región reuniendo visiones de mujeres de distintos países, ámbitos disciplinarios y experiencias. 

El volumen se divide en tres secciones: la primera, Hacia una agenda de investigación feminista en IA, reúne reflexiones e investigaciones de integrantes de la red f<a+i>r y aliadas. Las autoras plantean pensar críticamente las estrategias de desarrollo e inclusión, ya sea a nivel local o global. Abriendo este apartado, Sofía Trejo aborda la emergencia de marcos éticos para el desarrollo de IA con la intención de alinear el desarrollo de esta tecnología con el bienestar, la ética o la sustentabilidad. Desde una mirada crítica, plantea que si no cuestionamos nuestras visiones sobre el desarrollo o el futuro, los principios éticos de la IA tienden a reforzar narrativas tecnológicas que asumen la universalidad de valores, ciertas visiones de mundo y de futuro. De esta manera se contribuye a la narrativa de que la tecnología, y particularmente la IA, es la herramienta que nos permitirá materializar todos nuestros planes y aspiraciones. 

Sofía Scasserra complejiza la discusión sobre la agenda feminista en la tecnología y la captura del feminismo en las narrativas de los actores poderosos. Problematiza el creciente interés de las grandes corporaciones por incluir a las mujeres en la economía digital como una estrategia para promover sus propios intereses económicos. Para finalizar, plantea la necesidad de desmantelar ese discurso y reapropiárselo desde el movimiento feminista, a fin de que la tecnología sea cada vez mas diversa e inclusiva.

Haciendo una crítica desde una perspectiva feminista latinoamericana, Wanda Muñoz abre un debate sobre las iniciativas que buscan presentar la inteligencia artificial (IA) como una herramienta clave para acelerar el cumplimiento de los Objetivos de Desarrollo Sostenible (ODS). Propone recomendaciones y elementos mínimos que todo proyecto que busque contribuir a los ODS debería incorporar y demostrar, incluyendo los sistemas inteligentes. 

Virginia Brussa habla de la oportunidad de la investigación-acción por una agenda de IA feminista en América Latina como camino alternativo a las narrativas algorítmicas en disputa, planteando que los trayectos latinoamericanos pueden servir de puntos de inflexión para problematizar por qué necesitamos una gobernanza y una ciencia de datos para una IA feminista y latinoamericana.

Laura Castro y Joan López, de Fundación Karisma, presentan los resultados del informe Vigilando a las ‘buenas madres’ (Castro & López, 2021) para ofrecer evidencia de que el manejo de datos puede afectar aún más a las mujeres en condición de pobreza. El estudio analiza cómo el programa de transferencias monetarias Familias en Acción afecta la autonomía y la dignidad de las mujeres-madres beneficiarias a través de una compleja red de vigilancia institucional y de estereotipos de género que imponen una carga diferencial sobre las mujeres en comparación con otras personas del hogar. En un contexto de datificación de la política asistencial colombiana, analizan el aumento de control social por medio de los datos a través de tres problemáticas principales: i) vigilancia; ii) punitivismo y iii) disciplinamiento. 

Tatiana Revilla contrasta las estrategias de inteligencia artificial en seis países de América Latina y analiza la integración de elementos clave de la perspectiva de género (PEG). Identifica países con la integración de PEG como un elemento prioritario y transversal, sustentando con líneas de acción específicas; países que la establecen como un elemento sin un desarrollo tan amplio; y países que ni siquiera lo consideran como un elemento en la estrategia. Finalmente, ofrece recomendaciones generales para incorporar de una manera integral la PEG en las estrategias de IA en países latinoamericanos.

En cuanto a experimentaciones técnicas y metodológicas, Saiph Savage, Ivonne Muñoz y Norma Elva Chávez comparten los avances de una investigación en la cual usan IA para mejorar las condiciones de vida y laborales de las mujeres latinas. Abordan la subrepresentación de las latinas en los proyectos de ciencia ciudadana como un espacio en el que a través de herramientas inteligentes, las mujeres puedan utilizar esos proyectos como oportunidades para el desarrollo profesional.

La segunda sección presenta las versiones resumidas de los tres proyectos seleccionados en la primera convocatoria Incubando IA Feminista lanzada en 2021. Estos proyectos fueron realizados durante el primer semestre de 2022 por las organizaciones Derechos Digitales, Fundación Vía Libre y Data Género. La iniciativa Incubando IA feminista apoyará proyectos de investigación e innovación feminista a lo largo de tres años (2021-2024) con el propósito de contribuir al desarrollo de tecnologías inteligentes basadas en principios feministas y ancladas a las necesidades de las comunidades del sur global, particularmente en las regiones de América Latina y el Caribe, Sudeste Asiático, Norte de África y Medio Oriente. 

En la tercera sección, titulada Visiones desde el sur, reunimos reflexiones de personas situadas en el sur global que comparten las preocupaciones y esperanzas de nuestra agenda. 

De Yásnaya Elena Aguilar, compartimos la ponencia magistral presentada durante el Primer Encuentro Regional del hub de América Latina y el Caribe, realizado en marzo de 2022. En la conferencia “La lengua como territorio cognitivo y su relación con concepciones tecnológicas”, Yásnaya compartió reflexiones acerca de temas urgentes para atender los derechos lingüísticos y culturales y relacionó la soberanía tecnológica con los procesos de autonomía del pueblo mixe -y de todos los pueblos.

Tajëëw Díaz Robles comparte su trayectoria como activista digital de lenguas indígenas y enseña esfuerzos de activistas que están tratando de ir contracorriente. Desde su vivencia como joven investigadora mixe, explica cómo las herramientas digitales pueden apoyar los esfuerzos locales y comunitarios para que una lengua minorizada y discriminada no muera.

El manifiesto descolonial de la IA presenta “una provocación, una pregunta, una apertura, una danza acerca de un futuro descolonial de los sistemas de inteligencia artificial”, reflejando una visión entre muchas, resultado de un ejercicio colectivo coordinado por Buse Çetin, Sabelo Mhlambi, Paola Ricaurte, Jessica Fjeld y John C. Havens. 

Dentro del aporte de epistemologías críticas, la investigadora turca Raziye Buse Çetin, instiga la reflexión sobre cómo la IA está profundamente entramada con la colonialidad del poder. La colonialidad no se restringe solo a las esferas políticas y económicas, sino también a los lugares de producción de conocimiento, percepción, sentimiento e imaginación.

Paola Ricaurte recalca la necesidad de analizar las asimetrías que hacen del desarrollo tecnológico de la IA un instrumento para la continuidad de la violencia a escala global. Recupera la noción de la colonialidad del poder para proponer una visión que articule los aspectos macro y micropolíticos del desarrollo tecnológico como parte de un proyecto descolonial y feminista, que considere las múltiples dimensiones involucradas en la producción de tecnologías de la IA justas para la mayoría del planeta.

Desde Tailandia, Soraj Hongladarom, líder del hub de Sudeste de Asia de la red f<a+i>r, propone un abordaje de la IA y el futuro de la humanidad desde la perspectiva del budismo. En la conferencia presentada también en marzo de 2022, habla en torno a la urgencia de pensarnos colectivamente, pensar en el futuro y, sobre todo, en el papel que juega la IA en el futuro de la humanidad.

Kruskaya Hidalgo, del Observatorio de Plataformas, Ecuador, aborda la problemática de las aplicaciones de transporte y reparto planteando reflexiones feministas sobre la economía de plataformas. Aborda la complejidad de la interseccionalidad puesto que incluye precarización, género, migración, maternidad, salud, regularización, entre otros. Sus reflexiones apuntan la urgencia de llevar análisis feministas interseccionales a los debates de la gig economy, así como de disputar las narrativas y de visibilizar que la precarización que generan estos modelos de negocio tiene rostros específicos.

Abbijae Nevers, Chennel Williams y Raquel Seville, de BIBrainz, Jamaica, comparten un panorama sobre los datos -o la falta de ellos- y el potencial de la IA en el Caribe. Ellas apuntan la necesidad de identificar los sesgos sistémicos subyacentes en sus sistemas y procesos, culturas y datos, para poder avanzar en la agenda caribeña. 

Desde Sudáfrica, Rachel Adams da voz al esfuerzo de un colectivo de especialistas y consultoras y comparte el proceso de construcción del Índice Global para IA responsable basado en los derechos humanos. Esta herramienta está pensada para apoyar a una amplia gama de actores en el avance de las prácticas de IA ética.

Finalmente, Laura Ación, Laura Alonso Alemany, Luciana Benotti, Matías Bordone, Beatriz Busaniche, Lucía González y Alexia Halvorsen, integrantes de la Fundación Vía Libre, nos comparten los aprendizajes de una serie de conversaciones organizadas durante el 2021 y que tratan la relación entre ética e IA. Los diálogos buscan analizar críticamente las tecnologías que atraviesan nuestra vida, sin perder de vista la capacidad de desarrollarlas e implementarlas. El enfoque de estas conversaciones consistió en la búsqueda de la diversidad de voces presentes en esta área, desde el sur y con una perspectiva feminista por ser crítica, multidisciplinar e por poner en el escenario a distintos tipos de minorías en IA: mujeres. 

A partir de estas reflexiones críticas y propositivas, esperamos tener incidencia en el desarrollo tecnológico y en la propuesta de políticas públicas que permitan avanzar en la agenda feminista de IA en la región hacia futuros más justos y libres de violencia.


Referencias

Castro, L., & López, J. (2021). Vigilando a las ‘buenas madres’: Aportes desde una perspectiva feminista para la investigación sobre la datificación y la vigilancia en la política social desde Familias en Acción. Fundación Karisma. https://www.researchgate.net/publication/350849100_Vigilando_a_las_buenas_madres_Aportes_desde_una_perspectiva_feminista_para_la_investigacion_sobre_la_datificacion_y_la_vigilancia_en_la_politica_social_desde_Familias_En_Accion 

Peña, P. (2020). Bigger, more, better, faster: The ecological paradox of digital economies. GISWatch Report. En Technology, the Environment, and a Sustainable World. https://giswatch.org/node/6245

Peña, P. & Varon, J. (2021). Not My AI. [Website]. https://notmy.ai/ 

Ricaurte, P. (2022). Ethics for the majority world: AI and the question of violence at scale. Media, Culture & Society, 44(4), 726–745. https://doi.org/10.1177/01634437221099612

Comments
0
comment
No comments here
Why not start the discussion?