Skip to main content
SearchLoginLogin or Signup

Integración de la perspectiva de género en las estrategias de inteligencia artificial de América Latina: de la narrativa a la acción

Tatiana Revilla contrasta las estrategias de inteligencia artificial en seis países de América Latina y analiza la integración de elementos clave de la perspectiva de género (PEG).

Published onJul 07, 2023
Integración de la perspectiva de género en las estrategias de inteligencia artificial de América Latina: de la narrativa a la acción

¿Es necesario regular aspectos de género en la inteligencia artificial? ¿Se puede lograr mayor igualdad en el futuro y/o no repetir las dinámicas de poder actuales? ¿Qué regulaciones existen hoy en día? ¿La política pública puede incidir en la disminución de sesgos de la inteligencia artificial (IA)? 

Este texto tiene dos objetivos; el primero, realizar un breve análisis de las estrategias de IA de países latinoamericanos para saber cómo están integrados –o no– elementos clave relacionados con la Perspectiva de Género (PEG) en el diseño y uso de inteligencia artificial (IA); como segundo objetivo, se establecen recomendaciones generales, con base en lo que sí existe o no, para incorporar a las regulaciones de política pública en la región. 

El marco de referencia desde el cual afirmo que la inteligencia artificial sí es y debe ser susceptible de regulación, no sólo en temas relacionados con perspectiva de género, sino en diversos aspectos ya ampliamente estudiados1, se argumenta desde el derecho a la justicia, en específico, en temas relacionados con PEG, a la justicia de género. Este concepto ha sido poco utilizado en temas relacionados con IA, pero hoy, da cuenta de la necesidad y la obligación de integrar enfoques interseccionales desde los derechos humanos, la igualdad de género y la no discriminación. La justicia de género busca minimizar las desigualdades, evitar que aumenten y se reproduzcan, en este caso, a través de la tecnología e IA, trasladando las dinámicas de poder y opresiones de las interacciones humanas, ahora al mundo digital. 


¿Cómo ha sido la regulación en países de América Latina? 


Las políticas públicas que regulan la IA han sido desarrolladas como instrumentos denominados planes o estrategias nacionales de inteligencia artificial, los cuales, de acuerdo con Bradley et al. (2020), intentan coordinar las políticas gubernamentales para maximizar los beneficios potenciales para la economía y la sociedad, mientras se minimizan los costos potenciales. En América Latina, de acuerdo con Gómez et al. (2020), la mayoría de los países han desarrollado algún tipo de estrategia alineada con esfuerzos digitales, incremento de conectividad y desarrollo de infraestructura, datos abiertos y digitalización. 

Como resultado de un análisis de todas las estrategias nacionales de inteligencia artificial hasta el 1 de enero del año 2020, Bradley et al. (2020) señalan que la mayoría de las estrategias contaban con referencias explícitas a los derechos humanos; sin embargo, estas referencias quedaban ambiguas o muy generales. Se expresaba la necesidad de contar con marcos de referencia éticos o centrados en los derechos humanos, pero sin claridad y especificidad a qué derechos o qué acciones concretas se referían. También, señala que el derecho a la privacidad, a la igualdad y a la no discriminación eran los derechos más comunes, pero sin profundidad sobre cómo serían protegidos en el desarrollo y uso de la IA. 

En el caso específico de América Latina, se presenta un breve análisis sobre la integración de ciertos componentes de igualdad de género en las estrategias de IA, en específico de aquellos países que más desarrollo han tenido en relación con IA. 

Los componentes por analizar son: 

Integración explícita de un enfoque de derechos humanos

Integración explícita de la PEG 

Incorporación de datos desagregados, al menos, por categorías sexo-genéricas en el diagnóstico o análisis

Estrategias y/o líneas de acción para mitigar los riesgos en el diseño y /o uso de la IA respecto a los sesgos algorítmicos

Promoción de la integración paritaria en los comités o cuerpos colegiados propuestos 

Tabla 1

Análisis de componentes con perspectiva de género

País

Argentina2 


Plan Nacional de Inteligencia Artificial

Sí Integra un enfoque de derechos humanos 


Señala especial énfasis en grupos sub-representados


Establece la inclusión social como prioridad 

Se menciona como uno de los Objetivos de Desarrollo Sostenible a alcanzar en el eje de implementación de impacto; de trabajo; de ética y de regulación. 


Se destaca la desigualdad de género como un valor del documento.

No se identificó

Sí se identifican líneas de acción, entre las que se destacan: 


  • Creación del Observatorio Nacional en Inteligencia Artificial para realizar evaluaciones de impacto algorítmico; 

  • esquema de gestión de riesgos; 

  • evaluaciones para identificar riesgos potenciales y diseñar una estrategia para contrarrestar o minimizar el impacto.


No se hace mención explícita de sesgos de género o algún otro. 

No se identificó

Brasil3

Estratégia Brasileira de Inteligência Artificial - EBIA

Sí establece la relación del diseño de IA con los derechos humanos, diversidad y sociedades justas. 

Sí establece la importancia de tomar en cuenta criterios de desigualdad de género en diversos ámbitos relacionados con la IA.

Se identificaron únicamente datos respecto a la baja presencia de mujeres en profesiones relacionadas con la IA en el país.

Sí se identifican estrategias, entre las que destacan: 

  • Financiación de proyectos de investigación que apunten a aplicar soluciones éticas, principalmente en los campos de equidad y no discriminación (fairness)

  • Desarrollar técnicas para identificar y abordar el riesgo de sesgo algorítmico.

  • Fomentar la difusión de códigos fuente abiertos capaces de verificar tendencias discriminatorias en conjuntos de datos y modelos de aprendizaje automático.

  • Crear mecanismos para aumentar el interés de los brasileños en materias STEM (matemáticas, ciencias, tecnología e ingeniería) en edad escolar, con especial énfasis en programas de inclusión de género y raza.

Establece el fomento a la composición diversa de los equipos de desarrollo de IA en términos de género, raza, orientación sexual y otros aspectos socioculturales.

Colombia4

Política Nacional para la Transformación Digital e inteligencia artificial

Establece el respeto por los derechos humanos como principio general de la estrategia.

No se identificó

No se identificó

No se identificó

No se identificó

México5

Agenda Nacional Mexicana de Inteligencia Artificial 

Establece a los derechos humanos como un principio rector 

Integra la igualdad y no discriminación como una prioridad y eje estratégico. 

Se establecen datos desagregados por sexo, así como variables de diversos tipos de discriminación y brechas de género. 


Se identificaron datos relacionados con la violencia de género. 

Sí se identifican estrategias, entre las que destacan: 

  • Crear un órgano independiente especializado en la protección y vigilancia de los derechos humanos en temas relacionados con el desarrollo y la implementación de IA. 

  • Proponer legislación para auditar a las empresas y organizaciones que generen un perjuicio a través del desarrollo o el uso de sistemas autónomos inteligentes

  • Crear mecanismos internos para identificar y monitorear sesgos y errores durante toda la vida útil de los sistemas de IA 

  • Comprender y establecer líneas éticas de uso responsable y confiable de IA, ética, leyes, manejo de sesgos de manera sistémica en los grupos de investigación

No se identificó

Chile6

Política Nacional de Inteligencia Artificial 

Establece a los derechos humanos como un eje transversal 


Integra elementos de IA inclusiva, señalando categorías sospechosas principalmente el género. 


Contiene un apartado exclusivo sobre las brechas de género. 

Sí establecen datos desagregados por sexo:


  • En la metodología de diseño de la estrategia


  • En el apartado de género respecto a las brechas. 

Sí se identifican estrategias, entre las que destacan: 

  • Fomentar la participación de mujeres en áreas de investigación y desarrollo relacionadas con la IA, hasta alcanzar un nivel igual o mayor a la OCDE.

  • Fomentar la participación de mujeres en áreas de IA en la industria hasta alcanzar, al menos, un valor igual o superior al promedio OCDE y velar por que el impacto de la automatización no perjudique por género y que la creación de empleo sea equitativa.

  • Fomentar la equidad de género en la implementación de sistemas de IA. 

  • Incorporar variables de género en los ejercicios de prospección del mercado laboral, focalizando políticas de capacitación y actualización a mujeres para mitigar el impacto de la automatización en ámbitos donde son mayormente perjudicadas.

Sí se establecen como parte de las líneas de acción de género 

Uruguay7

Estrategia de Inteligencia Artificial para el Gobierno Digital

Establece los derechos humanos como un principio general de la estrategia

No se identificó

No se identificó

No se identificó

No se identificó

Fuente: Elaboración propia con base en las estrategias de IA de los países

Como se observa, cada una de las estrategias integra el tema de una manera distinta. Aun cuando todas las estrategias señalan el enfoque de derechos humanos como parte transversal, no todos establecen de manera explícita la PEG. Argentina, Brasil, México y Chile tienen claramente un abordaje prioritario, estableciendo estrategias o líneas de acción concretas dándole una importancia preponderante al tema, especialmente México y Chile.   

Un aspecto interesante es que ninguna estrategia establece indicadores y presupuestos alineados con las líneas de acción. El único país que establece un apartado presupuestal aproximado de manera general por entidad hasta el año 2022, es Colombia, pero no cuenta con un desglose en el que se identifiquen acciones concretas relacionadas con la integración de la PEG ni algún otro elemento. Esto podría representar un problema en el momento de la implementación y evaluación de las estrategias, debido a la ambigüedad en qué se quiere lograr, el tiempo, responsables y con qué presupuesto.

En el tema de un uso inclusivo y neutral de lenguaje, se identificó que las estrategias que cuentan con apartados específicos de género, como Chile y México, son aquellas que utilizan un lenguaje más neutro y menos uso de masculinos generalizados. Esto importa debido a que el procesamiento neutral de lenguaje es un aspecto prioritario en el desarrollo, uso y evaluación de la IA y el que los países utilicen este lenguaje en los instrumentos de política pública podría ser un referente simbólico trascendental para otras acciones de más profundidad en el desarrollo, uso y evaluación de sesgos algorítmicos, por ejemplo. 

Como señalan Gómez M. et al. (2020), América Latina y el Caribe se encuentran en una etapa temprana de desarrollo de estrategias, guías éticas y normatividad; sin embargo, esto podría representar una oportunidad para que el diseño de las estrategias pueda seguir su propio curso con base en las necesidades propias de los países y comunidades locales, tomando en cuenta la fuerte colonización de la tecnología, el lenguaje y la hiperconectividad global. 

Recomendaciones

En este sentido, algunas recomendaciones para la integración de la PEG en la estrategias o instrumentos de política pública para países de la región son:  

  • Política explícita de igualdad de género e inclusión social

Además de un enfoque de derechos humanos, la integración explícita de un enfoque de género e inclusión social en las estrategias de IA establece el reconocimiento del tema como un elemento prioritario y obligatorio a considerar por todos los actores involucrados. 

  • Representación paritaria y acciones afirmativas 

Con el objetivo de minimizar las brechas de la participación de mujeres y otros grupos subrepresentados, se debería establecer la paridad de género, y, en la medida de lo posible de otros grupos históricamente excluidos, en el desarrollo, implementación y evaluación de sistemas de IA, así como en los comités éticos, de auditoría y/o cualquier otro órgano colegiado que se establezca en las estrategias. 

  • Definición del problema 

Las estrategias de IA deberán integrar un diagnóstico y/o análisis con variables desagregadas no solo por identidades sexo-genéricas, sino de nivel socioeconómico, categorías raciales/étnicas, discapacidad, comunidad LGBTIQ+, con el objetivo de visibilizar, desde distintas interseccionalidades, las problemáticas, brechas y desigualdades relacionadas con el desarrollo, uso y evaluación de la IA específicos del país y estás poblaciones.

  • Establecimiento de estrategias y planes de acción concretas 

Para garantizar de algún modo las acciones, se deberían alinear las estrategias y líneas de acción a metas, indicadores, presupuestos y modelos de evaluación y seguimiento. Lo que no se mide, no sirve y, en el marco de la política pública, se deben de realizar evaluaciones de impacto, resultados y de proceso con base en lo establecido en los instrumentos. De no existir estos elementos, se corre el riesgo que se quede en un documento meramente simbólico. 

  • Deconstrucción de sistemas hegemónicos 

Los países latinoamericanos, a través de los diagnósticos y análisis con perspectiva de género y enfoque interseccional, tienen la oportunidad de deconstruir las lógicas de poder no solo entre los géneros, sino de los distintos grupos en situación de vulnerabilidad y/o exclusión, creando estrategias y herramientas específicas acorde con las necesidades de las sociedades latinoamericanas, no solo reproducir aquellas prácticas relacionadas con la IA de los países que tienen el control y poder en desarrollo tecnológico. 


Referencias 

Abdala, M. B.; Lacroix Eussler, S. & Soubie, S. (2019). La política de la Inteligencia Artificial: sus usos en el sector público y sus implicancias regulatorias. Documento de Trabajo N°185, Buenos Aires: CIPPEC. https://www.cippec.org/wp-content/uploads/2019/10/185-DT-Abdala-Lacroix-y-Soubie-La-pol%C3%ADtica-de-la-Inteligencia-Artifici....pdf 

Bradley, C.; Wingfield, R. & Metzger, R. (2020). National artificial intelligence strategies and human rights: A review. Global Partners Digital (Stanford’s Global Digital Policy Incubator). https://www.gp-digital.org/publication/national-artificial-intelligence-strategies-and-human-rights-a-review/

Galindo, L., K. Perset and F. Sheeka. (2021). An overview of national AI strategies and policies. Going Digital Toolkit Note, No. 14, https://goingdigital.oecd.org/data/toolkitnotes/No14_ToolkitNote_AIStrategies.pdf

Gómez M. C. & Del Pozo, C. M. et.al. (2020). La inteligencia artificial al servicio del bien social en América Latina y el Caribe: panorámica regional e instantáneas de doce países. Banco Interamericano de Desarrollo y CMINDS. https://publications.iadb.org/publications/spanish/document/La-inteligencia-artificial-al-servicio-del-bien-social-en-America-Latina-y-el-Caribe-Panorámica-regional-e-instantáneas-de-doce-paises.pdf 

Comments
0
comment
No comments here
Why not start the discussion?