Skip to main content
SearchLoginLogin or Signup

Diseño de un índice global basado en derechos sobre IA responsable

Desde Sudáfrica, Rachel Adams da voz al esfuerzo de un colectivo de especialistas y consultoras y comparte el proceso de construcción del Índice Global para IA responsable basado en los derechos humanos.

Published onJul 10, 2023
Diseño de un índice global basado en derechos sobre IA responsable

Versión original en inglés disponible en D4D.net. Traducción al español de Mariel Zasso.

La inteligencia artificial (IA) es un problema perverso al que se enfrenta la sociedad en todo el mundo. Es perverso porque es complejo y difícil de definir como una preocupación política. ¿Cómo se está utilizando y quién debe – quién puede? – asumir la responsabilidad de garantizar que se utilice para mejorar la sociedad? A medida que avanza cada vez más para convertirse en una tecnología de uso general, no puede aislarse de las condiciones sociales y económicas en las que se produce y utiliza; de hecho, está cambiando la naturaleza misma de las sociedades y las economías, exigiendo nuevos tipos de investigación e intervenciones políticas para comprender y gestionar sus efectos. (Coyle, 2021). Lo que hace que la IA sea más compleja es la paradoja en la que está ligada: esta tecnología, que ofrece un gran potencial de transformación para las sociedades en su capacidad para calcular grandes franjas de información, a una tasa de eficiencia mucho mayor que cualquier mente humana, conlleva un gran riesgo para los derechos y valores fundamentales. La evidencia ha demostrado que incluso los usos más legítimos de la IA han causado daño a las personas y sus sociedades y entornos (Pizzi, Romanoff & Engelhardt, 2021). Para agregar a esto, aún no conocemos las implicaciones o impactos completos que la IA está teniendo, o tendrá, en diferentes sociedades alrededor del mundo.

En respuesta, se han desarrollado marcos que establecen los principios éticos básicos que deben respetarse a medida que se diseña, desarrolla, usa y evalúa la tecnología. Estos principios éticos reflejan algunos de los valores centrales de la sociedad humana que se considera amenazada por la IA, tales como: quién debe rendir cuentas por los daños que pueda causar o cómo podemos asegurarnos de que sabemos lo suficiente sobre cómo funciona una IA para ser capaz de aislar la causa de sus efectos nocivos. Los Principios sobre Inteligencia Artificial de la OCDE, adoptados en 2019, han sido un marco particularmente importante en este sentido. (OCDE, 2019) A fines de 2021, se alcanzó otro hito importante para la comunidad internacional cuando la Recomendación de la UNESCO sobre ética en la IA (UNESCO, 2021) fue adoptada por unanimidad por los 193 estados miembros. Esto constituye un gran avance en la ética de la IA: la Recomendación de la UNESCO ofrece un marco amplio sobre cómo se debe desarrollar y utilizar la IA para mejorar la sociedad humana en diferentes contextos alrededor del mundo, ofreciendo el primer instrumento global de este tipo y enfatizando la importancia de la diversidad y del contexto cultural en la aplicación de sus disposiciones.

A medida que avanzamos en la profundización de nuestra comprensión colectiva de cómo la IA está remodelando nuestras sociedades y qué modelos de políticas se requieren para gestionar mejor sus efectos al servicio del bienestar humano y planetario, se necesita información sobre el estado global de la implementación de los principios de la UNESCO y las barreras que enfrentan los países para proteger a las personas de los riesgos para los derechos humanos y las libertades democráticas que la IA puede traer. Esta es la premisa del nuevo Índice Global de IA Responsable (Índice Global).

El Índice Global sobre IA responsable

El Índice Global es una nueva herramienta basada en derechos que se está desarrollando para apoyar a una amplia gama de actores en el avance de las prácticas de IA responsable. Su objetivo es proporcionar un punto de referencia completo, confiable, independiente y comparativo para evaluar el progreso hacia una IA responsable en todo el mundo. En última instancia, al proporcionar investigaciones y datos para fomentar la rendición de cuentas, desarrollar intervenciones políticas más precisas y perfeccionar las mejores prácticas, además de fomentar la cooperación regional e internacional, el Índice global reforzará la capacidad de los gobiernos, de las organizaciones de la sociedad civil y de otras partes interesadas en todo el mundo para defender los principios de la IA responsable basada en los derechos.

Una de las innovaciones clave del Índice Global es el desarrollo de un enfoque totalmente integrado basado en los derechos humanos que informará las dimensiones comparativas del Índice. Este enfoque es innovador por dos razones. Primero, por la codificación de las obligaciones de derechos humanos junto a los principios aceptados de la ética de la IA para establecer puntos de referencia concretos para una IA responsable basada en los tratados y estándares de derechos humanos existentes. Y segundo, por desarrollar un índice – un instrumento de investigación diseñado para crear un sistema de clasificación contra el logro de puntos de referencia universalmente aplicables – que busca evaluar de manera justa el progreso de un país hacia la IA responsable con una metodología basada en los estándares de derechos humanos y en la realización progresiva de derechos socioeconómicos sujetos a los recursos disponibles, a fin de adaptarse a las diversas condiciones dentro de los países.

En este artículo introductorio al proyecto del Índice Global, discuto estas innovaciones con más detalle, describiendo exactamente lo que queremos decir con un Índice Global basado en derechos y por qué creemos que esto es importante.

Derechos humanos

Los derechos humanos comprenden un marco ampliamente aceptado para las condiciones básicas de la humanidad codificado en el derecho internacional, regional y nacional, con más de 170 países que han ratificado la declaración internacional de derechos (que consta de la Declaración Universal de Derechos Humanos, del Pacto Internacional de Derechos Civiles y Políticos, y del Pacto Internacional de Derechos Sociales, Económicos y Culturales). Esto incluye derechos a participar en la vida social, cultural y política; tener acceso a alimentos, agua, atención médica y vivienda para sobrevivir; tener protección social del Estado cuando sea necesario; estar igualmente sujetos a leyes justas; tener libertad de pensamiento; y tener estos derechos, y todos los demás derechos, realizados y protegidos.

En los sistemas regionales de derechos humanos que se han establecido se enfatizan los derechos derivados de contextos históricos. Dentro del canon de la Organización de los Estados Americanos, por ejemplo, el derecho al trabajo y los derechos laborales justos son clave, mientras que dentro del sistema africano de derechos humanos, el derecho a estar libre de la esclavitud de la dominación y los derechos comunitarios tienen una importancia particular. La erradicación de la discriminación contra las mujeres y el logro de la igualdad de género sustantiva es una prioridad universal, tal como se expresa en los Objetivos de Desarrollo Sostenible (ODS) de la ONU.

La AI supone un riesgo para el disfrute y la realización de los derechos humanos en todo el mundo. Conocemos bien las infracciones al derecho a la privacidad involucradas en el uso intensivo de datos por parte de AI y los impactos en la libertad de movimiento y asociación de la vigilancia impulsada por la AI. La creciente evidencia de los efectos discriminatorios dañinos de la IA en las mujeres, las minorías de género y las personas racializadas, entre muchos otros grupos vulnerables dentro de la sociedad, está impulsando a los actores de todo el mundo a considerar con mayor urgencia las herramientas necesarias para abordar este problema y poner en práctica los principios de IA responsable y ética.

Lo que ha sido una prioridad política bastante menor es la forma en que la IA está contribuyendo a la desigualdad entre y dentro de los países en la distribución radicalmente desigual de sus beneficios y riqueza. Para abordar esta preocupación, se requiere cooperación y solidaridad internacionales sobre el uso beneficioso de la IA para todas las personas en todas partes y el cumplimiento de estándares definidos de IA responsable.

¿Por qué un enfoque basado en los derechos humanos?

Un Índice Global basado en derechos puede ayudar a respaldar la promoción y la protección de los derechos humanos en el desarrollo y uso de la IA. Esto incluye ayudar a los titulares de deberes de derechos humanos a comprender sus responsabilidades en relación con la IA; a los gobiernos, en el cumplimiento de sus obligaciones de derechos humanos en un contexto digital cambiante; a las defensoras y los defensores de los derechos humanos en el seguimiento y en la defensa de la protección de los derechos humanos en riesgo por la AI; y a los titulares de derechos para reclamar sus derechos y acceder a remedios y reparaciones cuando esos derechos se hayan violado.

Los derechos humanos constituyen un marco ejecutable para la protección de las personas y de las comunidades frente al abuso de poder. Discutido con más detalle en las secciones a continuación, esto significa que nuestro punto de partida para medir de manera justa el progreso de un país en IA responsable es un conjunto de normas y estándares ya acordados por los gobiernos de todo el mundo y por la comunidad internacional.

Además, un enfoque basado en los derechos obliga a un enfoque de diseño particular que se centre en la no discriminación y la igualdad sustantiva; la inclusión y la participación, particularmente con las comunidades afectadas; la transparencia y la accesibilidad, de modo que los datos que producimos y la metodología que adoptamos puedan ser utilizados y entendidos por otros; y la equidad, de modo que el índice refleje fielmente los contextos y las realidades locales.

Sin embargo, los derechos humanos no están exentos de limitaciones y críticas, como ha sido expresado ​​por académicos y especialistas. Antes de detallar lo que entendemos por un enfoque basado en derechos humanos, es importante considerar estas preocupaciones y sus implicaciones para diseñar un Índice Global inclusivo y con impacto.

Superación de las limitaciones de los derechos humanos

a. Exigibilidad

Una crítica clave del sistema de derechos humanos es su falta de eficacia para alcanzar el cambio radical necesario para lograr un mundo verdaderamente justo e igualitario debido a su amplio alcance y su carácter de ley blanda, no jurídicamente vinculante. Esto significa que cuando se han firmado tratados internacionales o regionales de derechos humanos sin incorporarlos en las leyes nacionales, los mecanismos de aplicación de esos tratados son a menudo ineficaces.

Estos argumentos son particularmente importantes en el contexto de la ética de la IA donde, hasta la fecha, el espacio se caracteriza en gran medida por estándares éticos no vinculantes y medidas de autorregulación. En este sentido, hay lecciones que aprender del sistema internacional de derechos humanos sobre los mecanismos de aplicación y supervisión, así como la necesidad de apoyar activamente la puesta en práctica nacional de la ética de la IA a través del desarrollo de capacidades de personas, sistemas e instituciones, la colaboración entre naciones y con organizaciones internacionales, y la transparencia, para permitir el monitoreo y la presentación de informes independientes.

Sin embargo, quizás de manera más definitiva, el sistema de derechos humanos desarrollado durante los últimos 70 años brinda la base para articular y establecer deberes y responsabilidades claros para los actores involucrados en el desarrollo y uso de la IA y, por lo tanto, otorga mayor peso y contenido a los principios de IA éticos y responsables. De esta manera, el discurso y la regulación en torno a la IA responsable pueden aprovechar la experiencia y la jurisprudencia del sistema de derechos humanos, dando contenido a los derechos, orientación sobre su cumplimiento y realización progresiva, y precedencia en el equilibrio de derechos e intereses contrapuestos.

B. Hacer que las empresas rindan cuentas por las violaciones de los derechos humanos

Tradicionalmente, los derechos humanos han impuesto a los gobiernos, como titulares de deberes, la obligación de proteger o hacer realidad los derechos humanos de las personas y las comunidades como titulares de derechos. Históricamente, los actores corporativos no han tenido responsabilidades específicas y directas en materia de derechos humanos. Si bien la responsabilidad última de proteger y promover el respeto a los derechos humanos recae en los gobiernos, la falta de responsabilidades específicas basadas en los derechos humanos para las empresas ha planteado una limitación en el disfrute y la realización de estos derechos, particularmente en contextos en los que los gobiernos no cumplem - o no son capaces de cumplir - con sus propios deberes de derechos humanos o exigir que las empresas rindan cuentas. Esto se ve exacerbado en países de bajos recursos donde las empresas multinacionales que operan en la región ejercen un poder significativo sobre los gobiernos locales.

En el contexto de la IA, la responsabilidad corporativa por su uso y desarrollo es un componente crítico de la IA responsable. Sin embargo, esto se complica por la falta de marcos aplicables para obligar a las empresas a actuar de manera responsable y respetar los derechos humanos. Ha resultado particularmente difícil hacer que las grandes empresas tecnológicas y multinacionales de IA rindan cuentas por los daños cometidos fuera del país en el que tienen su sede; por ejemplo, el papel de Facebook en el genocidio de Myanmar.

En este sentido, se necesita hacer mucho más para obligar a las empresas de IA a desarrollar y utilizar la IA responsablemente de manera que no sea perjudicial para las personas o las comunidades.

En 2011, el profesor John Ruggie publicó el fundamental Principios rectores de las Naciones Unidas sobre las empresas y los derechos humanos, que puso en marcha debates y compromisos más amplios sobre cómo las empresas deberían y podrían rendir cuentas por sus responsabilidades relacionadas con los derechos humanos. (Ruggie, 2011) Los Principios Rectores de la ONU incluyen disposiciones que serán especialmente importantes para su consideración en el Índice Global, como la responsabilidad de las empresas de garantizar el respeto de los derechos humanos en todas las cadenas de suministro de las empresas.

C. ¿Quién es considerado “humano” en derechos humanos y el Sur Global en el centro de los debates de IA?

Otra crítica importante de los derechos humanos proviene del pensamiento poscolonial y descolonial, que señala la historia claramente occidental de los derechos y la noción de que la provisión de derechos a la humanidad implica un a priori de quién es considerado humano y, por lo tanto, digno de tener derechos.

Esta es también una pregunta particularmente pertinente en relación al campo de la IA que busca imitar la inteligencia humana y, en última instancia, reproducir al ser humano en forma de máquina (ya sea en parte o en su totalidad). Involucrados en este proceso están los supuestos críticos —y normativos— sobre quién y qué es el ser humano.1(Adams, 2021)

En el evento de anuncio del Índice Global2 que se llevó a cabo como un evento paralelo a la Cumbre por la Democracia 2021, la profesora del Tecnológico de Monterrey, Paola Ricaurte, habló sobre la importancia de abordar las cuestiones de violencia y asimetrías de poder en el Índice Global como áreas críticas para el trabajo feminista y descolonial de AI. Esto incluye cuestionar cómo las tecnologías de IA permiten la violencia contra las mujeres; qué violencias se ejercen, cómo y quién crea la IA, las condiciones laborales injustas a las que están sometidas las personas como etiquetadoras de imágenes perturbadoras para entrenar IA; el acoso sexual o la discriminación por motivos de género como parte de los equipos de diseño de IA; la pérdida de un entorno saludable por la extracción insostenible de los recursos naturales necesarios para impulsar la IA, entre otros aspectos.

Al desarrollar el Índice Global, estos temas serán una preocupación central. Realizaremos una serie de ejercicios de consulta con grupos de derechos de las mujeres, académicas y académicos indígenas de AI, grupos de defensa de los derechos humanos y partes interesadas del Sur Global, para comprender mejor las preocupaciones particulares que enfrentan diferentes grupos en diferentes partes del mundo en relación con la IA con el fin de construir un índice que aborde los desafíos reales y prácticos y que se pueda utilizar como una herramienta para respaldar mayores esfuerzos de defensa de la IA responsable.

Además, el Índice Global es quizás la primera herramienta global de IA que se desarrolla con el liderazgo del Sur Global, ya que la iniciativa está dirigida por Research ICT Africa3 con un equipo de personas expertas en inteligencia artificial de África, Asia y América del Sur. En el proceso de desarrollo del Índice Global, se hará especial hincapié en apoyar la capacidad de los investigadores de IA del Sur Global para participar -y liderar- debates globales sobre IA.

Un enfoque basado en los derechos humanos

Los elementos de un enfoque basado en los derechos humanos se han detallado en el derecho internacional de los derechos humanos y consisten en los siguientes cinco principios:

Principios de un enfoque basado en los derechos humanos

Universalidad e inalienabilidad

Toda persona tiene derecho a todos los derechos humanos, por igual y sin distinción

Indivisibilidad e interdependencia

Todos los derechos son inherentes a la dignidad humana: la realización y el disfrute de un derecho depende de la realización de otro derecho. Esto requiere una realización holística de todos los derechos y ninguna compensación entre los derechos.

Igualdad y no discriminación

Todos los seres humanos son iguales en virtud de su dignidad inherente. Como tal, todos los seres humanos tienen derecho al disfrute igualitario de sus derechos sin discriminación

Participación e inclusión

Todas las personas tienen derecho a una participación equitativa, libre, activa y significativa en la implementación y el disfrute de todos los derechos

Rendición de cuentas y estado de derecho

Todos los titulares de deberes (tanto estatales como no estatales) tienen obligaciones con respecto a la realización de los derechos humanos. Como tales, deben cumplir con las normas y estándares legales en materia de derechos humanos que se han establecido a nivel nacional e internacional. Si no lo hacen, las partes agraviadas tienen derecho a un recurso o reparación efectivos.

Adaptado de Adams et al. (2021).

Estos principios se adoptarán en el diseño de la metodología y del marco conceptual del Índice Global, como se analiza a continuación. Como mínimo, esto incluye atención específica a lo siguiente:

  • Énfasis en la no discriminación

  • Énfasis en la realización de la igualdad sustantiva y el reconocimiento de la experiencia diferencial de disfrute o acceso a los derechos en la era digital

  • Énfasis en la consulta pública significativa, en la participación y en la inclusión en el diseño, uso y gobernanza de la IA

  • Interferencia de los sistemas de IA con los derechos proporcionada, legítima y razonable en una sociedad democrática y establecida por ley

  • Beneficencia y distribución justa de los beneficios de IA para proteger contra el empeoramiento de la desigualdad.

  • Recurso a la jurisprudencia nacional, regional e internacional sobre derechos humanos para equilibrar derechos y principios contrapuestos

  • Exigencia a los actores no estatales poderosos que tomen medidas positivas para realizar y proteger los derechos humanos afectados por el desarrollo y por el uso de la IA

  • Mecanismos de reparación y remedio cuando se produzcan violaciones como resultado del desarrollo y del uso de la IA deben ser fácilmente accesibles

  • Conocimiento y acceso a derechos en el contexto de la IA y de la digitalización de la sociedad por parte de sus titulares

  • Enfoque en crear futuros inclusivos a través del diseño inclusivo de tecnología inclusiva

  • Desarrollo de una regulación que tenga en cuenta la indivisibilidad e interdependencia de los derechos de manera que, por ejemplo, el derecho a la privacidad se entienda junto a la dignidad, a la libertad de circulación y a la no discriminación, entre otros

Definición de “responsabilidad”

En los últimos años, ha habido un cambio en el discurso sobre la buena gobernanza de la IA, de una IA ética a una IA responsable. Si bien la IA ética conserva su fortaleza, junto con la IA confiable, y aunque en la práctica puede haber una diferenciación limitada entre estos términos, los derechos humanos brindan un marco claro de responsabilidad que consideramos útil para definir la IA responsable.

Marco de responsabilidad de derechos humanos

Promover derechos

Proteger derechos

Respetar derechos

Monitorear derechos

Reclamar derechos

Gobiernos; la sociedad civil y los organismos de promoción; empresas

Gobiernos (y empresas que cumplan con un deber gubernamental de derechos humanos)

Gobiernos y empresas

Organismos independientes de derechos humanos; la sociedad civil y los grupos de defensa; académicos, entre otros.

Individuos y comunidades

Esto se traduce en el siguiente marco de responsabilidad de la IA:

Marco de Responsabilidad de IA y derechos humanos

Responsabilidad del gobierno: garantizar que en el país existan las condiciones para el uso responsable de la IA

• Promover el desarrollo responsable de sistemas de IA que respeten los derechos, incluido el establecimiento de marcos legales y regulatorios pertinentes.

• Supervisar el impacto de la IA en los derechos humanos y proporcionar remedios para las violaciones de los derechos

Responsabilidad corporativa: promover y respetar los derechos humanos en el desarrollo y en el uso de la IA

• Desarrollar y utilizar sistemas de IA de manera que promuevan los derechos humanos y fortalezcan la democracia

• Respetar los derechos humanos en todas las cadenas de suministro

Responsabilidad social: promover y monitorear los derechos humanos por parte de las y los usuarios y de las y los desarrolladores de IA

• Defender el respeto por los derechos humanos en el uso y en el desarrollo de IA

• Monitorear el uso estatal y corporativo de IA y promover la conciencia de los derechos.

Este marco de responsabilidad incluye tanto la no injerencia en los llamados derechos de deber negativo, como la libertad de expresión y el derecho a la privacidad, como también los derechos de deber positivo, como son el derecho a la educación o el acceso a la atención médica. Esto es importante en el contexto de la “IA responsable”, donde queremos asegurarnos de que la IA no solo se use de una manera ética que no infrinja los derechos humanos, sino que su uso contribuya de manera significativa a la realización progresiva de derechos y deberes positivos y de los Objetivos de Desarrollo Sostenible.

Codificación de estándares de IA responsables basados ​​en derechos

El Índice Global implicará un proceso para codificar las obligaciones y los estándares de derechos humanos junto con principios éticos de IA ampliamente aceptados. La Recomendación de la UNESCO constituye un importante punto de partida para nuestro trabajo, articulando la protección y promoción de los derechos humanos como uno de sus principios centrales, junto con la diversidad y la sostenibilidad ambiental. Otros marcos clave incluyen la Declaración de Toronto: Proteger el derecho a la igualdad y la no discriminación en los sistemas de aprendizaje automático (Amnistía Internacional, 2018), el Protocolo Indígena e Inteligencia Artificial (Lewis, 2020), y los principios feministas de la IA (Tandon, 2021).

La Recomendación de la UNESCO se desarrolló después de un extenso período de consulta de 2 años con partes interesadas de todo el mundo y representa el marco más completo y ampliamente aceptado sobre la ética de la IA hasta la fecha.

La metodología central para medir la IA responsable se basará en el marco de valores, principios y áreas de acción política establecidos en la Recomendación de la UNESCO que deben traducirse en un conjunto de indicadores clave basados ​​en los derechos humanos para respaldar la medición. (Consulte la sección a continuación para obtener más información sobre el desarrollo de indicadores.)

Nuestro enfoque de derechos humanos abarca no sólo los derechos civiles y políticos, como la privacidad, la libertad de expresión y asociación, que están bien reconocidos como afectados por la IA, sino que, a partir de la Recomendación de la UNESCO y de los aportes de la consulta con las partes interesadas del Sur Global, también incluye los derechos sociales, económicos, ambientales y culturales, los derechos de la comunidad, los derechos laborales y los derechos de las niñas y los niños. La erradicación de la discriminación contra las mujeres y los grupos sistémicamente desfavorecidos en virtud de su identificación sexual, junto con la realización de una igualdad de género sustantiva, también constituirán áreas de enfoque clave del Índice Global.

Un enfoque basado en los derechos humanos como metodología

Uno de los principios clave del diseño del Índice Global es la equidad. Es decir, reflejar de manera justa los contextos y las realidades locales y medir el nivel de IA responsable de un país en relación con los recursos disponibles. Esto no solo es importante porque tenemos en cuenta la desigualdad global de capacidad y recursos de IA entre países, sino porque los resultados justos y contextuales son mucho más informativos y útiles para los países y las partes interesadas locales que buscan avanzar en su propio progreso hacia una IA responsable.

Sin embargo, incorporar la equidad en la metodología de un índice no es sencillo. Los índices tienden a utilizar puntos de referencia estándar para medir a los países frente a criterios universales como base para la clasificación. En cambio, el Índice Global se inspira en el sistema de derechos humanos para entender cuáles serían las medidas que se esperaría que tomen los países de diferentes niveles de recursos para proteger y cumplir los derechos humanos. El Pacto Internacional de Derechos Económicos, Sociales y Culturales (PIDESC), ratificado por más de 140 países, prevé el concepto de la realización progresiva de los derechos sujeta al máximo de recursos disponibles. Esto significa que se espera que los gobiernos tomen todas las medidas posibles utilizando los máximos recursos disponibles para apoyar la realización de los derechos socioeconómicos de deber positivo, como el agua, la vivienda y la seguridad social. Reconoce que los países se encuentran en diferentes etapas en la realización de los derechos socioeconómicos y no todos disfrutan del acceso al mismo nivel y escala de recursos necesarios para cumplir con la realización de estos derechos. Los recursos disponibles (CESCR, 2007) incluyen tanto los recursos disponibles dentro de un país (públicos y privados) como los recursos disponibles a través de la asistencia y cooperación internacional.

El Índice Global se basará en el concepto de la realización progresiva de los derechos sujetos al máximo de recursos disponibles en su metodología de dos maneras principales. Primero, en el desarrollo de un conjunto de indicadores que midan también el proceso y el desarrollo de capacidades y no solo los resultados. Y segundo, en el desarrollo de un marco de evaluación de criterios que medirá el progreso de un país en el logro de un indicador de IA responsable frente a una escala desarrollada de acuerdo con tres niveles de recursos: países de bajos recursos, países de recursos medios y países de recursos altos.

Los indicadores pueden incluir: indicadores de “entrada”, como la ratificación de instrumentos clave de derechos humanos o la existencia de una ley de protección de datos; indicadores de “proceso”, como la inversión en programas de ciencia de datos para mujeres; e indicadores de “resultado” e “impacto”, como el número de denuncias relacionadas con AI presentadas ante un organismo independiente de protección de los derechos humanos. El desarrollo de indicadores se realiza y se seguirá realizando en consulta con una amplia gama de partes interesadas en un esfuerzo por abordar el ámbito completo de los desafíos (y oportunidades) de derechos humanos asociados con la IA.

El Índice Global también tendrá en cuenta las obligaciones básicas mínimas establecidas en el PIDESC, que requieren que ciertas obligaciones socioeconómicas de derechos humanos de los gobiernos se cumplan de inmediato y siempre, incluso en un estándar básico. Esto incluye el acceso a oportunidades laborales, en particular para las comunidades desfavorecidas y el acceso a un plan de seguridad social para garantizar las necesidades básicas, como agua, vivienda y alimentación. Por lo tanto, el Índice Global incluirá una evaluación de si la IA interfiere con las obligaciones básicas mínimas de un gobierno, o si se utiliza de manera efectiva para cumplirlas.

Referencias

Adams et al. (2021). Human Rights and the fourth industrial revolution in South Africa. Ciudad del Cabo: HSRC Press. https://www.hsrcpress.ac.za/books/human-rights-and-the-fourth-industrial-revolution-in-south-africa

Adams, R. (2021). Can artificial intelligence be decolonized?. Interdisciplinary Science Reviews, 46(1-2), 176-197. https://doi.org/10.1080/03080188.2020.1840225

Amnistía Internacional. (2018). The Toronto Declaration: Protecting the right to equality and non-discrimination in machine learning systems. https://www.accessnow.org/cms/assets/uploads/2018/08/The-Toronto-Declaration_ENG_08-2018.pdf

Comité de Derechos Económicos, Sociales y Culturales - Naciones Unidas. (2007). Evaluation of the obligation to take steps to the ‘maximum of available resources’ under an optional protocol to the covenant. UN doc. E/C, 12, 1. https://www2.ohchr.org/english/bodies/cescr/docs/statements/Obligationtotakesteps-2007.pdf

Coyle, D. (2021). Cogs and monsters: What economics is, and what it should be. Princeton University Press.

Lewis, J. E. (ed.) (2020). Indigenous protocol and artificial intelligence position paper. Honolulu: The Initiative for Indigenous Futures and the Canadian Institute for Advanced Research (CIFAR). 10.11573/spectrum.library.concordia.ca.00986506

OECD. (2019). AI Principles. AI Policy Observatory. https://oecd.ai/en/ai-principles/

Pizzi, M., Romanoff, M., & Engelhardt, T. (2020). AI for humanitarian action: Human rights and ethics. International Review of the Red Cross, 102(913), 145-180. 10.1017/S1816383121000011

Ruggie, J. (2011). Re: Guiding Principles for the implementation of the United Nations “Protect, Respect and Remedy” Framework. United Nations Document, 3. https://www.ohchr.org/sites/default/files/documents/publications/guidingprinciplesbusinesshr_en.pdf

Tandon, A. (2021). Practicing feminist principles in AI design. Feminist AI. https://feministai.pubpub.org/pub/practicing-feminist-principles

UNESCO. (2021). Recommendation on the ethics of artificial intelligence. https://en.unesco.org/artificial-intelligence/ethics

Comments
0
comment
No comments here
Why not start the discussion?