Skip to main content
SearchLoginLogin or Signup

La sabiduría del no saber y la IA descolonial

La investigadora turca Buse Çetin enseña cómo la IA está profundamente enredada con la colonialidad del poder, no solo a las esferas políticas y económicas, sino también a los lugares de producción de conocimiento, percepción, sentimiento e imaginación.

Published onJul 08, 2023
La sabiduría del no saber y la IA descolonial

Versión original en inglés disponible en Gunda Werner Institute. Traducción al español de Mariel Zasso.

El verano pasado visité a mis abuelos que viven en un pueblo en la Anatolia, en Turquía1. Como indagación personal, le pregunté a mi abuelo qué representaba para él “Europa”, cuáles fueron las primeras palabras, símbolos, imágenes que le vinieron a la mente cuando dije “Europa”. Inmediatamente respondió: “progreso, tecnología, inteligencia, trabajo duro…” y agregó, “somos corruptos y no trabajamos lo suficiente. Por eso nos quedamos atrás”. Sentí un calambre en el estómago, pero sonreí.

No hay nada más desalentador e invalidante que creer que hay algo intrínsecamente malo en su cultura, educación y formas de conocer, sentir y dar sentido al mundo. Como piensa mi abuelo, ¿los europeos o los occidentales tienen economías avanzadas porque saben, tienen la tecnología de su parte, y son más trabajadores y moralmente superiores a los demás?

Falta una parte en la historia de mi abuelo. Una que contradice las narrativas globalizadas de la modernidad y la colonialidad. Es una historia de explotación global, extracción, racismo, capitalismo, pensamiento dualista y hegemonía. Es la historia de esta red invisible de recursos naturales y generaciones de trabajo humano racializado que sostienen las brillantes promesas de eficiencia comercializadas a través del avance tecnológico.

Esto también suele faltar en el discurso dominante sobre las tecnologías de inteligencia artificial (IA). La IA existe en un sistema sociotécnico (Johnson & Verdicchio, 2017) que inevitablemente interactúa con lo que es social. No es solo una disciplina científica y un negocio, sino que también tiene su propia mitología (Crawford, 2014):

La 'IA' se entiende mejor como una ideología política y social que como una cesta de algoritmos. El núcleo de la ideología es que un conjunto de tecnologías, diseñado por una pequeña élite técnica, puede y debe volverse autónomo y eventualmente reemplazar, en lugar de complementar, no solo a los humanos individuales sino a gran parte de la humanidad. (Lanier, 2021)

La IA y el poder colonial

La IA está profundamente enredada con la colonialidad del poder de varias maneras. La colonialidad del poder da forma no solo a las esferas políticas y económicas, sino también a los lugares de producción de conocimiento, percepción, sentimiento e imaginación. En los ecosistemas de IA, el conocimiento científico, la invención tecnológica y las ganancias corporativas se refuerzan mutuamente y conducen a la consolidación del poder político y económico. El sistema económico en el que está incrustada la IA es uno de capitalismo extractivo. Moldea los objetivos, los modos de producción, las formas de trabajo y la distribución de la riqueza y el poder en torno a esta tecnología.

En su etapa actual, la IA nace en economías de escala y plataformas digitales. Las grandes empresas tecnológicas acumulan una masa crítica a través de enormes retornos a escala y efectos de red. Esto conduce a la centralización de las infraestructuras digitales sobre las que se construye una parte considerable de las actividades comerciales y de diversa índole. El alcance y el poder actuales de estas importantes empresas tecnológicas recuerdan a los imperios; solo que ahora extraen datos junto con los recursos naturales y el trabajo racializado de otras partes del mundo. 

El discurso dominante mistifica la IA como una tecnología abstracta y autosuficiente. La imaginación popular se obsesiona con la tecnología al ignorar todos los recursos naturales y materiales, así como el trabajo humano, que hacen posible la IA en primer lugar. La anatomía de un sistema de IA2, Kate Crawford y Vladan Joler,  muestra todos los recursos materiales, el trabajo humano y los datos necesarios para el ciclo de vida de un solo Amazon Echo, desde su producción hasta su eliminación. Esto incluye la extracción de minerales terrestres como el litio para producir el hardware, una gran infraestructura como Internet, el trabajo de los etiquetadores de datos y más. El trabajo humano no solo es vital para refinar, ensamblar, distribuir y transportar los componentes físicos y virtuales de un sistema, sino que los consumidores también realizan trabajo continuamente al generar datos y, en última instancia, ayudar a mejorar los sistemas. (Crawford & Joler, 2018)

Los datos como fuente última de conocimiento 

La creciente confianza en los datos como fuente última de conocimiento impone un nuevo orden epistemológico basado en la dataficación/mercantilización de todo. Los principales conjuntos de datos de entrenamiento para el aprendizaje automático (NMIST, ImageNet, Labeled Faces in the Wild, etc.) se originaron en corporaciones, universidades y agencias militares del Norte Global. (Pasquinelli & Joler) Las categorías binarias de raza y género construidas socialmente se cimentan en taxonomías y sistemas de clasificación de datos, lo que refuerza las implicaciones sociales, políticas y económicas en la distribución del poder de tales categorías. Los marginados, cuerpos minorizados y subalternos que no encajan en las clasificaciones y taxonomías coloniales son objeto de violencia algorítmica y discriminación.

AI decolonial

El relato de la colonialidad de AI es vasto y complejo. En "Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence", Mohamed, Png e Isaac (2020) brindan una visión integral de los sitios de descolonialidad en la IA. De manera similar, Ricaurte desarrolla un modelo teórico para comprender la colonialidad del poder en los datos en “Epistemologías de datos, colonialidad del poder y resistencia”. (Ricaurte, 2019) Esta actividad académica ciertamente contribuye a lo que Adolfo Albán Achinte llama re-existencia: “una estrategia de cuestionamiento y visibilización de las prácticas de racialización, exclusión y marginación, procurando redefinir y resignificar la vida en condiciones de dignidad y autodeterminación, mientras al mismo tiempo se confronta la biopolítica que controla, domina y mercantiliza los sujetos y la naturaleza.” (Achinte, 2008, pp. 85-86) 

Sin embargo, la descolonialidad también tiene sus contradicciones y cuestionamientos. Por ejemplo, el lenguaje de la descolonialidad corre el riesgo de ser capturado: "cómo escribir (producir) sin inscribirse (reproducir) en la estructura blanca dominante y cómo escribir sin reinscribir y reproducir aquello contra lo que nos rebelamos". (Anzaldúa, 2018, pp. 20-21) O ¿qué queda de la IA una vez que se torna descolonial? ¿Encierra esto necesariamente la descolonialidad en posiciones aparentemente opuestas de rechazo tecnológico y/o captura inevitable? Yo veo la ansiada idea de pureza y los binarios colonial vs descolonial que mi mente reproduce en estas preguntas. Trato de resistir y recordar que “no hay propietario ni un plan maestro privilegiado para la descolonialidad” (Anzaldúa, 2018. p. 118) y apreciar la hibridación y complejidad de las cosas.

En lugar de renunciar al impulso de la mente moderna por la certeza, la jerarquía y las respuestas prefabricadas, la descolonialidad puede verse como un proceso continuo y una praxis que no solo es epistemológica sino también emocional, espiritual y contextual. Se trata de construir patrones situados del otro: vivir, reflexionar, analizar, teorizar, actuar y dejar lo construido (y capturado) para empezar de nuevo. Se trata de centrar la vida: “La opción descolonial... parte de la idea de que 'la regeneración de la vida debe prevalecer sobre [la] primacía del reciclaje de la producción y reproducción de bienes”. (Bhambra, 2014, p. 137) 

La sabiduría de no saber

Mi abuelo es agricultor, su padre fue imán3 y también agricultor. Mi abuelo no fue a la escuela secundaria, no está empapado del tipo de conocimiento más valorado para la modernidad/colonialidad. Cuando le expliqué cómo se usaba la IA en la agricultura para la detección de enfermedades y el pronóstico estacional, no parecía muy interesado. Porque él sabe que, haga lo que haga, si cae granizo este año, significa que pueden perder una parte importante de su cosecha. La amenaza de pérdida de cosechas siempre está presente, pero nunca lo he visto quejándose retadoramente de las fuerzas de la naturaleza - como lo hace con las fuerzas del capital.

Esta humildad espiritual y la relación personal de mis abuelos con la naturaleza y el suelo me enseñaron que hay sabiduría en no saber en el sentido moderno/colonial. Es bastante contraintuitivo para la mente moderna/colonial y sus tecnologías, ya que vende la ilusión de control que se obtiene al saber. A estas alturas, no se trata de saber más; se trata de respetar la naturaleza en constante cambio de la vida al honrar otros tipos de conocimiento. En La mano izquierda de la oscuridad, Ursula K. Le Guin dice: “Aprender qué preguntas no tienen respuesta y no responderlas: esta habilidad es más necesaria en tiempos de estrés y oscuridad”.


Referencias

Achinte, A. A. (2008) ¿Interculturalidad sin decolonialidad? Colonialidades circulantes y prácticas de re-existencia. En: Villa, W. & Grueso, A. (eds.) Diversidad, interculturalidad y construcción de ciudad. Universidad Pedagógica Nacional/Alcaldía Mayor, 2008), 85–86. En: Mignolo, W. D. & Walsh,C. E. (2018). On Decoloniality. Duke University Press.

Anzaldúa, G. (2018) Light in the Dark, Luz en lo Oscuro: Rewriting Identity, Spirituality, Reality, ed. Analouise Keating, 7 (Durham, NC: Duke University Press, 2015). En Mignolo, W. D. & Walsh, C. E. On Decoloniality. Duke University Press, pp. 20-21.

Bhambra, G. K. (2014). Postcolonial and decolonial reconstructions. In Bhambra, G. K. Connected sociologies, pp. 117-140. London: Bloomsbury Academic.

Crawford, K., Gray, M. L., & Miltner, K. (2014). Big Data | critiquing Big Data: Politics, ethics, epistemology | special section introduction. International Journal of Communication, 8, 10. https://ijoc.org/index.php/ijoc/article/download/2167/1164 

Crawford, K. & Joler, V. (2018). Anatomy of an AI system: The Amazon echo as an anatomical map of human labor, data and planetary resources. AI Now Institute and Share Lab. https://anatomyof.ai 

Johnson, D. G., & Verdicchio, M. (2017). Reframing AI discourse. Minds and Machines 27 (4): 575–90. https://doi.org/10.1007/s11023-017-9417-6 

Lanier, J. (2021). AI is an ideology, not a technology. Wired. https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/ 

Mohamed, S., Png, M. T., & Isaac, W. (2020). Decolonial AI: Decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy & Technology, 33(4), 659-684. https://doi.org/10.1007/s13347-020-00405-8 

Pasquinelli, M. & Joler, V. (s.f.) The Nooscope Manifested - Artificial intelligence as instrument of knowledge extractivism, 23. https://nooscope.ai/ 

Ricaurte, P. (2019), Data epistemologies, the coloniality of power, and resistance. Television & New Media 20, no. 4 (May 2019): 350–65. https://doi.org/10.1177/1527476419831640

Comments
0
comment
No comments here
Why not start the discussion?