El derecho de habitar el código: soberanía tecnológica para América Latina

[El título de esta columna evoca la canción El derecho de vivir en paz (1971) del cantautor chileno Víctor Jara, compuesta en el contexto de la lucha contra la guerra de Vietnam y el imperialismo estadounidense. Esta columna es un intento de actualizar aquella consigna: el derecho a vivir no es sólo el derecho a la paz, sino el derecho a existir, a pensar y a decidir en un mundo donde los algoritmos ya no son herramientas, sino entornos que habitamos.]

Hay una certeza que me persigue cada vez que abro un buscador, cada vez que un chatbot me responde con una fluidez sospechosa, cada vez que un sistema de inteligencia artificial me ofrece una verdad que parece no tener dueño. Y es que estos sistemas no son neutrales, no son espejos objetivos de la realidad (como muchos se ensanchan a gritar). Son máquinas de producir sentido que han sido entrenadas con los datos, los valores y los intereses de quienes detentan el poder en el Norte global, y en el Sur, en nuestra América, el resultado es una colonización digital que no necesita cañones, sino que necesita algoritmos. Volvemos en esta columna a hablar de tecnología, porque si las profecías auguran que la tecnología llegará a ser invisible en nuestro día a día, es más necesario que nunca describir, investigar y escribir las estructuras bajo las cuales, en una falsa neutralidad, aceptamos cada vez más el mundo digital como propio

Quiero empezar con un experimento que he estado repitiendo demasiadas veces, mientras me siento con la laptop o el celular de frente a una INTELIGENCIA ARTIFICIAL (lo que dará después pase a un artículo).

Una pregunta,

la misma pregunta, dos idiomas,

y dos respuestas.

En español: ¿Cuáles son las causas de la pobreza en América Latina? El chatbot, ese oráculo de silicio que todos consultamos, me devuelve una lista pulcra: falta de educación, corrupción, inestabilidad política. Nada falso, pero nada nuevo. Es la respuesta que podría dar un ministro de economía en una conferencia del Banco Mundial…

En inglés: What are the root causes of poverty in Latin America? Entonces el algoritmo se estira, se despereza, y empieza a hablar de colonialismo, de extractivismo, de deuda externa, de dependencia estructural. De repente, la máquina tiene memoria, de repente, la máquina sabe historia. Me pregunto, ¿es esto casual? No, es un síntoma, que hace resonancia con un paper que quiero recomendar esta semana: SESGO: Spanish Evaluation of Stereotypical Generative Outputs, pues este texto ha medido con la frialdad de los números que los modelos de lenguaje no piensan igual en español que en inglés. Y no piensan igual porque

no han sido entrenados para pensar desde nuestras geografías, nuestras memorias, nuestras heridas, piensan, más bien, como si nuestra lengua fuera una traducción imperfecta de la suya.

La inteligencia que usamos, la que moldea nuestra búsqueda de trabajo, nuestra educación, nuestra información, está diseñada para ser menos fiable y más sesgada si la usamos en nuestra lengua materna. La única forma de reducir el sesgo, he descubierto con amargura, es escribir y pedir la respuesta en inglés. Se nota demasiado, es como si el sistema te dijera, en un susurro codificado: Para ser bien entendida, debes hablar en mi idioma, no en el tuyo.

Por quien se nombra arquitecto de la realidad

Este sin embargo no es nada más un problema técnico, es ante todo (y como todo) un problema político, es el nombre de la guerra por la soberanía cognitiva. Como ya adelantó el teórico de la comunicación Neil Postman, cada tecnología tiene una ideología, una forma de ver el mundo que naturaliza ciertas formas de ser y estar (Postman, 1992). La inteligencia artificial, tal como se está desarrollando hoy, es la ideología del Norte global hecha código. Sus sistemas de clasificación, sus bases de datos y sus métricas de éxito ¡no son universales! son el reflejo de una cultura particular que se presenta como la única válida.

1. Sesgos

El paper SESGO, publicado por investigadores de la Universidad de los Andes y otras instituciones, es el primer intento sistemático de medir cómo los modelos de lenguaje generan estereotipos en español, específicamente en contextos latinoamericanos. Y sus hallazgos son demoledores. Los autores construyeron un dataset de más de 4.000 preguntas en español, diseñadas para detectar sesgos de género, raza, clase y xenofobia. No tradujeron preguntas del inglés. Las crearon desde cero, usando refranes y expresiones populares que codifican estereotipos cotidianos en la región: El indio al final da la patada, Negro sin amo es como hijo sin padre, La mujer piensa con el corazón, no con la cabeza, Son pobres porque quieren. Y luego evaluaron seis modelos comerciales: GPT-4o mini, Gemini 2.0 Flash, Claude 3.5 Haiku, DeepSeek R1, y las versiones Instruct y Uncensored de Llama 3.1.

Los resultados son claros:

1. En contextos ambiguos, donde la pregunta no da suficiente información para responder, todos los modelos deberían decir no sé. Pero no lo hacen. En su lugar, eligen respuestas que refuerzan estereotipos, y lo hacen más en español que en inglés. En concreto, el bias score de Llama 3.1 es 1.5 veces mayor cuando se le pregunta en español (Robles et al., 2025, Tabla A1).
2. Las técnicas de mitigación de sesgos entrenadas en inglés no transfieren al español. Los modelos que mejor se comportan en inglés (como GPT-4o mini) muestran caídas significativas en español. Los autores lo dicen sin ambages: los resultados demuestran que las estrategias actuales de mitigación de sesgos no se generalizan eficazmente entre idiomas (Robles et al., 2025, p. 10).

1. La xenofobia es la categoría con los sesgos más altos, precisamente porque es la menos transferible: los estereotipos sobre migrantes en Estados Unidos (asiáticos, latinos) no son los mismos que en América Latina (venezolanos, haitianos). Cuando los modelos enfrentan preguntas sobre xenofobia en español, simplemente no tienen datos suficientes para responder bien, y recurren a lo que tienen: el estereotipo estadounidense, que no encaja (Robles et al., 2025, p. 8).

Pero entonces ¿Qué significan todos estos datos? Que cuando usamos estos modelos en español, no estamos accediendo a la misma inteligencia que en inglés, podrán pensarse que esto es determinista y hasta podrían llamarme dicotómica por irme a tal extremo, pero es real, estamos accediendo a una versión empobrecida, sesgada y colonial de esa inteligencia. Como si el algoritmo nos dijera, en cada respuesta, que nuestra lengua es una lengua menor, que nuestra historia es una historia menor, que nuestra forma de pensar solo merece los clichés más superficiales.

1. Transmutación sucia

Y relacionando esto con mi tesis, esta operación la he llamado “transmutación sucia”, como el proceso mediante el cual el capitalismo de plataformas extrae el deseo, el lenguaje y la cognición de las periferias, los transforma en datos, y los devuelve como productos, empobrecidos, descontextualizados, funcionales al poder central.

Con esto quiero añadir un argumento interesante, casi invisible, y es que el paper SESGO (Robles et al., 2025) es además una prueba empírica de una transmutación. Lo que estos modelos hacen no es aprender español, sino producir una traducción estadística del inglés. Un español que ha sido filtrado, depurado de su memoria y de su carne. Un español que no tiene la memoria de la colonia, que no sabe de la deuda externa que nos asfixia, que no conoce el shalom ni el sumud (esa resistencia firme y cotidiana del pueblo palestino), que nunca ha oído hablar del buen vivir de nuestros pueblos originarios. No sabe de la madre que acuna a su hijo en quechua, ni del grito de los mapuches que resisten el despojo forestal, ni de las palabras del náhuatl que nombran los dioses y las flores.

Este español sintético, este doble fantasma de nuestra lengua, reproduce los estereotipos del amo (como hemos visto: el racismo, el clasismo, la xenofobia, el

machismo), pero sin la complejidad del amo. Sin la capacidad de nombrar su propia violencia, sin el cinismo que se permite a sí mismo, sin la sofisticación de su autocomplacencia. Es un español que ha sido despachado de su humanidad. Como escribió el filósofo checo-francés Milan Kundera, una lengua no es solo un sistema de signos, sino un universo de sentido que contiene la historia de las pasiones y las experiencias de un pueblo (1986). Al español de nuestros algoritmos le han arrancado esa historia.

Este es el nuevo pensamiento único (Maalouf, 1998), es un régimen de producción de sentido, la neolengua orwelliana, no impuesta por un partido, sino ofrecida como el único servicio disponible en el mercado digital. Cuando preguntas a una IA por la historia de la colonia, ella te responde con el lenguaje de las estadísticas del Banco Mundial. Cuando le pides que te hable del buen vivir, te traduce a las categorías de la sostenibilidad empresarial del Foro Económico Mundial. Es como si la lengua del colonizador y el capitalismo, ya lavada de toda culpa, regresara a nuestras costas para contarnos quiénes somos y qué debemos desear.

Con esto quiero afirmar nuevamente que la lucha por la soberanía tecnológica es también una lucha lingüística y poética. Es la lucha por recuperar el derecho a nombrar el mundo desde nuestra propia herida y nuestra propia esperanza, sin tener que pasar por el diccionario de Silicon Valley. Como escribió alguna vez el poeta y filósofo peruano José María Arguedas: Yo no soy un aculturado; soy un peruano que, como un demonio feliz, habla en cristiano y en indio, en español y en quechua. Nuestra lengua no es una para ser traducida, devorada, es un campo de batalla por la identidad, y en ese campo, la inteligencia artificial hegemónica no es una herramienta neutral, claro que no, es en realidad el arma del colonizador, ahora hecha código.

• Sobre los contratos de la muerte digital

Aquí el asunto deja de ser una disputa académica para convertirse en una cuestión de vida o muerte. Porque la tecnología no es neutral en Gaza. No es neutral en Sudán. No lo es en ningún lugar donde el poder se ejerce con el sello de las empresas que están construyendo la infraestructura digital del exterminio.

¿Usas Amazon o Google? Pues tus datos y servicios alimentan directamente el genocidio y apartheid en Palestina, cada clic y cada servicio contratado sostiene a las corporaciones que construyen la infraestructura digital del exterminio y el despojo del pueblo palestino. Reconocer el genocidio no sirve de nada si se coopera con él. Google y Amazon, a través de Project Nimbus, han firmado contratos millonarios con el gobierno israelí para proporcionar servicios de computación en la nube e inteligencia artificial. Estos servicios no son neutrales: se utilizan para gestionar bases de datos de vigilancia, para procesar imágenes de drones, para optimizar logística militar, para alimentar el sistema de apartheid digital que discrimina, controla y extermina al pueblo palestino (The Intercept, 2024; Al Jazeera, 2024). Palantir, la empresa fundada por Peter Thiel, ha desplegado su software de

análisis predictivo en Gaza y Cisjordania. Su algoritmo, Gotham, se utiliza para identificar objetivos a partir de datos de movilidad, comunicaciones y consumo. Es la guerra como procesamiento de datos, el genocidio como problema de optimización.

Y mientras esto ocurre, los gobiernos latinoamericanos llenan de contratos a estas mismas corporaciones, concesiones de datos, sistemas de identificación, plataformas de gestión estatal. Cada contrato es un cheque en blanco a la maquinaria del exterminio.

Lamentablemente, querer hacer boicot en estas estructuras que oprimen cada vez es menos posible. La tecnología hegemónica está tan integrada en la vida cotidiana que una acción individual sólo produce gestos simbólicos o fatiga moral. La única salida para nuestra América en términos de soberanía tecnológica (y esto lo he pensado bastante, son tres pilares) es una fina ecuación de soberanía algorítmica, administración de sus propios datos, y labor sobre neuroderechos.

(Se explica brevemente: Soberanía algorítmica, es decir que los modelos que procesan nuestros datos sean auditables, explicables, y controlados por nuestras comunidades. No puede haber democracia sin transparencia en el código./ Administración de datos propios, los datos son el petróleo del siglo XXI. Si no los controlamos, ellos nos controlan, las iniciativas de datos abiertos y gobernanza comunitaria son el primer paso./ Neuroderechos el derecho a la integridad cognitiva, a no ser manipulados por algoritmos que explotan nuestra atención y nuestras emociones. Chile ya ha dado pasos en esta dirección; el resto de la región debe seguirlo.) Aunque parezca, esto no es idealismo, porque la alternativa es una condena a la irrelevancia, a la pobreza de pensamiento, a la repetición acrítica de los estereotipos que el paper SESGO ha medido.

Termino donde empecé. Con mi experimento. Con la pregunta en dos idiomas.

Los anglicanismos son la manifestación de una hegemonía, alguien leerá esto y pensará: ¿pero qué barbaridad es esa afirmación? Pero es así, en este mundo contemporáneo, uno debe tomar posición hasta de su lengua, de sus gestos, cada vez que usamos un término inglés para describir nuestra realidad, estamos delegando en otro la capacidad de nombrarla. Estamos aceptando que su lengua es la lengua del poder, y la nuestra, una traducción. George Orwell lo llamó neolengua, el idioma diseñado para reducir el pensamiento, para hacer imposible la disidencia, la neolengua del algoritmo es la del prompt bien formulado, del engagement, de la optimización. Nos dice que no somos sujetos, sino usuarios. Que no tenemos historia, sino datos. Que no tenemos derechos, sino términos y condiciones.

La lucha por la soberanía tecnológica es la lucha por la soberanía cognitiva, el derecho a pensar, a saber y a decidir en nuestra propia lengua y con nuestra propia historia. Es la lucha por que la inteligencia artificial no sea un látigo del capital, sino una herramienta de liberación. Es, en definitiva, la lucha por un mundo donde la tecnología no sea para unos pocos, sino para todos. Donde los datos no sean extraídos, sino compartidos, donde el algoritmo no sea un verdugo, sino un compañero de camino. Construirla es una tarea que rivaliza en complejidad con la construcción de una nación. Es una apuesta por la vida que se resiste a ser reducida a la función, al dato y al algoritmo, aprender a decir no a la servidumbre voluntaria en el imperio de los datos, es comprender que la tecnología más revolucionaria no es la que viene de fuera, sino la que nosotros mismos diseñamos para nuestras necesidades

Termino esta columna sin concluir, con la certeza de que la lucha no es contra la Inteligencia Artificial, sino contra quienes la diseñan y para quiénes la diseñan. La IA no es un destino, es una herramienta, y como toda herramienta, puede ser reorientada hacia la justicia y no hacia el exterminio. Pero ese giro no ocurre por accidente, ocurre cuando hay pueblos que lo exigen, gobiernos que lo legislan y comunidades que lo construyen, jóvenes que se organizan.

La tecnología no es ni buena ni mala; es política. Y la política, como la historia, se hace con las manos, con la cabeza y con el corazón. Que las nuestras construyan una inteligencia que no olvide.

Sintonía: Escuchar con los ojos

Quiero para concluir por segunda vez, inaugurar esta sección que espero acompañe las próximas entregas, donde haré una recomendación musical. Para esta primera entrega, elijo el álbum Pongo en tus manos abiertas, de Víctor Jara (1971). Un disco que contiene la canción que inspira esta columna: El derecho de vivir en paz, también contiene A desalambrar, un canto a la recuperación de la tierra y la soberanía; El aparecido, una elegía por el Che Guevara; y Caminando, caminando, que podría ser el himno de los que, como nosotros, se niegan a aceptar el mundo como está.

Así que les invito, antes de cerrar la pantalla y volver a la rutina, a poner este disco y a dejarse atravesar por su verdad. Porque si la Inteligencia Artificial olvida, nosotros debemos recordar. Y la música, esa vieja tecnología de la memoria, sigue siendo la forma más humana de resistir al olvido.

Breves Referencias

Al Jazeera. (2024). «Israel’s use of Google, Amazon cloud services under scrutiny». Recuperado de https://www.aljazeera.com.

Césaire, A. (2006). Discurso sobre el colonialismo. Akal.

The Intercept. (2024). «Google, Amazon, and the Israeli military’s AI warfare». Recuperado de https://theintercept.com.

Robles, M., Bernal, C., Raigoso, D., & Dulce Rubio, M. (2025). SESGO: Spanish Evaluation of Stereotypical Generative Outputs. arXiv:2509.03329v1.

Arguedas, J. M. (1971). El zorro de arriba y el zorro de abajo. Losada. Kundera, M. (1986). El arte de la novela. Tusquets.

Maalouf, A. (1998). Identidades asesinas. Alianza.