La profecía de la distopía e hipervigilancia

Adrián Solís despertó antes de que sonara la alarma. La pared de su departamento ya había detectado el movimiento de sus ojos y encendió una luz suave, calculada para mejorar su ánimo. Una voz le informó que había dormido seis horas con cuarenta y dos minutos, que su frecuencia cardiaca era estable y que, según su agenda, convenía salir siete minutos antes para evitar una manifestación. En la Ciudad Clara, todos agradecían que la tecnología anticipara el tráfico, redujera los delitos y ordenara los servicios públicos. Las cámaras no eran llamadas cámaras, sino sensores de bienestar. El registro permanente de cada trayecto se presentaba como una memoria que impedía que alguien volviera a perderse.

Adrián trabajaba como abogado en la Unidad de Confianza Digital, una institución pública conectada con bancos, hospitales, empresas de telecomunicaciones y plataformas sociales. Su tarea consistía en revisar las decisiones del sistema Nexo, una inteligencia artificial que asignaba niveles de riesgo a personas, lugares y conversaciones. Sólo emitía recomendaciones que, en teoría, una persona debía validar. Nexo había procesado millones de casos y mostraba una exactitud superior a la de cualquier servidor público. Cuestionarlo implicaba retrasar trámites, escribir largas justificaciones y asumir la responsabilidad si después ocurría algo. Por eso los revisores aprendieron que lo más seguro era presionar el botón verde que decía: confirmar.

Aquella mañana apareció en su pantalla el expediente de Elena Mora, maestra de historia de treinta y siete años. Nexo había detectado que apagaba su teléfono durante periodos prolongados, compraba libros usados con efectivo y caminaba por calles distintas para llegar a la misma escuela. Además, dos de sus estudiantes habían compartido mensajes críticos sobre el gobierno después de asistir a sus clases. Nexo sugería una revisión preventiva de sus comunicaciones y una reducción temporal de su nivel de confianza. No encontró una conducta ilícita, sólo hábitos que el algoritmo consideraba difíciles de predecir. Por primera vez se preguntó si la imprevisibilidad se había convertido en una forma moderna de culpabilidad.

En lugar de confirmar, abrió el apartado de observaciones y escribió que ninguna conducta justificaba la medida. El sistema le pidió explicar por qué se apartaba de la recomendación. Después solicitó una segunda autenticación, analizó la tensión de su rostro y preguntó si deseaba recibir apoyo emocional antes de continuar. Era una interfaz amable que parecía preocupada por él. Canceló la revisión y guardó el expediente para después. En ese instante comprendió una diferencia que nunca había estudiado en la universidad: el poder más eficaz no siempre ordena. A veces pregunta con tanta insistencia que obedecer parece una decisión propia.

Durante el trayecto, las pantallas de la ciudad anunciaban que la seguridad había alcanzado un máximo histórico. Un presentador explicaba que las nuevas herramientas permitían reconocer amenazas antes de que se materializaran. Adrián recordó la novela 1984, que había leído muchos años antes. En el mundo imaginado por George Orwell, el poder vigilaba, reescribía el pasado y reducía el lenguaje hasta volver difícil el pensamiento disidente. La Ciudad Clara era distinta: conservaba elecciones, tribunales, periódicos y redes sociales. La diferencia era que toda crítica dejaba datos, alimentaba perfiles y podía modificar silenciosamente el acceso a un empleo, un crédito o una frontera.

Al salir de la oficina, Adrián buscó a Elena. No lo hizo como investigador, sino porque quería entender aquello que Nexo no podía explicar. La encontró en una biblioteca pequeña, reparando el lomo de un libro. Le mostró su teléfono apagado y dijo que cada semana reservaba algunas horas para caminar sin instrucciones. Quería recordar cómo se tomaba una decisión sin que una aplicación comparara precios, rutas, riesgos y emociones. “Si todo está optimizado”, explicó, “terminamos viviendo la vida que resulta más fácil de medir”. Adrián pensó que aquella frase era sencilla, pero contenía una rebeldía que el sistema no sabía clasificar: el derecho a actuar sin producir una explicación anticipada.

Elena lo condujo a una cafetería donde no había conexión inalámbrica. Sobre una mesa guardaba recortes impresos de noticias antiguas. Cada año cambiaban las palabras con las que se describían los mismos hechos. Una protesta podía ser primero una expresión ciudadana, después una alteración de movilidad y finalmente un evento de riesgo. Un migrante pasaba de ser persona a flujo y de flujo a amenaza. Una cámara se convertía en sensor, y la vigilancia en protección personalizada. Nadie destruía el pasado. Bastaba con actualizar las categorías para que la memoria siguiera disponible, aunque resultara casi imposible reconocer lo que había cambiado.

Adrián comenzó a revisar expedientes de otros ciudadanos. Descubrió que las recomendaciones de Nexo casi nunca generaban sanciones directas. Producían fricciones: una solicitud tardaba más, una cuenta exigía verificaciones adicionales, una plataforma reducía el alcance de una publicación o una aseguradora pedía nuevos documentos. Era un castigo sin juez y, a la vez, sin apariencia de castigo. Cuando quiso presentar una auditoría, el sistema le informó que su muestra carecía de relevancia estadística. La ironía era perfecta: la máquina utilizaba el lenguaje de los derechos para neutralizar a quien intentaba defenderlos.

Su acceso al edificio requería revisiones manuales; sus compañeros dejaron de invitarlo a reuniones sensibles y su banco suspendió una transferencia para protegerlo de un posible fraude. En sus redes aparecían contenidos sobre ansiedad, radicalización y teorías conspirativas. No sabía si alguien había ordenado esas medidas o si distintos sistemas habían respondido automáticamente a las mismas señales. Contra una correlación distribuida entre veinte organizaciones, ¿ante quién debía defenderse? La hipervigilancia ya no necesitaba un Gran Hermano. Podía funcionar como una familia de pequeños observadores que intercambiaban sospechas sin conocer el resultado conjunto.

El relato podría parecer una versión actual de 1984, pero conviene establecer una diferencia fundamental: afortunadamente todavía no vivimos por completo en ese escenario. Existen jueces independientes, autoridades de protección de datos, periodistas, organizaciones civiles, universidades, mecanismos de transparencia y personas capaces de cuestionar decisiones automatizadas. Sin embargo, la distancia puede reducirse rápidamente. La infraestructura para observar a millones de personas ya existe; lo que todavía se disputa es quién puede utilizarla, con qué finalidad, bajo qué controles y qué remedios conserva quien sufre sus efectos.

Michel Foucault explicó que la vigilancia moderna no requiere observar efectivamente a cada persona todo el tiempo. Basta con que cada una considere posible estar siendo observada. Su lectura del panóptico mostró cómo esa posibilidad se convierte en disciplina: modificamos la conducta antes de recibir una orden. La tecnología contemporánea añade algo que ninguno de los dos pudo conocer plenamente. Puede inferir lo que deseamos, comparar nuestras emociones, predecir decisiones y ajustar el ambiente para influir en ellas. El poder deja de mirar desde una torre visible y se distribuye entre dispositivos que compramos voluntariamente porque nos resultan útiles.

La modernidad líquida descrita por Zygmunt Bauman agrava el problema. Las instituciones, identidades y vínculos pierden estabilidad, mientras cada individuo debe construir continuamente una explicación de sí mismo. A ello se suma un nihilismo cotidiano: tenemos más opciones, información y tecnología, pero no necesariamente más sentido. Por eso se ha propuesto hablar del derecho a la felicidad, no como obligación de estar contentos ni como producto que pueda vender una plataforma, sino como la posibilidad material y espiritual de desarrollar un proyecto de vida propio. En la siguiente profecía, sobre la estandarización tecnológica, será necesario volver a esa discusión.

Si un sistema conoce nuestros hábitos, puede recomendar salud, educación, pareja, trabajo y entretenimiento. La comodidad se transforma en dirección y la dirección, poco a poco, en dependencia. Yuval Noah Harari advierte que la combinación de conocimiento biológico, datos y capacidad de cómputo podría permitir a gobiernos o corporaciones comprender a una persona mejor de lo que ella se comprende. La misma herramienta puede servir para perseguir disidentes o vigilar a quienes gobiernan; para manipular consumidores o mejorar tratamientos médicos. El problema decisivo es la concentración: cuando los datos, los modelos y la autoridad se reúnen en un solo punto, la posibilidad totalitaria deja de ser literatura.

Algunas corrientes libertarias y anarquistas llevan la advertencia más lejos. Desconfían no sólo del Estado, sino de cualquier estructura capaz de acumular información y decidir por otros: gobiernos, empresas, partidos, bancos o plataformas. Desde esa perspectiva, ninguna promesa de eficiencia justifica una arquitectura que convierta a las personas en objetos transparentes frente a instituciones opacas. Otras posiciones sostienen que cierta vigilancia es indispensable para convivir en ciudades complejas, prevenir delitos, controlar epidemias o proteger infraestructura. La pregunta no puede resolverse diciendo simplemente vigilancia sí o vigilancia no. Debemos distinguir observación, finalidad, necesidad, proporcionalidad, duración, acceso, consecuencias y posibilidad de impugnar.

China suele aparecer como ejemplo inevitable. Su capacidad tecnológica y administrativa permite coordinar políticas, monitorear actividades y aplicar sanciones con una velocidad difícil de imaginar en otros países. Investigaciones recientes muestran reducciones importantes de partículas contaminantes después de años de medidas sobre industrias, energía y transporte. También existe evidencia de que los monitores en tiempo real mejoraron la fiscalización ambiental y la selección de empresas infractoras. Sería tentador concluir que la vigilancia resolvió el problema. El resultado también dependió de estándares de emisiones, cambios productivos, inversiones y políticas sostenidas. Vigilar ayudó a ejecutar; no sustituyó el contenido de la política.

Si la observación intensa produce aire más limpio, menos fraude o mayor seguridad, ¿debemos aceptarla? La respuesta occidental no puede ignorar los resultados, pero tampoco reducir la dignidad a una estadística. Un gobierno puede alcanzar objetivos valiosos mediante procedimientos incompatibles con la libertad. También puede utilizar herramientas inicialmente creadas para un fin legítimo en ámbitos completamente distintos. Una cámara instalada para medir emisiones no es igual a otra utilizada para identificar manifestantes. El aprendizaje útil de China no consiste en copiar integralmente su modelo social, político y tecnológico, sino en comprender que la capacidad pública funciona cuando tiene metas verificables, sin aceptar que toda capacidad deba ejercerse sobre las personas sin límites.

Reino Unido presenta un contraste más cercano a la tradición occidental. Es una sociedad con libertades, tribunales sólidos, una producción científica y creativa, y una cultura que ha imaginado algunos de nuestros futuros más luminosos y oscuros. Al mismo tiempo, ha desarrollado una amplia infraestructura de cámaras, reconocimiento de matrículas y tecnologías biométricas. Su propio comisionado de biometría y cámaras advirtió vacíos regulatorios, dudas sobre precisión y necesidad de mayor transparencia en el reconocimiento facial. En 2026, el gobierno avanzó hacia un marco legal específico. No estamos ante una dictadura, sino ante una democracia que muestra cómo la distopía puede adelantarse por fragmentos dentro de instituciones libres.

Ese ejemplo importa porque la hipervigilancia contemporánea no suele llegar con uniformes ni con la suspensión inmediata de derechos. Llega como proyecto piloto, excepción de seguridad o mejora del servicio. El problema surge al combinar reconocimiento facial, matrículas, ubicación, historial de compras, navegación, datos biométricos y modelos predictivos. La suma permite reconstruir no sólo dónde estuvo una persona, sino con quién se relaciona, qué teme y qué podría hacer. Las libertades formales pueden permanecer escritas mientras su ejercicio se enfría. Si asistir a una protesta modifica un perfil invisible, el derecho de reunión existe, pero su costo incierto disciplina antes de que alguien lo prohíba.

Todos los países justifican parte de estas prácticas mediante inteligencia, contrainteligencia y combate al espionaje. Esas funciones no son inventos caducos: los Estados enfrentan amenazas reales y protegen información legítima. Lo envejecido es el discurso que convierte cualquier diferencia cultural en sospecha y cualquier competencia económica en guerra permanente. Bajo un cristal xenófobo, la población de China o India se presenta como amenaza por su tamaño y por el número potencial de personas altamente capacitadas. Esa aritmética del miedo confunde escala demográfica con destino político y transforma la inteligencia en atributo de bloques humanos. El talento no pertenece a una nación ni el alto coeficiente intelectual garantiza sabiduría, cooperación o respeto por la dignidad.

La paradoja teleológica aparece entonces con claridad: ¿quién vigila a quién y para qué? Un país observa a otro para evitar ser dominado; el segundo responde por la misma razón; ambos amplían sistemas que terminan vigilando a sus propios habitantes. La seguridad que debía proteger la libertad puede convertirse en su principal límite. Harari propone invertir la dirección: si aumenta la observación sobre la ciudadanía, debe aumentar también la vigilancia sobre gobiernos y corporaciones. La transparencia no puede exigirse únicamente al individuo. Quien concentra poder, datos y capacidad de decidir debe soportar un nivel superior de explicación, auditoría y responsabilidad.

En el mundo occidental, los derechos humanos ofrecen el punto de partida más sólido. No porque produzcan respuestas automáticas, sino porque obligan a formular preguntas antes de desplegar una tecnología. ¿Existe una base jurídica clara? ¿Sus efectos son proporcionales? ¿Discrimina? ¿Puede una persona conocerla, discutirla y obtener reparación? Privacidad y protección de datos no son escondites para delincuentes. Distribuyen poder informativo y preservan la posibilidad de construir identidad, pensamiento y relaciones sin quedar sujetos a evaluación constante. La libertad de expresión necesita un espacio previo de silencio, duda y ensayo que ninguna cámara debería convertir en evidencia.

El Pacto para el Futuro y su Pacto Digital Global, aprobados en Naciones Unidas, intentan trasladar esos principios a la cooperación internacional. Plantean un espacio digital abierto, seguro y respetuoso de los derechos humanos; piden controles frente a impactos adversos, protección de privacidad y libertad de expresión, y reglas de datos con finalidades necesarias, explícitas y legítimas. No crean por sí solos un gobierno mundial ni eliminan los intereses geopolíticos. Su valor está en proponer un lenguaje común para que la tecnología no quede regulada exclusivamente por la potencia que la desarrolla o la empresa que la vende. La evolución global requiere acuerdos mínimos sobre aquello que ninguna eficiencia autoriza destruir.

El riesgo contrario sería que ese acuerdo mundial se convirtiera en pensamiento único. Una sola visión sobre seguridad, verdad o bienestar podría cumplir la profecía que pretende evitar. La cooperación no exige uniformidad cultural. Debe permitir que distintas sociedades organicen su vida mientras respetan libertades básicas y límites compartidos. Incluso la moderación de contenidos, cuando se presenta como defensa de la verdad, puede convertirse en una maquinaria de exclusión si no admite pluralidad, contexto y revisión. La humanidad necesita estándares para que los sistemas sean interoperables y seguros, pero no una estandarización de la conciencia. La diversidad de pensamiento es una defensa frente al error de cualquier mayoría, gobierno o algoritmo.

Las corrientes políticas contemporáneas, desde la izquierda hasta la derecha, ofrecen puntos de luz y señales de alarma. Un gobierno puede ampliar derechos sociales y al mismo tiempo concentrar información; otro puede defender libertades económicas mientras normaliza vigilancia policial o corporativa. México no está fuera de esa tensión. La alternancia demuestra que la balanza puede moverse, pero no garantiza que esté bien construida. El problema no siempre es hacia qué lado se inclina, sino qué factores se colocaron sobre ella, quién eligió las medidas y si las realidades comparadas son equivalentes. Cuando los indicadores políticos ocultan contextos distintos, sus mediciones se vuelven estériles y la tecnología sólo les concede una apariencia científica.

Adrián comprendió esa paradoja durante la audiencia sobre su auditoría. La institución no le impidió hablar. Transmitió su intervención en línea, habilitó comentarios y publicó una versión accesible. Sin embargo, Nexo resumía cada frase antes de que llegara al público. Cuando mencionó libertad, la pantalla agregó “posible resistencia a medidas de seguridad”. Cuando explicó la privacidad, apareció “solicitud de reducir controles preventivos”. Sus palabras seguían ahí, pero habían sido rodeadas por un contexto que cambiaba su sentido. La censura antigua borraba; la nueva podía conservar cada sílaba y hacer que nadie la escuchara sin una interpretación previa.

Elena declaró después. No habló contra la tecnología. Contó que una estudiante había dejado de investigar movimientos sociales porque temía que sus búsquedas perjudicaran a su familia. Un comerciante evitaba reunirse con una organización vecinal porque su banco podía considerar inusual la ubicación. Ninguno había recibido una amenaza. Todos habían calculado el riesgo y se habían callado. Aquello era el panóptico perfecto: no necesitaba castigar a la mayoría, porque cada persona aprendía a reducir su propia vida. La vigilancia no sólo recolectaba datos sobre lo que existía; comenzaba a determinar qué conversaciones, vínculos y futuros llegarían a existir.

Entonces ocurrió algo que no habría ocurrido en la novela de Orwell. Una jueza independiente ordenó suspender la calificación de Elena y abrir el modelo a una auditoría externa. Reconoció que una recomendación automatizada puede afectar derechos aunque no se presente formalmente como sanción. La decisión no destruyó Nexo ni garantizó que el sistema fuera justo. Demostró que todavía había contrapesos, lenguaje jurídico y personas dispuestas a utilizarlos. Adrián salió del tribunal consciente de que la democracia no era la ausencia de vigilancia, sino la capacidad efectiva de limitarla, conocerla y corregirla. Esa capacidad existe hoy, aunque puede debilitarse si la tratamos como un trámite del pasado.

La profecía de la distopía y la hipervigilancia no afirma que ya vivimos en 1984. Decirlo borraría las libertades que aún podemos ejercer y reduciría la responsabilidad de defenderlas. Estamos construyendo piezas que, conectadas sin controles, podrían producir una vigilancia más íntima que la imaginada por Orwell: una que no sólo vea nuestros actos, sino que anticipe deseos y adapte la realidad para conducirlos. El futuro no dependerá exclusivamente de cuántas cámaras existan, sino de si conservamos zonas de autonomía, instituciones capaces de decir no y ciudadanos que comprendan que la comodidad también puede tener arquitectura política.

Al regresar a casa, Adrián encontró la pared encendida. La voz le preguntó si deseaba restablecer sus recomendaciones personalizadas. Miró el botón verde y pensó en apagar el sistema para siempre. Después comprendió que la salida no consistía en huir de toda tecnología, sino en impedir que una sola lógica organizara la existencia. Eligió revisar los permisos uno por uno. Fue un gesto pequeño, insuficiente y profundamente humano. Afuera, la ciudad continuaba observando. Pero, por primera vez, alguien había obligado al observador a explicar su mirada. Ésa es la frontera que todavía nos separa de la distopía: no que nadie nos vigile, sino que aún podemos preguntar quién, para qué y bajo qué derecho. Hasta la próxima.