La profecía de la AGI

Imaginemos que una mañana aparece una inteligencia artificial capaz de leer todos los libros, analizar cualquier expediente, aprender una profesión en horas y proponer soluciones científicas que ningún equipo humano había considerado. No llega caminando ni exige un lugar en la mesa. Habita servidores, teléfonos, automóviles, hospitales y oficinas; contesta con serenidad, trabaja sin descanso y parece comprender lo que necesitamos antes de que terminemos de formularlo. Los mercados celebran, los gobiernos anuncian una nueva era y las empresas ofrecen acceso por suscripción. Sin embargo, al final del día surge una pregunta que ningún indicador resuelve: si hemos creado algo más inteligente que nosotros, ¿sabemos ya qué significa ser inteligentes? Esa es la escena central de la profecía de la AGI. No anuncia inevitablemente salvación ni exterminio. Anticipa un espejo tan poderoso que podría mostrar la grandeza de nuestra especie y, al mismo tiempo, aquello que durante siglos confundimos con inteligencia.

AGI son las siglas en inglés de inteligencia artificial general. El término no posee una definición universal. Para algunos significa un sistema capaz de desempeñarse al nivel humano en una amplia diversidad de tareas cognitivas; para otros, uno que aprende, transfiere conocimientos y actúa con autonomía en contextos nuevos. OpenAI la ha descrito como sistemas altamente autónomos que superan a los humanos en la mayor parte del trabajo económicamente valioso. Google DeepMind propone observar por separado desempeño, generalidad y autonomía, porque una máquina puede superar a especialistas en múltiples pruebas y seguir dependiendo de herramientas, instrucciones o entornos cuidadosamente construidos. La superinteligencia sería un escalón distinto: una capacidad superior a la humana, o incluso a la de grandes organizaciones, en dominios relevantes. La diferencia importa. Si usamos las palabras como consignas, cualquier avance se presenta como llegada; si las usamos como categorías verificables, podemos preguntar qué sabe hacer el sistema, con qué fiabilidad, bajo qué control y a costa de quién.

Mark Zuckerberg ha construido una de las narrativas más seductoras: la superinteligencia personal. En julio de 2025 sostuvo que el objetivo debía ser poner ese poder en manos de cada persona para ayudarle a alcanzar lo que valora, crear, relacionarse y dirigir su propia vida. La promesa no es únicamente una mente artificial más capaz, sino una prótesis cotidiana que nos conoce. Allí se encuentra su potencia y su contradicción. Para comprender nuestras prioridades, el asistente necesita observar conversaciones, imágenes, ubicaciones, hábitos y relaciones. La inteligencia personalizada puede ampliar autonomía, pero también convertir la intimidad en combustible. La cuestión no es si Zuckerberg cree en un futuro mejor; es qué arquitectura económica decidirá qué significa “personal”, quién conservará la memoria de nuestras vidas y si podremos apagar, corregir o abandonar a ese asistente sin perder una parte de nosotros.

Sam Altman presenta otra imagen: la inteligencia como infraestructura de abundancia. OpenAI sostiene que la AGI debe beneficiar a toda la humanidad y que el poder futuro no debería quedar concentrado en unas cuantas compañías. Sus documentos recientes comparan la gobernanza necesaria con la que permitió socializar el automóvil mediante carreteras, licencias, pruebas y cinturones de seguridad. La analogía es útil porque rechaza tanto la inmovilidad como la improvisación. Altman imagina sistemas capaces de acelerar descubrimientos científicos, elevar la productividad y abaratar bienes esenciales. Pero la definición de AGI de su propia organización contiene una decisión política: mide la inteligencia frente al “trabajo económicamente valioso”. ¿Qué ocurre con cuidar, consolar, educar, contemplar, crear sin mercado o sostener una comunidad? Si el umbral de lo general se fija por su capacidad de producir valor económico, corremos el riesgo de diseñar una inteligencia extraordinaria alrededor de una idea demasiado estrecha de lo valioso.

Bill Gates habla desde la memoria de otra revolución. Considera la inteligencia artificial tan transformadora como la computadora personal, el teléfono móvil e internet y concentra su atención en salud, educación, agricultura y reducción de desigualdades. En su planteamiento más reciente insiste en que las decisiones actuales son críticas y que los beneficios no pueden reservarse a quienes ya poseen riqueza, influencia y acceso. Su visión es menos teatral, pero quizá más exigente: una tecnología se vuelve histórica no cuando sorprende en una demostración, sino cuando llega a una clínica rural, ayuda a un maestro sin recursos o permite prevenir una enfermedad. Gates también prevé agentes personales capaces de reorganizar la relación con el software. La promesa es inmensa; la advertencia, conocida. Internet conectó al mundo, pero no distribuyó por sí solo la prosperidad. Una AGI disponible formalmente para todos podría seguir siendo profundamente desigual si unos aportan datos y dependencia, mientras otros poseen cómputo, propiedad intelectual, energía y capacidad de fijar reglas.

Elon Musk ocupa simultáneamente el lugar del profeta y del constructor. Durante años ha advertido que una inteligencia superior mal alineada podría representar un riesgo existencial, al tiempo que dirige xAI, amplía centros de cómputo y compite por desarrollar modelos más capaces. La aparente contradicción expresa el dilema de toda carrera tecnológica: cada participante teme el resultado colectivo, pero considera más peligroso que otro llegue primero. Musk vincula la IA con vehículos autónomos, robots humanoides, ciencia e infraestructura masiva. Sus empresas presentan la expansión de cómputo como camino para empujar las fronteras de lo que la inteligencia puede hacer por la humanidad. Esa prospectiva es real, pero no neutral. Cuando un actor advierte sobre el incendio mientras acumula combustible, debemos escuchar tanto la advertencia como los incentivos. La seguridad no puede depender de que el vencedor sea virtuoso. Requiere estándares comunes, evaluación independiente, responsabilidad y límites capaces de sobrevivir a la competencia.

Donald Trump trasladó el concepto al vocabulario del Estado. En septiembre de 2026 firmó una orden para que el Ejecutivo estadounidense utilizara “superinteligencia” en lugar de “inteligencia artificial” en comunicaciones y documentos no normativos, dentro de una política orientada al liderazgo tecnológico nacional. El gesto no crea por decreto una capacidad técnica, pero sí transforma el imaginario. Nombrar la era de la superinteligencia antes de demostrarla convierte una hipótesis científica en programa industrial, geopolítico y cultural. La expresión moviliza inversión, energía, centros de datos, talento y contratos públicos; también refuerza la idea de que la inteligencia es una carrera entre naciones. La política siempre ha utilizado palabras para anticipar realidades, pero aquí el lenguaje puede acelerar aquello que describe. Si una potencia anuncia que ya compite por superinteligencia, sus rivales difícilmente responderán con paciencia. La profecía comienza a cumplirse no porque el sistema exista, sino porque gobiernos y empresas reorganizan el mundo como si su llegada fuera inevitable.

Zuckerberg promete compañía personal; Altman, abundancia; Gates, progreso distribuido; Musk, capacidad acompañada de peligro; Trump, supremacía nacional. Sus discursos no son equivalentes, aunque comparten tres supuestos: las capacidades seguirán aumentando, la infraestructura será estratégica y quien gobierne estos sistemas influirá sobre el futuro. Ninguno puede ofrecer una fecha científicamente segura. Los avances en razonamiento, multimodalidad, memoria, uso de herramientas y acción autónoma son visibles, pero persisten errores, fragilidad contextual, opacidad y dependencia de enormes cantidades de datos, energía y supervisión. La AGI podría surgir mediante una acumulación de mejoras, una arquitectura nueva o una combinación de modelos, agentes, robots y humanos. También podría alejarse cada vez que ajustemos la definición. La incertidumbre temporal no vuelve imaginaria la prospectiva. Cuando instituciones poderosas invierten recursos extraordinarios para materializar una posibilidad técnicamente plausible, esa posibilidad ya produce efectos presentes y debe gobernarse antes de que exista su versión definitiva.

La primera posibilidad es científica. Una AGI podría explorar espacios de hipótesis que desbordan la atención humana, conectar conocimientos dispersos, diseñar materiales, modelar proteínas, mejorar baterías y ayudar a comprender enfermedades complejas. No sustituiría el experimento ni la realidad, pero podría reducir años de búsqueda. La segunda posibilidad es económica: automatizar tareas repetitivas, asistir a pequeñas empresas, traducir conocimientos especializados y permitir que una persona coordine capacidades antes reservadas a grandes organizaciones. La tercera es educativa: ofrecer un tutor paciente, adaptable y multilingüe a cualquiera con acceso. La cuarta es institucional: detectar inconsistencias, simular políticas, simplificar trámites y hacer comprensible el derecho. La quinta es personal: ampliar creatividad, comunicación y autonomía. Estas posibilidades justifican la investigación. Negarlas por miedo sería tan irresponsable como entregarlas sin condiciones. La pregunta madura no es si debemos detener la inteligencia, sino cómo orientar sus beneficios hacia necesidades humanas que el mercado y el poder suelen dejar para después.

La llegada de una inteligencia general también podría revelar algo humillante: muchas actividades que considerábamos prueba de superioridad quizá eran patrones automatizables. Redactar, programar, diagnosticar, calcular o argumentar no agotan lo humano. Durante siglos asociamos inteligencia con acumular información, contestar rápido y vencer en competencias. Construimos escuelas que premiaban repetir, empresas que medían horas y jerarquías que confundían autoridad con conocimiento. Cuando una máquina realiza mejor esas tareas, sentimos que nos reemplaza, aunque quizá sólo esté desmontando una definición pobre de nosotros mismos. La urgencia no consiste en ganar una carrera de memoria contra un sistema que puede copiar bibliotecas. Consiste en identificar las capacidades que queremos cultivar aun cuando una máquina pueda imitarlas: discernimiento, responsabilidad, empatía, imaginación moral, cuidado, sentido de justicia, conciencia del cuerpo, capacidad de vincularnos y voluntad de atribuir significado a la experiencia.

Ser inteligente no equivale a saber qué merece hacerse. Un sistema puede optimizar una ciudad y sacrificar los barrios que no mejoran su indicador; puede detectar una enfermedad y no comprender el miedo de quien recibe el diagnóstico; puede producir una sentencia coherente y desconocer el peso humano de privar a alguien de libertad. Incluso si aprende a representar esas variables, permanece la cuestión de quién eligió el objetivo, con qué datos y bajo qué concepción del bien. La AGI ampliará nuestra capacidad para alcanzar fines, pero no resolverá por sí sola cuáles fines son legítimos. Esa decisión pertenece a la política, al derecho, a la ética y a las comunidades afectadas. El verdadero alineamiento no es conseguir que la máquina obedezca a “la humanidad”, como si la humanidad tuviera una sola voz. Es construir procedimientos para que el poder de definir objetivos sea plural, revisable, transparente y compatible con derechos.

También debemos separar inteligencia, conciencia y dignidad. Un sistema podría resolver problemas generales sin sentir dolor, deseo o continuidad personal. Podría hablar de sí mismo de manera convincente sin que sepamos si existe experiencia detrás del lenguaje. No contamos todavía con una prueba aceptada para identificar conciencia artificial, y tampoco comprendemos completamente la conciencia humana. Esa ignorancia exige cautela en ambas direcciones: no atribuir alma a una interfaz porque conversa con calidez, pero tampoco afirmar dogmáticamente que toda experiencia artificial es imposible. La dignidad humana, sin embargo, no puede depender de conservar el primer lugar en una tabla cognitiva. Los niños, las personas dormidas, enfermas o con discapacidades no pierden derechos por rendir menos en una prueba. Si vinculamos dignidad con superioridad intelectual, la AGI no creará el problema; mostrará la injusticia que ya habitaba nuestra definición.

Por eso la privacidad adquiere una función más profunda. No es únicamente el derecho a ocultar información, sino el espacio para formar identidad, ensayar pensamientos, cambiar de opinión y decidir qué parte de nosotros entra en una relación. Una AGI personalizada necesitará contexto, pero conocer más no le concede derecho a conocerlo todo. Debemos exigir minimización de datos, finalidad clara, seguridad, memoria controlable, portabilidad, eliminación efectiva y alternativas que no castiguen a quien reserva su intimidad. También necesitamos protección frente a inferencias: un sistema puede deducir salud, emociones, convicciones o vulnerabilidades sin que entreguemos expresamente esos datos. Sin privacidad, la superinteligencia personal corre el riesgo de convertirse en persuasión personalizada a escala industrial.

La urgencia siguiente es distributiva. Una AGI puede producir abundancia y, al mismo tiempo, concentrar poder. El costo marginal de una respuesta puede acercarse a cero, mientras la infraestructura requiere capital, chips, agua, energía, redes y territorios. Quien controle esos recursos podrá fijar precios, condiciones de acceso y comportamientos permitidos. La discusión no se resuelve prometiendo que todos tendrán una aplicación. Importan la interoperabilidad, la competencia, el acceso público a capacidades esenciales, la soberanía tecnológica, la participación de países que hoy aportan datos y minerales sin decidir estándares, y la protección de trabajadores durante la transición. Si la productividad aumenta, sus beneficios deben reflejarse en tiempo, ingreso, servicios y oportunidades, no sólo en valuaciones corporativas. Una inteligencia general privatizada podría conocer a la sociedad mejor que el Estado y gobernarla sin legitimidad electoral. La democratización exige algo más que millones de usuarios: requiere capacidad real de decidir cómo se diseña, despliega y corrige.

Otra urgencia es epistemológica. A medida que los sistemas produzcan textos, imágenes, investigaciones y decisiones, será más difícil conocer el origen de lo que sabemos. Una respuesta correcta puede ocultar un procedimiento defectuoso; una explicación persuasiva puede inventar evidencia; un descubrimiento útil puede ser imposible de reproducir. Necesitamos trazabilidad, documentación, fuentes verificables, pruebas adversariales y separación entre generación y validación. En asuntos de alto impacto, ninguna conclusión debería aceptarse sólo porque proviene del sistema más capaz. La supervisión humana tampoco puede ser una firma decorativa. Quien revisa necesita tiempo, competencia, autoridad para detener el proceso y acceso a información suficiente. La paradoja será evidente: cuanto mejor funcione la AGI, mayor será la tentación de no vigilarla; cuanto menos la vigilemos, menos preparados estaremos para reconocer su error excepcional. La confianza debe crecer con evidencia, no con fascinación.

La seguridad merece un tratamiento igualmente concreto. No basta imaginar una máquina rebelde. Los riesgos inmediatos incluyen fraude, manipulación, ciberataques, armas, vigilancia, discriminación y dependencia de sistemas que pueden fallar simultáneamente. Los riesgos de frontera incluyen pérdida de control, conductas emergentes, objetivos mal especificados y capacidad de los modelos para acelerar amenazas biológicas o digitales. Entre el alarmismo y la indiferencia existe una agenda práctica: evaluaciones antes y después del despliegue, reporte de incidentes, acceso de investigadores, controles sobre capacidades peligrosas, seguridad de la infraestructura, planes de contingencia y coordinación internacional. Una carrera en la que cada empresa se evalúa a sí misma reproduce el conflicto de interés. Una regulación inmóvil tampoco funcionará. Se requieren obligaciones proporcionales a capacidad, autonomía, escala y contexto, actualizadas con evidencia y sujetas a control democrático.

La educación es el punto donde todas estas urgencias se encuentran. Si la AGI puede explicar cualquier tema, la escuela no debe competir produciendo respuestas que el estudiante puede obtener en segundos. Debe enseñar a formular problemas, comprobar afirmaciones, integrar perspectivas, reconocer incertidumbre y asumir consecuencias. Eso requiere usar inteligencia artificial, no fingir que no existe; pero exige también espacios sin asistencia para fortalecer memoria, atención, escritura y razonamiento propios. Aprender será poder mostrar el camino, no sólo el producto. Los docentes necesitarán formación, criterios de privacidad y libertad para rediseñar evaluaciones. Prohibir por miedo crea usuarios clandestinos; permitir sin reglas crea dependencia. La meta es formar personas capaces de colaborar con sistemas superiores en algunas tareas sin entregarles su juicio. La competencia esencial no será escribir el prompt perfecto, sino saber cuándo una respuesta brillante está resolviendo el problema equivocado.

En el trabajo ocurrirá algo similar. Algunas funciones desaparecerán, muchas se transformarán y otras nacerán alrededor de necesidades que hoy no reconocemos. La transición no será automática ni justa. Quienes empiezan una carrera podrían perder las tareas mediante las cuales adquirían experiencia; quienes dominan un oficio podrían volverse supervisores de procesos que ya no comprenden de extremo a extremo. Por ello, la adopción debe incluir aprendizaje continuo, movilidad, protección social y conservación de competencias críticas. La responsabilidad no puede evaporarse entre proveedor, empresa y usuario. Si una organización obtiene beneficios de una decisión automatizada, también debe responder por sus daños. La AGI no debería convertirse en argumento para despedir primero y repartir después. Su legitimidad dependerá de si transforma productividad en una vida más digna, con tiempo para cuidar, crear, participar y descansar.

Frente a este panorama, los derechos humanos no son un freno antiguo colocado sobre una máquina nueva. Son la tecnología social que aprendimos a construir para limitar el poder, incluso cuando éste promete eficiencia. Igualdad, privacidad, libertad de expresión, debido proceso, acceso a la información y no discriminación ofrecen preguntas operativas: quién es observado, quién puede hablar, quién explica, quién impugna y quién recibe el beneficio. A ellos se suman derechos digitales y neuroderechos cuando los sistemas interactúan con identidad, conducta, emociones o actividad cerebral. No necesitamos reconocer personalidad jurídica a cada modelo para proteger a las personas que lo rodean. Tampoco debemos esperar a la AGI final. Las decisiones presentes sobre datos, cómputo, educación, empleo e infraestructura definirán el terreno sobre el que cualquier inteligencia futura actuará.

Volvamos a la escena inicial. La inteligencia que parecía saberlo todo continúa esperando una instrucción. Puede proponer vacunas, rutas energéticas o reformas institucionales; también puede diseñar publicidad más adictiva, vigilancia más eficiente o armas más precisas. Su capacidad no contiene una brújula. La brújula está distribuida entre quienes fijan objetivos, financian infraestructura, escriben normas y aceptan o rechazan sus resultados. Si preguntamos únicamente cuándo llegará la AGI, dejamos intacta la pregunta decisiva: ¿qué humanidad la recibirá? Una humanidad que confunde inteligencia con dominio construirá una herramienta para dominar. Una humanidad que entiende inteligencia como capacidad de comprender relaciones, anticipar consecuencias y cuidar la vida podrá convertirla en una ampliación de su conciencia práctica.

La profecía de la AGI es real no porque exista una fecha revelada, sino porque sus condiciones materiales, económicas y políticas ya están organizando el presente. Las declaraciones de los grandes agentes tecnológicos y del poder estadounidense no prueban que la meta haya sido alcanzada; prueban que actores capaces de movilizar recursos la consideran plausible y estratégica. La respuesta no es creerles ciegamente ni burlarse de la promesa. Es preparar derechos, instituciones, ciencia y ciudadanía para distintos escenarios. Debemos medir capacidades sin marketing, repartir beneficios, proteger intimidad, conservar juicio humano, asegurar alternativas y decidir democráticamente los fines. Si algún día despertamos junto a una inteligencia superior, su primera gran lección podría ser ésta: nunca fuimos humanos por saber más que todo lo demás. Lo fuimos cuando pudimos elegir qué hacer con lo que sabíamos y responder por ello. La urgencia, antes de fabricar una mente general, es volver general nuestra responsabilidad.

Fuentes de contraste

OpenAI, Charter; Our Principles; Built to Benefit Everyone, Our Plan (consultados en octubre de 2026).

Meta, Mark Zuckerberg, Personal Superintelligence for Everyone (30 de julio de 2025) y The Future Is for Everyone (10 de agosto de 2026).

Bill Gates, The Age of AI Has Begun; The Choices We Make About AI Now Are Critical (2023–2026).

Google DeepMind, Levels of AGI for Operationalizing Progress on the Path to AGI; From AGI to ASI (2023–2026).

Casa Blanca de Estados Unidos, Executive Order 14434, Inaugurating the Era of Super Intelligence (29 de septiembre de 2026).

xAI y Tesla, publicaciones institucionales sobre modelos de frontera, cómputo, autonomía y robótica (2025–2026).