Gestión de calidad para controlar los riesgos de la Inteligencia Artificial (aprobación de la AI Act)

Para comenzar, quisiera retomar en esta colaboración para pronta referencia, gran parte del contenido de la página de la Comisión Europea, en la que se refirió con motivo del anuncio del logro de un acuerdo provisional sobre reglas armonizadas para el uso de la inteligencia artificial, paquete de iniciativas y reformas legislativas por parte del derecho de la Unión Europea, refiriendo que: “La inteligencia artificial es la capacidad de las máquinas de realizar tareas que normalmente requerirían inteligencia humana, como el reconocimiento de imágenes, el procesamiento del lenguaje natural o la toma de decisiones. La inteligencia artificial puede aportar importantes beneficios a la sociedad y la economía, como una mayor eficiencia, una mejor atención sanitaria, una movilidad más sostenible o una educación más personalizada. Sin embargo, la inteligencia artificial también puede plantear desafíos éticos y jurídicos, como la protección de los datos personales, la no discriminación, la responsabilidad, la transparencia o la seguridad”.

Así, siguiendo la línea de lo comunicado, la Comisión Europea presentó su propuesta de reglamento sobre la inteligencia artificial el 21 de abril de 2021, basándose en el Libro Blanco sobre la inteligencia artificial y las directrices éticas para una inteligencia artificial fiable. El Consejo adoptó su posición común (orientación general) el 6 de diciembre de 2022. El Parlamento Europeo adoptó su posición en primera lectura el 14 de diciembre de 2022. El acuerdo provisional alcanzado el 9 de diciembre de 2023 es el resultado de las negociaciones interinstitucionales (trílogo) entre el Consejo y el Parlamento Europeo, con la participación de la Comisión Europea.

El AI Act forma parte de la estrategia digital de la UE, que pretende aprovechar el potencial de las tecnologías digitales para construir una Europa más verde, más competitiva y más inclusiva. El AI Act se complementa con otras iniciativas legislativas y su ámbito de aplicación abarca todos los sectores (excepto el militar) y todos los tipos de inteligencia artificial.

El AI Act tiene como finalidad promover el desarrollo y el uso de la inteligencia artificial de forma responsable, segura y conforme a los valores, los derechos fundamentales y los principios de la UE. Para ello, establece una serie de requisitos obligatorios para los proveedores, los usuarios y las autoridades de los Estados miembros, en función del nivel de riesgo que presenten las aplicaciones de inteligencia artificial.

El AI Act clasifica las aplicaciones de inteligencia artificial en cuatro categorías de riesgo: inaceptable, alto, limitado y mínimo. Las aplicaciones inaceptables son aquellas que vulneran los valores y los derechos fundamentales de la UE, como la manipulación del comportamiento humano, la explotación de la vulnerabilidad de los niños o el uso de sistemas de puntuación social. Estas aplicaciones estarán prohibidas en la UE y conviene señalar que, en el ámbito legislativo mexicano fueron retomadas por la iniciativa del Senador Gustavo Madero Muñoz.

Las aplicaciones de alto riesgo son aquellas que pueden afectar a la salud, la seguridad o los derechos fundamentales de las personas o de las empresas, como la identificación biométrica, la gestión de recursos humanos, el acceso a servicios esenciales, la administración de justicia o la aplicación de la ley. Estas aplicaciones estarán sujetas a una serie de requisitos estrictos, como la calidad y la robustez de los datos, la transparencia y la trazabilidad, la supervisión humana, la precisión y la seguridad. Los proveedores de estas aplicaciones deberán realizar una evaluación de conformidad antes de ponerlas en el mercado y registrarlas en una base de datos europea.

Las aplicaciones de riesgo limitado son aquellas que implican una interacción con los usuarios, como los asistentes virtuales o los chatbots. Estas aplicaciones deberán informar a los usuarios de que están interactuando con una máquina y ofrecerles la posibilidad de poner fin a la interacción.

Las aplicaciones de riesgo mínimo son aquellas que tienen un impacto limitado o nulo en los derechos o intereses de las personas o de las empresas, como los filtros de las redes sociales o los videojuegos. Estas aplicaciones estarán sujetas al principio de responsabilidad, pero no tendrán que cumplir requisitos específicos.

El AI Act prevé la creación de un sistema de gobernanza y supervisión a nivel europeo y nacional, con la participación de todas las partes interesadas. La Comisión Europea será la responsable de supervisar la aplicación del reglamento, de actualizar la lista de aplicaciones de alto riesgo y de cooperar con terceros países y organizaciones internacionales. Los Estados miembros deberán designar a una o varias autoridades nacionales competentes para supervisar, inspeccionar y hacer cumplir el reglamento, así como establecer un organismo nacional de contacto y un órgano de consulta. Además, se creará un Comité Europeo de Inteligencia Artificial, compuesto por representantes de las autoridades nacionales competentes y de la Comisión, que tendrá funciones de asesoramiento, coordinación y apoyo.

El AI Act tiene como objetivo convertir a la UE en un líder mundial en el desarrollo y el uso de la inteligencia artificial de confianza, que respete los derechos humanos y el Estado de Derecho, y que contribuya al bienestar y al progreso de la sociedad. El AI Act siguiendo el libro blanco, que establece el enfoque europeo orientado a la excelencia y la confianza, y en las directrices éticas para una inteligencia artificial fiable, que definen los principios y los valores que deben guiar el desarrollo y el uso de la inteligencia artificial en la UE.

El acuerdo provisional alcanzado deberá ser confirmado por el Consejo y el Parlamento Europeo antes de su adopción formal. El reglamento entrará en vigor 20 días después de su publicación en el Diario Oficial de la UE y será aplicable 18 meses después de su entrada en vigor.

Esta legislación representa un parteaguas internacional por ser el primer acuerdo alcanzado para colocar en el más alto nivel de índole normativo una serie de pautas y reglas que guíen el actuar de las políticas y acciones en torno a la forma en la cual abordar un fenómeno tecnológico particular que el en horizonte al corto plazo promete ser la revolución de la vida actual: la inteligencia artificial. Como puede advertirse, si bien el fenómeno tecnológico se ha posicionado como un factor clave para el desarrollo de los países y la disrupción de dichos factores, hoy en día se vuelve tan fuerte como para la exigencia de regulaciones y políticas en la materia, que brinden gobernanza adecuada a los diversos efectos que provocan, procurando que éstos se materialicen en beneficio de la humanidad.

Particularmente, llama la atención, más que el enfoque de gestión de riesgos, el enfoque puntual del establecimiento de sistemas de gestión de calidad, como el mecanismo de control y autorregulación en el ámbito de la actuación de proveedores y usuarios que empleen inteligencia artificial clasificada como de alto riesgo, que constituye la principal clasificación sobre la cual se establecen los principales requisitos regulatorios y de registro, a fin de buscar contener cualquier riesgo o efecto negativo con motivo de implementación de dicha tecnología, que, superando ya el antecedente de que la legislación mexicana, particularmente, la Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados, de conformidad con sus artículos 12, fracción IV, y 34, obliga a las autoridades a implementar un sistema de gestión de seguridad orientado a la protección de datos personales, asume de manera franca un control robusto y equilibrado, como lo es la gestión de calidad, como el principal mecanismo de gobierno de las organizaciones que implementan tecnologías de alto impacto, como lo es la inteligencia artificial, lo que sorprende por la robustez, sencillez, madurez y flexibilidad que tiene este estándar para ser parámetro de equilibrio de alto nivel entre diversos estándares y objetivos de control.

Ahora, nos toca a nosotros en el contexto mexicano, identificar las mejores prácticas y resultados de lo establecido en dicha propuesta, para lo cual, contamos con los elementos para realizar un análisis serio dentro de la Alianza Nacional de Inteligencia Artificial, así como, desde la perspectiva de protección de datos personales, coordinados por la Comisionada Josefina Román Vergara, a quién aprovecho para expresar mi reconocimiento por su labor incansable en la materia, sabedor que durante su encargo seguirá impulsando iniciativas y soluciones para brindar seguridad a mexicanas y mexicanos, ahora, desde el liderazgo del Comisionado Presidente, Adrián Alcalá Méndez, a quién deseo los mayores de los éxitos en la encomienda que inicia, que se traducirán en la competitividad y bienestar de las y los mexicanos del ahora y del futuro. Hasta la próxima.