HUMANISMO FRENTE A LA AUTOMATIZACIÓN
El Reglamento Europeo de Protección de Datos enfatiza respecto de los tratamientos automatizados que a fin de evitar que haya un grave riesgo de elusión, la protección de las personas físicas debe ser tecnológicamente neutra y no debe depender de las técnicas utilizadas. La protección de las personas físicas debe aplicarse al tratamiento automatizado de datos personales, así como a su tratamiento manual, cuando los datos personales figuren en un fichero o estén destinados a ser incluidos en él.
De manera particular, reconoce que el titular debe tener derecho a no ser objeto de una decisión, que puede incluir una medida, que evalúe aspectos personales relativos a él, y que se base únicamente en el tratamiento automatizado y produzca efectos jurídicos en él o le afecte significativamente de modo similar, como la denegación automática de una solicitud de crédito en línea o los servicios de contratación en red en los que no medie intervención humana alguna. Este tipo de tratamiento incluye la elaboración de perfiles consistente en cualquier forma de tratamiento de los datos personales que evalúe aspectos personales relativos a una persona física, en particular para analizar o predecir aspectos relacionados con el rendimiento en el trabajo, la situación económica, la salud, las preferencias o intereses personales, la fiabilidad o el comportamiento, la situación o los movimientos del interesado, en la medida en que produzca efectos jurídicos en él o le afecte significativamente de modo similar. En cualquier caso, dicho tratamiento debe estar sujeto a las garantías apropiadas, entre las que se deben incluir la información específica al interesado y el derecho a obtener intervención humana, a expresar su punto de vista, a recibir una explicación de la decisión tomada después de tal evaluación y a impugnar la decisión.
Dicha medida en el derecho mexicano se encuentra reconocida para los tratamientos que realicen tanto los responsables del sector público, como el privado, que si bien, forman parte del ejercicio del derecho de oposición, este tipo de garantía respecto del tratamiento automatizado de datos personales cuenta con un valor autónomo, que inclusive, pudiera desarrollarse como un derecho digital dada la relevancia de su implementación en los procesamientos automatizados, cada vez más extendidos como parte de la provisión de bienes y servicios digitales.
No obstante, de poco sirve el reconocimiento de este derecho si en la práctica, tanto integrantes de las empresas que atienden reclamaciones como usuarios, no identificamos el ejercicio de este derecho ante una situación particular que pudiera constituir solamente “una molestia” pero a su vez una alerta de una exclusión inminente respecto a bien o servicio ofertado, sin un aviso previo o mecanismo que permita conocer los criterios utilizados para la toma de decisiones de manera automatizada, a fin de permitir estar dentro de los requisitos deseables para constituir cliente o usuario del servicio, provocando una conducta desleal por parte de la empresa responsable del tratamiento.
Cuando dentro la oferta de bienes y servicios es amplia a través de diversos responsables, el impacto de estas medidas no representan un gran riesgo para los titulares, pero ¿qué es lo que pasa cuando la oferta de bienes o servicios es reducida o monopólica? ¿cuál es el alcance de la limitación del ámbito de acción de los titulares que se encuentran constreñidos a un solo proveedor y su tutela por parte del Estado?
Más allá de constituir sobre un aspecto moral por parte del titular frente a la empresa a fin de que no se le considere como pate de la generalidad del tratamiento, la estandarización que provoca la automatización atenta contra diversos aspectos de la individualidad al exigir que la actuación de las personas se ajuste a parámetros predeterminados, sin que de forma contraria, el derecho tutelado sea a que los responsables del tratamiento deberán preservar esos aspectos únicos de cada uno de los clientes o usuarios, parte porque las empresas, como parte de la experiencia del usuario mejoran la percepción de la atención, pero en realidad, logran mejorar el alcance de sus operaciones entre más logren que sus clientes, aprovechen de manera estandarizada y previsible sus productos o servicios.
La discriminación provocada por los algoritmos en procesos automatizados con decisiones respecto de los titulares de los datos, ante un uso extendido en una economía digital, representa un gran riesgo derivado de la continua evaluación de los hábitos de consumo de los titulares y la creación de perfiles interpretados por parte de usuarios, en los que los criterios no son homogéneos respecto de dicha evaluación, en la que la transparencia del tratamiento y de los criterios a utilizar, así como la generación de nuevos datos personales, a través de perfiles, permitirán incluso iniciar una relación o no con una empresa.
A manera de ejemplo, respecto de una institución financiera que evalúa continuamente a sus usuarios para prevenir incumplimientos, que en un caso particular, no cuenta con registros relativos a incumplimientos en su relación, pero que por los diversos riesgos evaluados tales como falta de empleo del titular, enfermedad, reportes de buró de crédito por falsos positivos derivados de la relación con otra institución, evaluaciones externas, entre otros, decide realizar cambios sustanciales derivados de los mecanismos de evaluación de perfiles, sin que el titular haya sido informado previamente de dichas decisiones, sino que solamente identifica afectaciones tales como requerimiento de pago anticipados, disminución de línea de crédito, o cancelación de productos, en los cuáles, nunca existió un incumplimiento sino solamente una probabilidad derivada de una evaluación de riesgos, más aún, cuando el titular nunca conoció razones por parte de la institución ¿debería permanecer en la misma efectuando reclamaciones al amparo del derecho de oposición a fin de que le sea devuelvo el estatus alcanzado de manera previa a la decisión automatizada? O, con motivo de su elección en el mercado ¿podría libremente dar por terminada la relación con la empresa y elegir otra?
Sin embargo, ante dicha situación ¿cuál es el registro que se quedaría para esta persona frente a la propia institución o inclusive ante la sociedad de información crediticia que daba seguimiento al perfil del titular y su score? ¿existiría una afectación objetiva respecto del perfil del titular para las instituciones financiera y futuros servicios, no solamente créditos? Para estos casos, no basta solamente con que los titulares lleven a cabo el ejercicio de su derecho de oposición frente a los tratamientos automatizados o las reclamaciones en el marco de los mismos, sino que también es necesario previsiones expresas que permitan a los responsables reconducir los tratamientos de datos personales cuando se identifique que los propios patrones o algoritmos tienden a generar discriminaciones perjudiciales así como falsos positivos, a fin de garantizar que las personas puedan ser tratadas con dignidad por cualquier empresa.
Supuestos ante los cuales, de manera adicional a las previsiones legales en torno a la reclamación en tratamientos automatizados, el humanismo prevaleciente en el proceso, deberá ser una previsión que marque la diferencia en cualquier caso.
En esa individualidad que nos distingue, estas fechas constituyen la oportunidad para que el amor y la esperanza reconforten nuestros corazones y nos permita compartir con nuestros seres queridos las experiencias que nos ayudan a buscar un futuro mejor ¡Feliz navidad!
Hasta la próxima.