Tenemos derecho a conocer sobre las tecnologías que usa el Estado

En un contexto marcado por la aceleración de la transformación digital del Estado, la transparencia algorítmica adquiere un papel preponderante. Se perfila como la forma de materializar el derecho de acceso a la información pública en un mundo cambiante y virtual. Su desarrollo permite que este derecho fundamental no se quede obsoleto junto con la enorme cantidad de papeles que antes producían las entidades públicas como soporte de cada transacción. Le permite ser un derecho vivo con la capacidad de adaptarse a las nuevas formas de producción, almacenamiento de información y desempeño de funciones públicas.

Te puede interesar: La información pública no se restringe a medios amigos

La adopción y apropiación de tecnologías digitales en las entidades públicas es cada vez mayor. Estado y ciudadanos se relacionan entre sí a través de servicios ciudadanos digitales(opens in new tab), que dejan los trámites al alcance de un clic, mientras que funcionarios públicos se apoyan en tecnologías digitales para ejercer sus labores. En la práctica, las tecnologías están ayudando a sugerir qué casos seleccionar para revisión en la Corte Constitucional(opens in new tab), identificar zonas y horas de mayor ocurrencia de delitos(opens in new tab), o detectar patrones de minería ilegal(opens in new tab). Sin embargo, las tecnologías implican también unos riesgos importantes –como la discriminación, el perfilamiento, la vigilancia, entre muchos otros– y requieren de supervisión humana.

Por esa imperfección tecnológica es importante garantizar el principio de transparencia en relación con ellas y permitir que la ciudadanía esté informada para ejercer una mejor veeduría e incrementar la posibilidad de mejora de los sistemas. La transparencia algorítmica busca que se conozca cómo operan los sistemas algorítmicos del Estado, qué datos capturan y cómo impactan la vida de las personas. Se trata de la apertura de su funcionamiento básico para la ciudadanía.

Aunque la Directiva Conjunta No. 7(opens in new tab) de la Defensoría y la Procuraduría, la regulación más importante sobre la materia, no da una definición de sistema algorítmico, para efectos de aplicar sus disposiciones se requiere que se trate de un sistema tecnológico que funcione con base en un algoritmo, es decir un conjunto de reglas que transforman una información de entrada en un resultado; y que cumpla con, al menos, una de estas tres características: que use inteligencia artificial, que tome decisiones automatizadas o que permita la recolección de datos personales —en especial si esos datos son sensibles— para el rastreo y monitoreo de riesgos.

La transparencia algorítmica no busca impedir que se usen las tecnologías digitales, ni mucho menos detener el avance en la agenda estatal digital; simplemente pretende asegurarse de que exista información abierta al público para entender qué tecnología se está usando, cómo funciona y para qué. Esto permitirá una mejor evaluación de cada sistema. Aún así, su materialización es difícil. Por ejemplo, cuando preguntamos a la Policía Nacional por los sistemas algorítmicos que usa, esta no responde con todos los que han mapeado iniciativas como el repositorio(opens in new tab) de sistemas automatizados en el sector público de la Universidad de los Andes. Por el contrario, excluye algunos y cuando pedimos más información, dice que el sistema no es suyo y tampoco remite la petición, como ordena la ley, a la autoridad que estima competente.

Con el propósito de lograr un mapeo de los sistemas algorítmicos que están siendo usados por el Estado y para enfrentar la gran dispersión que existe al respecto, la Defensoría y Procuraduría han habilitado una encuesta(opens in new tab) que estará disponible hasta febrero del próximo año. La encuesta –cuyo diligenciamiento es obligatorio en virtud de la Directiva– pretende recoger información sobre los sistemas en uso, los datos que recogen, las decisiones que están apoyando, los proveedores de las herramientas, entre otros.

Hasta ahora ninguna entidad estatal ha completado la encuesta y anticipamos que tendrá sus detractores. De hecho, al preguntar a la Fiscalía General de la Nación si había reportado allí el sistema de Fiscal Watson(opens in new tab), nos respondió de manera confusa, señalando que no ha adelantado una evaluación formal en los términos de la Directiva, pero que en cualquier caso Watson no “constituye un sistema de toma de decisiones automatizadas, ni un sistema orientado a la emisión de recomendaciones, predicciones o determinaciones autónomas”. Esto no es del todo cierto: IBM promociona la tecnología de Watson como IA y, sin lugar a dudas, es un sistema algorítmico, por lo que existe la obligación de incluir el sistema en la encuesta.

La Procuraduría y la Defensoría están también liderando mesas de trabajo multiactor para discutir, aclarar dudas y entender falencias. Reconocen que la transparencia algorítmica sigue siendo un concepto en construcción y están dispuestas a acompañarnos. Ojalá nos apropiemos de esta herramienta de origen jurisprudencial(opens in new tab), que busca permitir la accesibilidad y explicabilidad de información sobre sistemas algorítmicos estatales y tiende puentes entre el complejo mundo de las tecnologías y la ciudadanía, que se está viendo impactada por su uso. Con suerte, las entidades públicas también se comprometerán con la materialización de este derecho, reconocerán los esfuerzos que Procuraduría y Defensoría están haciendo y trabajarán de la mano con ellas.

A propósito del día de acceso a la información pública, hagamos de este derecho fundamental uno más vivo y vigente que nunca: exijamos sus garantías a los sistemas tecnológicos del Estado.