Entrevista> José Tárrega / Director General de Transparencia (Torrente, 1-agosto-1988)
La Generalitat Valenciana ha anunciado la creación de un registro público de algoritmos, con la finalidad de que todos los ciudadanos podamos consultar cuáles son estas fórmulas informáticas que rigen nuestra administración autonómica. Un trabajo arduo ya que la inteligencia artificial cada día gana más enteros, ya no solo a nivel administrativo sino en muchos aspectos de nuestra vida.
Para saber más sobre este asunto hemos querido conversar con José Salvador Tárrega Cervera, quien actualmente ejerce el cargo autonómico de Director General de Transparencia. Hasta que hace apenas unos meses decidiera meterse en política trabajaba como funcionario jurídico en el Ayuntamiento de València y era conocido en dicha ciudad sobre todo por su vinculación al asociacionismo vecinal.
«Los ciudadanos tienen derecho a comprobar si estos algoritmos siguen criterios no discriminatorios»
¿Por qué habéis tomado esta iniciativa de generar un registro público de algoritmos informáticos?
Es una obligación legal que tenemos a raíz de la ley autonómica 1/22 que entró en vigor el pasado abril. Debemos publicar los sistemas algorítmicos de inteligencia artificial que estén relacionados con las decisiones automatizadas de la Administración, es decir las que se toman sin control humano en servicios públicos como puede ser Labora, Sanidad, etc.
La ley nos exige transparencia para que todos los ciudadanos puedan comprobar que no se comete ninguna discriminación en la aplicación del algoritmo, sino que se sigue un determinado criterio matemático.
¿Qué aspecto tendrá este registro?
Precisamente ahora estamos estudiando cómo realizarlo, ya que se trata de una tarea complicadísima. Tenemos que resolver muchas cuestiones como organizar todos los algoritmos existentes o dar la información de una forma reconocible para los ciudadanos. No sirve de mucho publicar simplemente una raíz matemática sin explicar realmente cuál es realmente su aplicación práctica.
Por eso estamos en un proceso de investigación, y en este 2024 vamos a colaborar con cátedras de la Universitat de València y la Universidad Politècnica ya que ambas están estudiando esta cuestión tanto desde el punto de vista técnico como jurídico. Tenemos ya algún informe para poder empezar a desarrollarlo, y estamos trabajando estrechamente con la dirección general de Tecnologías de la Información y Comunicación (DGTIC) para crear el soporte necesario que albergará este registro.
«No sirve de mucho publicar raíces matemáticas si no se explican al ciudadano»
¿Cuándo calculáis que estará ya disponible este registro de algoritmos?
Vamos a intentar sacarlo en este 2024. Como te comentaba antes aquí existen varios niveles de complejidad. No es lo mismo una decisión automatizada basada en algoritmos creados por seres humanos que otras en las que tiene una mayor incidencia la inteligencia artificial. Tampoco es que de la segunda haya muchos ejemplos en la Generalitat, puede que incluso ninguno.
En cualquier caso estamos estudiando todos los escenarios porque además esto avanza muy rápido. De hecho ya estamos trabajando en aplicar legislaciones europeas en inteligencia artificial programadas para 2026. Queremos estar preparados para cualquier eventualidad con recursos que nos permitan poder atender a la demanda de transparencia existente.
¿Tenéis alguna estimación, aunque sea aproximada, de cuantos algoritmos hay ahora mismo funcionando en una administración tan gigantesca como es la Generalitat?
No te sabría decir. Desde luego son muchos los departamentos que requieren la utilización de este tipo de procedimientos automatizados en algunos aspectos de la Administración. Su aplicación es cada vez mayor, dado que estos algoritmos están pensados precisamente para gestionar masas, es decir una cantidad de usuarios muy elevada.
«La Comunitat Valenciana está siendo pionera en la legislación sobre inteligencia artificial»
El propio Bill Gates ha dicho recientemente que la inteligencia artificial es el mayor punto de inflexión para el mundo desde la generalización de internet. ¿Se debería de regular mejor a nivel estatal y/o autonómico?
La verdad es que nosotros hemos sido pioneros con esta ley que refleja por primera vez esta situación. El resto de comunidades autonómicas no cuentan con este tipo de regulación.
Supongo que seguiremos poco a poco adaptando la realidad jurídica a la social. Esto evidentemente implicará un cambio legislativo profundo. Es algo que debemos hacer porque no podemos dejar vacíos que produzcan injusticias o discriminaciones.
Además cada día salen nuevas noticias de cosas que se pueden hacer por inteligencia artificial como imitar voces reales, desnudar personas sin consentimiento… Tendrá sus aspectos positivos, pero también asusta un poco.
Es así. Estamos abocados a realizar una gran reforma legal, no ya solo desde el ámbito de la transparencia sino también en lo penal y lo que afecte a derechos fundamentales. Tenemos un papel por delante bastante importante… pero en este caso la Generalitat Valenciana está llevando la delantera.
Si conseguimos en 2024 sacar este registro de algoritmos, sin duda tendremos un elemento fundamental para seguir trabajando en las próximas innovaciones que se vayan produciendo. Ahora mismo estamos elaborando, junto a agentes sociales, el II Plan de Acción de la Alianza de Gobierno Abierto donde estamos tratando este tipo de cuestiones, que desde luego están en la agenda.
