• ¿Qué es un sistema algorítmico o de Inteligencia Artificial?

Son sistemas informáticos basados en reglas o instrucciones que un ordenador utiliza para resolver una tarea o un problema concreto. Los sistemas que, además, utilizan inteligencia artificial son capaces de aprender, reconocer patrones o adaptar esas reglas. La aplicación de estos sistemas permite resolver problemas más complejos, aunque también dificulta entender por qué la máquina ha tomado ciertas decisiones. 

• ¿Para qué sirve el registro de algoritmos?

El Registro de Algoritmos sirve como base de datos para la Administración de la Generalitat. Es algo así como un inventario de sistemas que se encuentran implantados en la Administración. Su propósito es centralizar información que de otra forma estaría dispersa. La información que contiene abarca desde características del diseño y funcionamiento del sistema, evaluación del riesgo, uso de datos de carácter personal, características de calidad, etc.
Además, esta herramienta facilita que toda la información disponible pueda ser consultada por la ciudadanía, de acuerdo con criterios de explicabilidad y comunicación clara, a través de GVA Oberta-Portal de Transparencia de la Generalitat.

• ¿Por qué es necesario un Registro de Algoritmos?

Actualmente nos encontramos en un proceso de automatización de procesos administrativos e introducción de la IA en las Administraciones Públicas. Aunque en algunas áreas de la administración se trata de una práctica consolidada, la revolución tecnológica que estamos viviendo va impregnando más capas y espacios de la administración. Además, debido a recientes avances y mejoras técnicas, los sistemas algorítmicos y de inteligencia artificial son capaces de analizar grandes cantidades de datos e incluso de realizar predicciones. No obstante, estas nuevas capacidades están basadas en sistemas complejos que dificultan la trazabilidad de sus decisiones por lo que también se les conoce como "algoritmos opacos" o "de caja negra".
La Administración de la Generalitat debe prestar sus servicios y asignar sus recursos de forma efectiva y eficiente, pero también debe ser transparente y rendir cuentas de sus actuaciones. Por ello, es necesario informar a la ciudadanía de qué sistemas algorítmicos o de IA se están usando y cuáles pueden tener influencia en la toma de decisiones públicas o en la esfera jurídica de la ciudadanía. Este ejercicio de transparencia refuerza la confianza de la ciudadanía en la institución y en el uso de estas tecnologías.
De este modo, creando este registro de sistemas algorítmicos o de inteligencia artificial, se simplifican y se puede dar un mejor cumplimiento de las tareas de control y supervisión, así como de la rendición de cuentas.

• ¿Qué información se puede encontrar sobre algoritmos y sistemas de IA?

El registro cuenta con información propia del sistema (nombre comercial, empresa distribuidora, etc.), pero también incluye información descriptiva para que sea más accesible para la ciudadanía sin conocimientos técnicos. Las áreas más relevantes de información son: descripción de su finalidad y lógica, evaluación del riesgo y protección de datos de carácter personal.
En el Portal de Transparencia se muestra la información que se ha considerado más relevante, pero estos campos pueden ser ampliados de manera individual a través de una solicitud de acceso a la información pública. 

Marco estratégico y político

• Líneas de acción estratégica de Transparencia, Participación y Calidad Democrática 2023-2027. Comunitat Valenciana. Línea Estratégica 8. Fortalecer la transparencia y la supervisión en los sistemas algorítmicos y de inteligencia artificial
   
• V Plan de gobierno abierto de España 2024-2028.  Línea de acción 3. Integridad y rendición de cuentas
• Carta de Derechos Digitales. Gobierno de España

Normativa aplicable

• Ley 6/2024, de 5 de diciembre, de simplificación administrativa. Artículo 43.4 (DOGV núm. 10001, de 09.12.2024)
• Ley 1/2022, de 13 de abril, de la Generalitat, de Transparencia y Buen Gobierno de la Comunitat Valenciana. Artículo 16.1.l) (DOGV núm. 9323 de 22.04.2022)
• Decreto 54/2025, de 15 de abril, del Consell, de simplificación administrativa y transformación digital. Artículo 41.7 (DOGV núm. 10092, de 22.04.2025)
• Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) (Texto pertinente a efectos del EEE)
• Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos) (Texto pertinente a efectos del EEE)

Publicaciones y recursos prácticos

• Jornada on line 'Guía práctica para abrir los algoritmos públicos'. 10-16 junio 2024. Organizada por el Observatorio Valenciano de Datos Abietos y Transparencia (Universitat Politècnica de València)
  • Guía práctica ¿Cómo abrir los algoritmos públicos? Recomendaciones para la implantación de registros de algoritmos públicos. Publicada la versión 1.0 en junio 2024 por el Observatorio de Transparencia y Datos Abiertos de la Universitat Politècnica de València (UPV) con la Cátedra PAGODA Universitat de València, Instituto Interuniversitario de Desarrollo Local.
  • Algoritmos abiertos y que no discriminen en el sector público (Lorenzo Cotino Huerso, Jorge Cstellanos Claramunt, eds.)
• Cotino Hueso, L., Castellanos Claramunt, J. (eds.). Transparencia y explicabilidad de la Inteligencia Artificial. Valencia: Tirant lo Blanch, 2022
   
• Informe de la Abogacía General de la Generalitat sobre la interpretación que se ha de hacer sobre la impugnación de sistemas algorítmicos
   

• Directrices éticas para una IA fiable. Comisión Europea, Grupo independiente de expertos de alto nivel sobre inteligencia artificial, 2018