Política de Uso de la Inteligencia Artificial

Orden HAP/796/2025, de 1 de julio, por la que se da publicidad al Acuerdo de 25 de junio de 2025, del Gobierno de Aragón, por el que se aprueba la Política de Uso de la Inteligencia Artificial del Gobierno de Aragón (BOA de 11 de julio de 2025). Texto completo.

ORDEN HAP/796/2025, DE 1 DE JULIO, POR LA QUE SE DA PUBLICIDAD AL ACUERDO DE 25 DE JUNIO DE 2025, DEL GOBIERNO DE ARAGÓN, POR EL QUE SE APRUEBA LA POLÍTICA DE USO DE LA INTELIGENCIA ARTIFICIAL DEL GOBIERNO DE ARAGÓN.

Aprobado por el Gobierno de Aragón, el día 25 de junio de 2025, el Acuerdo por el que se aprueba la Política de Uso de la Inteligencia Artificial del Gobierno de Aragón, se procede a su publicación como anexo a esta Orden.

Acuerdo de 25 de junio de 2025, del Gobierno de Aragón, por el que se aprueba la Política de Uso de la Inteligencia Artificial del Gobierno de Aragón.

El Gobierno de Aragón es consciente de la importancia que la inteligencia artificial (IA) tiene en el proceso de transformación digital de la Administración Pública y en la consecución del objetivo de que ésta sea más eficiente en la gestión de los servicios públicos y más ágil en el ejercicio de sus funciones.

La IA es un conjunto de tecnologías caracterizadas por su rápida evolución cuyo uso, además de contribuir a generar beneficios económicos, sociales y medioambientales, también puede generar riesgos que deben evitarse con carácter general y especialmente en el ámbito de la actuación administrativa y los derechos de los ciudadanos. Esta realidad está detrás de la aprobación del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial), así como de otras iniciativas legislativas y reglamentarias de ámbito estatal y autonómico.

En este contexto tecnológico y normativo, ante la necesaria implementación en la Administración aragonesa de la inteligencia artificial como una herramienta digital que ayude a modernizarla, resulta oportuno dotar a la Administración Pública de la Comunidad Autónoma de Aragón y sus organismos públicos, vinculados o dependientes, de los instrumentos necesarios para asegurar que el uso de los sistemas de inteligencia artificial que se implementen sea responsable, ético, transparente, seguro y respetuoso con los derechos fundamentales de los ciudadanos.

Con esta finalidad se ha aprobado el Marco de Gobernanza de la Inteligencia Artificial del Gobierno de Argón que prevé la existencia de una Oficina de Gobernanza y una Oficina Técnica de la Inteligencia Artificial que, de manera coordinada, supervisen el diseño, el desarrollo y el despliegue de los sistemas de IA mediante los cuales agilizar la actuación administrativa de la Administración aragonesa y sus organismos públicos.

En el Marco de Gobernanza aprobado por el Gobierno de Aragón se encomienda a la Oficina de Gobernanza la elaboración de la Política de Uso de la Inteligencia Artificial que ahora aprobamos como un documento cuyo objetivo es establecer las bases para un uso responsable, ético y legal de la IA, asegurando el respeto a los derechos fundamentales y promoviendo la transparencia, la calidad y la seguridad en su implementación.

En consecuencia, a propuesta del Consejero de Hacienda, Interior y Administración Pública, y previa deliberación del Gobierno de Aragón, en su reunión del día 25 de junio de 2025, se adopta el siguiente acuerdo:

Primero.- Aprobar la Política de Uso de la Inteligencia Artificial del Gobierno de Aragón que se adjunta como anexo a este Acuerdo.

Segundo.- Ordenar la publicación de este Acuerdo en el "Boletín Oficial de Aragón".

ANEXO ÚNICO. Política de Uso de la Inteligencia Artificial del Gobierno de Aragón.

1. Objetivo.

El Gobierno de Aragón reconoce la importancia del desarrollo y uso de la inteligencia artificial (IA) como herramienta para la mejora de los servicios públicos y la gestión de sus competencias. El objetivo de este documento es establecer las bases para un uso responsable, ético y legal de la IA, asegurando el respeto a los derechos fundamentales y promoviendo la transparencia, la calidad y la seguridad en su implementación.

2. Ámbito de aplicación.

Esta política se aplica a todos los sistemas y servicios basados en inteligencia artificial utilizados por el Gobierno de Aragón, ya sean desarrollados internamente o adquiridos a través de terceros, así como a las aplicaciones disponibles públicamente como ChatGPT.

La política se aplica al uso de esos sistemas y servicios en los dispositivos de la organización y también en dispositivos personales cuando se utilizan con fines laborales.

Incluye todas las áreas de competencia que ostente la Administración de la Comunidad Autónoma de Aragón y sus organismos públicos. Además, la política abarca el tratamiento de datos personales, garantizando el cumplimiento de la normativa vigente en materia de protección de datos, y regula tanto los procesos automatizados como los asistidos por inteligencia artificial.

3. Destinatarios.

Esta política es de obligado cumplimiento para:

Los cargos y empleados públicos del Gobierno de Aragón, así como a sus colaboradores externos.

Los proveedores externos que presten servicios relacionados con inteligencia artificial.

Las entidades públicas y privadas que ejerzan funciones públicas en el marco de actividades gestionadas por el Gobierno de Aragón.

4. Principios básicos.

Los principios éticos y operativos que guían el uso de la inteligencia artificial en el Gobierno de Aragón son los siguientes:

Respeto a los derechos fundamentales: La IA debe garantizar el cumplimiento de los derechos reconocidos en la carta de derechos fundamentales de la Unión Europea, la Constitución Española y #(§000001)# el Estatuto de Autonomía de Aragón.

Justificación del uso de la IA: Se debe analizar previamente la incorporación y/o diseño, desarrollo y despliegue de sistemas de Inteligencia Artificial en la Administración del Gobierno de Aragón, velando por que su necesidad esté debidamente justificada para los fines u objetivos previstos, evitando de esta forma la asunción de riesgos de daño injustificados. Se rechazará categóricamente el desarrollo y uso de sistemas de IA prohibidos de conformidad con el Reglamento Europeo de Inteligencia Artificial #(§057113)#. La incorporación de la IA en la Administración de la Comunidad Autónoma de Aragón respetará lo recogido en el marco de Gobernanza de la IA.

No discriminación: Los sistemas de IA deben diseñarse y utilizarse para evitar cualquier tipo de sesgo o discriminación por razones de género, etnia, orientación sexual, creencias, discapacidad o cualquier otra condición personal o social que sea contraria a Derecho. Para identificar y corregir los posibles sesgos inherentes a los datos de entrenamiento o algoritmos utilizados se realizarán las evaluaciones de los algoritmos que sea pertinentes.

Calidad y seguridad: Los datos utilizados deben ser fiables y los sistemas deben operar en entornos seguros. Debe garantizarse el cumplimiento, en su caso, de la Política de Seguridad de la Información. Además, se fomentará el desarrollo de sistemas resilientes que puedan adaptarse a cambios en los datos y contextos en los que operan, garantizando su fiabilidad a largo plazo.

Transparencia, trazabilidad y explicabilidad: Los ciudadanos tienen derecho a conocer cómo se toman decisiones que les afecten. Por ello, los sistemas de IA deben ser explicables, garantizándose la trazabilidad de los sistemas utilizados y su funcionamiento debe poder ser auditado.

Control humano: La supervisión humana es esencial en el uso de la IA, especialmente en decisiones que puedan tener un impacto significativo en los derechos u obligaciones de las personas.

Equidad y acceso universal: La IA en el Gobierno de Aragón debe ser utilizada para garantizar un acceso equitativo a los sistemas, independientemente de la ubicación, el estatus socioeconómico o cualquier otra característica demográfica. Esto implica desarrollar soluciones que eliminen barreras y aseguren que todos los ciudadanos tengan la misma oportunidad de poder ejercer sus derechos.

Innovación responsable: El desarrollo e implementación de la IA debe ser sostenible, ético y orientado a la mejora continua de los servicios públicos. Se priorizará la reutilización de modelos y algoritmos ya desarrollados para evitar duplicidades innecesarias y optimizar costes operativos.

Protección de datos: La IA debe cumplir con la normativa de protección de datos, garantizando la confidencialidad, seguridad y privacidad de la información tratada. La IA debe operar bajo los principios de protección de datos desde el diseño y por defecto.

Cogobernanza: Se ha de fomentar la colaboración, compartiendo e intercambiando conocimientos, así como los propios sistemas basados en IA entre diferentes áreas de la organización. También se ha fomentar la cooperación entre entidades gubernamentales, universidades, empresas y sociedad civil para el desarrollo e implementación responsable de la IA.

5. Normas de uso.

Para garantizar un uso adecuado de la inteligencia artificial, se establecen las siguientes normas:

Los sistemas de IA deben ser evaluados antes de su implementación para garantizar su cumplimiento con los principios éticos y legales establecidos. Además, debe realizarse una evaluación de impacto para identificar y mitigar riesgos potenciales, así como establecer planes de contingencia para minimizar posibles efectos adversos.

Se prohíbe el uso de IA para generar contenido engañoso o con fines fraudulentos.

La soberanía del dato y de la información debe ser siempre protegida y respetada. Ni el dato ni la información de origen ni el generado debe estar nunca accesible a terceros no autorizados, y en todo caso se ajustará a las Políticas de Protección de Datos Personales y Seguridad de la Información de la Administración pública de la Comunidad Autónoma de Aragón.

Debe revisarse que no existen sesgos en las herramientas contrarios a Derecho.

Los sistemas de IA utilizados por el Gobierno de Aragón deben ser autorizados previamente por los órganos competentes conforme a lo establecido en el Marco de Gobernanza de la Inteligencia Artificial del Gobierno de Aragón.

Se debe garantizar la formación de los empleados públicos y colaboradores externos en el uso responsable de la IA.

Todo el contenido generado utilizando IAGen debe estar claramente identificado en cualquier contenido orientado hacia el exterior.

Los resultados generados con IAGen deben ser revisados por los empleados públicos responsables del expediente, el trámite o el servicio para asegurarse de que cumplen con los principios y no incorporan alucinaciones, sesgos u otros riesgos.

6. Responsabilidades y control.

Se establecen las siguientes responsabilidades:

Desarrollo e implementación: Corresponde a los Departamentos del Gobierno de Aragón y sus organismos dependientes responsables de cada área garantizar que los sistemas de IA cumplan con esta Política y con el Marco de Gobernanza de la Inteligencia Artificial del Gobierno de Aragón.

Supervisión y auditoría: Bajo la supervisión de la Oficina de Gobernanza de la Inteligencia Artificial del Gobierno de Aragón, los Departamentos y organismos públicos que diseñen, desarrollen y desplieguen sistemas de inteligencia artificial llevarán a cabo los análisis de riesgo y las evaluaciones de impacto que procedan conforme a la normativa de aplicación en materia de inteligencia artificial y protección de datos de carácter personal.

Usuarios finales: Los empleados públicos y colaboradores externos del Gobierno de Aragón que utilicen sistemas de IA en el ejercicio de las funciones propias de su puesto deben cumplir con el ordenamiento jurídico europeo, estatal y aragonés que sea de aplicación, así como con la Política de Inteligencia Artificial del Gobierno de Aragón y el Marco de Gobernanza de la Inteligencia Artificial del Gobierno de Aragón. Así mismo, deberán reportar cualquier incidencia o incumplimiento de las herramientas y sistemas de IA.

7. Incumplimientos.

Los empleados públicos del Gobierno de Aragón que incumplan la normativa de aplicación, así como la Política de Inteligencia Artificial del Gobierno de Aragón, estarán sujetos al régimen disciplinario que sea de aplicación en cada caso, sin perjuicio de la responsabilidad civil o penal en que puedan incurrir, la cual se hará efectiva en la forma que determine la ley.

Las violaciones por parte de los proveedores podrán considerarse incumplimiento de contrato y dar lugar a las penalidades que procedan o a la resolución del contrato, de acuerdo con lo que se establezca en los pliegos, los contratos y en la normativa de contratación, sin perjuicio de la responsabilidad que se pueda exigir al adjudicatario.

Cualquier actividad relacionada con el uso de IA o IAGen que parezca violar las leyes aplicables será trasladada a las autoridades competentes.

8. Vigencia y seguimiento.

Esta Política surtirá efectos desde el día de su publicación en el "Boletín Oficial de Aragón".

Corresponde a la Oficina de Gobernanza de la Inteligencia Artificial del Gobierno de Aragón la revisión y actualización de esta política para su posterior aprobación por el Gobierno, de acuerdo con lo establecido en el Marco de Gobernanza de la Inteligencia Artificial del Gobierno de Aragón.

ANEXO. Definiciones.

1. Sistema de inteligencia artificial (IA): Conforme a lo establecido en el artículo 3.1 #(§057113) ar.3# del Reglamento de Inteligencia Artificial, es un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.

2. La IA generativa (IAGen): Se refiere a una tecnología de inteligencia artificial que deriva nuevas versiones de texto, audio o imágenes visuales a partir de grandes cantidades de datos en respuesta a las indicaciones del usuario. IAGen se puede utilizar en aplicaciones independientes, como ChatGPT o Gemini, o incorporado en otras aplicaciones. Además, las propias administraciones pueden poner a disposición sistemas de este tipo.

3. "Alucinaciones": Se ha convertido en el término adoptado por la comunidad IAGen para describir cómo los modelos, de vez en cuando, proporcionarán respuestas ficticias. El problema no es simplemente que las respuestas sean incorrectas, sino que son seguras y convincentes. La sociedad ha desarrollado un sesgo de automatización endémico, los humanos favorecen ciegamente las sugerencias de los sistemas automatizados de toma de decisiones, a menudo ignorando su propio mejor juicio.

4. Confidencialidad y privacidad: Se refiere a los principios fundamentales que garantizan que los datos procesados por los sistemas de IA sean protegidos contra accesos no autorizados.

5. Sesgo del modelo: Las herramientas IAGen incorporan cualquier sesgo de los conjuntos de datos que se utilizaron para entrenarlos. Este sesgo de modelado no siempre se alinea con el valor central de la Administración de la Comunidad Autónoma de Aragón y su compromiso con la diversidad, la equidad y la inclusión. Por lo tanto, la salida del modelo puede cometer errores sistemáticos o favorecer a ciertos grupos, lo que lleva a resultados injustos o discriminatorios.

6. Propiedad intelectual: Los modelos IAGen a menudo se entrenan en grandes conjuntos de datos disponibles públicamente (por ejemplo, a través de la extracción de datos de páginas web públicas). Por lo tanto, los resultados pueden contener información protegida por derechos de autor o propiedad intelectual de otros. Si bien la propiedad en muchos de estos casos no está clara, los usuarios deben pecar de cautelosos y no utilizar ningún resultado que contenga material que sospechen que está bajo protección de derechos de autor en ningún material, interno o externo.

7. Riesgo de transparencia: El contenido generado con IAGen puede crear confusión si se confunde con contenido de producción humana, por lo que se ha de garantizar la confianza y el uso responsable de inteligencia artificial.

8. Riesgo de terceros: Los datos enviados por las administraciones a terceros podrían utilizarse en el uso de herramientas IAGen por parte de estos actores externos a la Administración de la Comunidad Autónoma de Aragón.

9. Algoritmo: Es un conjunto de instrucciones o reglas definidas que se utilizan para realizar una tarea o resolver un problema específico. Los algoritmos son la base de muchos sistemas de IA, ya que permiten que las máquinas aprendan y tomen decisiones.

10. Aprendizaje automático (Machine Learning): Es una subdisciplina de la IA que se centra en el desarrollo de algoritmos y modelos que permiten a las computadoras aprender patrones y realizar predicciones a partir de datos, sin necesidad de ser programadas explícitamente para cada tarea.

Comentarios