Desarrollo e impulso de la inteligencia artificial

Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia (DOG de 4 de abril de 2025). Texto completo.

LEY 2/2025, DE 2 DE ABRIL, PARA EL DESARROLLO E IMPULSO DE LA INTELIGENCIA ARTIFICIAL EN GALICIA.

Exposición de motivos

I

A lo largo de la historia, los avances tecnológicos han aumentado la eficiencia de los medios para producir, cambiado la forma de consumir y disminuido barreras de espacio y tiempo. Sin embargo, ninguno de estos avances ha tenido la capacidad transformadora de las tecnologías inteligentes en términos de su potencial para incrementar la competitividad en todas las áreas de desarrollo y contribuir a dar respuesta a algunos de los desafíos a que se enfrenta la humanidad.

Las tecnologías inteligentes están cambiando nuestra vida cotidiana, nuestra forma de trabajar, educar y hacer negocios y nuestra forma de viajar, así como nuestra forma de relacionarnos.

De acuerdo con la definición acuñada por el Grupo independiente de expertos de alto nivel sobre inteligencia artificial de la Unión Europea, el término “inteligencia artificial” se aplica a todos aquellos “sistemas que manifiestan un comportamiento inteligente al analizar su entorno, realizando acciones, con cierto grado de autonomía, para conseguir un objetivo específico”. Estos sistemas pueden consistir simplemente en un programa informático -por ejemplo, asistentes de voz, programas de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento facial y de voz- o bien estar incorporados en dispositivos de hardware -por ejemplo, robots avanzados, automóviles autónomos, vehículos aéreos no tripulados o aplicaciones de internet de las cosas-.

La definición de “sistema de inteligencia artificial” empleada por las instituciones europeas se alinea con la propuesta por la Organización para la Cooperación y el Desarrollo Económico en mayo de 2019, que lo define como “un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Diferentes sistemas de inteligencia artificial varían en sus niveles de autonomía y adaptabilidad tras la implementación”.

Si bien el origen de la inteligencia artificial se remonta al año 1950, hoy en día vivimos una de sus épocas de mayor auge. La inteligencia artificial está presente en la industria desde, al menos, la década de 1980, aunque ha sido durante los últimos años cuando confluyeron tres elementos, entre otros, que han permitido dar un salto cualitativo del dato común al dato inteligente, gracias al rendimiento y la aplicabilidad de los métodos de aprendizaje por ordenador basados en datos. En primer lugar, la disponibilidad de cantidades ingentes de datos -conocidos como big data- que son el resultado de la actividad humana generada en plataformas digitales y de procesos de digitalización del mundo físico; en segundo lugar, el desarrollo de algoritmos de aprendizaje por ordenador capaces de encontrar patrones de comportamiento y dar así utilidad a estas cantidades de datos; finalmente, el incremento exponencial de la capacidad de procesamiento de los ordenadores y de almacenamiento de estas cantidades masivas de datos. La convergencia entre supercomputación e inteligencia artificial es imprescindible para impulsar avances significativos en la resolución de problemas complejos y el desarrollo de modelos de inteligencia más precisos.

No obstante, no debemos olvidar los retos y las limitaciones técnicas, éticas, legales y sociales sobre el uso que se brinde a esa ingente cantidad de datos generados, a pesar de ser este el punto donde reside la oportunidad de una transformación digital, no solamente real, sino inevitable.

La inteligencia artificial puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores y actividades sociales. Su uso puede proporcionar ventajas competitivas esenciales a las empresas y facilitar la obtención de resultados positivos desde el punto de vista social y ambiental en los ámbitos de la mejora de la salud, la agricultura, la educación y la formación, la administración de infraestructuras, la energía, el transporte y la logística, los servicios públicos, la seguridad, la justicia, la eficiencia de los recursos y la energía y la mitigación del cambio climático y la adaptación al mismo. También puede contribuir a mejorar la predicción, optimizar las operaciones y la asignación de los recursos y personalizar las soluciones digitales que se encuentran a disposición de la población y las organizaciones. Es, por tanto, necesario garantizar su buen gobierno a fin de aprovechar todas las oportunidades que esta tecnología ofrece, a la vez que se garantizan el control y la limitación de los riesgos derivados de un uso indebido.

En consecuencia, la Administración pública está en la obligación de aplicar la inteligencia artificial para ofrecer mejores servicios de conformidad con las necesidades y las demandas de la ciudadanía y las empresas.

II

La creciente dependencia de tecnologías y sistemas desarrollados fuera de las fronteras de la Unión Europea plantea importantes desafíos en términos de soberanía tecnológica y digital. La inteligencia artificial ocupa un lugar preeminente en el marco estratégico y legislativo mundial. En particular, la Organización para la Cooperación y el Desarrollo Económico adoptó un planteamiento de “Principios sobre la inteligencia artificial” en la Recomendación sobre inteligencia artificial adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económico el 22 de mayo de 2019, donde estableció el respeto del Estado de derecho, los derechos humanos, los valores democráticos y la diversidad a través del cumplimiento de los principios de transparencia, divulgación responsable, robustez, fiabilidad y seguridad durante todo el ciclo de vida de los sistemas de inteligencia artificial.

Por su parte, a lo largo de los últimos años, Europa ha promovido un enfoque centrado en el fortalecimiento de sus capacidades tecnológicas internas, impulsando una inteligencia artificial segura, ética y centrada en los derechos fundamentales. Para ello, la Unión Europea adoptó un planteamiento coordinado con el objetivo de aprovechar al máximo las oportunidades que brindan las tecnologías inteligentes, fijándose un objetivo claro: incrementar la inversión en más de 20.000 millones de euros anuales durante la próxima década. La pandemia del covid-19 provocó que la Comisión Europea haya reforzado y organizado su apuesta por la inteligencia artificial, otorgando un lugar privilegiado como una de sus prioridades 2019-2024 a “una Europa adaptada a la era digital”, así como la recién aprobada hoja de “El compás digital de Europa”.

En enero de 2020, la Resolución del Parlamento Europeo sobre un marco de aspectos éticos de la inteligencia artificial, la robótica y las tecnologías relacionadas recomienda expresamente que la Comisión proponga medidas legislativas para explotar las oportunidades y los beneficios de la inteligencia artificial y también para garantizar la protección de los principios éticos.

También, en noviembre de 2021 se publica la Recomendación de la Unesco sobre la ética de la inteligencia artificial por los 193 estados miembros como una reflexión normativa sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de las tecnologías de inteligencia artificial en los seres humanos, las sociedades y el medio ambiente y los ecosistemas, ofreciéndoles una base para aceptar o rechazar las tecnologías de inteligencia artificial.

Así, la Comisión Europea publica en abril de 2021 una propuesta de reglamento para afrontar el reto de gestionar la inteligencia artificial sin que los derechos de la ciudadanía, así como los valores europeos, se vean menoscabados. El objetivo es establecer un marco legal uniforme para el desarrollo, comercialización y uso de la inteligencia artificial, en línea con los valores de la Unión Europea.

Esta propuesta fue aprobada por el Parlamento Europeo en marzo de 2024, convirtiéndose en la primera regulación en inteligencia artificial del mundo, de conformidad con los valores de la Unión consagrados en el artículo 2 del Tratado de funcionamiento de la Unión Europea y los derechos y libertades fundamentales consagrados en los tratados y de conformidad con el artículo 6 #(§060007) ar.6# de la Carta de derechos fundamentales de la Unión Europea. El 12 de julio de 2024 se publicó en el Diario Oficial de la Unión Europea dicho reglamento, el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican los reglamentos (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144, y las directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de inteligencia artificial #(§057113)# ). En particular, establece unas normas comunes para los sistemas de inteligencia artificial de alto riesgo al objeto de garantizar un nivel elevado y coherente de protección de los intereses públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales. También debe tener en cuenta la Declaración europea sobre los derechos y principios digitales para la década digital y las Directrices éticas para una inteligencia artificial fiable del Grupo independiente de expertos de alto nivel sobre inteligencia artificial.

Asimismo, el Consejo de Europa adoptó en mayo de 2024 el Convenio marco sobre inteligencia artificial y derechos humanos, democracia y Estado de derecho, el cual proporciona un marco jurídico común a nivel mundial para aplicar las obligaciones jurídicas internacionales y nacionales existentes que son de aplicación en la esfera de los derechos humanos, la democracia y el Estado de derecho y sus objetivos, a fin de garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial por parte de actores públicos y privados cumplan con estas obligaciones, estándares y compromisos.

III

En el caso de la Comunidad Autónoma de Galicia, esta cuenta con una trayectoria destacable en el desarrollo y despliegue de tecnologías inteligentes. Galicia fue pionera en la aprobación de la Estrategia gallega de inteligencia artificial 2030, aprobada por el Consello de la Xunta en su sesión de 10 de junio de 2021, con una inversión de más de 330 millones de euros públicos de la Xunta de Galicia en el periodo 2021-2030, que generará un impacto en la creación de riqueza de unos 472 millones de euros en ese periodo. Esta estrategia contempla una inversión per cápita en inteligencia artificial superior al promedio de la Unión Europea.

Galicia cuenta con un ecosistema de inteligencia artificial fortalecido en torno a tres fases de generación de valor. En la primera fase de ideación destacan, además de las tres universidades públicas de Galicia, que imparten el Grado en Inteligencia Artificial y el Máster Interuniversitario en Inteligencia Artificial, los centros tecnológicos y los centros de investigación. En la fase de oferta, Galicia posee un potencial significativo para desempeñar un rol protagonista en el desarrollo de inteligencia artificial, no limitándose únicamente a la adopción de tecnologías de otras regiones, sino generando conocimiento y soluciones tecnológicas propias. Esta capacidad de crear tecnología avanzada no solo refuerza la competitividad de Galicia en la economía digital, sino que también asegura su autonomía tecnológica, fomentando el crecimiento sostenible y la creación de empleo cualificado. Además, Galicia cuenta con una infraestructura de computación de altas prestaciones de referencia: el Centro de Supercomputación de Galicia, como agente fundamental en el impulso de la investigación e innovación en el ámbito de la inteligencia artificial, consolidándose como un laboratorio natural para la integración de la supercomputación en el desarrollo de la inteligencia artificial, factor clave para alcanzar avances significativos en la resolución de retos complejos y en el perfeccionamiento de modelos de inteligencia artificial. Ello contribuirá, de forma determinante, al impulso de la investigación e innovación en inteligencia artificial, facilitando el avance de proyectos tanto científicos como empresariales, además de dar apoyo a las empresas en el desarrollo de casos de uso y la formación de modelos, poniendo sus recursos al servicio de soluciones innovadoras y el progreso tecnológico relacionadas con el desarrollo de esta tecnología. En cuanto a la fase de demanda, en Galicia se está experimentando una creciente inversión en inteligencia artificial por parte de los ámbitos públicos, así como por parte de la industria y los servicios. De hecho, de acuerdo con datos recientes del Instituto Nacional de Estadística, en Galicia el 10,2 por ciento de las empresas de diez o más personas trabajadoras con sede y/o actividad en esta comunidad emplean inteligencia artificial, superando en 1,9 puntos porcentuales el promedio estatal. En el caso de las microempresas, el empleo de la inteligencia artificial alcanza el 7,6 por ciento de las empresas y supera también el promedio estatal en 4,1 puntos porcentuales.

Esta propuesta responde a la Recomendación sobre inteligencia artificial adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económico el 22 de mayo de 2019, en la cual se establece que los gobiernos han de desarrollar un entorno de políticas que facilite el camino para la adopción de sistemas de inteligencia artificial fiables, capacitar a las personas con competencias en inteligencia artificial y apoyar a las personas trabajadoras con miras a asegurar una transición equitativa. Asimismo, establece el fomento de ecosistemas de inteligencia artificial accesibles con tecnologías e infraestructura digitales y mecanismos para el intercambio de datos y conocimientos. Se asienta también en el informe “Gobernando con inteligencia artificial”, publicado por la Organización para la Cooperación y el Desarrollo Económico el 13 de junio de 2024, en el cual se afirma que la aplicación de normativas en todas las instituciones del sector público puede ayudar a promover el desarrollo de enfoques basados en el riesgo contemplado en el Reglamento de inteligencia artificial #(§057113)#.

La propuesta contempla las conclusiones y recomendaciones emitidas por un grupo de personas expertas del ámbito universitario de Galicia en el “Estudio sobre el marco ético y normativo y el potencial impacto de la inteligencia artificial en Galicia”, presentado en marzo de 2023, donde se expone que “hay margen para que los estados de la Unión Europea y las comunidades autónomas refuercen los objetivos de la Ley de inteligencia artificial de la Unión Europea (AI Act), incluso desde antes de su entrada en vigor”. En este sentido, “la Comunidad Autónoma podría regular ya la utilización de las tecnologías basadas en inteligencia artificial por el propio sector público autonómico y, en su caso, por las entidades locales gallegas, en el ejercicio de sus competencias de autoorganización (artículos 27.1 y 28.2 del Estatuto de autonomía de Galicia) y sobre el régimen local (artículo 27.2 del Estatuto). Para ello, podría modificarse la Ley 4/2019, de 17 de julio, de administración digital de Galicia, y, en su caso, la Ley 5/1997, de 22 de julio #(§000511)#, de Administración local de Galicia, a fin de introducir los principios que deben regir la implantación de las tecnologías basadas en la inteligencia artificial tanto en el sector público autonómico como en el local. Asimismo, las competencias de la Comunidad Autónoma de desarrollo legislativo y ejecución en materia de contratos y concesiones administrativas (artículo 28.2 del Estatuto de autonomía) permitirían introducir las especificaciones generales exigibles a toda aplicación, producto o servicio basado en inteligencia artificial que las administraciones públicas adquieran del sector privado, respetando en todo caso las reglas de carácter básico sobre el establecimiento de prescripciones técnicas que contemplan el artículo 126 #(§039439) ar.126# y siguientes de la Ley 9/2017, de 8 de noviembre, de contratos del sector público. Del mismo modo, la Comunidad Autónoma también podría desarrollar una política propia de fomento del desarrollo de las tecnologías basada en la inteligencia artificial en Galicia, sobre la base de sus competencias estatutarias en materia de fomento de la actividad económica. Y, en la medida en que la actividad de fomento permite a la Administración orientar los fines de interés general a que debe dirigirse la actuación privada beneficiaria de aquella, las medidas autonómicas de impulso del desarrollo de las tecnologías basadas en la inteligencia artificial se tendrían que condicionar al cumplimiento por estas tecnologías de los estándares éticos que, en defecto de un marco regulador, son generalmente admitidos en la actualidad”.

También responde, asimismo, a las peticiones explícitas del Parlamento de Galicia, que solicitó a la Xunta de Galicia, en el mes de abril de 2023, el impulso de las actuaciones necesarias para que la Administración general de la Comunidad Autónoma de Galicia y su sector público adopten, como marco de actuación, el establecido por el Reglamento europeo de inteligencia artificial #(§057113)#, previamente a su entrada en vigor, prevista para el año 2024, así como el desarrollo de la normativa necesaria para la aplicación de la inteligencia artificial en la Administración autonómica. El Parlamento de Galicia también ha llevado a cabo importantes acciones en el ámbito de la inteligencia artificial, como la Declaración institucional del Parlamento de Galicia en favor de una inteligencia artificial ética y centrada en el ser humano, firmada en junio de 2022.

También responde a la oportunidad que supone la ubicación de la Agencia Española de Supervisión de Inteligencia Artificial en A Coruña. El Reglamento europeo de inteligencia artificial establece las “autoridades nacionales de supervisión” que se encarguen de supervisar la aplicación y ejecución de lo dispuesto en el mencionado reglamento, así como de coordinar las actividades encomendadas a dichos estados miembros, actuar como el punto de contacto único para la Comisión y representar al estado miembro en cuestión ante el Comité Europeo de Inteligencia Artificial. Esta agencia, creada por Real decreto 729/2023, de 22 de agosto #(§056313)#, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial, es la primera agencia de este tipo que se crea en Europa.

Responde, asimismo, al compromiso para la legislatura 2024-2028 de desarrollar la normativa necesaria para facilitar la adopción de tecnologías digitales de alto impacto, tanto en el sector público como en los diferentes sectores económicos, a través de mecanismos que favorezcan la atracción de inversiones y talento digital, garantizando que la incorporación de tecnologías disruptivas se lleve a cabo bajo los criterios éticos y de seguridad.

Por último, responde a las recomendaciones emitidas por el Consejo de Europa en el Convenio marco sobre inteligencia artificial y derechos humanos, democracia y Estado de derecho, adoptado en mayo de 2024, en lo relativo a los principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

IV

Atendiendo al Reglamento por el que se establecen las normas armonizadas en materia de inteligencia artificial #(§057113)#, se contempla que su fundamento jurídico radica en el artículo 114 #(§060902) ar.114# del Tratado de funcionamiento de la Unión Europea, que permite al Parlamento adoptar medidas apropiadas para establecer el funcionamiento del mercado común. Con ello se pretende avanzar hacia una regulación europea sólida para conseguir una inteligencia artificial fiable, que garantice la igualdad, proteja a las personas y fomente la competitividad industrial.

En el plano normativo estatal, la aprobación durante los últimos años de leyes que prevén dar respuesta a los retos que implican este gran cambio y la demanda de seguridad jurídica en el desarrollo y ejercicio de los derechos de la ciudadanía es notable. En materia de procedimiento administrativo común y régimen jurídico del sector público, la Ley 39/2015, de 1 de octubre #(§013300)#, del procedimiento administrativo común de las administraciones públicas, y la Ley 40/2015, de 1 de octubre #(§036563)#, del régimen jurídico del sector público, introducen con carácter transversal el empleo de los medios electrónicos en las relaciones entre la Administración y la ciudadanía. La tecnología también impacta notablemente en la protección de datos de carácter personal; así, el regulador europeo introduce el Reglamento (UE) 2016/679, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales. En lo referente a la ciberseguridad, el Real decreto 311/2022, de 3 de mayo #(§054752)#, por el que se regula el Esquema nacional de seguridad, establece los principios básicos y requisitos mínimos que aplican a aquellos sistemas de información de entidades públicas, garantizando una adecuada seguridad de la información tratada. En lo referente a la innovación en materia de inteligencia artificial, el Real decreto 817/2023, de 8 de noviembre #(§056474)#, que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de reglamento del Parlamento Europeo y del Consejo por la que se establecen normas armonizadas en materia de inteligencia artificial, establece espacios de pruebas para ensayar el cumplimiento de ciertos requisitos por parte de algunos sistemas de inteligencia artificial que pudieran suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas.

En el marco de la Estrategia España digital 2026 y con el objetivo de liderar el desarrollo y la integración de la inteligencia artificial en la sociedad y la economía española, se aprobó la Estrategia nacional de inteligencia artificial. Alineado con esta estrategia, se elaboró la Carta de derechos digitales, que recoge en su apartado XXV la base de los derechos de las personas ante la inteligencia artificial, en virtud de garantizar la no discriminación, transparencia y supervisión humana en las decisiones tomadas por tecnologías inteligentes. En línea con ello, se aprobó la Ley 15/2022, de 12 de julio #(§054962)#, integral para la igualdad de trato y la no discriminación, que regula el uso de algoritmos en la toma de decisiones por parte de las administraciones públicas y obliga a implementar medidas que minimicen sesgos y garanticen la rendición de cuentas, buscando así un uso ético y responsable de la inteligencia artificial para fomentar la confianza en la tecnología, así como garantizar lo establecido en el artículo 41.2 #(§036563) ar.41# de la Ley 40/2015, de 1 de octubre.

En el ámbito autonómico, las bases de la regulación del desarrollo de la inteligencia artificial en Galicia ya cuentan con un cuerpo legal, integrado por la Ley 16/2010, de 17 de diciembre #(§009657)#, de organización y funcionamiento de la Administración general y del sector público autonómico de Galicia, reguladora de la organización y del régimen jurídico de la Administración general de la Comunidad Autónoma de Galicia y de las entidades instrumentales integrantes del sector público autonómico; la Ley 14/2013, de 26 de diciembre, de racionalización del sector público autonómico, que promovió la optimización de los recursos públicos, la eficacia en la gestión y el logro de la máxima coordinación de los distintos órganos y unidades administrativas como principios básicos que guían la actuación del sector público autonómico; la Ley 1/2015, de 1 de abril #(§035746)#, de garantía de la calidad de los servicios públicos y de la buena administración, que consagra legalmente el derecho de la ciudadanía a la buena administración y a que se le presten unos servicios públicos de calidad, así como a participar en la evaluación de la calidad de los servicios públicos, como parte imprescindible del ciclo de las políticas públicas; y la Ley 4/2019, de 17 de julio, de administración digital de Galicia.

Más recientemente, la Ley 7/2022, de 27 de diciembre #(§055529)#, de medidas fiscales y administrativas, recoge en el artículo 52 una nueva disposición adicional en la Ley 5/2013, de 30 de mayo #(§032074)#, de fomento de la investigación y de la innovación de Galicia, por la cual la Administración autonómica, en su ámbito de competencias, podrá establecer bancos de pruebas regulatorias que permitan la ejecución de proyectos piloto de I+D+i con arreglo a un marco normativo y administrativo adecuado para garantizar el respeto a la legalidad y la competitividad internacional.

Por tanto, resulta clave dotar al ordenamiento jurídico autonómico de una regulación única, coherente, actualizada y ordenada, contando con una ley que sistematice en un único cuerpo toda la regulación relativa al desarrollo y uso de la inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia y su sector público.

V

En lo que respecta al fundamento competencial, la presente ley se dicta en el ejercicio de las competencias autonómicas exclusivas en materia de organización de las instituciones de autogobierno y en materia de procedimientos administrativos que se deriven del específico derecho gallego o de la organización propia de los poderes públicos gallegos, así como de la competencia autonómica de desarrollo legislativo y ejecución de la legislación del Estado en materia de régimen jurídico de la Administración pública de Galicia, recogidas, respectivamente, en el artículo 27, apartados 1 y 5, y en el artículo 28.1 del Estatuto de autonomía de Galicia. Junto a estos títulos competenciales, también procede invocar, en atención a las previsiones en materia de empleo público y de contratación contempladas en la ley, las competencias autonómicas de desarrollo legislativo y ejecución de la legislación del Estado en materia de régimen estatutario de sus funcionarios y en materia de contratos, previstas en el artículo 28, apartados 1 y 2, del Estatuto de autonomía de Galicia.

Por todo lo expuesto, el proceso de diseño, desarrollo, implementación y uso de sistemas de inteligencia artificial tiene que disponer de una norma, con la legitimidad que solo confiere el Parlamento, que ofrezca instrumentos suficientes y adecuados que permitan un diseño y desarrollo sostenible y un uso seguro. Esta tarea es abordada con el respaldo de un estado de opinión colectivo: el convencimiento de que Galicia puede y debe asumir el papel de liderazgo que le corresponde en la conformación de una “Galicia inteligente” a través de la ordenación y gestión de una de las tecnologías que marcará el futuro de la humanidad: la inteligencia artificial.

VI

La presente ley se estructura en un título preliminar y cinco títulos, una disposición adicional, una disposición transitoria y tres disposiciones finales.

El título preliminar contempla las disposiciones generales, referidas al objeto, ámbito de aplicación y fines de la ley y a los principios para una gestión responsable de la inteligencia artificial, así como a los derechos de la ciudadanía.

La presente ley define por primera vez los principios generales que deben regir la actuación de la Administración autonómica en el diseño, desarrollo, implementación y uso de la inteligencia artificial. Estos principios están en plena conexión con las ideas ya trasladadas por organismos multilaterales como la Organización para la Cooperación y el Desarrollo Económico, la Comisión Europea o el Consejo de Europa, que animaban a los gobiernos a desarrollar un entorno de políticas que haga posible la adopción de sistemas de inteligencia artificial de un modo fiable y seguro. También lo están con los principios y obligaciones contemplados en el Reglamento de inteligencia artificial #(§057113)#, no suponiendo requisitos adicionales para los sistemas de alto riesgo a los ya previstos en la norma comunitaria.

Como principios para una gestión responsable de la inteligencia artificial, se enuncian los principios de buena administración digital y diligencia debida; de auditabilidad, trazabilidad y explicabilidad; de transparencia; de claridad; de imparcialidad y de ausencia de sesgos; de seguridad y privacidad; de reserva de humanidad y de revisión humana; de proactividad y personalización; de universalidad y accesibilidad; de fiabilidad y responsabilidad; de evaluación del impacto organizativo, económico, social y medioambiental; de evaluación continua; de precaución; de formación continua; de colaboración y transferencia; y de capacidad técnica, proporcionalidad y suficiencia financiera.

Como derechos de la ciudadanía, se enuncian los derechos de transparencia y supervisión humana, los derechos de igualdad y los derechos de tutela.

El título I regula la organización administrativa y los sujetos intervinientes en los procesos de diseño, adquisición, implementación y uso de la inteligencia artificial y la planificación para el impulso y desarrollo de la inteligencia artificial en Galicia; los órganos promotores funcionales y los responsables tecnológicos; la coordinación, a través de la creación de la Oficina de Inteligencia Artificial y el apoyo de la Comisión estratégica para el asesoramiento estratégico en inteligencia artificial, cuando el nivel de riesgo, el impacto y su complejidad así lo requieran; el Consejo Gallego de Inteligencia Artificial, como máximo órgano colegiado de participación, consulta y asesoramiento en materia de inteligencia artificial; y la esencial participación de los centros de investigación, el tejido empresarial, los colegios profesionales y la sociedad civil en el desarrollo ético y seguro de la inteligencia artificial.

En lo relativo a la planificación, la ley articula un sistema en cascada que toma como punto de partida la búsqueda de un impulso y desarrollo de la inteligencia artificial ordenado, tanto en el ámbito público como en el ámbito privado. Así, se regula la Estrategia gallega de inteligencia artificial, con la finalidad de establecer los objetivos generales y particulares que se pretenden conseguir en el ámbito de la inteligencia artificial en Galicia en un periodo temporal definido, así como la coordinación de la participación de la Comunidad Autónoma de Galicia en los programas y estrategias nacionales e internacionales, el fomento de la innovación y del desarrollo tecnológico y de su gestión y la medición y evaluación de los resultados obtenidos en relación con los objetivos propuestos.

Se regulan los programas sectoriales de inteligencia artificial propuestos por las consejerías competentes por razón de la materia. El sistema de planificación en cascada se cierra con la regulación de los proyectos de inteligencia artificial que definirán para su ejecución las características esenciales de un sistema de inteligencia artificial y el establecimiento de las características y especificaciones técnicas del sistema de inteligencia artificial, así como el plan de gestión de datos, o la cuantificación de los medios humanos, económicos y materiales necesarios para su puesta en marcha.

Esta planificación completará la que hasta ahora venía llevándose a cabo a través de la Estrategia gallega de inteligencia artificial y otros instrumentos contemplados en la legislación sectorial, que serán revisados para adaptarse a esta nueva regulación.

El título II regula los instrumentos para la gestión de los sistemas de inteligencia artificial y las fórmulas para garantizar la colaboración entre administraciones públicas y de estas con el sector privado.

El Inventario de sistemas de inteligencia artificial será el elemento central de la gestión y reflejará todo el ciclo de vida de los sistemas de inteligencia artificial, desde su diseño hasta su desactivación.

La ley establece una nueva figura: las personas comisionadas de inteligencia artificial, que velarán por el cumplimiento de los principios y obligaciones en materia de prevención, detección y eliminación de riesgos y de resultados negativos de la implementación de sistemas de inteligencia artificial, constituyendo estos un elemento crucial en el mecanismo de gobierno interno de la Administración autonómica, en su rol de proveedor y responsable del despliegue de sistemas de inteligencia artificial.

En lo relativo a la cooperación interadministrativa y la colaboración público-privada, se establece una constante comunicación y colaboración con la Oficina de Inteligencia Artificial en la Unión Europea, la Agencia Española de Supervisión de la Inteligencia Artificial y otros organismos análogos, nacionales o internacionales, con el objetivo de intercambiar conocimientos y experiencias en el ámbito de la regulación y supervisión de la inteligencia artificial en el marco de sus competencias.

Se regula también el repositorio de sistemas de inteligencia artificial, por el cual la Administración autonómica pone a disposición de las demás administraciones los sistemas de inteligencia desarrollados o adquiridos, con el objetivo de fomentar la reutilización de estos sistemas y promover la eficiencia en las administraciones públicas.

El título III, relativo al procedimiento para la definición y puesta en marcha de proyectos de inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia y su sector público, contempla algunas de las novedades más destacables de la ley.

Se regula el informe del proyecto de inteligencia artificial como elemento nuclear del procedimiento y se establece su contenido mínimo: una identificación de las necesidades funcionales que han de ser cubiertas y una identificación de la necesidad y oportunidad de diseñar o adquirir, implementar y emplear concretos sistemas de inteligencia artificial; y la relación de características y especificaciones técnicas y el conjunto de datos propuesto para el entrenamiento, validación y prueba, especificando si este contiene una combinación de datos personales y no personales, así como un plan para su gestión. Es preciso destacar que incluye una evaluación de impacto relativa a los derechos fundamentales, de acuerdo con el modelo facilitado por la Oficina Europea de Inteligencia Artificial, con arreglo a la normativa vigente de aplicación.

El título IV, relativo al uso de sistemas de inteligencia artificial, contempla algunas novedades que están en sintonía con las iniciativas que se están promoviendo desde las instituciones europeas y que tienen por misión facilitar la adopción y el uso de los sistemas de inteligencia artificial por parte de las instituciones públicas. De este modo, se asegura la puesta a disposición de la Administración general de la Comunidad Autónoma de Galicia y su sector público de guías para el uso de sistemas de inteligencia artificial y dichas herramientas de autodiagnosis.

Por último, sobre la base de las competencias estatutarias en materia de fomento de la actividad económica, la inteligencia artificial requiere una política propia de fomento de su desarrollo. Por ello, se considerará que los proyectos cuya actividad tenga relación directa con la inteligencia artificial pertenecen a un sector estratégico alineado con los objetivos de la Unión Europea. Del mismo modo, se considerará al sector de la inteligencia artificial como de especial importancia, a los efectos de la valoración de la concurrencia de las circunstancias previstas en el artículo 75.1.a) #(§055224) ar.75# de la Ley 3/2022, de 18 de octubre, de áreas empresariales de Galicia.

Así, el título V de la ley contempla las medidas para el impulso de la inteligencia artificial en Galicia, desde el punto de vista energético; de impulso empresarial, emprendimiento e inversión; de fiscalidad; en materia de I+D+i; y de apoyo a la formación, la capacitación y el empleo.

Se reconoce el uso de la inteligencia artificial para facilitar la consecución de impactos socioeconómicos positivos en el territorio y contribuir a alcanzar los objetivos de descarbonización y neutralidad climática fijados en los planes, programas y estrategias de transición elaborados por la Unión Europea, la Administración general del Estado y la propia Administración autonómica.

En primer lugar, se establece un conjunto de medidas innovadoras para la promoción del ecosistema empresarial de inteligencia artificial, con la creación de un sistema de vigilancia tecnológica en inteligencia artificial para las empresas en colaboración con los European Digital Innovation Hubs estratégicos.

En segundo lugar, se establece un conjunto de medidas para el fomento de la inversión en soluciones de inteligencia artificial, como la creación de programas de incubación, aceleración y consolidación de start-ups en inteligencia artificial y deep tech y la creación de un fondo de participación en empresas que desarrollen en Galicia sistemas de inteligencia artificial.

En tercer lugar, se establecen las medidas de fomento de la investigación e innovación en el ámbito de la inteligencia artificial y se contemplan algunas de las novedades más destacables de la ley. Se impulsan factorías de inteligencia artificial, en total sintonía con las recomendaciones de la Comisión Europea en esta materia, que contarán con el Centro de Supercomputación de Galicia como actor nuclear para dinamizar el ecosistema de inteligencia artificial de Galicia, facilitando el acceso a las empresas emergentes, así como a todos los agentes del ecosistema de inteligencia artificial que necesiten desarrollar, entrenar y validar sistemas de inteligencia artificial. Asimismo, se establece un espacio controlado de pruebas para el tejido investigador y empresarial.

Por último, se contemplan distintas medidas destinadas a promover la alfabetización en materia de inteligencia artificial, tanto para los empleados públicos como para la ciudadanía en su conjunto, lo cual contribuye al objetivo de la Comisión Europea de asegurar que las personas involucradas en el desarrollo y uso de la inteligencia artificial estén debidamente capacitadas, promoviendo así un uso responsable y ético de esta tecnología.

La ley finaliza con una disposición adicional, una disposición transitoria y tres disposiciones finales.

VII

La presente ley se ajusta a los principios de buena regulación previstos en el artículo 37.a) de la Ley 14/2013, de 26 de diciembre, de racionalización del sector público autonómico, en el cual se exige que “en todas las iniciativas normativas se justificará la adecuación de las mismas a los principios de necesidad, proporcionalidad, seguridad jurídica, transparencia, accesibilidad, simplicidad y eficacia”.

De esta manera, el principio de necesidad de la presente iniciativa legislativa viene determinado por cuanto las medidas propuestas únicamente pueden ser introducidas mediante una norma con rango de ley, por afectar a materias que están reservadas a este tipo de norma.

Se respeta el principio de proporcionalidad, dado que para conseguir los objetivos de la ley se realiza un esfuerzo de simplificación e integración de la normativa vigente.

Se presta especial atención a la efectividad del principio de seguridad jurídica, directamente conectado con la integración coherente de la nueva norma en el ordenamiento jurídico vigente, de manera que el resultado sea un marco normativo estable, claro, integrado y de certidumbre; y al principio de transparencia, promoviendo la más amplia participación de la ciudadanía en general y, en particular, de los operadores técnicos y jurídicos implicados en la materia, tanto en la elaboración de la propia ley como en la fase de planificación, y sin menoscabo de los procedimientos de participación que pudieran estar previstos en otras normas, así como al principio de accesibilidad, garantizando el acceso a toda la información de que disponga la Administración en la materia objeto de regulación.

Finalmente, en virtud de los principios de simplicidad y eficacia, y dentro del objetivo de simplificación administrativa y de la normativa de aplicación, se evitan las cargas administrativas innecesarias o accesorias, lo cual supone la racionalización de los recursos públicos asociados a la tramitación de los procedimientos administrativos relacionados con ellas.

En la tramitación del anteproyecto de ley se observaron todas las garantías exigidas por la legislación vigente en materia de participación pública, promoviendo una participación pública real y efectiva a lo largo de todo el procedimiento de tramitación.

Por todo lo expuesto, el Parlamento de Galicia aprobó y yo, de conformidad con el artículo 13.2 del Estatuto de Autonomía de Galicia y con el artículo 24 #(§002557) ar.24# de la Ley 1/1983, de 22 de febrero, de normas reguladoras de la Xunta y de su Presidencia, promulgo, en nombre del rey, la Ley para el desarrollo e impulso de la inteligencia artificial en Galicia.

TÍTULO PRELIMINAR

CAPÍTULO I

Disposiciones generales

Artículo 1. Objeto

1. La presente ley tiene por objeto establecer el marco para el diseño, adquisición, implementación y uso de la inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia y su sector público de conformidad con la regulación de la Unión Europea y la normativa básica estatal en esta materia, de las cuales constituye su desarrollo y ejecución en la Comunidad Autónoma de Galicia.

2. A estos efectos, la ley regula el régimen jurídico del uso de la inteligencia artificial por el sector público gallego en el desarrollo de su actividad y en sus relaciones con la ciudadanía, empresas, entidades y demás administraciones públicas, promoviendo la adopción de una inteligencia artificial centrada en el ser humano, segura, fiable, con un alto nivel de protección de la salud y de los derechos fundamentales y respetuosa con el medio ambiente.

3. Asimismo, la ley tiene por objeto impulsar el desarrollo de la inteligencia artificial en el tejido empresarial y el ecosistema de investigación e innovación de la Comunidad Autónoma de Galicia, con el fin de mejorar su productividad y competitividad.

Artículo 2. Finalidad

Los fines de la presente ley son los siguientes:

a) Fijar las bases de la gobernanza y planificación de los sistemas de inteligencia artificial por la Administración general de la Comunidad Autónoma de Galicia y en su sector público, prestando una especial atención a la promoción de la calidad en la ordenación y el uso de dichos sistemas.

b) Establecer los principios generales rectores del diseño, adquisición, implementación y uso de sistemas de inteligencia artificial por la Administración general de la Comunidad Autónoma de Galicia y en su sector público, dentro del marco regulador de la Unión Europea y de la normativa básica estatal de aplicación. En particular:

1°. Garantizar que dichos sistemas sean fiables y respetuosos con los derechos fundamentales de la ciudadanía y otorgar una adecuada protección a esta en los procesos y procedimientos administrativos en los que se empleen tales sistemas.

2°. Garantizar la incorporación al funcionamiento de la Administración general de la Comunidad Autónoma de Galicia y en su sector público de sistemas de inteligencia artificial que promuevan la eficacia y eficiencia en la tramitación de los procedimientos administrativos y en la prestación de los servicios públicos, para un mejor servicio a la ciudadanía.

c) Establecer el marco esencial de las medidas destinadas a apoyar e impulsar el desarrollo de tecnologías y sistemas de inteligencia artificial innovadores y de alta calidad en Galicia, promoviendo la comunidad autónoma como un lugar idóneo para la inversión empresarial y desarrollo industrial en el sector de la inteligencia artificial.

d) Promover y facilitar la elaboración de guías o códigos de conducta de aplicación voluntaria para los sistemas de inteligencia artificial que no sean de alto riesgo, con arreglo a los requisitos exigidos por la Unión Europea y demás normativa de aplicación.

e) Impulsar la implantación y el uso de sistemas de inteligencia artificial seguros, eficientes y de calidad en las empresas gallegas, en particular en las pequeñas y medianas empresas, incluidas las de nueva creación, promoviendo su mejora competitiva.

f) Implantar medidas de capacitación en el sector público y privado, a los efectos de incrementar los conocimientos en inteligencia artificial tanto de la población en general como de los operadores especializados en el sector público y privado, mediante acciones formativas abiertas al público en general, en los distintos niveles educativos y en la formación continua.

g) Garantizar el uso normal de la lengua gallega en los procesos de desarrollo de sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general y potenciar el desarrollo de sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general en gallego.

Artículo 3. Ámbito de aplicación

1. Las disposiciones contenidas en la presente ley serán de aplicación a:

a) El sector público autonómico, integrado, de conformidad con el artículo 3 #(§009657) ar.3# de la Ley 16/2010, de 17 de diciembre, de ordenación y funcionamiento de la Administración general y del sector público autonómico de Galicia, por la Administración general y las entidades instrumentales.

b) La ciudadanía y los operadores de sistemas de inteligencia artificial en sus relaciones con la Administración general y el sector público autonómico de Galicia.

A estos efectos, las referencias a la ciudadanía en este apartado comprenderán a las personas físicas, las personas jurídicas y, cuando legalmente tengan reconocida capacidad de obrar ante las administraciones públicas, en su caso, los grupos de afectados, las uniones y entidades sin personalidad jurídica y los patrimonios independientes o autónomos.

c) En los casos en que así se indique expresamente, las relaciones entre el sector público autonómico y las restantes administraciones públicas, dentro del ámbito territorial de la Comunidad Autónoma de Galicia, con pleno respeto a las competencias de estas.

2. La presente ley no será de aplicación a los sistemas de inteligencia artificial o modelos de inteligencia artificial de uso general, incluidos sus resultados de salidas, desarrollados y puestos en servicio específicamente con el único fin de la investigación y el desarrollo científico por la Administración general de la Comunidad Autónoma de Galicia y su sector público, sin perjuicio de la aplicación de lo establecido en el capítulo II del título V.

Artículo 4. Definiciones

A efectos de la presente ley, se entenderá por:

a) Sistema de inteligencia artificial: sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras su despliegue y que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar resultados de salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales, de acuerdo con lo establecido en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

b) Modelo de inteligencia artificial de uso general: un modelo de inteligencia artificial, también uno entrenado con un gran volumen de datos utilizando autosupervisión a gran escala, que presenta un grado considerable de generalidad y es capaz de realizar de manera competente una gran variedad de tareas distintas, independientemente de la forma en que el modelo se introduzca en el mercado, y que puede integrarse en diversos sistemas o aplicaciones posteriores, excepto los modelos de inteligencia artificial que se utilizan para actividades de investigación, desarrollo o creación de prototipos antes de su introducción en el mercado, de acuerdo con lo establecido en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio.

c) Operador: un proveedor, fabricante de producto, responsable del despliegue, representante autorizado, importador o distribuidor, de acuerdo con lo establecido en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio.

d) Proyecto de inteligencia artificial: iniciativa que tiene por objeto resolver problemas definidos de manera clara y objetiva a través del diseño, adquisición, implementación, uso o mejora de sistemas o modelos de inteligencia artificial de uso general, orientados a cubrir necesidades funcionales específicas. Este proyecto habrá de estar alineado con las estrategias y programas sectoriales aplicables a la inteligencia artificial.

e) Ciclo de vida del sistema de inteligencia artificial: serie de etapas consecutivas e interrelacionadas que tienen como finalidad el diseño, implementación, mantenimiento y desactivación, en su caso, de un sistema de inteligencia artificial.

f) Funcionamiento de un sistema de inteligencia artificial: la capacidad de un sistema de inteligencia artificial para lograr su finalidad prevista.

g) Datos de entrenamiento: datos utilizados para entrenar un sistema de inteligencia artificial mediante el ajuste de sus parámetros objeto de aprendizaje.

h) Datos de validación: datos utilizados para proporcionar una evaluación del sistema de inteligencia artificial entrenado y para ajustar sus parámetros no susceptibles de ser aprendidos y su proceso de aprendizaje, con el fin, entre otras cosas, de evitar la adaptación insuficiente o excesiva.

i) Datos de prueba: los datos utilizados para proporcionar una evaluación independiente del sistema de inteligencia artificial con el fin de confirmar el funcionamiento previsto de dicho sistema antes de la introducción en el mercado o puesta en servicio.

j) Desactivación de un sistema de inteligencia artificial: cualquier medida destinada a impedir que un sistema de inteligencia artificial sea utilizado.

k) Riesgo: la combinación de la probabilidad de que se produzca un daño y la gravedad de ese daño.

l) Datos personales: los datos personales definidos en el artículo 4, apartado 1, del Reglamento (UE) 2016/679, de 27 de abril.

m) Datos no personales: datos distintos de los datos personales definidos en el artículo 4, apartado 1, del Reglamento (UE) 2016/679, de 27 de abril.

n) Actuación administrativa automatizada: cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una administración pública en el marco de un procedimiento administrativo y en la que no intervenga de forma directa personal empleado público, de conformidad con lo establecido en el artículo 41 #(§036563) ar.41# de la Ley 40/2015, de 1 de octubre, del régimen jurídico del sector público.

ñ) Actuación administrativa semiautomatizada: aquella actuación para que el sistema de información que puede ser producido por algoritmos genere una previsión, recomendación o borrador total o parcial y que puede constituir fundamento o apoyo a un acto de un empleado público u órgano administrativo.

o) Factoría de inteligencia artificial: ecosistema abierto formado en torno a un superordenador público en el que confluyen recursos humanos y materiales esenciales para el desarrollo de modelos y aplicaciones de inteligencia artificial. Entre estos recursos se encontrarán los superordenadores para inteligencia artificial, los centros de datos asociados adyacentes o conectados a través de redes de alta velocidad y el capital humano para utilizar estos recursos de manera eficaz, constituido tanto por personas expertas en supercomputación como especialistas en datos, investigadores e investigadoras, empresas emergentes y usuarios y usuarias finales.

CAPÍTULO II

Principios generales

Artículo 5. Principios para una gestión responsable de la inteligencia artificial

1. Para la consecución de los fines enumerados en la presente ley, la Administración general de la Comunidad Autónoma de Galicia y su sector público adecuarán su actuación y funcionamiento, cuando diseñen, adquieran, implementen o empleen sistemas de inteligencia artificial, a los principios generales contemplados en el presente capítulo, así como a los demás principios y obligaciones exigidos en la correspondiente normativa europea y estatal que les resulte de aplicación.

2. En particular, en el supuesto de sistemas de inteligencia artificial de alto riesgo y modelos de inteligencia artificial de uso general serán de aplicación los principios y requisitos contemplados en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

Artículo 6. Buena administración digital y diligencia debida

1. El diseño, adquisición, implementación y uso de sistemas de inteligencia artificial por parte de la Administración general de la Comunidad Autónoma de Galicia y su sector público se hará con pleno respeto a la buena administración, así como a los principios y derechos previstos en la presente ley y normativa de aplicación.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán ser capaces de facilitar una motivación comprensible de las decisiones propuestas o adoptadas en los procedimientos administrativos en los que se empleen sistemas de inteligencia artificial, contemplando, como mínimo, el marco jurídico de referencia, los criterios aplicados, los datos empleados y las características del propio sistema de inteligencia artificial.

3. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán ser capaces de identificar, trazar y gestionar de forma activa los riesgos relacionados con el diseño e implementación de los sistemas de inteligencia artificial, con participación, en su caso, de todos los agentes públicos y privados.

Artículo 7. Auditabilidad, trazabilidad y explicabilidad

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público adoptarán las medidas necesarias para que los sistemas de inteligencia artificial que diseñen o empleen puedan ser revisados en cualquier momento de su ciclo de vida, a fin de comprobar el ajuste a lo establecido en la presente ley y normativa de aplicación.

2. Asimismo, la Administración autonómica diseñará y empleará sistemas de inteligencia artificial, cuyas decisiones habrán de ser trazables.

3. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán diseñar y emplear sistemas de inteligencia artificial que, de forma apropiada para el contexto y acorde con el estado de la tecnología, puedan proporcionar información sencilla y fácil de entender sobre las fuentes de datos/entradas, factores, procesos y/o lógica que llevaron a la predicción, contenido, recomendación o decisión, para permitir a los afectados por un sistema de inteligencia artificial comprender el resultado. Asimismo, habrán de proporcionar información que permita a aquellos afectados negativamente por un sistema de inteligencia artificial cuestionar su resultado.

Artículo 8. Transparencia

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán ofrecer en el Portal de Transparencia y Gobierno Abierto la información pertinente sobre la arquitectura y el funcionamiento de los sistemas de inteligencia artificial que desarrollen o empleen en su actividad, sin perjuicio de las limitaciones previstas en el artículo 14 #(§032892) ar.14# de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, y en el artículo 25 #(§037120) ar.25# de la Ley 1/2016, de 18 de enero, de transparencia y buen gobierno.

2. En particular, habrán de indicar los procedimientos administrativos en los que se emplean, especificando los datos que utilizan, los parámetros de funcionamiento y precisión, el nivel de riesgo y el impacto de sus resultados en dichos procedimientos, en especial si son o no directamente decisorios de los mismos.

3. Se procurará, especialmente, que esta información sea fácilmente accesible para personas menores, mayores y grupos vulnerables.

Artículo 9. Claridad

1. La información publicada en virtud del principio de transparencia, o notificada a consecuencia del derecho de acceso a la información, será facilitada en un lenguaje claro que permita que todas las personas, independientemente de sus capacidades o su situación socioeconómica, comprendan el procedimiento en el que interviene un sistema de inteligencia artificial y sus resultados.

2. Para el efectivo cumplimiento de lo dispuesto en el apartado anterior, se recurrirá al uso de expresiones concisas y claras, el empleo de estructuras lingüísticas efectivas e iconos estandarizados y el buen diseño de los documentos.

Artículo 10. Imparcialidad y ausencia de sesgos

En los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia artificial se adoptarán las garantías necesarias a los efectos de mitigar cualquier resultado discriminatorio o cualquier tipo de sesgo.

Artículo 11. Seguridad y privacidad

1. En los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia por parte de la Administración general de la Comunidad Autónoma de Galicia y su sector público habrá de garantizarse que estos aseguren la integridad, confidencialidad, disponibilidad y autenticidad de los datos e información tratada mediante el establecimiento de las oportunas medidas de seguridad, exigidas en la normativa de aplicación y los protocolos internos de actuación, que garanticen, además, que estos sistemas sean seguros y resilientes frente a terceros que intenten explotar sus vulnerabilidades.

2. Los datos personales serán tratados con arreglo a lo dispuesto en el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, y en la Ley orgánica 3/2018, de 5 de diciembre #(§050868)#, de protección de datos personales y garantía de los derechos digitales, así como en la restante normativa de aplicación, garantizando la seguridad y privacidad desde el diseño y por defecto y la aplicación de los principios rectores del tratamiento de datos personales. En particular, habrán de tenerse en cuenta en el tratamiento de los datos los principios de licitud, transparencia, lealtad, limitación de la finalidad, minimización de los datos, exactitud, seguridad, limitación del plazo de conservación y responsabilidad proactiva.

3. Todo ello se entenderá sin perjuicio de la necesidad de observar y proteger los derechos de propiedad intelectual e industrial, la información empresarial confidencial y los secretos comerciales, de conformidad con la normativa europea y estatal que le resulte de aplicación.

Artículo 12. Reserva de humanidad y de revisión humana

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán emplear sistemas de inteligencia artificial tanto en su actividad material o técnica como en la adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de acuerdo con lo señalado en este artículo y de conformidad con lo establecido en la normativa europea y estatal de aplicación.

2. En caso de uso de sistemas de inteligencia artificial que sirvan de apoyo o fundamento para la adopción de actos o decisiones administrativas, se adoptarán las garantías necesarias a los efectos de mitigar cualquier sesgo por parte del órgano competente resolutorio. En ningún caso tales actuaciones en que se empleen sistemas de inteligencia artificial constituirán de por sí decisiones o actos administrativos sin validación por la persona titular del órgano competente.

3. En los supuestos de uso de sistemas de inteligencia artificial que sirvan para la adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de manera automatizada sin intervención humana directa, de acuerdo con lo establecido en el artículo 76 de Ley 4/2019, de 17 de julio, deberá tratarse de actos administrativos que no requieran de una valoración subjetiva de las circunstancias concurrentes o una interpretación jurídica.

4. En caso contrario, no podrán realizarse actuaciones administrativas automatizadas a través del uso de sistemas de inteligencia, salvo que se cumplan todos los requisitos siguientes:

a) El órgano competente de la actuación administrativa automatizada aprobará previamente, siendo incorporadas en la resolución conjunta a que se refiere el artículo 76.4 de la Ley 4/2019, de 17 de julio, las instrucciones administrativas que permitan concretar los requisitos necesarios para definir de forma detallada e inequívoca los casos ordinarios a los que resulte de aplicación.

b) El órgano competente en materia de tecnologías de la información y de la comunicación, innovación y desarrollo tecnológico preparará el diseño tecnológico del sistema de inteligencia artificial en el que se basará la actuación administrativa automatizada, que respete la norma correspondiente reguladora del procedimiento y las instrucciones administrativas indicadas en el apartado anterior, que no permita la alteración no supervisada del funcionamiento del sistema o modelo y que proporcione información sencilla y fácil de entender sobre su funcionamiento para permitir a los afectados comprender y cuestionar el resultado.

5. En la regulación de los procedimientos administrativos para la adopción de decisiones administrativas automatizadas en que se empleen sistemas de inteligencia artificial se preverá el momento, modo y alcance de la intervención de personas físicas para garantizar el cumplimiento de los principios y derechos contemplados en la presente ley.

En todo caso, en los casos en que las decisiones, previsiones o recomendaciones generadas por sistemas de inteligencia artificial tengan un impacto irreversible o de difícil reversión, o impliquen actuaciones que pudieran generar riesgos para la vida o la integridad física o psicosocial de los individuos, será necesaria una validación de una persona física en el proceso decisorio, así como una decisión humana final.

6. Sin perjuicio de los correspondientes recursos administrativos o acciones judiciales, se reconocerá el derecho a presentar sugerencias o quejas relativas al funcionamiento de los propios sistemas de inteligencia artificial empleados por la Administración autonómica y su sector público. El procedimiento o canal para la presentación de estas sugerencias o quejas será el previsto en el artículo 16 #(§035746) ar.16# de la Ley 1/2015, de 1 de abril, de garantía de la calidad de los servicios públicos y de buena administración.

Artículo 13. Proactividad y personalización

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán diseñar procedimientos gestionados a través de sistemas de inteligencia artificial en el ejercicio de sus funciones y competencias para satisfacer las necesidades de las personas sin necesidad de que estas formulen una solicitud previa, lo cual se realizará de acuerdo con lo señalado en el artículo 25 de la Ley 4/2019, de 17 de julio, en relación con los servicios proactivos personalizados que pueden prestarse por la Administración autonómica.

2. Asimismo, se procurará que el diseño de tales procedimientos permita ofrecer a la ciudadanía prestaciones y servicios de forma individualizada, en atención a las características personales, sociales y económicas de cada persona, siempre que se apliquen las medidas adecuadas para la protección de los derechos, libertades e intereses legítimos de las personas destinatarias.

Artículo 14. Universalidad y accesibilidad

La Administración general de la Comunidad Autónoma de Galicia y su sector público asegurarán que el diseño, adquisición, implementación y uso de los sistemas de inteligencia artificial cumple con los más altos estándares de accesibilidad y de diseño para todos los usuarios que, si son destinados a tener interactuaciones con la ciudadanía, sean accesibles a todas las personas, independientemente de sus circunstancias personales y socioeconómicas, estableciendo las medidas oportunas para superar las brechas digitales, en especial las determinadas por razones económicas, de edad y de discapacidad.

Artículo 15. Fiabilidad y responsabilidad

1. Todos los sistemas de inteligencia artificial empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público habrán de contar con las debidas garantías que aseguren la más alta probabilidad de su buen funcionamiento.

2. Los daños causados por los sistemas de inteligencia artificial diseñados o empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público, independientemente de su grado de autonomía, deberán ser reparados íntegramente por ella, de acuerdo con lo establecido en la Ley 40/2015, de 1 de octubre #(§036563)#, y en la Ley 39/2015, de 1 del octubre #(§013300)#. Lo dispuesto anteriormente se entenderá sin perjuicio de la posibilidad de reclamar, en su caso, a los proveedores de tales sistemas. En todo caso, en estos extremos se estará a la normativa europea que resulte de aplicación.

Artículo 16. Evaluación del impacto organizativo, económico, social y medioambiental

1. Sin perjuicio de la correspondiente evaluación de impacto relativa a derechos fundamentales para los sistemas de inteligencia artificial de alto riesgo, de acuerdo con lo dispuesto en el Reglamento (UE) 2024/1689, de 13 de junio, o, en su caso, la relativa a protección de datos de acuerdo con el Reglamento (UE) 2016/679, de 27 de abril, la Administración autonómica establecerá procesos dirigidos a evaluar los posibles riesgos asociados a los sistemas de inteligencia artificial que la propia Administración autonómica pretenda diseñar o emplear.

2. La finalidad de tales evaluaciones de impacto será determinar, con la antelación suficiente, cuáles son los potenciales riesgos que puede implicar la implantación de un concreto sistema de inteligencia artificial en relación con su efectividad, seguridad, uso de recursos y costes económicos e impacto organizativo, social y ambiental, así como los mecanismos de mitigación o compensación de sus efectos.

3. Las evaluaciones de impacto clasificarán los riesgos en función de su gravedad y probabilidad, proponiendo medidas adecuadas para mitigar, atenuar o compensar aquellos, de conformidad con los principios de capacidad técnica, proporcionalidad y suficiencia financiera.

Artículo 17. Evaluación continua

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público habrán de realizar evaluaciones de forma continua de los sistemas de inteligencia artificial que empleen en respuesta a cambios normativos, sociales y tecnológicos y a los conocimientos adquiridos en el despliegue de dichos sistemas para asegurar su calidad y que las personas afectadas reciban un trato justo y no discriminatorio, de conformidad con la normativa de aplicación.

2. Asimismo, se evaluará que esos sistemas empleen energías renovables como fuente de energía, sean eficientes en su consumo y empleen, siempre que sea posible, recursos de origen sostenible.

Artículo 18. Precaución

En caso de que una evaluación de impacto indique que el uso de un determinado sistema de inteligencia artificial pudiese causar daños de muy difícil reparación a las personas, la sociedad o el medio ambiente, deberá valorarse el abandono del uso de ese sistema. Con esta finalidad, se ponderará si las ventajas de su utilización o las desventajas de su no utilización son o no superiores a los eventuales daños que pudiera ocasionar.

Artículo 19. Formación continua

La Administración general de la Comunidad Autónoma de Galicia y su sector público velarán porque el personal empleado público que interviene a lo largo del ciclo de vida de los sistemas de inteligencia artificial mantenga las capacidades precisas para que pueda garantizar un debido uso de los mismos.

Artículo 20. Colaboración y transferencia

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán mecanismos de colaboración público-pública y público-privada para el desarrollo de herramientas, tecnologías y servicios basados en sistemas de inteligencia artificial.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público velarán porque los conocimientos, técnicos, éticos y normativos, sobre sistemas de inteligencia artificial generados sean adecuadamente transferidos a la sociedad.

Artículo 21. Capacidad técnica, proporcionalidad y suficiencia financiera

Las obligaciones establecidas en la presente ley para la Administración general de la Comunidad Autónoma de Galicia y su sector público serán interpretadas de forma razonable a la luz de las soluciones tecnológicas existentes relacionadas con la inteligencia artificial, el estado actual de la técnica generalmente reconocido y las disponibilidades presupuestarias para el cumplimiento de las mismas.

CAPÍTULO III

Derechos de la ciudadanía

Artículo 22. Los derechos de la ciudadanía

Los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia artificial desarrollados por la Administración general de la Comunidad Autónoma de Galicia y su sector público respetarán todos los derechos reconocidos o atribuidos a la ciudadanía en la presente ley y demás normativa europea y estatal de aplicación.

Artículo 23. Transparencia y supervisión humana

1. Toda persona en cuya relación con la Administración general de la Comunidad Autónoma de Galicia y su sector público intervengan sistemas de inteligencia artificial tendrá derecho a:

a) Recibir la debida información, clara y comprensible, con la posibilidad del uso de iconos o símbolos fácilmente reconocibles, sobre:

1°. El carácter automatizado de las interacciones y las decisiones, en particular a saber si está interactuando con un sistema de inteligencia artificial.

2°. La configuración general del sistema, tipos de decisiones, recomendaciones o predicciones que se pretenden hacer y las consecuencias de su uso para las personas afectadas.

3°. La racionalidad y la lógica del sistema de inteligencia artificial o modelo de inteligencia artificial de uso general.

4°. La identificación de la titularidad del sistema de inteligencia artificial o modelo de inteligencia artificial de uso general.

5°. El grado de contribución o participación del sistema de inteligencia artificial y del personal empleado público en el proceso de toma de decisión, predicción o recomendación.

6.º Las categorías de datos personales utilizados por los sistemas de inteligencia artificial y su origen o fuentes.

7.º Las medidas de seguridad, no discriminación y fiabilidad adoptadas.

8°. El modo de ejercitar el derecho a la transparencia y supervisión humana, así como otros derechos que le asistan.

b) Recibir una explicación de la decisión tomada por el sistema de inteligencia artificial. Las personas afectadas por tales decisiones podrán requerir una explicación con la información debida respecto a los factores, criterios y procedimientos que incidan en dichas decisiones, previsiones o recomendaciones, en particular sobre la ponderación de los criterios para la adopción de la decisión en su caso particular, el nivel de intervención humana en la adopción de la decisión que le afecta y los mecanismos por medio de los cuales puede reclamar contra la decisión adoptada.

c) Requerir la intervención de una persona empleada pública en el proceso de adopción de una decisión por parte de un sistema de inteligencia artificial, cuando esta produzca efectos jurídicos o impacte significativamente de modo similar en sus intereses.

2. En todo caso, se tendrán en cuenta los derechos que en materia de transparencia se contemplan en el artículo 50 del Reglamento (UE) 2024/1689, de 13 de junio.

Artículo 24. Igualdad

Toda persona en cuya relación con la Administración general de la Comunidad Autónoma de Galicia y su sector público intervenga un sistema de inteligencia artificial tendrá derecho a:

a) Que en ningún caso las limitaciones técnicas o presupuestarias puedan implicar la imposición de condiciones ni requisitos que tengan como efecto directo o indirecto alguna discriminación.

b) Una interacción con el sistema de inteligencia artificial que garantice los principios de universalidad, accesibilidad, asequibilidad y calidad, velando por la defensa y no discriminación de aquellos colectivos que necesiten una especial protección por encontrarse en situación o riesgo de exclusión.

c) Obtener un tratamiento justo e isonómico, no ser discriminada por los resultados ofrecidos por el sistema de inteligencia artificial y obtener la corrección de sesgos discriminatorios, directos o indirectos.

Artículo 25. Tutela

1. Toda persona en cuya relación con la Administración general de la Comunidad Autónoma de Galicia y su sector público intervenga un sistema de inteligencia artificial tendrá derecho a:

a) Hacer valer todos los derechos en materia de protección de datos personales que le reconoce la legislación vigente frente a las decisiones, previsiones o recomendaciones efectuadas por el sistema de inteligencia artificial o frente al propio funcionamiento de este.

b) Solicitar la revisión de decisiones, previsiones o recomendaciones efectuadas por el sistema de inteligencia artificial que produzcan efectos jurídicos o que impacten significativamente de modo similar, no solo de actos decisorios sino también de actuaciones materiales. Dicha solicitud podrá fundarse en las deficiencias técnicas, como el uso de sistemas o métodos imprecisos o no confiables, la arbitrariedad de sus premisas o de los resultados, el carácter discriminatorio de sus premisas o de los resultados o cualquier otra que conculque principios como el principio de la buena fe.

2. Asimismo, se tendrá en cuenta lo dispuesto en la sección 4 del capítulo IX del Reglamento (UE) 2024/1689, relativo a las vías de recurso.

Artículo 26. Ejercicio de los derechos

La exigencia del cumplimiento de los principios rectores y los derechos previstos en la presente ley podrá efectuarse individualmente o de manera colectiva por asociaciones representativas de intereses supraindividuales.

TÍTULO I

Gobernanza y planificación

CAPÍTULO I

Gobernanza

Artículo 27. Los órganos promotores funcionales y responsables tecnológicos

1. Las consejerías y las entidades instrumentales del sector público autonómico identificarán los órganos promotores funcionales, dentro de su estructura, las cuales se encargarán de la definición funcional y del seguimiento de los proyectos de inteligencia artificial.

2. Las personas titulares de tales órganos desempeñarán las siguientes funciones:

a) Identificar las necesidades funcionales en el ejercicio de sus funciones y competencias.

b) Definir, de forma clara y objetiva, las necesidades que se pretenden cubrir o los problemas que se pretenden solucionar, en particular fijando objetivos específicos para alcanzarlos.

c) Elaborar el informe del proyecto de inteligencia artificial, en colaboración con el órgano responsable tecnológico.

d) Realizar el seguimiento funcional del proyecto de inteligencia artificial y comunicar al responsable tecnológico cualquier incidencia del mismo.

3. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico designará los órganos responsables tecnológicos para cada consejería o entidad instrumental que coordinarán junto con los órganos promotores funcionales todos los proyectos de inteligencia artificial.

4. Las personas titulares de tales órganos responsables tecnológicos desempeñarán las siguientes funciones:

a) Identificar la necesidad y oportunidad de implantar sistemas de inteligencia artificial, evaluando sus beneficios y riesgos y las capacidades para su implementación.

b) Establecer las características y especificaciones técnicas de los sistemas de inteligencia artificial, así como el plan de gestión de datos.

c) Elaborar el informe del proyecto de inteligencia artificial, en colaboración con el órgano promotor funcional.

d) Supervisar el entrenamiento de los sistemas de inteligencia artificial.

e) Realizar el seguimiento y control de la implantación, mantenimiento, ejecución y, en su caso, desactivación de los sistemas de inteligencia artificial.

Artículo 28. La Oficina de Inteligencia Artificial

1. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico contará dentro de su estructura organizativa con una oficina coordinadora para la implantación de proyectos de inteligencia artificial que supervisará y apoyará las actuaciones de los órganos promotores funcionales y responsables tecnológicos indicados en el artículo anterior en lo relativo a la puesta en marcha de sistemas de inteligencia artificial y que coordinará la implantación de estos sistemas en la Administración general de la Comunidad Autónoma de Galicia y el sector público autonómico.

2. La persona titular de la Oficina de Inteligencia Artificial tendrá las siguientes funciones:

a) Analizar el informe del proyecto de inteligencia artificial, supervisando la necesidad y oportunidad de implantar el sistema de inteligencia artificial identificado por el órgano promotor y responsable tecnológico.

b) Apoyar a los órganos promotores funcionales y responsables tecnológicos en la identificación de oportunidades y la elaboración de la documentación necesaria durante todo el proceso de definición y puesta en marcha del proyecto de inteligencia artificial.

c) Supervisar los riesgos relacionados con la implementación y el uso de los sistemas de inteligencia artificial.

d) Identificar y asesorar de forma continua sobre las tendencias en inteligencia artificial que permitan definir y desarrollar iniciativas innovadoras en Galicia.

e) Coordinar la relación de la Administración general de la Comunidad Autónoma de Galicia y su sector público con las autoridades nacionales e internacionales competentes en materia de inteligencia artificial.

f) Cualquier otra función que reglamentariamente se le atribuya o encomiende.

Artículo 29. Comisión estratégica para el asesoramiento en inteligencia artificial

1. La persona titular de la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico podrá constituir una comisión para el análisis y valoración de aquellos proyectos que por su nivel de riesgo, impacto o complejidad tengan, a su juicio, carácter estratégico. La comisión podrá estar formada por autoridades y personal al servicio de la Administración general de la Comunidad Autónoma y su sector público con competencias relacionadas con la naturaleza del proyecto o la inteligencia artificial, así como por personas expertas del ámbito científico y/o académico para un asesoramiento especializado. En particular, en cuanto a las autoridades que podrán formar parte, serán las relacionadas con competencias en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, sostenibilidad financiera, impacto económico, asesoramiento en derecho, inclusión social, energías renovables, sostenibilidad e innovación.

2. La comisión tendrá la naturaleza de grupo de trabajo. La persona titular de la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico tendrá en cuenta el resultado de los estudios o valoraciones efectuados por el grupo de trabajo a los efectos de la adopción de su decisión sobre el correspondiente proyecto de inteligencia artificial.

Artículo 30. El Consejo Gallego de Inteligencia Artificial

1. Se crea el Consejo Gallego de Inteligencia Artificial como un órgano colegiado de carácter estratégico para el asesoramiento e impulso en materia de inteligencia artificial en la Comunidad Autónoma de Galicia, adscrito a la consejería competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

2. El Consejo Gallego de Inteligencia Artificial desarrollará las siguientes funciones:

a) Conocer la Estrategia gallega de inteligencia artificial y los programas sectoriales de inteligencia artificial y, si procediese, formular observaciones y sugerencias.

b) Proponer mejoras en la planificación, gestión y evaluación de las políticas públicas en materia de inteligencia artificial.

c) Responder a las consultas que le formulen y elaborar los informes que le solicite la entidad instrumental con competencias en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

d) Identificar estrategias reguladoras eficaces del diseño y la implementación de sistemas de inteligencia artificial a nivel nacional e internacional.

e) Identificar posibles barreras y desafíos en el diseño y la implementación de sistemas de inteligencia artificial.

f) Cualquier otra función que reglamentariamente se le atribuya o encomiende.

3. El Consejo Gallego de Inteligencia Artificial tendrá la siguiente composición:

a) Presidente/a: la persona titular de la entidad instrumental competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

b) Secretario/a: una persona designada por la persona titular de la entidad instrumental competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, que actuará con voz pero sin voto.

c) Vocales:

1°. La persona titular del área competente en materia de inteligencia artificial de la entidad instrumental competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

2°. La persona titular del órgano de dirección competente en lo relativo a sistemas y tecnologías de la información en el ámbito sanitario.

3°. La persona titular de la entidad instrumental con competencias en materia de innovación en el ámbito sanitario.

4°. La persona titular del órgano de dirección competente en materia de industria.

5°. La persona titular de la entidad instrumental competente en materia de promoción económica.

6°. La persona titular del órgano de dirección competente en materia de universidades.

7°. La persona titular de la entidad instrumental con competencias en materia de investigación e innovación.

8.º. La persona titular del órgano de dirección competente en materia de política lingüística.

9°. Una persona representante de cada una de las universidades públicas de Galicia.

10°. La persona titular del órgano de dirección de la Fundación Centro de Supercomputación de Galicia.

11°. Una persona en representación de los centros tecnológicos de Galicia, propuesta por acuerdo entre ellos.

12°. Una persona en representación de la Asociación Clúster TIC de Galicia.

13°. Una persona propuesta por el Colegio Profesional de Ingeniería en Informática de Galicia.

14°. Una persona propuesta por el Colegio Profesional de Ingeniería Técnica en Informática de Galicia.

15°. Una persona en representación de la Confederación de Empresarios de Galicia.

16°. Una persona en representación del Consejo Gallego de Economía Social.

17°. La persona que ejerza como delegada de protección de datos de la Agencia para la Modernización Tecnológica de Galicia.

18.º. Una persona en representación de las entidades sociales de promoción de la normalización lingüística.

4. En caso de ausencia o enfermedad y, en general, cuando concurra alguna causa justificada, los miembros titulares del órgano colegiado serán sustituidos por sus suplentes que sean designados.

5. El Consejo adecuará su funcionamiento a lo previsto en la presente ley, lo establecido respecto a los órganos colegiados en la Ley 40/2015, de 1 de octubre #(§036563)#, y la Ley 16/2010, de 17 de diciembre #(§009657)#, y el reglamento interno de funcionamiento que, en su caso, se elabore.

6. Asimismo, podrán asistir a las sesiones del Consejo Gallego de Inteligencia Artificial, previa invitación del presidente o presidenta, los representantes de aquellas entidades y organismos de la Administración general y el sector público autonómico de Galicia que tengan relación relevante con las materias incluidas en el orden del día.

7. Las personas que integran el Consejo Gallego de Inteligencia Artificial no percibirán remuneración alguna por el ejercicio de sus funciones en dicho órgano.

CAPÍTULO II

Planificación

Artículo 31. Ordenación de la planificación

La planificación de la Administración general de la Comunidad Autónoma de Galicia y su sector público para el impulso y desarrollo de la inteligencia artificial, tanto en el ámbito público como en el ámbito privado, se llevará a cabo a través de los siguientes instrumentos:

a) La Estrategia gallega de inteligencia artificial.

b) Los programas sectoriales de inteligencia artificial.

c) Los proyectos de inteligencia artificial.

Artículo 32. Estrategia gallega de inteligencia artificial

1. La Estrategia gallega de inteligencia artificial tendrá por objeto el establecimiento de los objetivos generales y particulares que se pretendan conseguir con su desarrollo en el ámbito de la inteligencia artificial en Galicia en un periodo temporal definido. Asimismo, procurará la coordinación de la participación de la Comunidad Autónoma de Galicia en los programas y estrategias nacionales e internacionales, asegurando además el alineamiento de esta estrategia con las demás estrategias vigentes en materia de innovación y desarrollo tecnológico, y promoverá la gestión, medición y evaluación de los resultados obtenidos en relación con los objetivos propuestos.

2. La elaboración de la Estrategia gallega de inteligencia artificial corresponderá a la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico. Su aprobación corresponde al Consello de la Xunta de Galicia.

3. La información básica que, de forma general, incluirá la Estrategia gallega de inteligencia artificial, así como la estructuración de sus bases y su desarrollo, será como mínimo la siguiente:

a) Un análisis de la situación de partida de los principales aspectos e indicadores relacionados con la inteligencia artificial en el contexto gallego y de su relación con estos en el ámbito estatal e internacional. Se incluirá una definición y caracterización del ecosistema gallego de inteligencia artificial.

b) Los programas sectoriales de inteligencia artificial aportados por las diferentes consejerías de la Administración general de la Comunidad Autónoma de Galicia, en ejercicio de sus competencias.

c) Los recursos humanos, materiales, técnicos y tecnológicos existentes y sus posibilidades de evolución, actualización y expansión, así como las necesidades previsibles a este respecto en el periodo previsto de duración de la Estrategia, o hasta donde el horizonte temporal de la prospección tecnológica pueda permitir considerar con fiabilidad.

d) La propuesta de las estructuras de cooperación público-privada más adecuadas para favorecer la consecución de los objetivos de la Estrategia de acuerdo con las estrategias y las políticas a promover en su periodo de vigencia, así como con la articulación con los agentes del ecosistema de inteligencia artificial de Galicia.

e) La financiación prevista con cargo a los presupuestos de la Comunidad Autónoma, las demás aportaciones estatales o comunitarias y las de entidades de carácter público o privado.

f) Las posibilidades de concertación con otras estrategias y planes relativos de ámbito estatal o internacional que, por sus contenidos o su contexto de desarrollo, resultasen de interés para Galicia.

g) El alineamiento con las demás estrategias vigentes en la Comunidad Autónoma en materia de innovación y desarrollo tecnológico.

h) Los indicadores o métodos para realizar el seguimiento de la ejecución y la eficacia de los programas previstos, con indicación del alcance y la forma en que esta información va a difundirse entre los agentes interesados y la sociedad en general.

i) Los resultados obtenidos de la ejecución de estrategias previas, en relación con el nivel de cumplimiento de los objetivos previstos.

4. El periodo de vigencia de la Estrategia será de cinco años con carácter general. No obstante, podrá establecerse un periodo de vigencia inferior, con la debida motivación de las razones que lo justifiquen.

5. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico promoverá un proceso participativo para la obtención de información y la redacción de la Estrategia. En este sentido, se establecerán los mecanismos necesarios para la aportación de propuestas y sugerencias y la obtención de consensos en las grandes líneas de actuación.

Artículo 33. Programas sectoriales de inteligencia artificial

1. Las distintas consejerías de la Administración general de la Comunidad Autónoma de Galicia propondrán los programas y las actuaciones para la elaboración de la Estrategia gallega de inteligencia artificial.

2. La información básica que, de forma general, incluirá cada programa sectorial de inteligencia artificial, así como la estructuración de sus bases y su desarrollo, será como mínimo la siguiente:

a) Un análisis de la situación de partida de los principales aspectos e indicadores relacionados del desarrollo de la inteligencia artificial en el concreto sector de la actividad pública o actividad económica o social que tengan como objeto.

b) Los recursos humanos, materiales, técnicos y tecnológicos existentes y sus posibilidades de evolución, actualización y expansión, en el concreto sector de la actividad pública o actividad económica o social que tengan como objeto.

c) La financiación prevista con cargo a los presupuestos de la Comunidad Autónoma, las demás aportaciones estatales o comunitarias y las de entidades de carácter público o privado.

d) Los indicadores o métodos para realizar el seguimiento de la ejecución y la eficacia de los programas previstos, con indicación del alcance y la forma en que esta información va a difundirse entre los agentes interesados y la sociedad en general.

3. La propuesta de los programas sectoriales de inteligencia artificial corresponderá a la consejería competente por razón de la materia, con la colaboración de la entidad instrumental del sector público gallego con competencias en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

Artículo 34. Los proyectos de inteligencia artificial

1. Los proyectos de inteligencia artificial definirán, para su ejecución, las características esenciales de un sistema de inteligencia artificial y las pautas específicas para su diseño, adquisición o implementación.

2. Los proyectos de sistemas de inteligencia artificial tendrán, al menos, el siguiente contenido:

a) La identificación de la necesidad y oportunidad de implantar un concreto sistema de inteligencia artificial, evaluando sus beneficios y riesgos y las capacidades para su implementación, en el marco de la Estrategia gallega de inteligencia artificial y, en su caso, en el marco concreto del programa sectorial de inteligencia artificial.

b) La definición de las necesidades o problemas que se pretenden cubrir o solucionar con el sistema de inteligencia artificial, en particular fijando objetivos específicos y la forma para conseguirlos.

c) El establecimiento de las características y especificaciones técnicas del sistema de inteligencia artificial, así como el plan de gestión de datos.

d) La determinación de la forma de creación del sistema de inteligencia artificial, bien por diseño por los propios medios, bien por adquisición.

e) La cuantificación de los medios humanos, económicos y materiales necesarios para la puesta en marcha del proyecto.

TÍTULO II

Gestión y colaboración

CAPÍTULO I

De la gestión

Artículo 35. El Inventario de sistemas de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público inscribirán de oficio todos los sistemas de inteligencia artificial que diseñen o empleen en el Inventario de sistemas de inteligencia artificial, con la finalidad de mejorar la eficacia y eficiencia de la actuación administrativa, así como la transparencia de la misma; todo ello sin perjuicio de la obligación de registro, en su caso, en la base de datos de la Unión Europea para los sistemas de inteligencia artificial de alto riesgo, de acuerdo con lo establecido en el Reglamento (UE) 2024/1689, de 13 de junio de 2024.

2. La inscripción y gestión del Inventario de sistemas de inteligencia artificial corresponde a la entidad instrumental del sector público gallego con competencias en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

3. El Inventario de sistemas de inteligencia artificial reflejará todo el ciclo de vida de los sistemas de inteligencia artificial, desde su diseño hasta su desactivación.

4. Los datos inscritos en el Inventario de sistemas de inteligencia artificial serán públicos y se agruparán en dos categorías: datos identificativos y datos de funcionamiento y rendimiento.

5. Los datos identificativos son todos aquellos que permiten conocer, de forma general, la existencia, finalidad, actuación, resultados, responsable y destinatarios de un sistema de inteligencia artificial. Estos datos serán objeto de publicación, por capas, en el portal web de la entidad instrumental del sector público gallego con competencias en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

6. Los datos de funcionamiento y rendimiento son todos aquellos que permiten conocer, de forma específica, el funcionamiento de un sistema de inteligencia artificial, así como todos los hitos de su ciclo de vida. Estos datos podrán ser consultados, salvo que razones de la garantía para la efectividad del sistema, de su seguridad o de los derechos de propiedad intelectual o industrial existentes lo impidan.

Artículo 36. Las personas comisionadas de inteligencia artificial

1. Las personas comisionadas de inteligencia artificial velarán por el cumplimiento de los principios y obligaciones en materia de prevención, detección y eliminación de riesgos y de resultados negativos de la implementación de los sistemas de inteligencia artificial diseñados o empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público, de conformidad con la normativa de aplicación.

2. Las personas que desempeñen las funciones de comisionadas de inteligencia artificial habrán de tener conocimientos técnicos, jurídicos, éticos, de normas de seguridad y de toma de decisiones automatizadas.

3. Las personas comisionadas de inteligencia artificial desarrollarán las siguientes funciones:

a) Velar por un uso ético y responsable de la inteligencia artificial.

b) Supervisar el diseño, desarrollo, implementación y uso de los sistemas de inteligencia artificial.

c) Asesorar y advertir sobre los riesgos presentes y futuros del diseño, desarrollo y uso de los sistemas de inteligencia artificial.

d) Recibir las sugerencias y quejas de irregularidades en el diseño, desarrollo, implementación y uso de los sistemas de inteligencia artificial.

4. Con carácter previo a la presentación de una reclamación o recurso ante el órgano competente, la persona que se considere afectada podrá dirigirse a la persona comisionada correspondiente del órgano o entidad competente contra la que pretende reclamar. En este caso, en el plazo máximo de dos meses, la persona comisionada comunicará a la persona afectada si va a procederse a la adopción de medidas al respecto.

El procedimiento y canal para la presentación de estas sugerencias o quejas, así como la contestación a la persona afectada, será el previsto en el artículo 16 #(§035746) ar.16# de la Ley 1/2015, de 1 de abril, de garantía de la calidad de los servicios públicos y de buena administración.

Asimismo, en caso de que se presentase un recurso o reclamación ante el órgano competente, este dará traslado para informe a la persona comisionada.

CAPÍTULO II

De la cooperación interadministrativa y la colaboración público-privada

Artículo 37. La cooperación entre administraciones públicas

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público, a través de la entidad instrumental con competencias en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, mantendrán una constante comunicación y colaboración con la Oficina de Inteligencia Artificial en la Unión Europea, la Agencia Española de Supervisión de la Inteligencia Artificial y otros organismos análogos, nacionales o internacionales, con la finalidad de intercambiar conocimientos y experiencias en el ámbito de la regulación y supervisión del diseño e implementación de sistemas de inteligencia artificial en el ámbito de sus competencias.

2. Con la misma finalidad, se establecerán vías de colaboración para compartir experiencias y buenas prácticas con las entidades locales gallegas, las universidades gallegas y los organismos estatutarios de la Comunidad Autónoma.

3. La entidad instrumental con competencias en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico creará un espacio específico para facilitar el desarrollo colaborativo de sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general entre diversas administraciones públicas, nacionales y de otros estados miembros de la Unión europea.

Artículo 38. El repositorio de sistemas de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán poner a disposición de las demás administraciones que operan en la Comunidad Autónoma de Galicia los sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general desarrollados por sus servicios, exclusivamente o en colaboración con otras entidades públicas o privadas, o que hubieran sido adquiridos a terceros, siempre que tengan los derechos de propiedad intelectual sobre ellos o que alcancen un acuerdo con la persona titular de estos derechos a tal fin.

2. La entidad instrumental con competencias en el ámbito de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico publicará, a través de su portal web, una relación de los sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general a que se refiere el apartado anterior.

Artículo 39. Colaboración entre el sector público y el sector privado

1. La Administración general y su sector público impulsarán la colaboración público-privada para el desarrollo de proyectos de inteligencia artificial.

2. Dicha colaboración, en el marco de la legislación básica y autonómica de desarrollo, podrá instrumentarse a través de mecanismos institucionales, como consorcios o sociedades de economía mixta, y de mecanismos negociables, como convenios de colaboración o contratos administrativos.

TÍTULO III

Procedimiento para la definición y puesta en marcha de proyectos de inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia

y su sector público

CAPÍTULO I

Definición y aprobación de proyectos de inteligencia artificial

Artículo 40. La definición de proyectos de inteligencia artificial y la valoración de sus riesgos

1. En el ámbito de la Administración general de la Comunidad Autónoma de Galicia y su sector público, la definición de los proyectos de inteligencia artificial se iniciará conjuntamente por los órganos promotores funcionales y responsables tecnológicos.

2. Dicha definición se formalizará en un informe del proyecto de inteligencia artificial. La entidad instrumental con competencias en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico elaborará una guía sobre el contenido mínimo y los criterios que habrán de seguirse para la elaboración del informe.

3. Los órganos promotores funcionales y responsables tecnológicos darán traslado del informe del proyecto de inteligencia artificial a la Oficina de Inteligencia Artificial, la cual formalmente acordará la iniciación de su tramitación, salvo que de la clasificación del nivel de riesgo asociado al sistema de inteligencia artificial o modelo de inteligencia artificial de uso general se concluyese que se trata de un sistema o modelo prohibido o que esté presente un nivel de riesgo inaceptable, de conformidad con la regulación de la Unión Europea. En este supuesto se archivará sin más trámite la propuesta de proyecto de inteligencia artificial.

Artículo 41. La elaboración del informe del proyecto de inteligencia artificial

1. Los órganos promotores funcionales y responsables tecnológicos serán los responsables de elaborar el informe del proyecto de inteligencia artificial.

2. El informe del proyecto de inteligencia artificial deberá contener, al menos:

a) La identificación de las necesidades funcionales que hayan de ser cubiertas y una definición clara y objetiva de los problemas que se pretenden solucionar, en particular estableciendo los objetivos específicos para conseguirlo.

b) La identificación de la necesidad y oportunidad de diseñar o adquirir, implementar y emplear sistemas de inteligencia artificial, evaluando sus beneficios y riesgos y las capacidades técnicas, humanas y económicas y de sostenibilidad para su puesta en marcha y mantenimiento.

c) La relación de características y especificaciones técnicas del sistema de inteligencia artificial propuesto.

d) El conjunto de datos propuesto para el entrenamiento, validación y prueba, especificando si el mismo contiene una combinación de datos personales y no personales, señalando de manera específica si se tratarían datos personales de categoría especial, según lo dispuesto en el artículo 9.1 del Reglamento (UE) 2016/679, de 27 de abril, así como un plan para su gestión.

e) La propuesta inicial de medidas de seguridad a aplicar, en cumplimiento del principio de seguridad desde el diseño con arreglo a lo dispuesto en el Reglamento (UE) 2016/679, de 27 de abril, y lo dispuesto en la disposición adicional primera de la Ley orgánica 3/2018, de 5 de diciembre #(§050868)#.

f) La evaluación de impacto relativa a los derechos fundamentales. En caso de tratarse de un sistema de inteligencia artificial de alto riesgo, se seguirá el modelo de cuestionario elaborado por la Oficina Europea de Inteligencia Artificial de acuerdo con la normativa vigente de aplicación.

g) La coherencia y el encaje del proyecto de inteligencia artificial en la Estrategia gallega de inteligencia artificial y el correspondiente programa sectorial de inteligencia artificial.

Artículo 42. La aprobación de proyectos de inteligencia artificial

1. La Oficina de Inteligencia Artificial analizará el informe del proyecto de inteligencia artificial y emitirá propuesta para su aprobación en el plazo máximo de un mes desde su recepción. En caso de que entendiese que existen cuestiones a subsanar, procederá a su devolución a los órganos promotor funcional y responsable tecnológico para su mejora, acompañado de una memoria explicativa de los puntos a corregir o completar. Tras la subsanación, el informe se someterá nuevamente al análisis de la Oficina de Inteligencia Artificial.

2. La persona titular de la entidad instrumental competente en materia de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico aprobará todos los proyectos de inteligencia artificial, previa propuesta de la Oficina de Inteligencia Artificial. La aprobación implicará que el proyecto de inteligencia artificial pasa a la fase de diseño, desarrollo o adquisición e implementación regulada en el capítulo II del presente título.

3. El plazo máximo para dictar la resolución de aprobación será de dos meses, a contar desde la entrada del informe del proyecto de inteligencia artificial en el registro del órgano competente para resolver. El proyecto se entenderá denegado por el transcurso de dicho plazo sin que se hubiese dictado resolución expresa.

CAPÍTULO II

Diseño, desarrollo o adquisición e implantación

de sistemas de inteligencia artificial

Artículo 43. Diseño de los sistemas de inteligencia artificial

1. Tras la aprobación del proyecto de inteligencia artificial, el órgano responsable tecnológico procederá al diseño del sistema de inteligencia artificial, con la colaboración de la Oficina de Inteligencia Artificial.

2. El diseño del sistema de inteligencia artificial tiene como finalidad definir sus especificaciones técnicas. Como mínimo, este contendrá información sobre la tipología de datos a emplear y un plan para su gestión, los algoritmos y modelos que lo conforman, el diseño de su arquitectura, la interfaz de usuario y las especificaciones relativas a la mitigación de riesgos.

3. El diseño del sistema de inteligencia artificial se documentará siguiendo los procedimientos y estándares definidos por la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

4. Cuando el sistema de inteligencia artificial tenga por finalidad la adopción de actos administrativos automatizados, el diseño del sistema de inteligencia artificial contemplará los requisitos exigidos por el artículo 41.2 #(§036563) ar.41# de la Ley 40/2015, de 1 de octubre, y el artículo 76 de la Ley 4/2019, de 17 de julio.

Artículo 44. Desarrollo de los sistemas de inteligencia artificial

1. El desarrollo del sistema de inteligencia artificial se llevará a cabo siguiendo los procedimientos y estándares definidos por la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico.

2. El desarrollo deberá garantizar el cumplimiento de las especificaciones técnicas contempladas en el artículo 43, especialmente aquellas relacionadas con la mitigación de riesgos.

Artículo 45. Procedimiento para la adquisición de los sistemas de inteligencia artificial

1. La adquisición de sistemas de inteligencia artificial se realizará con arreglo a lo previsto en la normativa de aplicación correspondiente según los distintos modos de adquisición, que, en caso de procedimientos de adquisición por compra, será la normativa básica estatal y autonómica en materia de contratación pública. En particular, se procurará la elección de modalidades de contratación pública de innovación.

2. Los sistemas de inteligencia artificial adquiridos habrán de contar con las certificaciones y los sellos exigidos por la normativa vigente.

3. De forma adicional, el sistema de inteligencia artificial adquirido deberá cumplir las especificaciones técnicas contempladas en el artículo 43, especialmente aquellas relacionadas con la mitigación de riesgos.

Artículo 46. Entrenamiento, validación y prueba de los sistemas de inteligencia artificial

1. El órgano responsable tecnológico llevará a cabo el entrenamiento del sistema de inteligencia artificial, a fin de ajustar los parámetros objeto de aprendizaje del mismo, así como la validación del sistema entrenado, a fin de realizar una evaluación de su resultado de aprendizaje y ajustar los parámetros no susceptibles de ser aprendidos.

2. El órgano promotor funcional llevará a cabo la prueba del sistema de inteligencia artificial, a fin de confirmar el rendimiento esperado del sistema antes de su activación.

Artículo 47. El plan de gestión de datos

1. El órgano responsable tecnológico velará por la realización de las verificaciones y acciones necesarias a fin de asegurar que los conjuntos de datos a utilizarse para el entrenamiento, validación y prueba están estructurados y documentados de la manera más completa posible de acuerdo con las mejores prácticas y la normativa europea y estatal de aplicación, en particular en lo relativo a la normativa en materia de derechos de autor y derechos afines.

2. Con tal fin, se elaborará un plan de gestión de datos con el objetivo de facilitar la gestión de la información a lo largo de todo su ciclo de vida, desde la creación o recepción de los datos hasta su análisis, pasando por su organización, limpieza y preservación.

3. El plan de gestión de datos habrá de contener, al menos, los siguientes extremos:

a) El manejo de datos durante y después del final del proyecto.

b) Los datos que se recopilarán, procesarán y/o generarán.

c) La disponibilidad y calidad de los datos a emplear en el proyecto.

d) Las metodologías y los estándares a aplicar en la gestión de los datos.

e) La posibilidad de compartir los datos en acceso abierto.

f) El procedimiento de curado y conservación de los datos, incluso tras la finalización del proyecto.

g) El procedimiento de anonimización, si procediese.

Artículo 48. Activación, mantenimiento y evaluación continua de los sistemas de inteligencia artificial

1. Una vez probado el sistema de inteligencia artificial, el órgano responsable tecnológico procederá a su activación y puesta en funcionamiento.

2. El órgano promotor funcional y el órgano responsable tecnológico llevarán a cabo la evaluación continua del rendimiento del sistema de inteligencia artificial y de los riesgos relacionados con su uso.

3. El procedimiento de evaluación continua se definirá por la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, la cual elaborará una guía sobre el contenido mínimo y los criterios a seguir para la elaboración del informe.

4. La Oficina de Inteligencia Artificial llevará a cabo la supervisión de la evaluación continua.

Artículo 49. Espacios controlados de pruebas

1. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico se dotará de espacios de pruebas controladas, simulando entornos de uso real, en las cuales se podrá desarrollar, entrenar, probar y validar sistemas de inteligencia artificial antes de ser empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público, para garantizar la máxima calidad y seguridad de los mismos, así como para asegurar el cumplimiento óptimo de los principios generales contemplados en la presente ley.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público velarán porque, en la medida en que los sistemas de inteligencia artificial impliquen el tratamiento de datos personales, la autoridad competente en materia de protección de datos esté vinculada al funcionamiento del espacio controlado de pruebas.

TÍTULO IV

El uso de sistemas de inteligencia artificial y modelos

de inteligencia artificial de uso general

Artículo 50. El alcance del uso de sistemas de inteligencia artificial en la toma de decisiones: actuaciones administrativas automatizadas y semiautomatizadas

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán adoptar actos administrativos, de forma automatizada y sin la intervención directa de una persona empleada pública, mediante sistemas de inteligencia artificial, en el marco de un procedimiento administrativo, cuando ejerzan potestades regladas y, excepcionalmente, potestades discrecionales, en caso de que el margen de discrecionalidad se hubiera agotado previamente en el diseño del sistema de inteligencia artificial.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán apoyar su toma de decisiones en las previsiones o recomendaciones emitidas por sistemas de inteligencia artificial.

Artículo 51. Guías para el uso de sistemas de inteligencia artificial

La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico elaborará y actualizará de forma continua las oportunas guías que tendrán como finalidad facilitar el cumplimiento de la presente ley, en particular garantizar el buen diseño, implementación y uso de los sistemas de inteligencia artificial. Estas guías tomarán en consideración las directrices y las guías previstas en la normativa específica europea.

Artículo 52. Herramientas de autodiagnosis

La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico desarrollará los instrumentos tecnológicos necesarios que permitan evaluar, de forma continuada, el correcto cumplimiento de los principios generales sobre los sistemas de inteligencia artificial contemplados en la presente ley por parte de la Administración general de la Comunidad Autónoma de Galicia y su sector público.

Artículo 53. Las respuestas frente al fallo de un sistema de inteligencia artificial

1. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico desarrollará un protocolo de reacción inmediata en caso de que detectase un posible fallo en el funcionamiento de un sistema de inteligencia artificial.

2. Este protocolo se basará en los principios de recurso inmediato a la revisión humana, celeridad en la adopción de resoluciones y minimización de las repercusiones de los fallos y de los perjuicios derivados de ellos.

3. Lo señalado en los apartados anteriores se entenderá sin perjuicio de las obligaciones en materia de intercambio de información y vigilancia del mercado para sistemas de inteligencia artificial de alto riesgo contempladas en el capítulo IX del Reglamento (UE) 2024/1689, de 13 de junio de 2024.

TÍTULO V

De las medidas para el impulso de la inteligencia artificial en Galicia

CAPÍTULO I

Medidas económicas y fiscales

Sección 1.ª. Medidas de impulso en materia de política industrial

Artículo 54. Planes directores de los sectores industriales de la Comunidad Autónoma de Galicia

En la elaboración de los planes directores de los distintos sectores industriales contemplados en el Decreto legislativo 1/2015, de 12 de febrero #(§036160)#, por el que se aprueba el texto refundido de las disposiciones legales de la Comunidad Autónoma de Galicia en materia de política industrial, se analizará el potencial de la inteligencia artificial en el desarrollo de la actividad industrial en el sector concreto que corresponda, teniéndose en cuenta, en su caso, en la definición de las medidas de impulso que dichos planes incluyan.

Artículo 55. Proyectos industriales estratégicos

A los efectos del requisito establecido en el apartado c) del artículo 78 #(§036160) ar.78# del Decreto legislativo 1/2015, de 12 de febrero, se considerará que los proyectos que tengan relación directa con la inteligencia artificial pertenecen a un sector estratégico alineado con los objetivos de la Unión Europea.

Artículo 56. Proyectos empresariales singulares

A los efectos del cumplimiento de los requisitos exigidos para la determinación de los proyectos empresariales singulares, se considerará el sector de la inteligencia artificial como de especial importancia, a los efectos de la valoración de la concurrencia de las circunstancias previstas en el artículo 75.1.a) #(§055224) ar.75# de la Ley 3/2022, de 18 de octubre, de áreas empresariales de Galicia.

Sección 2.ª. Medidas de impulso en materia de transición energética

Artículo 57. Transición energética

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público, en el ámbito de sus competencias y en un contexto de una transición energética justa, integradora y de lucha contra el cambio climático, promoverán el uso de la inteligencia artificial en los proyectos de generación, distribución y almacenamiento de energía a partir de fuentes renovables, así como proyectos que promuevan tanto el ahorro y la eficiencia energética como la óptima gestión de los recursos energéticos, en la medida en que su uso facilite la consecución de impactos socioeconómicos positivos en el territorio y contribuya a alcanzar los objetivos de descarbonización y neutralidad climática fijados en los planes, programas y estrategias de transición elaborados por la Unión Europea, la Administración general del Estado y la propia Administración autonómica.

2. Igualmente, dada la necesidad de proveer de materiales como base para la creación de tecnología verde que propicie la transición energética, la Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán, en el ámbito de sus competencias, el empleo de la inteligencia artificial en los proyectos relacionados con la investigación y el abastecimiento de materias primas estratégicas, de forma segura, resiliente y sostenible, garantizando al mismo tiempo un elevado nivel de protección del medio ambiente.

3. A tal fin, en las convocatorias de subvenciones en régimen de concurrencia competitiva realizadas por la Administración general de la Comunidad Autónoma de Galicia y su sector público que tengan relación con el proceso de transición energética o la investigación y con el abastecimiento de materias primas estratégicas podrá establecerse, siempre que fuera posible, en las bases de la convocatoria un criterio de valoración específico que pondere positivamente el empleo de la inteligencia artificial cuando implique una mejora de la eficiencia del proyecto.

Sección 3.ª. Medidas de impulso empresarial, emprendimiento e inversión

Artículo 58. Promoción del ecosistema empresarial de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público, a fin de impulsar y promover la inteligencia artificial y su ecosistema, pondrán el órgano responsable de la gestión de los instrumentos previsto en la Ley 9/2021, de 25 de febrero #(§053533)#, de simplificación administrativa y de apoyo a la reactivación económica de Galicia, como canal único a disposición de las empresas que desarrollen e impulsen las nuevas tecnologías y la inteligencia artificial. Este órgano facilitará, a través de su sistema de atención a la inversión, un marco de apoyos económicos específicos para las empresas tecnológicas que fomenten el desarrollo de la inteligencia artificial en Galicia, en coordinación con los demás agentes del ecosistema.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público crearán un sistema de vigilancia tecnológica en inteligencia artificial para las empresas en colaboración con los European Digital Innovation Hubs estratégicos, a fin de impulsar el desarrollo tecnológico endógeno de la inteligencia artificial para su comercialización nacional e internacional y la aplicación en los sectores económicos emergentes y tradicionales.

3. Asimismo, la Administración general de la Comunidad Autónoma de Galicia y su sector público apoyarán la fabricación inteligente y la automatización y modernización de procesos de las empresas, en particular de las pequeñas y medianas, a través de la inteligencia artificial e impulsarán la puesta en marcha de nuevos centros de fabricación avanzada e infraestructuras estratégicas en materia de inteligencia artificial.

Artículo 59. Apoyo a la actividad emprendedora en inteligencia artificial

La Administración general de la Comunidad Autónoma de Galicia y su sector público, a fin de impulsar el ecosistema de emprendimiento innovador, crearán programas de incubación, aceleración y consolidación de start-ups en inteligencia artificial y deep tech.

Artículo 60. Fomento de la inversión en soluciones de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público, a fin de impulsar la inversión en inteligencia artificial, diseñarán nuevos instrumentos financieros que fomenten la inversión empresarial en soluciones de inteligencia artificial y tecnologías emergentes.

2. En particular, se creará un fondo de participación en empresas que desarrollen en Galicia sistemas de inteligencia artificial a través de la sociedad mercantil pública autonómica de la Xunta de Galicia con competencia en la materia.

Sección 4.ª. Medidas fiscales

Artículo 61. Incentivos fiscales

La Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán medidas normativas en los tributos en los cuales la Comunidad Autónoma de Galicia tenga atribuidas competencias, orientadas a una reducción de los costes fiscales que tengan que afrontar las empresas innovadoras en el ámbito de la inteligencia artificial que se instalen en Galicia, así como beneficios fiscales para las personas que inviertan en dichas empresas o en proyectos de inteligencia artificial.

CAPÍTULO II

Medidas en materia de I+D+i

Artículo 62. Fomento de la investigación e innovación en el ámbito de la inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público fomentarán un ecosistema gallego de investigación e innovación en materia de inteligencia artificial en el cual el talento investigador, las empresas emergentes y las pequeñas y medianas empresas puedan trabajar en estrecha colaboración con los usuarios industriales, atraer inversiones para la Comunidad Autónoma de Galicia y tener acceso a los principales componentes de la inteligencia artificial de forma fiable y accesible, que funcione para la ciudadanía, que respete los derechos fundamentales y la democracia y la seguridad y en el que confíen las empresas y las personas consumidoras.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público apoyarán los avances algorítmicos que sean fiables, en consonancia con la normativa europea, estatal y autonómica, en particular poniendo a disposición fondos de apoyo a la I+D+i para promover el uso responsable de esta tecnología.

En particular, promoverán la investigación y capacitación en soluciones innovadoras en computación sostenible y algoritmos verdes, estableciendo colaboraciones con los agentes del ecosistema de inteligencia artificial de Galicia.

3. Asimismo, los organismos de investigación de la Administración de la Comunidad Autónoma de Galicia promoverán y apoyarán el uso responsable de la inteligencia artificial en las actividades de investigación.

En particular, facilitarán formación especialmente sobre la verificación de los resultados, el mantenimiento de la privacidad, el tratamiento de los sesgos y la protección de los derechos de propiedad intelectual. Asimismo, proporcionarán apoyo y directrices para garantizar el cumplimiento de los requisitos éticos y legales.

4. La Administración general de la Comunidad Autónoma de Galicia y aquellas entidades instrumentales del sector publico autonómico que financien la investigación y la innovación diseñarán sus instrumentos de financiación de forma favorable al uso responsable y ético de las tecnologías de inteligencia artificial en las actividades de investigación y exigirán que la investigación financiada y sus beneficiarios se ajusten a la legislación autonómica, nacional, comunitaria e internacional vigente y a las buenas prácticas para un uso responsable de la inteligencia artificial.

5. La Administración general de la Comunidad Autónoma de Galicia y su sector público favorecerán la colaboración y transferencia de conocimiento en inteligencia artificial entre el Sistema universitario de Galicia y el tejido empresarial y social.

Artículo 63. Ecosistema de inteligencia artificial de Galicia

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán un ecosistema emergente de investigación e innovación en inteligencia artificial como un entorno que incluya a todos los actores, infraestructuras, dinámicas de colaboración y factores necesarios para fomentar el desarrollo, la adopción y el uso responsable de esta tecnología.

La entidad instrumental con competencias en el ámbito de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico creará el Mapa del ecosistema de inteligencia artificial de Galicia, identificando a los agentes que operan en la Comunidad Autónoma de Galicia invirtiendo, diseñando, creando u operando con soluciones de inteligencia artificial innovadoras.

2. La entidad instrumental con competencias en el ámbito de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico promoverá fórmulas de colaboración con los agentes identificados en el Mapa del ecosistema de inteligencia artificial de Galicia.

3. La Administración general de la Comunidad Autónoma de Galicia y su sector público impulsarán la participación del ecosistema de inteligencia artificial de Galicia en los ecosistemas promovidos por las autoridades nacionales e internacionales competentes.

Artículo 64. Grandes infraestructuras de supercomputación para el desarrollo del ecosistema de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público impulsarán la dotación y la mejora de las grandes infraestructuras de supercomputación para el desarrollo del ecosistema de inteligencia artificial de Galicia.

2. En particular, impulsará modelos de colaboración y acceso a las infraestructuras tecnológicas del Centro de Supercomputación de Galicia, infraestructura científico-técnica singular, para el ecosistema de investigación e innovación en materia de inteligencia artificial, compatibles con los compromisos de disponibilidad de uso vinculados a su carácter de infraestructura científico-técnica singular, su pertenencia a consorcios nacionales o internacionales u otros condicionantes de financiación de estas infraestructuras.

3. La Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán sinergias con la Empresa Común Europea de Computación de Alto Rendimiento (EuroHPC) y con otras iniciativas de supercomputación a nivel europeo, con el objetivo de mantenerse en la vanguardia en el acceso a las principales iniciativas, proyectos y grandes infraestructuras de supercomputación e inteligencia artificial.

Artículo 65. Espacios de datos

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público desarrollarán espacios de datos dentro de un entorno de soberanía, confianza y seguridad, mediante mecanismos integrados de gobernanza, organizativos, normativos y técnicos, que garanticen que los datos sean fáciles de encontrar, accesibles, interoperables y reutilizables, con arreglo a lo establecido en el Reglamento 2022/868, de 30 de mayo de 2022, relativo a la gobernanza europea de datos y por el que se modifica el Reglamento (UE) 2018/1724 y demás normativa vigente de aplicación.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público facilitarán el acceso a conjuntos de datos de alta calidad y mejorarán su disponibilidad para el ecosistema de inteligencia artificial de Galicia, en particular para las empresas emergentes y la comunidad científica y de innovación.

Artículo 66. Factorías de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público impulsarán la puesta en marcha de factorías de inteligencia artificial u otras iniciativas similares en torno a infraestructuras tecnológicas del Centro de Supercomputación de Galicia, que englobarán la capacidad informática y los servicios de supercomputación, así como actividades para atraer talento a gran escala orientadas a potenciar sectores estratégicos en la Comunidad Autónoma de Galicia. Tales iniciativas fomentarán la colaboración público-privada entre los diferentes agentes del ecosistema de inteligencia artificial de Galicia.

2. A fin de fomentar el posterior desarrollo y la capacidad de ampliación del ecosistema de inteligencia artificial, la Administración general de la Comunidad Autónoma de Galicia y su sector público seguirán apoyando la mejora de las infraestructuras tecnológicas del Centro de Supercomputación de Galicia y definirán los protocolos de acceso a los agentes del ecosistema de inteligencia artificial de Galicia, en particular a las empresas emergentes, las pequeñas y medianas empresas y la comunidad científica y de innovación que necesiten entrenar sistemas de inteligencia artificial y modelos de inteligencia artificial de uso general.

Artículo 67. Espacios controlados de pruebas para el tejido investigador y empresarial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán dotar de espacios controlados de pruebas al tejido investigador y empresarial, simulando entornos de uso real, en los cuales se podrán desarrollar, entrenar, probar y validar los sistemas de inteligencia artificial, de acuerdo con lo establecido en el artículo 57.2 del Reglamento (UE) 2024/1689, de 13 de junio.

2. Estos espacios estarán a disposición de las empresas y organizaciones que desarrollen sistemas de inteligencia artificial en Galicia, así como de aquellas otras entidades que quieran desarrollar, entrenar, probar y validar los sistemas existentes, simulando entornos de uso real en el ámbito de la Comunidad Autónoma gallega.

3. Reglamentariamente, se establecerán las características de estos espacios, que podrán gestionarse directa o indirectamente, con la colaboración de entidades del ecosistema de inteligencia artificial de Galicia o de otras entidades privadas, por el organismo del sector público gallego con competencias en el ámbito de las tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, de conformidad con lo establecido en los artículos 58 y 59 del Reglamento (UE) 2024/1689, de 13 de junio.

Artículo 68. Compra pública estratégica de inteligencia artificial

1. A fin de acelerar el desarrollo, ensayo e implantación de soluciones innovadoras basadas en la inteligencia artificial, la Administración general de la Comunidad Autónoma de Galicia y su sector público podrán emplear contratos públicos que tengan por objeto el diseño, desarrollo y, en su caso, adquisición de este tipo de soluciones para la mejora de los servicios públicos y actuar como usuario pionero de dichos sistemas.

Tales contratos podrán adjudicarse por cualquiera de los procedimientos previstos en la legislación básica en materia de contratación pública y, en su caso, por las modalidades de contratación pública de innovación cuando así se justificase. En particular, se atenderá al procedimiento de asociación para la innovación que permitirá la adquisición ulterior de las soluciones innovadoras siempre que se alcancen los niveles de rendimiento y se respeten los costes máximos acordados entre el órgano de contratación y los participantes.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán cooperar con otras administraciones que no tengan los conocimientos y recursos necesarios para poner en marcha este tipo de procedimientos de contratación. En particular, la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico podrá dar apoyo mediante la colaboración en la preparación y definición de especificaciones técnicas y/o en el diseño de los proyectos.

3. Asimismo, la Administración general de la Comunidad Autónoma de Galicia y su sector público podrán acordar la realización conjunta de determinadas contrataciones específicas con otras administraciones para impulsar el desarrollo y uso de la inteligencia artificial en la mejora de la prestación de servicios públicos en el ámbito territorial de la Comunidad Autónoma de Galicia. Esta contratación conjunta esporádica podrá consistir, entre otras formas, en una contratación coordinada mediante la preparación de especificaciones técnicas comunes de obras, servicios o suministros que vayan a ser contratados por varios poderes adjudicadores, siguiendo cada un de ellos un procedimiento de contratación independiente o bien asumiendo la gestión del procedimiento de contratación en nombre de todos los poderes adjudicadores que participen en el acuerdo. Dicha colaboración se formalizará a través de acuerdos de contratación conjunta en los cuales se contemplará, entre otros extremos, la responsabilidad de las partes de conformidad con lo dispuesto en el artículo 31.3 #(§039439) ar.31# de la Ley 9/2017, de 8 de noviembre, de contratos del sector público. En caso de financiación conjunta de estos contratos, los acuerdos precisarán los compromisos alcanzados, las cantidades objeto de financiación por cada uno de ellos, el orden de abono de las aportaciones, la forma en que serán objeto de aportación al órgano de contratación que se ocupa de la adjudicación y formalización del contrato o la forma de pago al contratista por los órganos financiadores.

4. Con la finalidad de promover un uso responsable y ético de la inteligencia artificial a través de los contratos públicos, la entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, con asistencia de la Asesoría Jurídica General y de la Secretaría de la Junta Consultiva de Contratación Administrativa de la Comunidad Autónoma de Galicia, elaborará un catálogo de cláusulas según el nivel de riesgo de los sistemas de inteligencia artificial para incorporar en los pliegos de cláusulas administrativas y técnicas empleados por el sector público autonómico que tengan por objeto el diseño, desarrollo y, en su caso, adquisición de este tipo de soluciones innovadoras en materia de inteligencia artificial.

Entre otros extremos, dichas cláusulas garantizarán:

a) El mantenimiento de registros de eventos por los sistemas de inteligencia artificial.

b) La adopción de medidas adecuadas de transparencia, de supervisión humana y de altos niveles de precisión, robustez, seguridad y ciberseguridad.

c) La inclusión de interfaces que permitan la efectiva supervisión del mismo por personas físicas.

d) La obligación de explicar, en todo momento, sobre como un sistema de inteligencia artificial ha llegado a un resultado concreto, de conformidad con el estado de la tecnología.

e) El deber de no emplear los datos recibidos para fines ajenos al contrato.

f) La entrega de una documentación técnica detallada que contenga la descripción general del sistema de inteligencia artificial, así como de sus elementos y su proceso de desarrollo.

g) La puesta a disposición de instrucciones de uso detalladas.

h) La vigencia del principio de responsabilidad a lo largo del ciclo de vida del sistema de inteligencia artificial, precisando a quién y en qué circunstancias se le atribuyen los errores o fallos derivados del uso o resultados del sistema de inteligencia artificial.

5. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, en colaboración con la Asesoría Jurídica General, la Secretaría de la Junta Consultiva de Contratación Administrativa de la Comunidad Autónoma de Galicia y las entidades instrumentales del sector público competentes en materia de formación de las personas empleadas públicas, impulsará formación especializada en esta materia y, en su caso, a los operadores económicos, especialmente las pequeñas y medianas empresas, que intervengan en este tipo de procedimientos de contratación.

CAPÍTULO III

Medidas de formación y capacitación

Artículo 69. La formación y capacitación de las personas empleadas públicas en materia de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público habilitarán los medios necesarios para garantizar el acceso a la capacitación inicial y formación continua de las personas empleadas públicas, de acuerdo con las características de sus puestos de trabajo, para el desarrollo de sus competencias en relación con los sistemas de inteligencia artificial y el uso eficiente de estos en la prestación de los servicios públicos.

2. La capacitación inicial y la formación continua de los empleados públicos en materia de inteligencia artificial, además de comprender los aspectos técnicos, tienen que abarcar los aspectos éticos y legales del empleo de los mismos.

Artículo 70. El apoyo en la formación y capacitación del tejido productivo en materia de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán acciones formativas de las personas trabajadoras en materia de inteligencia artificial y medidas de apoyo a las empresas y entidades del tercer sector que desplieguen planes de capacitación y formación en la materia.

2. Se impulsarán programas de actualización profesional para permitir a las personas trabajadoras adaptarse a los cambios en sus funciones o pasar a nuevas funciones que requieran competencias diferentes.

3. Entre los contenidos de la oferta formativa para personas desempleadas se incluirá la formación en inteligencia artificial para asegurar la adaptación al cambio de competencias necesarias en los puestos de trabajo.

Artículo 71. La formación universitaria y profesional en materia de inteligencia artificial

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público impulsarán actividades de formación, capacitación y actualización profesional en el ámbito de la inteligencia artificial, por ejemplo apoyando programas de máster y doctorado específicos y, en particular, animando a la participación de las mujeres, introduciendo las medidas necesarias que faciliten y potencien la incorporación de las mujeres en condiciones de igualdad a este sector.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público fortalecerán el talento en Galicia en materia de inteligencia artificial mediante el desarrollo y la integración de capacidades de inteligencia artificial con habilidades sectoriales específicas, además de promover la atracción y retención de talento especializado en esta materia.

Artículo 72. La formación de la ciudadanía para la lucha contra los riesgos de los sistemas de inteligencia artificial

1. La Administración autonómica adoptará medidas para la alfabetización de la sociedad gallega en materia de inteligencia artificial basadas en el aprendizaje, uso y aplicación de herramientas de inteligencia artificial, promoviendo el desarrollo de capacidades emprendedoras, creativas, sociales y culturales.

2. Asimismo, adoptará medidas para concienciar a las personas sobre los malos usos de los sistemas de inteligencia artificial y las formas de contrarrestarlos para asegurar una sociedad consciente, con una opinión pública adecuadamente informada.

Disposición adicional única. Atribución de funciones de las personas comisionadas de inteligencia artificial

Las funciones de las personas comisionadas en la Administración general de la Comunidad Autónoma de Galicia y su sector público serán desempeñadas por las personas delegadas de protección de datos. La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico, en colaboración con las entidades instrumentales del sector público competentes en materia de formación de los empleados públicos, impartirá cursos de formación específicos en la materia a los efectos de su capacitación.

Disposición transitoria única. Identificación y registro de sistemas de inteligencia artificial existentes

La entidad instrumental del sector público competente en materia de tecnologías de la información y de la comunicación y la innovación y el desarrollo tecnológico realizará una identificación de los sistemas de inteligencia artificial existentes en la Administración general de la Comunidad Autónoma de Galicia y su sector público, procediendo a su registro en el inventario a que se refiere el artículo 35.

Disposición final primera. Modificación de la Ley 1/2016, de 18 de enero #(§037120)#, de transparencia y buen gobierno

Se añade el apartado f) al artículo 8 #(§037120) ar.8# de la Ley 1/2016, de 18 de enero, de transparencia y buen gobierno, con la siguiente redacción:

“f) La relación de sistemas de inteligencia artificial o modelos de inteligencia artificial de uso general que tengan impacto en los procedimientos administrativos o en la prestación de los servicios públicos, con descripción de manera comprensible de su arquitectura y funcionamiento, de los datos que utilizan, del nivel de riesgo que implican y del impacto de sus resultados en los procedimientos administrativos, en especial si son o no directamente decisorios de los mismos”.

Disposición final segunda. Desarrollo reglamentario

Se autoriza al Consello de la Xunta para dictar las disposiciones para el desarrollo reglamentario de la presente ley.

Disposición final tercera. Entrada en vigor

La presente ley entrará en vigor a los veinte días naturales de su publicación en el Diario Oficial de Galicia.

Comentarios