La decisión de automatizar la actuación administrativa como juicio discrecional

Este trabajo aborda el carácter jurídico de la decisión de automatizar la acción administrativa. Si bien la actuación administrativa algorítmica ha sido objeto de creciente atención por la doctrina y la jurisprudencia, la propia decisión de automatizar los procesos administrativos ha sido escasamente estudiada, en cuanto a su carácter y posibles límites.

David San Martín Segura es Profesor Permanente Laboral de Derecho Administrativo en la Universidad de La Rioja

El artículo se publicó en el número 73 de la Revista General de Derecho Administrativo (Iustel, octubre 2026)

RESUMEN: El trabajo aborda el carácter jurídico de la decisión de automatizar la acción administrativa. Si bien la actuación administrativa algorítmica ha sido objeto de creciente atención por la doctrina y la jurisprudencia, la propia decisión de automatizar los procesos administrativos ha sido escasamente estudiada, en cuanto a su carácter y posibles límites. Partimos de la premisa de que, en los casos de implantación de sistemas algorítmicos con trascendencia resolutoria, la vocación de automatizar ha de considerarse una decisión netamente jurídica y no simplemente tecnológica. La mayoría de las veces, en ausencia de un imperativo normativo previo de automatización, la decisión revelará un juicio administrativo discrecional. Desde esa perspectiva se valoran las exigencias, límites y posibilidades de control de dicha decisión de automatizar, desde el marco normativo vigente y desde consideraciones dogmáticas. Aunque las normas europeas en materia de IA y las estatales básicas sobre la actuación administrativa automatizada aportan pocos elementos positivos para acotar el problema, existen innovaciones relevantes en los ordenamientos autonómicos que inciden en la implantación de tecnologías algorítmicas en el sector público.

THE DECISION TO AUTOMATE ADMINISTRATIVE ACTION AS AN EXERCISE OF DISCRETION

ABSTRACT: This paper examines the legal nature of the decision to automate administrative decision-making. Whilst algorithmic administrative action has been the subject of growing attention in legal scholarship and case law, the decision itself to automate administrative practice has been scarcely studied in terms of its nature and possible limits. We start from the premise that, in cases where algorithmic systems with decision-making implications are implemented, the decision to automate must be considered a purely legal one and not merely a technological one. In most cases, in the absence of a prior regulatory requirement for automation, the decision will reflect a discretionary administrative judgement. From this perspective, we assess the requirements, limits and possibilities for controlling such a decision to automate, within the current regulatory framework and based on doctrinal considerations. Although European regulations on AI and basic national regulations on automated administrative action provide few elements to narrow down the problem, there are significant innovations in regional legal systems that impact the implementation of algorithmic technologies in the public sector.

I. PLANTEAMIENTO (*)

En el profuso análisis sobre la incorporación de tecnologías algorítmicas a la actuación jurídico-administrativa, persiste una suerte de punto ciego: la decisión misma de automatizar la acción administrativa ha sido objeto de escasa atención en aquella proliferación doctrinal. Frente al interés por el régimen de la actuación automatizada ya desplegada, queda sin despejar la cuestión previa de la vocación de automatizar, con todas sus implicaciones(1). Ese olvido está avalado por la propia laxitud del legislador y reglamentador básico que, en su minimalista aproximación al régimen de la actuación administrativa automatizada, apenas ata esa decisión de automatizar a ciertas exigencias de identificación orgánica sobre la especificación de los sistemas, su supervisión y la impugnación de los resultados que arrojen.

Tal régimen parece concebir aquella decisión como una facultad implícita en el ejercicio de potestades administrativas en cualquier ámbito sectorial, siempre que se respeten algunas exigencias de supervisión. El imperativo tecnológico (conforme al cual deben culminarse todas las aplicaciones tecnológicas cuyo desarrollo sea factible) se anuncia en términos jurídico-públicos como inclinación por defecto hacia la automatización de los procesos (resulta admisible articular algorítmicamente todas las actuaciones jurídicas cuya automatización sea factible)(2). La actuación administrativa automatizada alberga un cierto <<automatismo>>, siquiera potencial, de la decisión de optar por esa solución tecnológica. Hay, al menos, una aparente ausencia de requerimientos sobre la propia decisión.

Sin embargo, es evidente que la automatización de las decisiones de Derecho público no es inocua en términos jurídicos. Sin desconocer sus virtudes de eficiencia en múltiples campos de uso, la aplicación de tecnologías algorítmicas, en especial de IA, plantea ciertos costes, variables en intensidad, pero siempre inherentes, en sentido epistémico, de motivación, inteligibilidad, control de sesgos y privacidad, entre otros(3). En mayor o menor grado, según la naturaleza de la acción automatizada y la complejidad de los modelos, la automatización estresa el esquema clásico de garantías administrativas, tanto en términos procedimentales como sustantivos. Perturbaciones que no avalan una pretensión general de indemnidad frente a los desarrollos tecnológicos, pero sí reclaman reacomodos.

Desplazado el foco hacia el juicio de automatizar, surgen algunas preguntas pertinentes: qué estatus jurídico tiene esa decisión; qué fuentes puedan ser exigibles para adoptarla; en fin, a qué límites y criterios de control habría de estar sujeta. Nos parece plausible el argumento doctrinal que aprecia en los algoritmos decisorios empleados por la Administración funciones equiparables a las disposiciones reglamentarias y que, en consecuencia, reclama procedimientos de adopción formal asimilables(4). Sin embargo, aquí, el propósito de nuestro esfuerzo es más modesto y ajustado a las posibilidades del marco positivo vigente, aunque implique cuestionarlo con apoyos dogmáticos. Se trata de considerar la decisión que empuja a la automatización esquivando, esta vez, el problema de la calificación jurídica del algoritmo –aun siendo conscientes de que la solución que se dé a esta pregunta podría redefinir el problema–.

Nuestro análisis parte de dos premisas. Primero, al menos en los casos en que la automatización tenga implicaciones decisorias y no meramente auxiliares en actuaciones formales, la incorporación tecnológica no puede considerarse una simple opción técnica, neutra desde el punto de vista jurídico, sino una auténtica decisión de organización y ejercicio del poder público con afección directa a la posición jurídica de la ciudadanía(5). Segundo, en consecuencia, en tales casos la automatización no puede operarse de facto(6), por vías informales o pseudoformalizadas. En esa incorporación de tecnologías algorítmicas decisorias la duda es, entonces, cómo revestir la decisión de formalidad jurídico-administrativa de modo que, en hipótesis, se habilite su control.

Ese ejercicio teórico cuenta con ciertos asideros normativos cuya aptitud para el fin propuesto debe examinarse. Sin obviar las exigencias y límites que puedan derivar del marco europeo y estatal, el interés se concentra en las regulaciones sobre los usos algorítmicos y de la IA en el sector público que las Comunidades Autónomas han adoptado, de manera variopinta, en los últimos años. En todo caso, más allá de esas concreciones normativas recientes, el análisis ha de considerar el encaje dogmático del problema.

El trabajo parte de la consideración general de la automatización como un ejercicio de discrecionalidad operado, habitualmente, en sede administrativa (II). A partir de ahí podrá considerarse la incidencia, en esa potestad discrecional, de elementos reglados tanto obstativos como formales (III) y concretar algunos criterios que acoten el juicio de oportunidad que implica la decisión, en términos de motivación y exigencias de evaluación de impacto (IV). Ese recorrido nos permitirá sugerir, de manera todavía prospectiva, un criterio de minimización que trate de evitar sobreprocesamientos algorítmicos inconvenientes en sede administrativa.

II. LA NATURALEZA DISCRECIONAL DE LA DECISIÓN DE AUTOMATIZAR

1. El carácter decisorio de la automatización

El motivo por el que la decisión de automatizar requiere formalización es que esta es, precisamente, una decisión con trascendencia jurídica. Limitamos este requerimiento de formalidad a los casos de adopción de tecnologías digitales que merezcan la consideración de decisorias: es decir, cuando el criterio de implantación tecnológica predetermine, a su vez, el modo en que serán adoptadas sucesivas decisiones administrativas, en adelante automatizadas. Esa calificación será aplicable cuando un sistema algorítmico arroje directamente el contenido de un juicio administrativo, pero también –siguiendo por analogía el argumentario de la jurisprudencia europea en el caso SCHUFA– cuando aquel evidencie una influencia significativa en el resultado(7). Estos casos excluyen la posibilidad de leer el objeto digital como una <<herramienta auxiliar>>. Al contrario, la peculiaridad reside en su condición de tecnologías epistémicas, lo que las sitúa en el mismo espacio de desempeño cognitivo que los operadores jurídicos humanos(8).

La frontera entre lo auxiliar y lo decisorio puede ser difusa, especialmente en los casos de tecnologías basadas en reglas predefinidas, sin capacidad de autonomía tras el despliegue ni poder de inferencia en los términos requeridos para hablar de sistemas de IA. A nuestro juicio, sin embargo, la calificación no deberá basarse sin más en el grado de complejidad del modelo ni en su catalogación, o no, como IA. El criterio ha de ser la relación que exista entre el procesamiento operado por el software y el contenido sustantivo de la decisión. Si este último está determinado total o significativamente por aquel, habrá de admitirse la naturaleza decisoria del sistema, incluso aunque <<se limite>> a transformar en código informático ciertas disposiciones analógicas predefinidas(9). El calificativo <<meramente instrumental>> habría de reservarse para los sistemas que efectúen <<tratamientos de información auxiliares o preparatorios de decisiones administrativas, sin determinar directamente el contenido de estas>>(10). Aclarar el alcance decisorio de un sistema digital es, en sí, un cometido que apoya la necesidad de formalizar su incorporación como mecanismo automatizado(11).

Por otro lado, nótese que esa naturaleza decisoria de un software puede predicarse de la automatización de actuaciones administrativas formales, materiales e informales. En este trabajo consideramos solo el primer caso (automatización de actuaciones formales), aun cuando el impacto de sistemas algorítmicos en la praxis material e informal de la Administración ha adquirido una trascendencia similar, o incluso mayor en términos de casos de uso(12).

Cuando se verifica ese carácter epistémico y decisorio, la implantación de los sistemas no debería resolverse mediante decisiones internas de gestión. Tampoco debería sostenerse solo en la apertura de vías de contratación para su adquisición. Ninguna de estas fórmulas asegura una deliberación suficiente sobre la conveniencia o la necesidad de la automatización, la elección de la tecnología apropiada al caso ni la evaluación de sus impactos.

2. El contenido discrecional de la decisión

La vocación de automatizar una actuación administrativa con trascendencia decisoria implica un ejercicio de discrecionalidad en un doble sentido. Supone un juicio sobre la oportunidad de automatizar una decisión administrativa y, en caso afirmativo, sobre el tipo de tecnología más conveniente para soportar esa automatización.

Ese juicio discrecional puede producirse en distintas sedes. Puede tratarse de una genuina decisión política, si se expresa como criterio acogido en una norma legal. No conocemos casos en el ordenamiento jurídico español, ni estatal ni autonómico, en que la automatización de una actuación administrativa se prevea como mandato en una norma con rango de ley(13), aunque sí sucede puntualmente en el ordenamiento europeo(14). Ahí, la automatización llega a sede administrativa ya dada y relativamente especificada en su diseño.

Los supuestos de predeterminación legal nos llevan a un escenario de análisis distinto, de <<discrecionalidad política>>(15) y a posibilidades de control jurídico obviamente limitadas. Pero, de ordinario, la decisión de automatizar se producirá en sede ejecutiva, bien sea por decisión discrecional normativa (reglamentaria), singular (mediante acto administrativo) o, a menudo, sin una formalización jurídica clara. La automatización operada mediante disposición general regla la producción ulterior de actos por vía algorítmica, como sucede con el sistema Bosco(16). Pero esas determinaciones reglamentarias son aún escasas, de modo que el juicio sobre la automatización emerge como un problema de discrecionalidad, aparentemente, de máxima amplitud en sede administrativa. La norma estatal básica, contenida en los arts. 41 LRJSP y 13 RAFME(17), hace accesible la automatización como opción general para cualquier praxis administrativa: <<la tramitación electrónica de una actuación administrativa podrá llevarse a cabo, entre otras formas, de manera automatizada>>. Ahora bien, una vez abierto ese espacio discrecional, es necesario considerar los elementos que puedan configurar tal capacidad decisoria.

En su aproximación clásica, la discrecionalidad administrativa ha sido narrada como la capacidad otorgada a la Administración para elegir entre varias opciones igualmente válidas en Derecho(18). Esta comprensión ha sido sometida a crítica, o al menos matizada, en cuanto al grado de libertad en la elección administrativa que sugiere. La deferencia normativa hacia la Administración para efectuar la elección <<no significa necesariamente que esas soluciones sean jurídicamente indiferentes>>, pues aquella sigue vinculada por la consecución de fines normativos más generales que, también en los espacios de discrecionalidad, imponen la racionalidad de la decisión atendiendo a los intereses generales vinculados(19). Esos espacios de elección se articulan realmente como mandatos de optimización que obligan <<a adoptar el medio considerado óptimo a la luz de las circunstancias del caso para dar lugar o maximizar el fin previsto>>(20). Ese mandato desiguala en cada caso las opciones en juego y constriñe la libertad decisoria.

La discusión gira, en último término, sobre la regla de juicio que sustenta la decisión, comprendida según los casos como un ejercicio volitivo (en la aproximación clásica) o cognitivo (bajo la tesis teleológica). Lo cierto es que la heterogeneidad del fenómeno de la discrecionalidad complica adoptar posiciones tajantes, pues ambos ingredientes, volición y cognición, aparecen a menudo disueltos en grado variable(21).

En la decisión de automatizar sin condicionante normativo previo, se ejerce una discrecionalidad en virtud de la cual la Administración goza de capacidad para <<la determinación de los criterios que han de guiar su propia actuación>>, caso que no es extraño en el ordenamiento administrativo(22). Es una <<discrecionalidad de opción>> donde el supuesto de hecho está escasamente precisado y se admite una amplia facultad para la determinación de los medios idóneos para alcanzar cierto fin(23). En nuestro caso, ese <<optar>> consiste en una intensa capacidad de estandarización de las ulteriores decisiones, que se verán automatizadas. Poder que se desliza, en realidad, hacia una discrecionalidad propiamente normativa.

Con mayor detalle, hay en aquella decisión de automatizar dos momentos de discrecionalidad diferenciados. El primero apunta a la oportunidad de transformar de ese modo una acción administrativa; el segundo, a la valoración del modo de operarla, sus ventajas y riesgos específicos. El paso inicial responde a una discrecionalidad de acción, que habilita la decisión de actuar (o no) y el momento en que hacerlo; el posterior define una discrecionalidad de elección, orientada a definir el contenido de la decisión(24). Aquel primer estadio, avalado por la admisión genérica de automatización en la normativa estatal básica, presenta un elevado ingrediente volitivo: refiere una consideración apriorística sobre la oportunidad de emprender la automatización. El segundo, sin anclajes normativos básicos, pero sí en algunos regímenes autonómicos, apela a una valoración esencialmente cognitiva (aunque no excluya cierto margen de volición), considerando las características de las tecnologías disponibles, su proyección sobre la praxis a automatizar y su contexto.

En el primer estadio, la Administración no se limita a elegir entre opciones configuradas como consecuencias jurídicas alternativas; de forma más intensa, está habilitada <<para completar o integrar un supuesto de hecho normativo imperfecto o crear un supuesto de hecho normativo inexistente>>(25). Esta clase de decisión estará orientada por ciertas finalidades, debiendo ponderar los intereses concurrentes en la situación dada. El criterio para practicar esa ponderación aparece relativamente indeterminado, por lo que el margen de volición administrativa se expande. En el caso de la decisión de automatizar, los fines que puedan orientar el juicio son especialmente amplios si conectamos la posibilidad general de automatización con los principios básicos de la actuación administrativa, ex arts. 103 CE y 3 LRJSP. La normativa autonómica ha sumado finalidades e intereses específicos a considerar en el juicio de automatizar y pueden existir otros en función de los ámbitos sectoriales o las formas de actuación administrativa en juego.

La amplitud de la ponderación a realizar en este estadio inicial de la vocación de automatizar no autoriza a comprenderlo como un espacio de libertad subjetiva. Hay, a lo sumo, una capacidad de volición condicionada. No conviene restituir la dicotomía entre discrecionalidad en sentido fuerte y débil, si ello supone admitir posibilidades electivas apenas condicionadas en el primer caso(26). También en los supuestos de baja estructuración normativa, las decisiones siguen armadas conforme a principios y finalidades verificables u otros criterios normativos(27). La legitimidad de la decisión discrecional siempre reposa en elementos sustantivos y procedimentales que la acotan y la orientan(28).

La ponderación de intereses de ese primer estadio será la puerta de acceso al siguiente juicio discrecional, ya propiamente electivo entre las opciones tecnológicas disponibles. Es aquí donde la normativa básica sobre la actuación administrativa automatizada hace agua, pues renuncia a reglar en ningún aspecto tal elección de implantación. Como dijimos, es la normativa autonómica la que ha aportado criterios, más o menos estructurados según los casos, para acotar ese margen de decisión y constituirlo, ahora sí, como un juicio esencialmente cognitivo. Ese proceso de cognición se articulará, según nuestro criterio, como justificación de la proporcionalidad del modelo elegido según los fines pretendidos y el contexto de uso, así como de evaluación de los riesgos del sistema algorítmico y sus posibilidades efectivas de contención. Podría suceder, incluso, que el resultado de este proceso cognitivo condujera a corregir el criterio del primer estadio e impusiera la renuncia a la automatización, por inadecuación de las tecnologías al alcance o la existencia de riesgos inasumibles.

III. ELEMENTOS REGLADOS

La búsqueda de criterios positivos que acoten la decisión administrativa de automatizar conduce, en el ordenamiento europeo y estatal, al análisis de una ausencia. El Reglamento Europeo de IA (RIA)(29) sigue una lógica de seguridad de producto que se acomoda poco a la especificidad de los usos por las Administraciones Públicas(30). Por supuesto, a los sistemas empleados –o, eventualmente, desarrollados– por estas les serán aplicables las genéricas exigencias técnicas, las evaluaciones de conformidad e impacto, los controles de uso y ejecución, los deberes de auditoría, etc., al menos cuando los sistemas sean calificados de alto riesgo (art. 6 y Anexo III RIA)(31) y siempre superado el generoso plazo transitorio para los empleos algorítmicos por las autoridades públicas (art. 111.2 RIA, in fine). Toda previsión procedimental o condicionante en términos de Derecho público es extraña a la lógica regulativa del RIA. Su consideración es puntual en las adaptaciones generales del Reglamento al contexto estatal español, tanto en la configuración de la AESIA como autoridad de supervisión –cuyas funciones alcanzan algunas consideraciones ex ante que pueden condicionar la adopción de sistemas con fines jurídico-administrativos–(32) como en la proyectada Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, que solo añade novedades relevantes en materia de transparencia sobre el uso de los sistemas en el sector público estatal (33).

Sabemos que la LRJSP y el RAFME, bajo la rúbrica de la <<actuación administrativa automatizada>>, apenas aportan criterios básicos para cimentar la decisión de automatizar. Configuran, más bien, cláusulas generales habilitantes de tal automatización.

Aquellos criterios los encontramos por el momento a escala autonómica, en normas originales sobre la implantación de la IA en el sector público(34) y en regulaciones sobre la simplificación o racionalización administrativa(35). Existían en realidad disposiciones regionales previas sobre la actuación automatizada en normas generales sobre el régimen jurídico y el procedimiento administrativo(36) y en materia de administración electrónica o digital, algunas con modificaciones recientes(37).

Identificado ese elenco de normas, en lo que sigue observaremos los requisitos y límites que en ellas operan como elementos reglados sobre la decisión de automatizar los procesos administrativos.

1. Las prohibiciones de automatizar

El elemento reglado más evidente sobre la decisión de automatizar es la existencia de prohibiciones de usos algorítmicos con ciertas finalidades o efectos. Estas interdicciones apuntan al primer estadio del juicio discrecional, excluyendo la voluntad misma de automatizar. Son de dos tipos. Por un lado, la regulación general de la IA proscribe ciertos sistemas por presentar riesgos inasumibles. Por otro, las normativas autonómicas en esa materia, o sobre actuación automatizada, contienen algunas prohibiciones de uso específicas para el contexto administrativo.

El art. 5 RIA ha establecido la prohibición de ocho prácticas de IA en la Unión Europea. Varias de ellas tienen potencial aplicación a sistemas de uso administrativo en prácticas de profiling [apartado 1.c)] y otras formas de categorización [5.1.g)], en dependencias y servicios públicos [5.1.f)], en casos de vigilancia e identificación [1.e), 1.g) y 1.h)] y en supuestos de intervención policial [1.d)]. El precepto genera dudas sobre el alcance efectivo de algunas de las restricciones(38), que habrán de despejarse con su aplicación efectiva. En todo caso, no todas las prohibiciones del RIA son absolutas y, precisamente, <<encuentran cierta relajación cuando son los poderes públicos los que los llevan a cabo>>(39). Sucede, en especial, con finalidades de prevención delictiva o en la admisión de ciertos usos de sistemas de identificación biométrica remota en tiempo real con fines de garantía del cumplimiento del Derecho(40).

Las prohibiciones adquieren mayor especificidad para usos administrativos en algunas de las normas autonómicas referidas, donde encontramos, bajo distintas formulaciones, el veto a la automatización de decisiones de carácter discrecional. Tal previsión se encontraba ya en Ley catalana sobre régimen jurídico y procedimiento de 2010(41) y se ha incorporado después en otros seis territorios para cualquier caso de automatización(42) o en la adopción de sistemas de IA, vetando incluso esta tecnología en actuaciones que requieran cualquier interpretación jurídica(43). No obstante, la prohibición se ha operado, en algunos casos, con expresiones aquejadas de cierta ambigüedad(44). A nuestro juicio, esa prohibición ha de operar con independencia de su tipificación positiva. Una decisión discrecional no puede automatizarse porque su contenido de volición o de cognición-volición nunca puede estar plenamente normativizado (de lo contrario se trataría de una actuación reglada). Cuando una disposición configura márgenes de discrecionalidad en una toma de decisión, impide que esta se determine con criterios de juicio taxativamente prefijados. Un modelo algorítmico, sea o no de IA, parametriza siempre la operación según un sistema de reglas, bien precodificadas, bien <<aprendidas>>, con las que se infieren los resultados a partir de las entradas. Esa parametrización regla la toma de decisión. Por lo tanto, la automatización de una decisión discrecional contradice su regulación como tal juicio discrecional. En otros términos, la discrecionalidad administrativa afirma necesariamente una reserva de humanidad(45).

Es posible que los espacios de discrecionalidad ofrezcan <<las mayores ganancias de tipo cualitativo>> en la aplicación de sistemas de IA(46). Sin embargo, esa ventaja solo es factible redefiniendo el carácter de la decisión a adoptar que no será ya discrecionalidad en un sentido propio. La automatización mediante IA disuelve tendencialmente la dicotomía reglado/discrecional.

Las normas autonómicas no han sumado otras prohibiciones adicionales de automatización ni de uso de modelos de IA, distintas a las impuestas por el RIA, salvo una proscripción explícita de uso de sistemas personales o no autorizados para el ejercicio de funciones públicas, en el caso riojano(47). Tampoco encontramos en ellas concreciones teleológicas de las que puedan deducirse, sensu contrario, finalidades no admitidas que operen como prohibiciones de automatización. Solo se observan, en muchas de las disposiciones, vinculaciones genéricas de la automatización o de la IA con aspiraciones de eficacia, eficiencia, simplificación, celeridad, proactividad y mejora de los servicios públicos.

2. Forma y competencia sobre la decisión

La posibilidad de juridificar la decisión de automatizar pasa por atribuirle algún carácter formal. La normativa básica sobre actuación administrativa automatizada no solo carece de pautas sustantivas, sino que omite toda aclaración sobre la fuente requerida para acordar la automatización.

La evolución de este aspecto regulativo no ha sido lineal. Tempranamente, la redacción original de la LRJ-PAC de 1992 requería la previa aprobación por parte del órgano competente de <<los programas y aplicaciones electrónicos, informáticos y telemáticos>> que fueran a ser utilizados por las Administraciones para el ejercicio de sus potestades, con difusión pública, además, de sus características(48). Para la Administración General del Estado, el RD 263/1996 concretó la exigencia de aprobación (de sistemas no meramente auxiliares) por el órgano competente para resolver el procedimiento correspondiente, tras recabar los informes técnicos convenientes(49). Estas previsiones se eliminaron a partir de 2007 por efecto de la LAE y su desarrollo reglamentario(50), que las reemplazó por un doble criterio. Con carácter básico, se limitó la posibilidad de adoptar resoluciones automatizadas a aquellos procedimientos en los que así estuviera previsto (art. 38.2 LAE); expresión imprecisa que, no obstante, podría sugerir previsión en la regulación procedimental(51). Ya sin carácter básico, se exigía la determinación previa del órgano competente para definir y supervisar el sistema y resolver impugnaciones (art. 39 LAE).

El vigente art. 41 LRJSP, tras definir la actuación administrativa automatizada, requiere que se establezca previamente el órgano u órganos con responsabilidades directas sobre el sistema que se acoja –aquel o aquellos competentes para <<la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría>> del sistema y su código fuente, así como el órgano responsable a efectos de impugnación–. Tratándose de un requerimiento orgánico y competencial, no corresponde a la norma básica concretar quién deba cumplirlo y en qué términos, aspectos a detallar por el legislador o reglamentador oportuno según competencias territoriales o sectoriales. El problema radica en el silencio sobre cualquier exigencia acerca de la decisión, todavía previa, de transformar una actuación administrativa por vía algorítmica. Aunque la aprobación de las especificaciones técnicas de los algoritmos es un medio relevante para precisar la supervisión de los sistemas(52), es insuficiente para formalizar debidamente la automatización. La trascendencia de la decisión merecería una mayor concreción en sus aspectos básicos, en primer lugar, en cuanto a la fuente necesaria para materializarla.

El RAFME sí lo ha hecho, aunque no con carácter básico, sino de manera circunscrita al ámbito estatal. Según su art. 13.2, la determinación de una actuación como automatizada <<se autorizará por resolución>> del órgano administrativo competente, con publicación en la sede electrónica junto con la información sobre las posibilidades de impugnación contra la actuación automatizada y estableciendo, además, <<medidas adecuadas>> para salvaguardar los derechos, libertades e intereses legítimos de las personas interesadas. Si bien no se avanza en la especificación de elementos sustantivos, sí se hace en términos formales. En este caso automatizar requiere, por imperativo del reglamentador estatal, acto administrativo singular que lo determine.

En la práctica, la incorporación de sistemas algorítmicos se ha producido a menudo, bien de facto, bien a través de la licitación de un contrato administrativo para la adquisición del modelo –lo que supone, en realidad, una decisión de automatización implícita–(53) o bien con apoyo en instrumentos de organización interna o pseudonormativos(54). Todas esas opciones son insuficientes en un sentido formal para acoger tecnologías normativas decisorias. Por esas vías, una decisión con honda trascendencia jurídica se estará adoptando, bien de plano, bien bajo formalidades que apuntan a otro tipo de garantías e intereses, o bien a través de instrumentos sin un procedimiento de adopción público y participado e inmunes a la impugnación directa por la ciudadanía.

Casi todas las normas autonómicas recientes que abordan la automatización, desde la perspectiva de la implantación de la IA, de la simplificación o de la administración digital, han regulado esa dimensión formal(55). Lo habían hecho, previamente, varias de las normas sobre Administración electrónica que prestaron atención a la actuación automatizada. Las soluciones varían entre la exigencia de adopción mediante acto administrativo o su previsión reglamentaria en la configuración del correspondiente procedimiento. En el primer caso, las regulaciones aluden a resoluciones o autorizaciones de implantación, sea para cualquier forma de actuación administrativa automatizada (AAA) o solo para usos de sistemas de IA. En el segundo, los requerimientos de regulación reglamentaria son explícitos en algunos casos y, en otros, algo más crípticos en su formulación. Se aprecian, incluso, algunas contradicciones o ambivalencias en los criterios normativos dentro de un mismo ordenamiento autonómico. Y se adoptan en ocasiones criterios de publicidad sobre los actos autorizadores o los procedimientos que incluyan actuaciones automatizadas(56). Este haz de regulaciones puede sistematizarse como sigue:

El grado de detalle en la regulación de esas autorizaciones o previsiones reglamentarias es dispar. Oscila en algunos casos entre la mera identificación de la fuente y, en otros, la concreción de ciertos contenidos mínimos –incorporando ahí, usualmente, los requerimientos básicos del art. 41.2 LRJSP–.

Como puede advertirse, la regulación autonómica es heterogénea en cuanto a la exigencia de formalización de los sistemas y su materialización mediante acto singular o a través de previsión reglamentaria. Consideramos que esta última es la variante más adecuada: cualquiera que sea el modelo por implantar, es razonable que la automatización se produzca mediante disposición reglamentaria, aprobada por el órgano que sea competente para la regulación general del procedimiento en el que se inserte la actuación algorítmica(57).

Nótese que este argumento no implica la necesaria consideración del sistema informático, en sí mismo, como disposición general. Con independencia de que esa sea la opción más atinada en términos dogmáticos, aquí proponemos, más modestamente, exigir la habilitación de su implantación mediante una norma de tal carácter (es la decisión de automatizar lo que nos ocupa). Hay al menos dos razones para seguir este criterio formal. Primero, la decisión de automatizar afecta de forma relevante a la tramitación del procedimiento: lo norma en un sentido que no es baladí para las personas interesadas. Aquella decisión se sitúa, en su sentido y efectos, en el mismo nivel jurídico que la regulación del resto de aspectos del cauce procedimental. No en vano, si hablamos de tecnologías con trascendencia decisoria, la automatización determinará el modo en que se produzcan las subsiguientes resoluciones producto de la tramitación del procedimiento siempre que sea aplicado. Desde esa perspectiva, la naturaleza normativa del juicio de automatizar parece evidente.

Por otro lado, la legislación procedimental básica, en el art. 14.3 LPAC(58), exige previsión reglamentaria para la electronificación imperativa de la comunicación de las personas interesadas con la Administración en un cierto procedimiento administrativo, fuera de los casos obligatorios por razón del sujeto del apartado segundo del precepto. La decisión de automatizar una resolución administrativa no tiene un impacto menor en la esfera de las personas interesadas que aquella obligación de comunicarse por medios electrónicos. Más bien, su alcance parece mayor, ya que impactará en términos procedimentales (redefinición de trámites), pero también en la inteligibilidad de la actuación (forma de motivación) y en la posibilidad de tutela (modo en que pueda fundarse sustantivamente una posible impugnación).

Por último, las normas no definen cauces procedimentales completos para arribar a la puesta en funcionamiento de sistemas automatizados, salvo la Ley gallega sobre la incorporación de sistemas de IA. En este caso, tras la habilitación reglamentaria que exige la norma, la implementación requiere un <<Proyecto de IA>> (que ha de responder, a su vez, a un Programa sectorial y a la más general Estrategia de IA autonómica) que debe definir el sistema y los criterios a seguir para su elaboración. La subsiguiente aprobación es condición para pasar a las fases de diseño, desarrollo o adquisición. Etapas que, acompañadas de un preceptivo plan de gestión de datos, permitirán finalmente el entrenamiento y la activación del sistema(59). En cambio, la normativa asturiana concede un espacio central en el proceso de implantación de los sistemas de IA a su prueba en entornos controlados, cuyos resultados han de plasmarse en un informe sometido a trámite de audiencia(60).

Hallamos otras exigencias más puntuales previas a la adopción de los sistemas. En algunos casos, se requiere una regulación de las condiciones a las que se habrá de ajustar el software, la justificación de la conveniencia y las finalidades de su implantación, la concreción de determinaciones para su diseño o sobre los métodos y datos de entrenamiento, se contemplan informes y validaciones técnicas de los órganos competentes en materia tecnológica, evaluaciones de impacto –según trataremos después–, estudios previos desde el punto de vista de la simplificación administrativa o el cumplimiento de las prescripciones del art. 41.2 LRJSP.

IV. JUICIO DE OPORTUNIDAD SOBRE LA AUTOMATIZACIÓN

Abordado el marco formal de la decisión con sus constricciones regladas, corresponde atender a su núcleo discrecional y, como tal, a sus demandas de motivación. Consideramos que esta justificación, sea en acto singular o en disposición reglamentaria, habría de abarcar un doble criterio de necesidad y de proporcionalidad sobre la automatización y el tipo de modelo a implantar(61). Para su análisis hemos de recuperar la disección del juicio discrecional de automatizar que fluye, en dos pasos, desde la volición (con elementos de cognición) hacia la cognición (con elementos volitivos).

1. La necesidad de automatizar

Dijimos que el primer estadio de valoración, que atañe a la inicial vocación de automatizar, se presenta como caso de discrecionalidad de acción y ampliamente conformadora, espacio en el que la Administración goza de capacidades de realización intensas y poco encorsetadas normativamente o, al menos, prefiguradas con laxitud. Se trata de un contexto de decisión inclinado hacia consideraciones volitivas que, en nuestro caso, se expresan en primer término como mera consideración (o no) de la posibilidad de automatizar un proceso administrativo.

Toda decisión discrecional reclama una ponderación entre alternativas diversas para la consecución de un resultado. Como hemos aclarado supra, no se trata de una decisión libre en el sentido de una aptitud de elección subjetiva e incondicionada, sino de una verdadera valoración en clave de fines y medios. Ha de admitirse, sin embargo, que, en casos de discrecionalidad poco acotada, la amplitud tolerada para efectuar esa ponderación expande las posibilidades de razonamiento en favor de una solución u otra. Como en el juicio de oportunidad de automatizar, la ponderación se trasladará al nivel de los principios que hayan de inspirar la decisión. Compartimos el criterio de que los principios constitucionales sobre la actuación administrativa de los arts. 103.1 y 31.2 CE <<constituyen mandatos de optimización, que ordenan a los poderes públicos la realización de ciertos valores en la mayor medida de lo posible, habida cuenta de las limitaciones fácticas y jurídicas existentes>>(62). Hemos de advertir, no obstante, que esa optimización de la actuación pública no debería leerse solo desde una eficiencia entendida en un sentido económico-crematístico: a aquellos criterios hay que sumar, en el mismo nivel axial, los imperativos del art. 9.2 CE y los principios rectores del Capítulo III del Título I, que pueden actuar en sentido opuesto a la pura eficiencia presupuestaria, por ejemplo, por motivos de sostenibilidad ambiental que impliquen atender a las externalidades negativas de una decisión; y también los principios acogidos con carácter transversal en la legislación ordinaria básica (art. 3 LRJSP), donde se reiteran los previstos a nivel constitucional junto con otros de adopción legal.

En ese elenco de axiomas hay intereses diversos cuya satisfacción puede ser ambivalente en el esfuerzo de automatización: eficacia, eficiencia, racionalización y agilidad; pero también participación, transparencia y control de la gestión, así como objetividad, economía y responsabilidad, que pueden ofrecerse como finalidades en conflicto ante la posibilidad de implantación de un sistema algorítmico.

Además, en la valoración inicial sobre la oportunidad de automatizar han de integrarse consideraciones, menos regladas, sobre la conveniencia de preservar reservas de humanidad en ciertos ámbitos de acción administrativa, o de valoración apriorística sobre problemas de cumplimiento con las exigencias de igualdad y no discriminación, que la LIND proyecta también sobre el sector público(63). Dificultades que pueden proceder de la calidad de los datos disponibles, de su carácter sensible o de la complejidad de las decisiones a adoptar, entre otros factores. Emerge aquí, también, la posible aplicación del principio de precaución en materia algorítmica como criterio obstativo en situaciones de incertidumbre valorativa(64).

En fin, en esta ponderación inicial se identifica un núcleo volitivo que limita las posibilidades de control de la discrecionalidad, pero no las excluye. De acuerdo con el imperativo de optimización, en este primer estadio la afirmación de la voluntad de automatizar debería motivarse, propiamente, como necesidad de automatización de un cierto proceso a la luz de determinados intereses. Dados los costes jurídicos inherentes a toda automatización, pero en especial en la asunción de modelos de IA, esa motivación habría de referir la imposibilidad de consecución de aquellos a través de actuaciones no automatizadas.

Que el juicio deba concluir la necesidad de la automatización no autoriza a considerar en general, al menos a la luz de la norma básica, que la Administración tenga la obligación de considerar esa opción(65). En ausencia de prescripción normativa, el carácter conformador, esencialmente volitivo, de esta primera valoración proyecta la automatización como una posibilidad. Esa presunta obligación no puede deducirse sin más de los principios de eficacia y eficiencia pues, como dijimos, hay otros principios que pueden operar en sentido contrario. Entre los márgenes de no considerar la automatización y afirmar su necesidad se mueve este paso discrecional, sustanciado en la preponderancia de unos u otros de los principios concurrentes.

Ahora bien, esas consideraciones generales o apriorísticas deben matizarse atendiendo a las normativas autonómicas que han considerado, sucesivamente, la implantación de actuaciones administrativas automatizadas y de sistemas de IA. En primer lugar, en ellas son frecuentes los compromisos generales con un <<impulso de automatizar>>, es decir, postulados favorables a la automatización y la implantación de la IA, aunque sean compensados después según tipos de actividad administrativa, valoraciones y requisitos a verificar.

En segundo lugar, las normas reiteran los principios básicos de la actuación administrativa y los concretan, ahora, como finalidades de la automatización: apelan, de forma variopinta, a cumplir por vía algorítmica imperativos de eficacia y eficiencia, economía, simplificación, celeridad, buena administración, innovación responsable, así como la mejora de los servicios públicos, de la atención a la ciudadanía y de la actividad de las personas empleadas públicas. Hallamos puntualmente alusiones al principio de sostenibilidad como criterio que habría de inspirar el uso de sistemas algorítmicos(66). Tales principios deberán integrarse, en cada caso, en el ejercicio de ponderación que reclama el juicio discrecional inicial sobre la conveniencia de emprender la automatización.

En tercer término, los criterios de <<oportunidad>> y <<necesidad>> de automatizar encuentran anclaje concreto en las normas autonómicas, sea como elemento justificativo de la oportunidad de automatizar(67), como exigencia de identificación previa de necesidades a satisfacer con la automatización(68) o, más generalmente, como obligación de considerar el tipo de procedimiento en cuestión o el grado de automatización conveniente en atención a sus efectos e impactos jurídicos(69).

2. La proporcionalidad del sistema algorítmico

El segundo paso del juicio discrecional apunta a la selección del sistema que soportará la automatización del proceso. Se trata, según vimos, de una decisión de discrecionalidad electiva que inclina la regla de juicio hacia la cognición de los factores concurrentes. La valoración es ahora más circunscrita y, proponemos, ha de apelar a una motivación en términos de proporcionalidad entre los fines perseguidos y el modelo algorítmico considerado: según sus virtudes para alcanzarlos de manera adecuada (que puede expresarse como fiabilidad)(70); pero también atendiendo a los costes asociados a los riesgos que exhiba, que dependen, en esencia, del grado de automatización que implique(71), del contexto de aplicación, de la complejidad del modelo y de la calidad de los datos disponibles. Una vez asumida la conveniencia de automatizar, la disyuntiva consiste ahora en optar por sistemas de reglas predefinidos o modelos de IA en sus distintas variantes de complejidad según los volúmenes de datos implicados, los tipos de entrenamiento, el grado de inteligibilidad de sus procesos y el tamaño de los procesamientos requeridos en cada ejecución del sistema. En esta consideración tecnológica habrá de valorarse, así mismo, la conveniencia de optar por sistemas generativos basados en modelos extensos de lenguaje (LLMs), especialmente costosos en términos de consumos y de intelección de su lógica.

En las normas autonómicas hay elementos dispersos para concretar esta segunda parte de la decisión discrecional. Encontramos, en primer término, advertencias sobre la necesidad de atender a las tecnologías disponibles. Esta atención al estado de la técnica no debería leerse como habilitación para condicionar las exigencias legales sobre el uso de sistemas algorítmicos. La proporcionalidad que postulamos no se refiere a una interpretación <<razonable>> de las obligaciones normativas a la luz de las tecnologías disponibles(72) sino, al contrario, a la elección del sistema más conveniente entre aquellos asequibles para cumplir con tales obligaciones(73), descartando la automatización en caso de imposibilidad de satisfacer esas exigencias. La afirmación más taxativa del principio se encuentra, todavía como iniciativa, en el Anteproyecto de Ley madrileño, según el cual la IA empleada en el sector público <<debe ser proporcional y no ir más allá de lo necesario para lograr fines u objetivos legítimos que persigue, y debe ser adecuada al contexto en el que se plantea>> (art. 20.i).

Muchas de las disposiciones autonómicas abundan en criterios que han de satisfacer los sistemas algorítmicos que sostengan la automatización administrativa. Unos son de índole esencialmente tecnológica: exigencias de neutralidad, de calidad de los datos sobre los que se erijan los modelos y su procesamiento, de accesibilidad o universalidad, de fiabilidad, integridad, veracidad, seguridad y calidad, de auditabilidad, trazabilidad y claridad; y otros son de carácter fundamentalmente jurídico, proyectando condicionantes sobre la configuración técnica de los sistemas: requerimientos de indemnidad hacia los criterios jurídicos ordinarios, de privacidad, de prevención y protección a la ciudadanía, de salvaguarda de los derechos fundamentales y no discriminación, de preservación de la autonomía humana, exigencias de motivación comprensible, de explicabilidad y, en general, exigencias de confiabilidad de los sistemas.

La valoración de esos extremos conduce a evaluar ex ante los sistemas cuya implantación se proyecte como medio de automatización. Esa consideración previa al despliegue puede sustanciarse como evaluación de conformidad normativa, de impacto algorítmico en distintos campos o como análisis de los riesgos que exhiba el sistema. En definitiva, del mismo modo que se han acogido deberes de valoración previa sobre las iniciativas normativas como criterio de buena regulación (art. 129 LPAC), se trata de evaluar el propósito de la automatización y las medidas más adecuadas para lograrlo. Un requisito que puede configurarse, además, como oportunidad para un proceso tecnológico debido en el despliegue de la automatización(74). Las regulaciones vigentes sobre actuación administrativa automatizada o, en general, sobre sistemas de IA, imponen consideraciones sobre los sistemas que pueden sostener este segundo paso del juicio discrecional, relativo a la proporcionalidad entre medios y fines. Se trata de calibrar anticipadamente los riesgos e impactos previsibles en distintos órdenes.

Si atendemos a la normativa estatal de aplicación general, dos de las exigencias de responsabilización sobre los sistemas algorítmicos que enuncia el art. 41.2 LRJSP dan opción a formalizar una evaluación previa de las características del sistema: habla el precepto de los órganos responsables para la <<definición de las especificaciones>> y la <<supervisión y control de calidad>> de los sistemas. La <<auditoría>> que refiere la disposición, en cambio, apunta más bien a la rendición de cuentas tras el despliegue(75). Más circunscrito es el art. 23.1 LIND al reclamar evaluación de impacto que determine el posible sesgo discriminatorio de los algoritmos decisorios que la Administración vaya a utilizar.

Si nos ceñimos a los sistemas de IA, el RIA contempla tres formas de valoración ex ante de aquellos que sean calificados de alto riesgo: evaluación de conformidad [arts. 16.f), 17 y 43], evaluación de riesgos (art. 9) y evaluación de impacto sobre los derechos fundamentales (art. 27), en los casos y bajo las condiciones especificados en cada cual. La primera se concibe como evaluación de conformidad con las exigencias del Reglamento según el tipo de sistema. En la mayoría de los casos en los que la Administración lo adquiera de un tercero, esa valoración será tarea del proveedor (según los casos enumerados en el Anexo VII RIA)(76), operando, por lo tanto, como una suerte de normalización privada previa al trámite de su implantación administrativa(77). Solo en los supuestos de desarrollos in house, y también en los casos del Anexo VI, será la propia Administración la que opere la evaluación de conformidad, pudiendo comprenderse un paso inicial en el juicio sobre la adecuación del sistema. En cambio, las evaluaciones de riesgos (como proceso iterativo en todo el ciclo de vida del sistema) y de impacto iusfundamental sí se sitúan en el espacio de acción del responsable del despliegue y operan con una lógica preventiva, para cualquier sistema de alto riesgo en el primer caso, o en supuestos determinados en el segundo.

Si atendemos a la normación estatal de la IA en España, el Capítulo IV del Proyecto de Ley Orgánica para el buen uso y la gobernanza de aquella (<<Buen uso de la IA en el sector público estatal>>) especifica las labores de evaluación de impacto requeridas por el RIA en el seno de entidades públicas estatales (art. 12.8). Y la AESIA, como organismo supervisor general de la IA en España, ha sido armada con competencias referidas a las evaluaciones preventivas de los sistemas, con relación a posibles sesgos discriminatorios [art. 10.1.c) RD 729/2023, en conexión con el citado art. 23.1 LIND] y de informe previo sobre los sistemas que pretendan utilizar las Administraciones Públicas [art. 25.b) del citado RD].

Ha de advertirse, además, que la Carta de Derechos Digitales publicada por el Gobierno en 2021 (como instrumento de soft law), en su Sección XVIII dedicada a los <<Derechos digitales de la ciudadanía en sus relaciones con las Administraciones Públicas>>, considera necesaria una evaluación de impacto sobre los propios derechos digitales reconocidos por la Carta, en el diseño de los algoritmos (no solo de IA) con trascendencia decisoria pública (ap. 7).

En los ordenamientos autonómicos existen tratamientos diversos de los análisis ex ante. Para los sistemas de IA hay previsión de evaluaciones de impacto, algunas comprendidas como valoraciones de riesgos de amplio espectro(78) o como método para clasificar los sistemas por niveles de riesgo(79); en otros casos se contempla la evaluación de los métodos de entrenamiento propuestos(80) y una evaluación propia de conformidad normativa y ética, así como de identificación de posibles sesgos(81).

Este elenco de evaluaciones previas, incluidas en las nuevas normas sobre IA, eleva la exigencia respecto a los habituales informes sobre la funcionalidad y la seguridad de los sistemas contemplados en las disposiciones anteriores sobre actuación administrativa automatizada(82).

Cabe plantearse qué función han de cumplir aquellas valoraciones en el juicio discrecional sobre la automatización, en la cuita sobre lo proporcional del tipo de sistema algorítmico considerado. El grado de proporcionalidad entre los fines asumidos y los costes aparejados al sistema no puede evaluarse a través de análisis de impacto sectoriales o restringidos (por ejemplo, en clave de protección de datos o impacto iusfundamental) ni, simplemente, con validaciones de conformidad normativa. Como se ha propuesto mediante modelos de evaluación complejos de los sistemas algorítmicos, el análisis ha de ser multidimensional abarcando criterios tanto jurídicos como sociales y ambientales(83).

No en vano, este concepto integrador de la evaluación ha comenzado a tener reflejo positivo, siquiera puntual, en la regulación autonómica sobre la incorporación de la IA al sector público. La Ley gallega y el Anteproyecto de Ley madrileño comprenden la evaluación previa, de forma pareja, como una valoración de riesgos multidimensional que atañe a la efectividad del sistema y su seguridad, pero también a su demanda de recursos y costes económicos, a su impacto organizativo, social y ambiental(84). Esta faceta de sostenibilidad ambiental no puede ser obviada en la valoración de la proporcionalidad del sistema en términos de los volúmenes de los procesamientos requeridos: la complejidad de los modelos afecta en el plano jurídico en términos de opacidad y, del mismo modo, en el plano material como demanda de recursos en las labores de entrenamiento y posterior ejecución de cada consulta(85). De hecho, el imperativo de la sostenibilidad ambiental en el desarrollo y uso de la IA está ya presente en las disposiciones autonómicas y en las atribuciones de la AESIA, en el marco de sus funciones de impulso de la IA(86).

Por último, ha de atenderse al efecto que puedan tener las evaluaciones previas de los sistemas sobre la decisión de automatizar. En general, estas valoraciones se conciben como medidas preventivas, orientadas a la identificación y contención de riesgos mediante correcciones o adaptaciones en el sistema(87). Sin embargo, en hipótesis, deberían posibilitar la oposición a la implantación del sistema en caso de apreciación de riesgos inasumibles(88). La normativa autonómica que regula la implantación de sistemas de IA comprende las evaluaciones ex ante como mecanismos de mitigación de efectos indeseados, en sintonía con la lógica del RIA que, tras la adopción de las medidas de gestión oportunas, considera aceptables los riesgos residuales asociados a cada peligro y al sistema evaluado en sí (art. 9.5 RIA). Solo en el caso gallego se impone, además, la valoración de veto al sistema en caso de que una evaluación de impacto revele la posible causación de daños <<de muy difícil reparación a las personas, la sociedad o el medio ambiente>>(89). Bajo un uso impropio del concepto de precaución –pues, habiendo riesgos identificados, el abandono del sistema sigue siendo una medida preventiva– la norma apela a la ponderación entre las ventajas de uso del sistema o las desventajas de su no utilización, y los eventuales daños vislumbrados. Es decir, reclama un genuino juicio de proporcionalidad. Aunque esta previsión normativa sea puntual, toda regulación de evaluaciones previas habría de entenderse habilitante, en su caso, de esta solución obstativa.

V. CONCLUSIÓN: HACIA UN PRINCIPIO DE MINIMIZACIÓN ALGORÍTMICA

La escasa atención que el legislador básico presta a la decisión de automatizar la actuación administrativa, y su parco tratamiento doctrinal, contrastan con su presencia creciente en las disposiciones autonómicas que norman el uso de sistemas algorítmicos en el sector público. Se trata, empero, de una regulación heterogénea que se proyecta sobre los sistemas de IA o algorítmicos en general, con notables diferencias en su nivel de detalle y calidad regulativa. Con esos elementos positivos dispersos, hilvanados con ciertas consideraciones dogmáticas, hemos tratado de definir algunos criterios sobre los que formalizar aquella decisión de automatizar. Será, típicamente (en ausencia de mandato normativo previo) un juicio administrativo discrecional, si bien amplio, acotado por elementos reglados y teleológicamente orientado. La delimitación de ese juicio debería encontrar acomodo en la regulación básica sobre la actuación administrativa automatizada.

La valoración en dos pasos que proponemos, sobre la necesidad y la proporcionalidad de la automatización planeada, tiene amparo en algunas de las normas autonómicas estudiadas, pero, además, correlaciona con los principios comunes de buena regulación del art. 129 LPAC (apartados 2 y 3) y con las crecientes exigencias de evaluación ex ante de impacto normativo(90). Esta proyección no es baladí: como hemos sostenido, la incorporación de un sistema algorítmico decisorio en la acción administrativa norma el procedimiento en que se inserta. La trascendencia regulativa de la decisión de automatizar reclama su formalización en sede normativa y, además, una motivación del juicio discrecional que contiene en esos términos de necesidad y proporcionalidad. Tales elementos de juicio, sucesivamente valorativos y cognitivos, constriñen la libertad decisoria de la Administración para automatizar los procesos de decisión y elegir la tecnología apropiada. Ello, considerando los fines perseguidos, los costes y los impactos (jurídicos, sociales, ambientales) inherentes, en distintos grados, a la adopción de tecnologías epistémicas. La reflexión sobre la necesidad de cimentar la decisión de automatizar pretende adecuar aquellos principios de buena regulación al caso de la transformación algorítmica de los procedimientos.

De esa doble constricción –de necesidad y proporcionalidad– sugerimos deducir ahora, a modo de corolario, un principio de <<minimización algorítmica>> en la automatización administrativa(91). Un axioma que operaría de forma análoga al de minimización de datos definido en el art. 5.1.c) RGPD: si este impone la adecuación, la pertinencia y la limitación según los fines en los tratamientos de datos personales, la minimización algorítmica proscribe sobreprocesamientos innecesarios para una finalidad dada. No se trata de excluir la posibilidad de automatizar los procesos ni la incorporación de sistemas de IA (la minimización no es un postulado, valga la expresión, de ludismo jurídico), sino de contener los costes e impactos de las tecnologías normativas. Se trata de evitar automatizaciones superfluas o excesivas por innecesarias o inconvenientes y, también, de impedir la incorporación por defecto de tecnologías opacas, difícilmente controlables o con elevados costes materiales (como los modelos LLM que sostienen la IA generativa), si los peajes que conllevan no están compensados por sus beneficios según el contexto de uso, y por las medidas de mitigación disponibles.

El principio ya asentado de minimización de datos debería incidir en la adopción de sistemas de IA, desde el punto de vista de los procesamientos de datos personales que requieren. Así lo propone expresamente el Anteproyecto de Ley de Administración Digital e IA madrileño, al postular que el uso de sistemas de IA por la Administración autonómica se rija <<por el principio de minimización, de forma que únicamente se utilicen los datos estrictamente necesarios para la finalidad perseguida, tanto en las fases de entrenamiento como de funcionamiento del sistema ()>> [art. 20.e)]. Esta restricción incidirá en el volumen de los procesamientos admisibles. Sin embargo, la minimización algorítmica trasciende la consideración de los datos para alcanzar el tipo de tecnología empleada –lo que puede cuestionar el uso de un sistema de IA o de ciertas variantes de esta– y la propia iniciativa de automatizar –cuestionando la oportunidad de transformar una decisión por vía algorítmica, dada la finalidad concurrente o los impactos de las tecnologías disponibles para operarla–.

El principio de minimización debería fungir, en fin, como horizonte del juicio discrecional de automatizar la actuación administrativa.

BIBLIOGRAFÍA

Agencia Española de Protección de Datos, Política general para el uso de IA generativa en procesos administrativos de la AEPD, Madrid, 2025.

Alvarado, R., <<AI as an Epistemic Technology>>, Science and Engineering Ethics, vol. 29, article number 32, 2023.

Álvarez García, V. y Tahirí Moreno, J., <<La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque>>, Revista General de Derecho Administrativo, n.º 63, 2023, pp. 1-56.

Atienza, M. y Ruiz Manero, J., Las piezas del Derecho. Una teoría de los enunciados jurídicos, Ariel, Barcelona, 1996.

Bacigalupo Sagesse, M., La discrecionalidad administrativa (estructura normativa, control judicial y límites constitucionales de su atribución), Marcial Pons, Madrid, 1997.

Bacigalupo Sagesse, M., <<Lección 5. La vinculación de la Administración Pública a la Ley y al Derecho>>, en Velasco Caballero, F. y Darnaculleta Gardella, M.M. (dirs.), Manual de Derecho administrativo, 3.ª ed., Marcial Pons, Madrid, 2025, pp. 141-160.

Barrachina Navarro, G. y Boix Palop, A., <<La aplicabilidad del Reglamento de inteligencia artificial al ámbito de la Administración pública y servicios públicos y especialidades respecto de su cumplimiento: Especial atención a Anexo III y actuación administrativa y particularidades cumplimiento>>, en Cotino Hueso, L. y Simón Castellano, P. (dirs.), Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Aranzadi, Las Rozas, 2024, pp. 351-371.

Boix Palop, A., <<Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por las Administraciones para la adopción de decisiones>>, Revista de Derecho Público: Teoría y Método, vol. 1, 2020, pp. 223-270.

Boix Palop, A., <<El empleo opaco de IA o algoritmos por los poderes públicos es contrario al Estado de Derecho>>, Eunomía. Revista en Cultura de la Legalidad, n.º 30, 2026, pp. 389-408.

Bolón-Canedo, V., Morán-Fernández, L., Cancela, B. y Alonso-Betanzos, A., <<A review of green artificial intelligence: Towards a more sustainable future>>, Neurocomputing, vol. 599, 2024.

Cabañate Pérez, J., <<Auditoria i control dels sistemes d’intel·ligència artificial d’alt risc al sector públic>>, Revista Catalana de Dret Públic, n.º 71, 2025, pp. 48-67.

Cassagne, J.C., <<La discrecionalidad administrativa>>, La Ley, 8-9-2008 (TR La Ley AR/DOC/2445/2008).

Cerrillo Martínez, A., <<¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?>>, European Review of Digital Administration & Law – Erdal, vol. 1, n.º 1-2, 2020, pp. 18-36.

Cerrillo Martínez, A., <<Lección 21. Actuación automatizada, robotizada e inteligente>>, en Velasco Caballero, F. y Darnaculleta Gardella, M.M. (dirs.), Manual de Derecho administrativo, 3.ª ed., Marcial Pons, Madrid, 2025, pp. 525-541.

Cotino Hueso, L., <<Los usos de la inteligencia artificial en el sector público, su variable impacto y categorización jurídica>>, Revista Canaria de Administración Pública, n.º 1, 2023, pp. 211-242.

Cotino Hueso, L., <<¿Cuándo ‘no es no’? Criterios para definir los sistemas de inteligencia artificial prohibidos en la Unión Europea>>, Revista General de Derecho Administrativo, n.º 69, 2025, pp. 1-24.

Desdentado Daroca, E., Discrecionalidad Administrativa y Planeamiento Urbanístico. Construcción teórica y análisis jurisprudencial, Aranzadi, Elcano, 1999.

Doménech Pascual, G., <<La estructura del control de la discrecionalidad>>, Revista de Derecho Público: Teoría y Método, vol. 9, 2024, pp. 7-38.

Dworkin, R., Los derechos en serio, trad. M. Guastavino, Ariel, Barcelona, 1989.

Ellul, J., La edad de la técnica, Octaedro, Barcelona, 2003.

Galligan, D.J., Discretionary Powers. A Legal Study of Official Discretion, Clarendon, Sheffield, 1990.

García de Enterría, E. y Fernández, T.R., Curso de Derecho Administrativo I, 8.ª ed., Civitas, Madrid, 1997.

Gamero Casado, E., <<Sistemas automatizados de toma de decisiones en el Derecho Administrativo español>>, Revista General de Derecho Administrativo, n.º 63, 2023, pp. 1-18.

Gutiérrez David, M.E. y Quintana Cortés, J.L., <<Public Procurement of AI for the EU Healthcare Systems. First Insights from the Spanish Experience>>, European Review of Digital Administration & Law, vol. 4, n.º 1, 2023, pp. 87-139.

Laus, F., <<Organizzazione amministrativa e gestione del rischio nei sistemi di intelligenza artificiale>>, en Cerrillo i Martínez, A., Di Lascio, F., Martín Delgado, I. y Velasco Rico, C.I. (dirs.), Inteligencia artificial y Administraciones Públicas: una triple visión en clave comparada, Iustel, Madrid, 2024, pp. 89-98.

Lifante Vidal, I., <<Dos conceptos de discrecionalidad jurídica>>, Doxa. Cuadernos de Filosofía del Derecho, n.º 25, 2002, pp. 413-439.

Mantelero, A., Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, T.M.C. Asser Press y Springer, La Haya, 2022.

Martín Delgado, I., <<Automation, Artificial Intelligence and Sound Administration. A Few Insights in the Light of the Spanish Legal System>>, European Review of Digital Administration & Law, vol. 3, n.º 1, 2022, pp. 9-30.

Martín Delgado, I., <<La aplicación del principio de transparencia a la actividad administrativa algorítmica>>, en Gamero Casado, E. (dir.) y Pérez Guerrero, F.L. (coord.), Inteligencia artificial y sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023, pp. 131-194.

Mir Puigpelat, O., <<La automatización y el uso de algoritmos e inteligencia artificial en Derecho Administrativo comparado>>, Revista General de Derecho Administrativo, n.º 63, 2023, pp. 1-9.

Palma Ortigosa, A., <<La evaluación de la conformidad en el diseño y producción de sistemas basados en inteligencia artificial en el contexto del 'Nuevo Marco Legislativo'>>, en Cotino Hueso, L. y Simón Castellano, P. (dirs.), Tratado sobre el Reglamento de inteligencia artificial de la Unión Europea, Aranzadi, Las Rozas, 2024, pp. 427-446.

Palomar Olmeda, A., <<Gestión electrónica de los procedimientos>>, en Gamero Casado, E. y Valero Torrijos, J. (coords.), Ley de administración electrónica: comentario sistemático a la Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los servicios públicos, 2.ª ed., Aranzadi Thompson Reuters, Cizur Menor, 2009, pp. 439-487.

Ponce Solé, J., <<Inteligencia artificial, Derecho Administrativo y reserva de humanidad: algoritmos y procedimiento debido tecnológico>>, Revista General de Derecho Administrativo, n.º 50, 2019, pp. 1-52.

Reisman, D., Schultz, J., Crawford, K. y Whittaker, M., Algorithmic Impact Assessments: A Practical Framework for Public Agency Accountability, AI Now, 2018. Disponible en: ENLACE [última consulta: 21-4-2026]

San Martín Segura, D., <<The quantification of behavioural forecast in administrative legal practice: the algorithmic risk assessment of the ETIAS>>, Federalismi.it. Rivista di Diritto pubblico italiano, comparato, europeo, n.º 3/2025, pp. 564-606.

Sánchez Morón, M., Discrecionalidad administrativa y control judicial, Tecnos, Madrid, 1994.

Simón Castellano, P., <<L’avaluació d’impacte en el drets fonamentals de l’ús d’intel·ligència artificial en el sector públic: models i metodologies en perspectiva comparada>>, Revista catalana de dret públic, n.º 71, 2025, pp. 4-24.

Soriano Arnanz, A., <<Decisiones automatizadas: problemas y soluciones más allá de la protección de datos>>, Revista de Derecho Público: Teoría y Método, vol. 3, 2021, pp. 85-127.

Tahirí Moreno, J.A., <<La actuación administrativa algorítmica: una propuesta doctrinal desde la dogmática de la acción administrativa y la teoría general de los actos>>, Revista de Derecho Público: Teoría y Método, vol. 12, 2025, pp. 85-117.

Valdivia, J.M., Manual de Derecho Administrativo, Tirant lo Blanch, Valencia, 2018.

Valero Torrijos, J., <<Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración>>, Revista catalana de dret públic, n.º 58, 2019, pp. 82-96.

Velasco Rico, C.I., <<Implementación de sistemas algorítmicos en el sector público, preferencias ciudadanas y obligaciones de transparencia a la luz del Reglamento de IA de la Unión Europea>>, en Cerrillo Martínez, A., Di Lascio, F., Martín Delgado, I. y Velasco Rico, C.I. (dirs.), Inteligencia artificial y Administraciones Públicas: una triple visión en clave comparada, Iustel, Madrid, 2024, pp. 47-70.

NOTAS:

(*). Este trabajo se enmarca en el proyecto <<Los retos de la inteligencia artificial para el Estado social y democrático de Derecho>> (PID2022-136548NB-I00), financiado por la Agencia Estatal de Investigación.

(1). Han considerado la naturaleza y las posibilidades de formalización de esa decisión de automatizar: Valero Torrijos, J., <<Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración>>, Revista catalana de dret públic, n.º 58, 2019, pp. 86-89; Palomar Olmeda, A., <<Gestión electrónica de los procedimientos>>, en Gamero Casado, E. y Valero Torrijos, J. (coords.), Ley de administración electrónica: comentario sistemático a la Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los servicios públicos, 2.ª ed., Aranzadi Thompson Reuters, Cizur Menor, 2009, pp. 464 y ss. De forma más escueta: Gamero Casado, E., <<Sistemas automatizados de toma de decisiones en el Derecho Administrativo español>>, Revista General de Derecho Administrativo, n.º 63, 2023, pp. 5-7; Mir Puigpelat, O., <<La automatización y el uso de algoritmos e inteligencia artificial en Derecho Administrativo comparado>>, Revista General de Derecho Administrativo, n.º 63, 2023, p. 6; Boix Palop, A., <<Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por las Administraciones para la adopción de decisiones>>, Revista de Derecho Público: Teoría y Método, vol. 1, 2020, p. 250.

(2). Advertía Ellul sobre ese automatismo de lo técnico como <<el resultado de que la orientación y la elección técnica se efectúan por sí solas; () es la técnica la que elige ipso facto, sin remisión, sin discusión posible entre los medios que se pueden utilizar>>. Ellul, J., La edad de la técnica, Octaedro, Barcelona, 2003, p. 86.

(3). Como sintetiza Soriano Arnanz, ciertos inconvenientes del uso de sistemas algorítmicos se agravan en el caso de su adopción por los poderes públicos por las mayores exigencias de transparencia y justificación de las decisiones, y por la <<externalización de funciones públicas>> que implica la automatización basada en modelos desarrollados por actores privados (Soriano Arnanz, A., <<Decisiones automatizadas: problemas y soluciones más allá de la protección de datos>>, Revista de Derecho Público: Teoría y Método, vol. 3, 2021, pp. 101-104).

(4). Boix Palop, <<Los algoritmos>>, op. cit.

(5). Cerrillo Martínez, A., <<Lección 21. Actuación automatizada, robotizada e inteligente>>, en Velasco Caballero, F. y Darnaculleta Gardella, M.M. (dirs.), Manual de Derecho administrativo, 3.ª ed., Marcial Pons, Madrid, 2025, p. 526.

(6). Gamero Casado, op. cit., p. 5.

(7). Sentencia del Tribunal de Justicia de la UE (Sala Primera) de 7 de diciembre de 2023, OQ c. Land Hessen (con intervención de SCHUFA Holding AG), asunto C-634/21, ECLI:EU:C:2023:957. La aplicación de esta doctrina ha de ser analógica, ya que el argumento del Tribunal se refiere al concepto de decisión individual automatizada a los efectos de la aplicación del art. 22 del Reglamento General de Protección de Datos [Reglamento (UE) 2016/679, de 27 de abril, RGPD] y alude a un caso de elaboración de perfiles por parte de actores privados. Es relevante, sin embargo, que el Tribunal considera los tratamientos como decisiones automatizadas cuando el criterio finalmente adoptado <<dependa de manera determinante>> del valor de salida de un sistema algorítmico (§§40-47 y 73).

(8). Alvarado, R., <<AI as an Epistemic Technology>>, Science and Engineering Ethics, vol. 29, article number 32, 2023.

(9). El problema se ha manifestado en el <<caso Bosco>>, sistema algorítmico de reglas adoptado para la tramitación automatizada del bono social eléctrico, conforme al RD 897/2017, de 6 de octubre, por el que se regula la figura del consumidor vulnerable, el bono social y otras medidas de protección para los consumidores domésticos de energía eléctrica. Las sentencias que han enjuiciado el ejercicio del derecho de acceso a la información pública sobre el código fuente del software han sostenido su condición meramente auxiliar, por limitarse a replicar la regulación de la norma ordinaria contenida en el RD [Sentencia del Juzgado Central de lo Contencioso-administrativo (Sec. 8) 143/2021, de 30 de diciembre de 2021 (ECLI:ES:AN:2021:5863), FD 3.º; Sentencia de la Audiencia Nacional (Sala de lo Contencioso) de 30 de abril de 2024 (ECLI:ES:AN:2024:2013), FJ 3.º; Sentencia del Tribunal Supremo (Sala 3.ª) 1119/2025, de 11 de septiembre de 2025 (ECLI:ES:TS:2025:3826), FD 7.º]. En cambio, desde la perspectiva de la aplicación del art. 22 RGPD sobre el tratamiento de datos personales para la elaboración de perfiles automatizados, y en aplicación de la doctrina SCHUFA, la AEPD ha afirmado el carácter decisorio del sistema [Resolución de procedimiento sancionador de 6 de noviembre de 2024 (EXP202211982), FD IV, en especial §§3.2.1 a 3.2.3, pp. 77-80]. Boix Palop ha criticado recientemente aquella <<constante huida de la Administración hacia la ficción de la ‘mera herramienta de apoyo’>> (Boix Palop, A., <<El empleo opaco de IA o algoritmos por los poderes públicos es contrario al Estado de Derecho>>, Eunomía. Revista en Cultura de la Legalidad, n.º 30, 2026, p. 404).

(10). Este era el criterio enunciado en el art. 5.2 del derogado Decreto 263/1996, de 16 de febrero, por el que se regula la utilización de técnicas electrónicas, informáticas y telemáticas por la Administración General del Estado. Sigue vigente la misma expresión, al menos, en el art. 2.5 de la Ley Foral 11/2007, de 4 de abril, para la implantación de la Administración electrónica de la Comunidad Foral de Navarra.

(11). Así lo requiere ya la Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia, entre los criterios de transparencia sobre los sistemas de IA que desarrolle o emplee la Administración autonómica y su sector público: habrán de indicarse los procedimientos administrativos en los que se emplean y, entre otros aspectos, <<el impacto de sus resultados>> en aquellos, <<en especial si son o no directamente decisorios de los mismos>> (art. 8.2).

(12). Sobre la relevancia de su uso en actuaciones informales y la necesidad de redefinir el concepto (estrictamente procedimental) de actuación administrativa automatizada, véase Tahirí Moreno, J.A., <<La actuación administrativa algorítmica: una propuesta doctrinal desde la dogmática de la acción administrativa y la teoría general de los actos>>, Revista de Derecho Público: Teoría y Método, vol. 12, 2025, pp. 94-99.

(13). Gamero Casado (op. cit., p. 6) ha señalado, como previsión de automatización en norma con rango de ley, el art. 53.1 del RD legislativo 5/2000, de 4 de agosto, texto refundido de la Ley sobre Infracciones y Sanciones en el Orden Social, en redacción dada por la disposición final cuarta del RD-ley 2/2021, de 26 de enero. Sin embargo, en lo que importa para nuestro argumento, el precepto no constituye un mandato de automatización, sino una regulación del contenido necesario de las actas de infracción <<extendidas en el marco de actuaciones administrativas automatizadas>>. Sigue contemplando, por lo tanto, una opción de automatización.

(14). Así sucede en la regulación del Sistema de autorización e información de viajes (ETIAS) y del Sistema de Visados (VIS) en materia de gestión de las fronteras exteriores. En ambos casos se configuran sistemas algorítmicos de profiling en sendos Reglamentos del Consejo y de la Comisión: Reglamento (UE) 2018/1240, de 12 de septiembre de 2018, por el que se establece un Sistema Europeo de Información y Autorización de Viajes, art. 33; Reglamento (CE) 767/2008, de 9 de julio de 2008, sobre el Sistema de Información de Visados [conforme a su modificación por Reglamento (UE) 2021/1134, de 7 de julio de 2021], art. 18ter. Hemos atendido a la configuración de estos sistemas en San Martín Segura, D., <<The quantification of behavioural forecast in administrative legal practice: the algorithmic risk assessment of the ETIAS>>, Federalismi.it. Rivista di Diritto pubblico italiano, comparato, europeo, n.º 3/2025, pp. 582 y ss.

(15). Tomamos la expresión de Desdentado Daroca, E., Discrecionalidad Administrativa y Planeamiento Urbanístico. Construcción teórica y análisis jurisprudencial, Aranzadi, Elcano, 1999, pp. 75 y ss.

(16). La implantación de un sistema algorítmico para la gestión automatizada del bono social eléctrico vino impuesta por la articulación de las disposiciones adicional 3.ª y transitoria 2.ª del ya citado RD 897/2017, de 6 de octubre.

(17). Respectivamente, Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, y Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos.

(18). García de Enterría, E. y Fernández, T.R., Curso de Derecho Administrativo I, 8.ª ed., Civitas, Madrid, 1997, p. 450.

(19). Doménech Pascual, G., <<La estructura del control de la discrecionalidad>>, Revista de Derecho Público: Teoría y Método, vol. 9, 2024, p. 19.

(20). Lifante Vidal, I., <<Dos conceptos de discrecionalidad jurídica>>, Doxa. Cuadernos de Filosofía del Derecho, n.º 25, 2002, p. 433. La autora ofrece la idea desarrollando la categoría de <<normas de fin>> frente a la de <<normas de acción>>, según la propuesta de Atienza, M. y Ruiz Manero, J., Las piezas del Derecho. Una teoría de los enunciados jurídicos, Ariel, Barcelona, 1996, pp. 66-73.

(21). Sobre esta discusión entre margen de volición y margen de cognición (o apreciación) en la doctrina alemana sobre la discrecionalidad, vid. Bacigalupo Sagesse, M., La discrecionalidad administrativa (estructura normativa, control judicial y límites constitucionales de su atribución), Marcial Pons, Madrid, 1997, pp. 107-161.

(22). Alude a esta forma de discrecionalidad Desdentado Daroca, op. cit., pp. 90-95.

(23). Bacigalupo Sagesse, M., <<Lección 5. La vinculación de la Administración Pública a la Ley y al Derecho>>, en Velasco Caballero, F. y Darnaculleta Gardella, M.M. (dirs.), Manual de Derecho administrativo, 3.ª ed., Marcial Pons, Madrid, 2025, p. 147.

(24). Recoge esta distinción doctrinal Valdivia, J.M., Manual de Derecho Administrativo, Tirant lo Blanch, Valencia, 2018, p. 224.

(25). Bacigalupo Sagesse, La discrecionalidad administrativa, op. cit., pp. 181 y ss.

(26). La distinción, en su propuesta más célebre, se debe a Dworkin, R., Los derechos en serio, trad. M. Guastavino, Ariel, Barcelona, 1989, pp. 83-86.

(27). La crítica es de Galligan, D.J., Discretionary Powers. A Legal Study of Official Discretion, Clarendon, Sheffield, 1990, pp. 14-20.

(28). Galligan, op. cit., pp. 326 y ss.; Sánchez Morón, M., Discrecionalidad administrativa y control judicial, Tecnos, Madrid, 1994, p. 131.

(29). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

(30). Barrachina Navarro, G. y Boix Palop, A., <<La aplicabilidad del Reglamento de inteligencia artificial al ámbito de la Administración pública y servicios públicos y especialidades respecto de su cumplimiento: Especial atención a Anexo III y actuación administrativa y particularidades cumplimiento>>, en Cotino Hueso, L. y Simón Castellano, P. (dirs.), Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Aranzadi, Las Rozas, 2024, pp. 351-352.

(31). Esa calificación en los usos jurídico-públicos no está exenta de ambivalencias en el RIA. Compartimos el criterio de Barrachina Navarro y Boix Palop al considerar que cualquier uso de la IA que tenga carácter decisorio o que sustituya completamente la acción analógica en funciones administrativas o judiciales o en la prestación de un servicio público, ha de entenderse un sistema de alto riesgo en el marco del RIA (ibídem, p. 366).

(32). Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial. Véase el art. 10 en cuanto a las competencias atribuidas a la entidad, en especial, su art. 25.b) en cuanto a las funciones atribuidas al Departamento de Sistemas de IA orientados a las Administraciones Públicas, en la Subdirección de Informes e Infraestructuras de Prueba.

(33). Proyecto de LO presentado al Congreso de los Diputados el 28 de mayo y calificado el 8 de junio de 2026 (ref. 121/000096), en fase de enmiendas a fecha de cierre de este trabajo. El Capítulo IV del Proyecto se dedica al <<Buen uso de la IA en el sector público estatal>>, integrado por un único artículo 12, que exige la creación de un <<inventario de sistemas de IA>> para dicho sector público con información sobre el proveedor, el responsable del despliegue y otros operadores involucrados en la comercialización y la categorización de los sistemas <<que intervengan en los procedimientos administrativos electrónicos>>, salvo ciertas excepciones contenidas en el precepto.

(34). En orden cronológico, Extremadura: Decreto-ley 2/2023, de 8 de marzo, de medidas urgentes de impulso a la IA en Extremadura; Galicia: Ley 2/2025, de 2 de abril, para el desarrollo de la IA en Galicia; Aragón: Orden HAP/796/2025, de 1 de julio, por la que se da publicidad al Acuerdo de 25 de junio de 2025, del Gobierno de Aragón, por el que se aprueba la Política de Uso de la Inteligencia Artificial del Gobierno de Aragón; Asturias: Decreto 98/2025, de 22 de julio, por el que se regula el uso de la IA en la Administración del Principado de Asturias y su sector público. Existe al menos un precedente relevante a nivel local, en el Ayuntamiento de Barcelona, aunque el carácter normativo del instrumento no es claro: documento de Definició de metodologies de treball i protocols per a la implementació de sistemes algorítmics, aprobado en Comissió de Govern el 15 de diciembre de 2022.

(35). Murcia: Ley 2/2014, de 21 de marzo, de Proyectos Estratégicos, Simplificación Administrativa y Evaluación de los Servicios Públicos de la Comunidad Autónoma de la Región de Murcia (arts. 23 a 28); Extremadura: Ley 8/2019, de 5 de abril, para una Administración más ágil en la Comunidad Autónoma de Extremadura (art. 31); Andalucía: Decreto 622/2019, de 27 de diciembre, de administración electrónica, simplificación de procedimientos y racionalización organizativa de la Junta de Andalucía (arts. 36, 37 y 40); Valencia: Ley 6/2024, de 5 de diciembre, de la Generalitat, de simplificación administrativa de Valencia (arts. 41 a 43), con desarrollo en el Decreto 54/2025, de 15 de abril, del Consell, de simplificación administrativa y transformación digital de Valencia (arts. 37, 40 y 41); Baleares: Ley 7/2024, de 11 de diciembre, de medidas urgentes de simplificación y racionalización administrativas de las administraciones públicas de las Illes Balears (arts. 65 a 67); Castilla-La Mancha: Ley 4/2025, de 11 de julio, de Simplificación, Agilización y Digitalización Administrativa de Castilla-La Mancha (arts. 35 y 41 a 48); Cantabria: Ley 2/2025, de 2 de abril, de Simplificación Administrativa de Cantabria (art. 50); La Rioja: Ley 2/2026, de 28 de abril, de simplificación administrativa, mercado abierto y calidad normativa (arts. 41 a 43). En la Comunidad Autónoma de Madrid existe un Anteproyecto de Ley de Administración Digital e Inteligencia Artificial, en trámite de audiencia e información pública a la fecha de cierre de este trabajo.

(36). Cataluña: Ley 26/2010, de 3 de agosto, de régimen jurídico y de procedimiento de las administraciones públicas de Cataluña (art. 44); Aragón: Ley 5/2021, de 29 de junio, de Organización y Régimen Jurídico del Sector Público Autonómico de Aragón (arts. 42 y 43); Asturias: Ley del Principado de Asturias 2/1995, de 13 de marzo, sobre Régimen Jurídico de la Administración (arts. 6 quinquies y 6 sexies, introducidos por Ley del Principado de Asturias 4/2025, de 19 de noviembre).

(37). No todas las disposiciones autonómicas sobre Administración electrónica que se reseñan a continuación atienden de forma específica a la actuación administrativa automatizada, o lo hacen en muy distinto grado. No obstante, aun en esos casos, se adoptan criterios generales sobre la praxis administrativa digitalizada que resultan relevantes, también, para la decisión automática. Navarra: Ley Foral 11/2007, de 4 de abril, para la implantación de la Administración electrónica de la Comunidad Foral de Navarra (arts. 1 a 4); Castilla y León: Ley 2/2010, de 11 de marzo, de Derechos de los Ciudadanos en sus relaciones con la Administración de la Comunidad de Castilla y León y de Gestión Pública (arts. 5 a 8, 15, 16 y 43) y Decreto 7/2013, de 14 de febrero, de utilización de medios electrónicos en la Administración de la Comunidad de Castilla y León (3 a 6, 11 a 14 y DA 3.ª.2); Castilla-La Mancha: Decreto 12/2010, de 16 de marzo, por el que se regula la utilización de medios electrónicos en la actividad de la Administración de la Junta de Comunidades de Castilla-La Mancha (arts. 14 a 18); Baleares: Decreto 113/2010 de 5 de noviembre, de acceso electrónico a los servicios públicos de la Administración de la Comunidad Autónoma de las Illes Balears (art. 4); Canarias: Decreto 19/2011, de 10 de febrero, por el que se regula la utilización de los medios electrónicos en la Administración Pública de la Comunidad Autónoma de Canarias, modificado por Decreto 123/2020, de 10 de diciembre (arts. 2, 4 a 6, 24 y 25); Murcia: Decreto 302/2011, de 25 de noviembre, de Régimen Jurídico de la Gestión Electrónica de la Administración Pública de la Comunidad Autónoma de la Región de Murcia (arts. 71 a 75); País Vasco: Decreto 21/2012, de 21 de febrero, de Administración Electrónica (art. 16); Cantabria: Decreto 60/2018, de 12 de julio, por el que se regula el régimen jurídico de la Administración de la Comunidad Autónoma de Cantabria en el uso de medios electrónicos en su actividad administrativa y sus relaciones con los ciudadanos (art. 4); Extremadura: Decreto 225/2014, de 14 de octubre, de régimen jurídico de administración electrónica de la Comunidad Autónoma de Extremadura (arts. 3, 39, 41 y 66); Galicia: Ley 4/2019, de 17 de julio, de administración digital de Galicia (art. 76); Cataluña: Decreto 76/2020, de 4 de agosto, de Administración digital de Cataluña (art. 54); Andalucía: Decreto 128/2021, de 30 de marzo, por el que se aprueban los Estatutos de la Agencia Digital de Andalucía [art. 6.3.e) y f)]; La Rioja: Decreto 25/2025, de 6 de mayo, por el que se aprueba la Política de Seguridad de la Información del Sector Público de la Comunidad Autónoma de La Rioja (art. 13).

(38). Cotino Hueso, L., <<¿Cuándo ‘no es no’? Criterios para definir los sistemas de inteligencia artificial prohibidos en la Unión Europea>>, Revista General de Derecho Administrativo, n.º 69, 2025, pp. 4 y 23.

(39). Barrachina Navarro y Boix Palop, op. cit., p. 361.

(40). Art. 5 RIA, apartados 1.h), 2 y 3 que, incluso, permiten usos temporales sin haber cumplimentado el registro en la base de datos de la UE y sin haber obtenido la preceptiva autorización previa para este tipo de sistemas, en casos de urgencia.

(41). Que solo admite la automatización de <<actos que puedan adoptarse con una programación basada en criterios y parámetros objetivos>> (art. 44.2 de la Ley 26/2010, de 3 de agosto, de régimen jurídico y de procedimiento de las administraciones públicas de Cataluña).

(42). El art. 40.2 del Decreto 622/2019 andaluz y el art. 66.2 de la Ley 7/2024 de Islas Baleares prohíben automatizar actividades que supongan juicios de valor.

(43). El art. 12.3 de la Ley 2/2025 de Galicia solo admite automatizar mediante IA actuaciones que no requieran de una valoración subjetiva de las circunstancias concurrentes o una interpretación jurídica, lo que habría de excluir también los casos de valoración o evaluación técnica que impliquen, por ejemplo, conceptos jurídicos indeterminados.

(44). Así, la Ley 5/2021 de Aragón no prohíbe, sino que excluye del concepto de actuación administrativa automatizada los casos en que <<sea necesario aplicar criterios subjetivos de decisión>> (art. 43.3). La Ley 4/2025, de Castilla-La Mancha, parece admitir usos de sistemas de IA en supuestos que requieran valoración de carácter subjetivo o interpretaciones jurídicas siempre que exista validación humana (art. 45.2), lo que podría excluir su utilización en decisiones plenamente automatizadas, en función del sentido que se otorgue a la exigencia de supervisión. Resulta más complicado interpretar el criterio del Decreto 12/2010, también castellanomanchego, cuyo art. 16.1 admite la aplicación de sistemas automatizados de cualquier índole, <<en general en actuaciones administrativas regladas, así como a actos resolutorios ()>> (énfasis añadido).

(45). Ha sostenido la necesidad de reserva Ponce Solé, si bien con un argumento axiológico de conveniencia más que de exigencia jurídico-dogmática. Considera el autor que la discrecionalidad implica un ejercicio de empatía apoyado en la incorporación de criterios de valoración extrajurídicos, inaccesible para un sistema algorítmico. Vid. Ponce Solé, J., <<Inteligencia artificial, Derecho Administrativo y reserva de humanidad: algoritmos y procedimiento debido tecnológico>>, Revista General de Derecho Administrativo, n.º 50, 2019, p. 28. En otras ocasiones se han mantenido posturas eclécticas admitiendo la posibilidad de automatizar decisiones discrecionales, por ejemplo, en función de la complejidad del entorno de la decisión y del tipo de factores a considerar en el juicio –técnicos o políticos–. En este sentido, Cerrillo Martínez, A., <<¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?>>, European Review of Digital Administration & Law – Erdal, vol. 1, n.º 1-2, 2020, pp. 22-25.

(46). Boix Palop, <<Los algoritmos>>, op. cit., p. 232.

(47). Art. 42.9 Ley 2/2026 La Rioja.

(48). Redacción original del art. 45.4 de la Ley 30/1992, de 26 de noviembre, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común.

(49). Arts. 5 y 9 del Real Decreto 263/1996, de 16 de febrero, ya referido supra. La norma especificaba criterios de aprobación concretos, mediante Orden ministerial, en el caso de sistemas que fueran compartidos por varias entidades públicas o varios departamentos. Concretaba, incluso, el contenido mínimo de los informes técnicos a solicitar en el procedimiento de aprobación.

(50). La disposición derogatoria única de esa Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los Servicios Públicos vació de contenido, entre otros, el apartado 4 del art. 45 LRJ-PAC. El RD 263/1996 fue derogado por RD 1671/2009, de 6 de noviembre, por el que se desarrolla la Ley 11/2007, que no incorporó esas previsiones específicas de aprobación de los sistemas en la Administración General del Estado.

(51). Palomar Olmeda, op. cit., pp. 464-465.

(52). Cerrillo Martínez, op. cit., 2025, p. 539.

(53). Para un análisis sobre las prácticas de contratación pública de sistemas de IA en el ámbito sanitario en España, véase Gutiérrez David, M.E. y Quintana Cortés, J.L., <<Public Procurement of AI for the EU Healthcare Systems. First Insights from the Spanish Experience>>, European Review of Digital Administration & Law – Erdal, vol. 4, n.º 1, 2023, pp. 87-139.

(54). Por ejemplo, la valoración policial automatizada del riesgo de violencia contra las mujeres, integrado en el sistema VioGén, ha sido prevista a través de sucesivas Instrucciones de la Secretaría de Estado de Seguridad (actualmente, Instrucción 1/2025, por la que se establece un nuevo protocolo para la valoración y gestión policial del nivel de riesgo de violencia de género y seguimiento de los casos a través del sistema Viogén-2).

(55). No hay regulación de este aspecto en las normas de Cantabria (Ley 2/2025 y Decreto 60/2018) ni de Castilla y León (Ley 2/2010 y Decreto 7/2013).

(56). En Cantabria y Castilla y León, donde no se regula expresamente la forma de adopción de los sistemas, sí se prevén en cambio exigencias de publicidad: el art. 50.3 de la Ley 2/2025 Cantabria impone la elaboración de una relación de <<sistemas algorítmicos o de IA>> con descripción de su diseño y funcionamiento, nivel de riesgo y punto de contacto al que dirigirse (aunque la norma se refiere a sistemas de IA, este apartado concreto parece abarcar otros sistemas algorítmicos); la DA 3.ª.2 Decreto 7/2013 Castilla y León alude, sin mayor detalle, a un Inventario Automatizado de Procedimientos Administrativos.

(57). Un criterio distinto ha sido sostenido por Valero Torrijos, quien, subrayando la necesidad de adopción formal de los sistemas, considera suficiente operarla mediante acto administrativo. No obstante, entiende imprescindible que el procedimiento para su emisión sea participado, debiendo incluir trámite de información pública (Valero Torrijos, op. cit., pp. 87-88).

(58). Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas.

(59). Arts. 31 a 34 y 40 a 48 Ley 2/2025 Galicia.

(60). Arts. 14 y 25 Decreto 98/2025 Asturias. No obstante, las pruebas se pueden exceptuar en los casos previstos en el art. 13. La disposición da un tratamiento muy detallado a los entornos controlados de pruebas o sandboxes de uso público (arts. 10 a 13 y 17 a 25 y DA 1.ª). Estos entornos han sido regulados también en otras normas autonómicas: art. 7.1 y 7.2 Decreto-ley 2/2023 Extremadura (para usos públicos y privados, respectivamente); arts. 49 y 67 Ley 2/2025 Galicia (de nuevo, para uno y otro uso en cada caso).

(61). Estas dos dimensiones fueron consideradas ya en el protocolo de evaluación de impacto algorítmico en el sector público elaborado por AI Now en 2018, en la fase de <<Revisión previa a la adquisición del sistema>> –Pre-acquisition review–. Cfr. Reisman, D., Schultz, J., Crawford, K. y Whittaker, M., Algorithmic Impact Assessments: A Practical Framework for Public Agency Accountability, AI Now, 2018, pp. 8-9. Disponible en: ENLACE [última consulta: 21-4-2026]

(62). Doménech Pascual, op. cit., p. 19.

(63). Art. 2.4 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación. El art. 23 de la norma incorpora exigencias concretas para evitar efectos discriminatorios en el uso de la IA y otros mecanismos de toma de decisión automatizados por las administraciones públicas.

(64). El Parlamento Europeo alentó a incorporar el principio en la regulación de la IA, en Resolución de 3 de mayo de 2022, sobre la inteligencia artificial en la era digital [2020/2266(INI)], tanto en general (par. 19) como específicamente en el sector público (par. 85). Sin embargo, el RIA ha omitido cualquier referencia al mismo. Sobre este aspecto véase Laus, F., <<Organizzazione amministrativa e gestione del rischio nei sistemi di intelligenza artificiale>>, en Cerrillo Martínez, A., Di Lascio, F., Martín Delgado, I. y Velasco Rico, C.I. (dirs.), Inteligencia artificial y Administraciones Públicas: una triple visión en clave comparada, Iustel, Madrid, 2024, pp. 90-94. Ha sugerido su aplicación, al menos ante la consideración de automatizar decisiones discrecionales, Cerrillo Martínez, op. cit., 2025, p. 534. La Agencia Española de Protección de Datos brinda un ejemplo de incorporación expresa del principio en el ámbito administrativo, en su <<política con relación a las decisiones automatizadas y su supervisión>> a la hora de considerar la implementación de sistemas de IA generativa. Vid. Agencia Española de Protección de Datos, Política general para el uso de IA generativa en procesos administrativos de la AEPD, Madrid, 2025, p. 20. En la normativa autonómica solo encontramos una alusión expresa al principio en el art. 18 Ley 2/2025 Galicia, si bien el uso que se hace del mismo es impropio, como aclararemos después.

(65). Se ha interrogado por esa hipotética obligación administrativa de automatizar Velasco Rico, C.I., <<Implementación de sistemas algorítmicos en el sector público, preferencias ciudadanas y obligaciones de transparencia a la luz del Reglamento de IA de la Unión Europea>>, en Cerrillo Martínez, A., Di Lascio, F., Martín Delgado, I. y Velasco Rico, C.I. (dirs.), Inteligencia artificial y Administraciones Públicas: una triple visión en clave comparada, Iustel, Madrid, 2024, p. 49. Lo hace tras la consideración previa de Martín Delgado, que sostiene el carácter de <<opción>> de la vía automatizada, aunque admite que pueda convertirse en una <<opción indispensable>> para cumplir con las exigencias del principio de buena administración (Martín Delgado, I., <<Automation, Artificial Intelligence and Sound Administration. A Few Insights in the Light of the Spanish Legal System>>, European Review of Digital Administration & Law – Erdal, vol. 3, n.º 1, 2022, p. 15).

(66). El art. 6 de la Ley 2/2010 Castilla y León afirma el desarrollo sostenible como principio rector de todas las políticas públicas y actuaciones autonómicas, que habrá de alcanzar, por lo tanto, a la automatización de acciones públicas regulada en la propia norma. Más recientemente, la Ley 4/2025 Castilla-La Mancha afirma el principio de sostenibilidad en el impulso de la digitalización administrativa (art. 35.2.l) y en el uso de la IA (art. 47.3); y el art. 42.3 Ley 2/2026 La Rioja remite al Considerando 27 RIA, donde se acoge el <<bienestar social y ambiental>> como principio, entre otros, en el uso de sistemas de IA.

(67). Art. 4.2 Orden HAP/796/2025 Aragón y 41.b) Ley 2/2025 Galicia, ambos referidos a la justificación de la implantación de sistemas de IA.

(68). Para cualquier AAA: arts. 5 Decreto 19/2011 Canarias, 40.2 Ley 4/2025 Castilla-La Mancha, 27.2 Anteproyecto Ley Madrid. Para sistemas de IA: arts. 27.2.a) y b) y 34.a) y b) Ley 2/2025 Galicia.

(69). Arts. 40.2 Ley 4/2025 Castilla-La Mancha y 27.2 Anteproyecto Ley Madrid.

(70). Para Cerrillo Martínez, la fiabilidad es función de los siguientes elementos: supervisión humana, solidez, transparencia, evitación de discriminación, rendición de cuentas y adecuada gestión de la privacidad. Cerrillo Martínez, op. cit., 2020, pp. 35-36.

(71). Ofrece una taxonomía según este criterio Cotino Hueso, L., <<Los usos de la inteligencia artificial en el sector público, su variable impacto y categorización jurídica>>, Revista Canaria de Administración Pública, n.º 1, 2023, pp. 225-227.

(72). Encontramos esa relativización de la regulación legal a la luz de las tecnologías disponibles en el art. 21 Ley 2/2025 Galicia que, bajo la rúbrica <<Capacidad técnica, proporcionalidad y suficiencia>>, opera en realidad esa inversión de las exigencias de proporcionalidad y cumplimiento normativo respecto a los sistemas de IA. Un uso similar, referido a la proporcionalidad de las medidas a aplicar sobre el sistema y no a las propias características de este, se encontraba ya en el art. 2.2 Decreto 19/2011 Canarias, para cualquier forma de AAA. También el art. 23.1 LIND relativiza sus exigencias, al imponer que los algoritmos decisorios de la Administración <<tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente>> (énfasis añadido).

(73). Hace este uso más propio de la idea de proporcionalidad el art. 24.1 Anteproyecto Ley Madrid.

(74). Boix Palop, A., <<Los algoritmos>>, op. cit., pp. 251-252 y <<El empleo>>, op. cit., pp. 405-407. Advierte el autor un injustificado desfase entre las exigencias propias de los procedimientos de elaboración reglamentaria y las previsiones para la adopción de sistemas algorítmicos decisorios, en especial en lo que respecta a las evaluaciones ex ante, la transparencia y las posibilidades de participación.

(75). Auditoría y evaluación de impacto son instrumentos de gobernanza diferentes, pese a compartir una naturaleza técnica similar, según advierte Cabañate Pérez, J., <<Auditoria i control dels sistemes d’intel·ligència artificial d’alt risc al sector públic>>, Revista Catalana de Dret Públic, n.º 71, 2025, p. 51.

(76). Palma Ortigosa, A., <<La evaluación de la conformidad en el diseño y producción de sistemas basados en inteligencia artificial en el contexto del 'Nuevo Marco Legislativo'>>, en Cotino Hueso, L. y Simón Castellano, P. (dirs.), Tratado sobre el Reglamento de inteligencia artificial de la Unión Europea, Aranzadi, Las Rozas, 2024, p. 445.

(77). Sobre esta lógica de normalización privada que rige la evaluación de conformidad vid. Álvarez García, V. y Tahirí Moreno, J., <<La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque>>, Revista General de Derecho Administrativo, n.º 63, 2023, pp. 1-56.

(78). Arts. 16 Ley 2/2025 Galicia, 5.1 Orden HAP/796/2025 Aragón, 47.4 Ley 4/2025 Castilla-La Mancha.

(79). Arts. 4.3 Decreto 54/2025 Valencia, 24.1 Anteproyecto Ley Madrid.

(80). Art. 7.2 Decreto 98/2025 Asturias.

(81). Art. 5.4 Orden HAP/796/2025 Aragón.

(82). Véanse, por ejemplo, el art. 2.3 Ley Foral 11/2007 Navarra y el art. 9.3 del derogado RD 263/1996 que rigió para los sistemas de la Administración del Estado.

(83). Por ejemplo, mediante el modelo Human Rights, Ethical and Social Impact Assessment (HRESIA) hacia el que proponía transitar hace años Mantelero, como vía para <<introducir valores no jurídicos en el marco propiamente jurídico>> (Mantelero, A., Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, T.M.C. Asser Press y Springer, La Haya, 2022, p. 23).

(84). Arts. 16.2 Ley 2/2025 Galicia y 7.d) Anteproyecto de Ley Madrid (como atribución de la nueva Oficina de impulso de la IA).

(85). Una revisión general de las vinculaciones entre IA y sostenibilidad, en su doble faceta de Green-in AI y Green-by AI, puede encontrarse en Bolón-Canedo, V., Morán-Fernández, L., Cancela, B. y Alonso-Betanzos, A., <<A review of green artificial intelligence: Towards a more sustainable future>>, Neurocomputing, vol. 599, 2024.

(86). RD 729/2023 sobre el Estatuto de la Agencia, arts. 4.3.a) (uso sostenible de la IA como finalidad de su actuación), 10.1.a) (competencia para el apoyo al desarrollo y uso de sistemas de IA desde una perspectiva ambiental y sostenible) y 25.b).2.º (mandato de reforzar el criterio de sostenibilidad en la contratación pública de tecnologías de IA). Sobre la adopción del criterio de sostenibilidad en la normativa autonómica, vid., supra, nota a pie 70.

(87). Gutiérrez David y Quintana Cortés, op. cit., p. 135.

(88). Reisman, Schultz, Crawford y Whittaker, op. cit., p. 8.

(89). Art. 18 Ley 2/2025 Galicia.

(90). Para las iniciativas estatales, RD 931/2017, de 27 de octubre, por el que se regula la Memoria de Análisis de Impacto Normativo y DA 5.ª Ley 27/2022, de 20 de diciembre, de institucionalización de la evaluación de políticas públicas en la Administración General del Estado.

(91). Una idea similar ha sido enunciada ya por Martín Delgado como <<‘principio de mínima actividad algorítmica autónoma’ de carácter decisorio>>, vinculado al principio de precaución en el uso de la IA en el sector público. Vid. Martín Delgado, I., <<La aplicación del principio de transparencia a la actividad administrativa algorítmica>>, en Gamero Casado, E. (dir.) y Pérez Guerrero, F.L. (coord.), Inteligencia artificial y sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023, pp. 178-180.