Análisis crítico de la adaptación de las directivas de contratación pública ante la incorporación de la inteligencia artificial

La progresiva incorporación de sistemas de inteligencia artificial en la actuación administrativa plantea importantes desafíos al régimen jurídico de la contratación pública. Las Directivas 2014/23/UE, 2014/24/UE y 2014/25/UE fueron concebidas para un contexto tecnológico sustancialmente distinto, lo que genera tensiones y lagunas normativas cuando se aplican a sistemas algorítmicos capaces de aprender, modificarse y afectar directamente a derechos fundamentales. Este trabajo realiza un análisis crítico del marco vigente y propone líneas de reforma orientadas a garantizar la transparencia, la protección de datos, la seguridad, los derechos fundamentales, la responsabilidad pública y la protección del interés general en la contratación pública basada en la IA.

María Cristina Díaz Vilas es Doctoranda de la Universidad de Salamanca

Este artículo se publicó en el número 72 de la Revista General de Derecho Administrativo (Iustel, mayo 2026)

RESUMEN: La progresiva incorporación de sistema de inteligencia artificial en la actuación administrativa plantea importantes desafíos al régimen jurídico de la contratación pública. Las Directivas 2014/23/UE, 2014/24/UE y 2014/25/UE fueron concebidas para un contexto tecnológico sustancialmente distinto, lo que genera tensiones y lagunas normativas cuando se aplican a sistemas algorítmicos capaces de aprender, modificarse y afectar directamente a derechos fundamentales.

En los últimos años, las Administraciones Públicas han comenzado a adquirir y utilizar sistemas de IA para funciones tan diversas como la asignación de ayudas sociales, la detección del fraude, la gestión de recursos humanos o el apoyo a la toma de decisiones administrativas. Sin embargo, el marco normativo europeo de contratación pública no fue diseñado para regular tecnologías caracterizadas por la opacidad, la adaptabilidad y el impacto estructural sobre los derechos fundamentales. Esto obliga a plantear la necesidad de una revisión crítica de dichas directivas para adecuarlas al nuevo contexto tecnológico.

Este trabajo realiza un análisis crítico del marco vigente y propone líneas de reforma orientadas a garantizar la transparencia, la protección de datos, la seguridad, los derechos fundamentales, la responsabilidad pública y la protección del interés general en la contratación pública basada en la IA.

CRITICAL ANALYSIS OF THE ADAPTATION OF PUBLIC PROCUREMENT DIRECTIVES IN LIGHT OF THE INCORPORATION OF ARTIFICIAL INTELLIGENCE

ABSTRACT: The progressive incorporation of artificial intelligence systems into administrative procedures poses significant challenges to the legal framework governing public procurement. Directives 2014/23/EU, 2014/24/EU, and 2014/25/EU were conceived for a substantially different technological context, which generates tensions and regulatory gaps when applied to algorithmic systems capable of learning, modifying themselves, and directly affecting fundamental rights.

In recent years, public administrations have begun to acquire and use AI systems for functions as diverse as the allocation of social benefits, fraud detection, human resource management, and support for administrative decision-making. However, the European regulatory framework for public procurement was not designed to regulate technologies characterized by opacity, adaptability, and a structural impact on fundamental rights. This necessitates a critical review of these directives to adapt them to the new technological context.

This paper presents a critical analysis of the current framework and proposes reform strategies aimed at ensuring transparency, data protection, security, fundamental rights, public accountability, and the protection of the public interest in AI-based public procurement.

1. FRAGMENTACIÓN DEL MERCADO ÚNICO EUROPEO Y LA CONTRATACIÓN PÚBLICA

El Mercado Único Europeo se define como un territorio sin fronteras internas en el que se garantiza la libre circulación de cuatro elementos fundamentales, conocidos como las “cuatro libertades”, permitiendo que Europa funcione como si fuera un único país, impulsando la competencia, bajando los precios y ofreciendo más opciones a los consumidores.

Las cuatro libertades constituyen el núcleo del Mercado Único Europeo, eliminando barreras internas para que bienes, personas, servicios y capitales circulen libremente entre los países miembros. La libre circulación de bienes suprime aranceles y controles aduaneros, mientras que la de personas permite a los ciudadanos vivir o trabajar en cualquier Estado miembro en igualdad de trato respecto a los nacionales.

Por otro lado, la libertad de prestación de servicios faculta a empresas y profesionales para operar en todo el territorio europeo sin obstáculos burocráticos discriminatorios, y la libre circulación de capitales garantiza que las inversiones, transferencias y compras de cualquier bien o servicio se realicen sin restricciones fronterizas. De esta forma, estas libertades buscan crear una zona económica unificada que potencie la competitividad y mejores las opciones de consumo y empleo de millones de europeos.

La fragmentación del Mercado Único Europeo en el ámbito de la contratación pública representa uno de los mayores frenos a la competitividad y la eficiencia económica de la Unión Europea (en adelante UE). Cada año, las autoridades de la UE gastan aproximadamente un 14% (1) del PIB en compra de bienes, servicios y obras. Según la Comisión Europea, una mejora del 1% en la eficiencia de estos procesos ahorraría 20.000 millones de euros anuales. Puede ser una herramienta clave para impulsar soluciones innovadoras y liderar el mercado de las tecnologías limpias, así como generar bienes y servicios de vanguardia, posicionando a la UE a la cabeza de las tecnologías estratégicas, como para crear servicios disruptivos y dominar los nuevos mercados de sostenibilidad tecnológica.

La fragmentación del Mercado Único y las ineficiencias en contratación pública representan dos de los mayores obstáculos para el dinamismo de la U.E. Esta advertencia cobra especial relevancia tras la publicación de los informes de Enrico Letta y Mario Draghi, quienes coinciden en que superar estas barreras estructurales es imperativo para revertir la pérdida de competitividad de la U.E. frente a potencias como China y Estados Unidos.

El informe de Enrico Letta, “Mucho más que un mercado”(2), propone una profunda renovación del Mercado Único Europeo para el período 2024-2029. Aboga por superar la visión meramente económica, integrando la sostenibilidad, la seguridad y la justicia social para potenciar la competitividad europea frente a los desafíos globales.

Este Informe Letta propone una “quinta libertad” para el Mercado Único Europeo enfocado en la libre circulación del conocimiento, investigación, la innovación, los datos y la educación. Entre su propuesta se incluye la creación de un Espació de Conocimiento Común, la mejora de la movilidad del talento, el desarrollo de Espacios Europeos de Datos, la armonización de la educación y el refuerzo de las infraestructuras tecnológicas. Letta recoge como ejemplos el Digital Market Act, el Data Act, el Artificial Inteligente Act y el Data Governance Act.

A diferencia del marco actual, esta quinta libertad propone incluir en las reglas del juego los beneficios de la circularidad y el potencial del sector digital, garantizando que el mercado europeo responda a las realidades climáticas, sociales y tecnológicas del siglo XXI. A través de la instauración de esta busca expandir el alcance el Mercado Único hacia los vectores inmateriales y la sostenibilidad operativa. Esto implica transitar de un mercado basado en bienes físicos a un que reconozca los ciclos de vida circulares y el valor económico del dato.

También aboga por la armonización (Gold Plating) por el uso de reglamentos en lugar de directivas para su aplicación directa y reducir la sobrerregulación nacional que fragmenta el mercado. Planteando un marco legal único europeo que las empresas puedan elegir opcionalmente para operar en toda la UE sin adaptarse a cada legislación nacional para presentar sus ofertas en las distintas licitaciones.

Históricamente la armonización se lograba mediante Directivas, que no son leyes “listas para usar”, sino que obligan a los estados miembros a alcanzar un resultado, pero les permiten elegir la forma de trasponerlo a su legislación nacional. Esta flexibilidad genera que las autoridades nacionales suelen añadir requisitos adicionales, burocracia y sanciones más estrictas que las exigidas por la UE, lo que aumenta innecesariamente la carga administrativa para las empresas.

Esta divergencia regulatoria genera barreras para la libre comercialización, al no existir una norma única, las empresas no pueden fabricar un solo modelo de artículo para toda la UE. A menudo deben modificar el diseño, el etiquetado o las pruebas de seguridad para cumplir con los requisitos específicos de cada licitación en cada “compartimento” nacional, lo que dispara los costes de producción. Como lo que es legal en un país puede ser insuficiente en el vecino. Esta “oscuridad normativa” obliga a las empresas, especialmente a las PYMES, a contratar asesoría legal en cada “compartimento” nacional donde quieran operar, actuando como arancel invisible que frena la expansión de estas.

Los diferentes plazos de transposición y las exigencias administrativas adicionales (Gold Plating) crean un terreno de juego desigual. Un artículo puede quedar bloqueado en una aduana interna de la UE o retirar de un estante en un supermercado por un detalle técnico que solo existe en este país, rompiendo con el Mercado Único sin fronteras.

Para reducir esta sobrerregulación es vital para la competitividad de la UE frente a EEUU y China la reducción de costes, ya que las empresas no necesitan adaptar sus productos a 28 normativas técnicas distintas, así como una única norma clara para el territorio europeo para establecer una seguridad jurídica a las empresas licitadoras o futuras licitadoras.

Como ejemplo tenemos que la Directiva europea 2014/24 permite una flexibilidad razonable para modificar contratos vigentes por causas imprevistas. Sin embargo, el artículo 204 de la LCSP(3), impuso un límite estricto de modificación hasta el 20% del precio inicial, una restricción que no aparece en el artículo 72 de la Directiva 2014/24(4), Debido a ello, este porcentaje conlleva la resolución obligatoria del contrato y una posible prohibición de contratar, lo que genera una rigidez sancionadora superior a la europea, que prioriza la continuidad del servicio bajo ciertos parámetros de eficiencia.

Asimismo, España introdujo el principio de integridad(5) para combatir la corrupción(6) de forma más agresiva que la propia directiva 2014/24. Aunque loable, esto ha multiplicado los controles internos y declaraciones juradas (burocracia preventiva) y ha endurecido las sanciones por conflictos de interés, aplicando exclusiones automáticas que en Europa se analizan caso por caso.

Para las PYMES, la trasposición de la normativa europea de contratación ha supuesto una paradoja, aunque se introdujeron medidas para favorecerlas, el exceso de celo regulatorio español ha creado barreras que la propia UE ha cuestionado, como por ejemplo, mientras la UE fomenta el uso de DEUC(7) para simplificar, los órganos de contratación suelen exigir certificaciones adicionales mucho antes de lo que marca la directiva, lo que eleva el coste de licitar para un empresa pequeña, así como la carga administrativa que se produce cuando una PYME quiere licitar a tres lotes de un mismo contrato teniendo que presentar tres memorias, tres solvencias y tres garantías distintas. Del mismo modo, cualquier sanción firme por infracción grave en materia laboral o medioambiental puede inhabilitar a un PYME para contratar con cualquier administración del país, a diferencia de otros países de la UE donde se valora la proporcionalidad o se permiten medidas de autocorrección (compliance), en España la sanción suele ser automática y duradera, lo que pueden suponer una quiebra de una PYME que dependa de la contratación pública por un error administrativo puntual.

Al haber 27 transposiciones diferentes, el mercado se divide con “compartimentos” nacionales, dificultando que un artículo se comercialice bajo las mismas reglas en toda la UE, dando como resultado una fragmentación del Mercado Único Europeo.

Bajo la antigua Directiva 95/46/CE (8), el panorama europeo de la privacidad era un mosaico de reglas inconexas. Al ser una directiva, cada Estado miembro la traspuso con matices propios, lo que permitía a los países introducir requisitos adicionales o interpretar conceptos de forma divergente. Esto obligaba a las empresas adaptar sus productos y políticas de privacidad país por país, enfrentándose a 27 burocracias distintas que generaban una sobrerregulación nacional asfixiante y altos costes de cumplimiento.

La llegada del RGPD(9) marcó un punto de inflexión al sustituir la trasposición nacional de la aplicabilidad directa. Al ser un reglamento, el texto legal paso a ser idéntico en toda la UE, eliminando margen para el Gold Plating y la fragmentación. Esto permitió que cualquier producto o servicio digital pudiera circular por el Mercado Único bajo un solo conjunto de reglas, simplificando radicalmente la operativa transfronteriza y eliminando la fragmentación del Mercado Único Europeo.

Este cambio no solo redujo la carga administrativa, sino que estableció la “Ventanilla Única”, permitiendo que las organizaciones se comunicarán con una sola autoridad de control en lugar de 27. Este caso de éxito demuestra que la armonización mediante reglamentos es la herramienta más eficaz para demoler los compartimentos nacionales y garantizar que las empresas europeas compitan en igualdad de condiciones técnicas y jurídicas.

De forma similar el nuevo Reglamento de Inteligencia Artificial de la UE constituye el ejemplo actual más ambicioso de cómo evitar la fragmentación mediante aplicación directa. A diferencia de lo que ocurría con una directiva, este reglamento establece un marco legal uniforme que impide que los Estados miembros impongan restricciones nacionales adicionales, salvo que el propio texto lo autorice expresamente, garantizando la libre circulación de servicios IA.

Este enfoque horizontal basado en el riesgo elimina los “compartimentos” que habrían surgido si cada país hubiera regulado la inteligencia artificial (en adelante IA) de forma independiente. Al centralizar la supervisión de los modelos más potentes en la Oficina de IA de la Comisión, se evita el Gold Plating administrativo y se ofrece a las empresas la seguridad jurídica necesaria para innovar.

En el actual escenario geopolítico, caracterizado por la inestabilidad creciente en las fronteras orientales, la guerra de Ucrania y una reconfiguración de las alianzas globales, la UE se enfrenta a la necesidad de una transformación radical de su estructura de seguridad. El modelo actual está fragmentado y dependiente de proveedores externos. La solución no sólo es política, sino también industrial donde la UE necesita un Mercado Único de Defensa que actué como motor de su capacidad de protección. Para ello exige superar la fragmentación administrativa mediante una convergencia regulatoria que transforme la contratación pública de una herramienta burocracia en un instrumento de política industrial estratégica, realizando una revisión técnica para simplificar procedimientos y reducir la dependencia de proveedores externos. Para que sea real el Mercando Único Europeo se requiere la estandarización de especificaciones técnicas. La fragmentación actual del Mercado impide que un sistema de armas producido en un Estado sea operado o mantenido eficientemente por otro. La nueva estrategia industrial de la UE(10) busca que el 40% de la contratación de defensa sea conjunta, para ello será necesario una armonización técnica previa desde la fase diseño y licitación.

Es necesario la creación de un ecosistema industrial de defensa integrado, ya que es una cuestión de supervivencia. Al promover y financiar(11) industrias propias a través de un Mercado Único Europeo(12) no solo fortalece su seguridad, sino que reafirma su posición como un actor soberano y capaz en el nuevo orden mundial. La autonomía estratégica en defensa deber ser una realidad industrial tangible.

La competitividad en la UE depende de su capacidad para innovar de forma disruptiva. Un Mercado Único de defensa facilitaría la colaboración entre empresas tecnológicas y centros de investigación, liderando en áreas críticas como la IA aplicada, la defensa y la ciberseguridad y pasando por una transición de un modelo basado en la excepción soberana a uno de gobernanza industrial común, ya que actualmente existe una fragmentación del sector dominada por regulaciones nacionales y tendencias proteccionistas debilitando la competitividad europea. Para ello deberá fomentarse las compras centralizados entre varios Estados miembros para lograr economías de escala similares a las compras desde la UE de vacunas COVID, y simplificar las reglas de contratación para reducir la carga administrativa y facilitar que los licitadores operen sin fronteras.

En este nuevo marco de contratación pública, el precio deja de ser el único factor determinante, priorizando criterios de seguridad de suministro, buscando garantizar la continuidad, calidad(13) y resiliencia de los suministros críticos. Letta propone romper con esta inercia, introduciendo criterios de valor estratégico que prioricen la seguridad del suministro, sobre todo los suministros críticos, como microchips, IA, componentes de defensa

Mariano Draghi a petición de la Comisión Europea entregó en septiembre de 2022 un informe(14) para indicar el camino a seguir para una UE más competitiva. El punto de partida de este Informe es que la UE representa el 17% del PIB mundial, pero el crecimiento de la UE ha sido más lento que el de Estados Unidos y China en las dos últimas décadas. El problema de Europa no es la falta de ideas, sino su incapacidad para escalar soluciones debido a la fragmentación del mercado. La falta de reformas impide una economía de escala vital para la supervivencia económica de la U.E., ya que no solo es vender más, es producir de forma más eficiente mediante la inversión conjunta.

La falta de armonización legislativa actúa como un freno estructural a la economía escala. Mientras que potencias como Estados Unidos y China operan sobre mercados integrados que permiten amortizar rápidamente las inversiones IA, la fragmentación europea obliga a nuestras empresas a navegar en 27 marcos legislativos. Como advierte Draghi, sin una reforma que unifique la demanda pública y reduzca las barreras entrada transfronterizas, Europa seguirá subvencionando la innovación ajena en lugar de liderar la propia.

En enero de 2025, la Comisión presento la Brújula para la competitividad, una hoja de ruta para establecer el crecimiento económico de la UE. La Brújula sigue las recomendaciones formuladas en el Informe de Mario Draghi, entre ellas se encuentra impulsar la competitividad impulsando la innovación, así como diversificando y reforzando nuestras cadenas de suministro revisando las normas de contratación pública para permitir la introducción de una preferencia europea en la contratación pública para sectores y tecnologías críticos. Transformar la contratación pública en una herramienta geoestratégica(15) es fundamental para que no solo se busque el precio más bajo, sino que actúe como motor de la soberanía industrial de la UE.

La geoestrategia y la contratación pública están estrechamente vinculadas en el actual escenario de competencia global, convirtiendo a la compra administrativa en una herramienta clave para la soberanía económica, la seguridad nacional y la autonomía estratégica. Las decisiones de compran de están alineados con la política exterior para anticiparse a riesgos en la cadena de suministro y asegurar la competitividad. Donde la administración utiliza sus licitaciones para garantizar suministros esenciales, evitando dependencias tecnológicas o energéticas externas que debiliten el interés europeo.

En el sector tecnológico, la contratación pública se ha convertido en el principal instrumento para alcanzar la soberanía digital, actuando como un puente para superar la desfragmentación del Mercado Único Europeo. cómo ha sido la implementación del Reglamento de chips de la UE, que busca reducir la dependencia de proveedores externos en la cadena de suministros de semiconductores. Mediante licitaciones estratégicas, el Estado no solo adquiere hardware, sino que incentiva la creación de ecosistema locales de IA y ciberseguridad. Es fundamental integrar cláusulas que exijan reversibilidad técnica y la protección de datos, de esta forma se evita el secuestro tecnológico por parte de grandes corporaciones de terceros países, asegurando que las infraestructuras críticas sigan bajo control de la UE.

Por otro lado, el Informe Especial número 28/2023 del Tribunal de Cuentas Europeo(16) advierte que la falta de competencia en la contratación pública está relacionada con la persistente desfragmentación del Mercado Único Europeo, evidenciando barreras nacionales, falta de competencia equitativa. El documento destaca el aumento de licitaciones de oferta única, el bajo porcentaje de adjudicaciones transfronterizas que son fundamentales para un Mercado eficaz, la falta de licitadores ha aumentado, y, sobre todo, que la competencia ha disminuido significativamente a pesar de la ambiciosa reforma de las directivas de contratación de 2014.

Este Informe del Tribunal de Cuentas Europeo recalca el fracaso que buscaban las directivas de 2014 de simplificar procesos, fomentar la transparencia, concluye que no han logrado revertir la tendencia a la baja de la competencia. Asimismo, constata procedimientos excesivamente largos e inflexibles, sumados a retrasos en los pagos.

El reciente Informe 09/2025 del Tribunal de Cuentas Europeo(17) pone de manifiesto una preocupante vulnerabilidad en la gestión del Mecanismo de Recuperación y Resiliencia (MRR). La auditoría constata que la Comisión Europea no verificó con el rigor necesario la robustez de los sistemas nacionales para prevenir los conflictos de intereses y fraude en la contratación pública. Este hallazgo, sumado a las deficiencias estructurales ya expuestas en el Informe 28/2023, sienta las bases para una inminente reforma de las Directivas de 2014. El objetivo es claro: transitar hacia una digitalización integral y reforzar la integridad del Mercado Único, actualmente bajo presión debido al uso excesivo de procedimientos de urgencia y negociados sin publicidad en la ejecución de los fondos NextGenerationEU.

Como es lógico el calendario para las reformas de las Directivas de 2014 está condicionado por la finalización del Mecanismo de Recuperación y Resiliencia (MRR) en 2026 y las conclusiones críticas de los Informes del Tribunal de Cuentas Europeo. La Unión Europea quiere evitar que los errores de gestión detectados en el NextGenerationEU se repitan en el próximo Marco Financiero Plurianual, poder recuperar la integridad del Mercado Único Europeo y realizar las modificaciones necesarias en la normativa de contratación pública bien en forma de directivas o en forma de reglamento.

Para ello, la Unión Europea debería funcionar como un “tren legislativo” donde la Comisión ponga en marcha la maquinaria para presentar una propuesta de reforma en el segundo trimestre de 2026, donde los vagones representan los diferentes archivos legislativos (directivas de obras, suministros, servicios y concesiones) que avanzan juntos hacia la digitalización total del procedimiento de contratación de pública incorporando la IA, donde los informes del Tribunal de Cuentas Europeo actúan como una señal de parada que obliga revisar las “vías” (normas actuales) antes de que el tren legislativo llegue a su destino final.

2. LA INTELIGENCIA ARTIFICIAL COMO DESAFÍO ESTRUCTURAL PARA LA CONTRATACIÓN PÚBLICA

La incorporación de la IA representa un cambio en la administración pública que va más allá de una simple actualización de herramientas. Se presenta un desafío estructural porque altera los pilares básicos del Derecho Público Europeo y la gestión de los contratos públicos.

La IA no es solo un producto más adquirir, su implementación obliga a redefinir como se garantiza la integración segura y ética en el sector público.

Existe una grieta creciente entre el conocimiento técnico de los desarrolladores de IA y la capacidad de supervisión de las entidades públicas, caracterizada por la opacidad técnica y el fenómeno “caja negra” que dificultan la supervisión y comprensión de los algoritmos. Esta grieta genera dependencia del proveedor y hace insuficientes los mecanismos tradicionales de control administrativo, planteando desafíos para el principio de legalidad, el riesgo de externalización de las decisiones públicas(18) a los desarrolladores de IA y donde la complejidad del algoritmo actúa como una barrera que impide a la Administración rendir cuentas sobre sus decisiones, lo que supone un riesgo para la transparencia(19).

El control de los sistemas de IA adquiridos por la administración pública se ve limitada por el fenómeno de la “caja negra”, caracterizado por la complejidad de los algoritmos de aprendizaje y por la protección de estos mediante secreto comercial. Difícilmente se podrá motivar los actos administrativos si la Administración no es capaz de comprender la lógica que subyace a una decisión automatizada, vulnerando el derecho de defensa de los ciudadanos.

Nos enfrentamos a un escenario donde las decisiones que afectan a la vida de los ciudadanos son tomadas por sistemas automatizados (algoritmos) cuyos procesos internos no llegamos a comprender ni descifrar. En el contexto de la contratación administrativa, el despliegue de la IA en la Administración buscando una mayor eficiencia y objetividad se sacrifica la inteligibilidad.

Vivimos en una era donde la eficiencia se ha convertido en el mantra supremo de la Administración. Sin embargo, nos enfrentamos a una paradoja inquietante mientras buscamos sistemas más objetivos mediante el despliegue de la IA, estamos delegando decisiones trascendentales en algoritmos cuyos procesos internos son una “caja negra” impenetrable, tanto para el ciudadano y a menudo para el propio funcionario.

En el ámbito de la contratación administrativa, este fenómeno no es solo un reto técnico, sino una crisis de legitimidad democrática, la IA elimina el sesgo humano, el favoritismo y la arbitrariedad en la adjudicación de los contratos públicos. Se argumenta que un algoritmo procesa gran volumen de datos inabarcables para un ser humano, aplica criterios de forma matemática y constante, y optimiza el gasto público al encontrar la mejor opción relación-precio.

Sin embargo, esta supuesta objetividad es frágil. Si los datos de entrenamiento contienen sesgos o si el diseño del algoritmo prioriza variables poco transparentes, la IA no elimina la arbitrariedad, sino que la automatiza y la oculta. En el ámbito de la contratación pública el algoritmo puede favorecer a grandes corporaciones con datos históricos favorables, ahogando a las PYMES, así como el riesgo de dirigir contratos no a través de lo estipulado en los pliegos de condiciones, sino mediante ajustes opacos en el código fuente.

La objetividad de un algoritmo es una herencia de su diseño y de los datos que consume. Cuando estos elementos fallan, no solo perdemos imparcialidad, sino que se puede convertir en la automatización de la exclusión, donde la injusticia contra las PYMES queda blindada por la complejidad matemática del código. La IA aprende patrones estadísticos, si los datos históricos de contratación de una Administración durante la última década muestran una tendencia a adjudicar a grandes corporaciones, el algoritmo interpretará que el tamaño es igual a éxito. Es un círculo vicioso, donde la IA busca minimizar el riesgo, podría penalizar a las PYMES y startups que, aunque innovadoras y competitivas, carecen de volumen de datos históricos que el algoritmo ha aprendido a valorar. Así, las pequeñas empresas no pierden por ser menos eficientes, sino porque el algoritmo está programado para repetir el pasado, favoreciendo siempre a los de siempre y dejando fuera al negocio local.

De este modo, la competencia deja de ser justa. No ganan las empresas más eficaces, sino las que mejor encajan en la memoria del algoritmo, lo que acaba asfixiando a las PYMES y startups que no tienen ese historial detrás. En lugar de premiar la eficiencia, el algoritmo se limita a copiar vicios antiguos. En el resultado es una máquina que, por pura inercia, acaba desplazando a la pequeña empresa en favor de las grandes corporaciones.

El principal problema reside en la pérdida de la trazabilidad del razonamiento. En el derecho administrativo, cualquier acto deber ser motivado. Cuando interviene una IA de aprendizaje profundo en sistemas Deep Learning (aprendizaje profundo) o redes neuronales complejas, incluso por los propios desarrolladores resulta difícil. Al sacrificar la inteligibilidad en favor de la eficiencia, se vulneran principios fundamentales como el derecho a la defensa o cómo se puede impugnar una adjudicación sino comprende la lógica que la excluyó, o si el error que comete la IA es un error sistemático quién asume la responsabilidad legal si nadie puede explicar el proceso interno.

En el contexto del contrato público, esto implica que la Administración adquiere una herramienta cuyo funcionamiento no puede ser auditado de forma lineal. Esta falta de transparencia técnica impide que el órgano de contratación cumpla con su deber de control, delegando la confianza del sistema en la fe en el desarrollador de la IA.

A todo ello se le suma la opacidad jurídica, las empresas adjudicatarias invocan la protección de la propiedad industrial y el secreto comercial para restringir el código fuente. Esto crea una situación de indefensión, ya que, si la Administración no es capaz de comprender y explicar la lógica que subyace a una decisión automatizada, se produce un quiebre en el deber de motivación previsto en el artículo 35 de la Ley 29/2015(20). La motivación no puede ser una simple remisión al resultado del algoritmo, sino que debe exponer los criterios y la ponderación de estos.

El desafío estructural que plantea la IA se manifiesta con especial crudeza en la tensión entre la propiedad intelectual de las empresas y los principios rectores del derecho administrativo. En este contexto, la aportación de PONCE SOLÉ(21) resulta esencial para comprender la dimensión ética y jurídica del problema. Este autor argumenta que el derecho a una buena administración implica el derecho a que las decisiones no sean arbitrarias, lo cual es imposible de verificar si el algoritmo está protegido por el secreto comercial. La opacidad de la “caja negra” no puede ser amparada por la propiedad industrial cuando lo que está en juego es el ejercicio de potestades administrativas. En este sentido, la transparencia debe ser proactiva por diseño, garantizando que cualquier decisión administrativa sea trazable y explicable desde su nacimiento.

Bajo esta premisa, la contratación pública debe garantizar que cualquier decisión pública automatizada sea trazable y explicable desde su nacimiento. Esto implica que el diseño del algoritmo debe permitir, desde su fase de programación original, la reconstrucción del camino lógico que conduce a un resultado concreto. De esta forma, se asegura la decisión administrativa sea transparente para la supervisión pública y judicial, garantizando que el uso de la IA no erosione los estándares de motivación y legalidad exigibles a cualquier potestad pública. Para ello los pliegos de cláusulas administrativas y prescripciones técnicas no solo deben reclamar la entrega del código fuente, sino la traducibilidad de la complejidad matemática a un lenguaje jurídico comprensible que permita el control de la legalidad tanto judicial como de la Administración.

En consecuencia, el desafío estructural radica en transformar los pliegos de prescripciones técnicas en verdaderos códigos de gobernanza ética, lo que obliga a una reingeniería de los instrumentos de contratación. La tradicional distinción entre el pliego de cláusulas administrativas particulares y el pliego de prescripciones técnicas (en adelante PPT) se difumina, el desafío estructural radica en transformar los PPT en verdaderos códigos de gobernanza ética, donde la técnica se subordine a los valores superiores del ordenamiento jurídico.

La transferencia de decisión rompe la cadena de legitimidad, ya que el funcionario actúa bajo una jerarquía y una responsabilidad legal, pero el algoritmo carece de personalidad jurídica y responsabilidad ética. En consecuencia, las resoluciones generadas por dicho algoritmo serían nulas de pleno derecho por haber sido dictadas por un órgano manifiestamente incompetente y prescindiendo del procedimiento legal de formación de la voluntad

Por eso es importante analizar que la calidad deja de ser un concepto abstracto para materializarse en indicadores medibles de transparencia, robustez y trazabilidad. Para ello, en la era de la IA, el principio de integridad y buena administración exige que la mejor relación calidad-precio se decante decisivamente por la calidad del algoritmo, pues solo así se permite el control judicial y la rendición de cuentas.

El desplazamiento hacia criterios cualitativos responde a la necesidad de asegurar la “reserva de humanidad”. Este concepto postula que las decisiones administrativas que afectan a la esfera de los derechos ciudadanos no pueden ser delegadas en sistemas automatizados, debe existir siembre un núcleo de supervisión(22) y juicio humano que garantice la justicia del caso concreto. Para que este principio sea efectivo, la calidad técnica del algoritmo es el garante de que el sistema sea compatible con el Estado de Derecho.

En el contexto de la IA, el código es el que vulnera los principios de legalidad y seguridad jurídica. Si en el modelo tradicional la legalidad de una actuación se verificaba en el cumplimiento del procedimiento administrativo, en la era algorítmica la legalidad reside en la arquitectura de la misma del código y en la integridad de los datos de entrenamiento. Como sostiene BOIX PALOP(23) los algoritmos actúan en la práctica como reglamentos ocultos. Si la programación técnica es defectuosa, el sistema dictará actos administrativos arbitrarios, que es algo intolerable en una actuación pública que debe estar plenamente sometida a la ley y al Derecho.

La opacidad de la “caja negra” tiene un impacto directo en la tutela judicial efectiva. Según BOIX PALOP(24), si el ciudadano no conoce los parámetros exactos de la decisión no puede impugnarla con fundamentos sólidos. El control judicial se vuelve inexistente si el juez solo puede revisar el output pero no el proceso lógico. Esto obliga a replantear los pliegos de contratación, ya que la transparencia algorítmica no debe ser una opción técnica, sino un requisito de validez del contrato.

El Estado de Derecho exige las decisiones públicas sean predecibles y justificadas. La calidad técnica del algoritmo debe garantizar que el sistema sea robusto, es decir, que ante situaciones similares ofrezca resultados coherentes, si genera resultados erráticos vulnera el derecho a una buena administración.

Es fundamental que el sistema algorítmico sea auditable, para ello la calidad técnica se traduce en la explicabilidad del algoritmo y de sus decisiones para que no se produzca una brecha de la tutela judicial efectiva para que el sistema algorítmico sea compatible con el Estado de Derecho, permitiendo que un juez pueda abrir el capó del sistema y verificar el nexo causal dentro los datos y la decisión adoptada por el algoritmo.

Para que el criterio de calidad (25)prevalezca, los pliegos de condiciones deben otorgar mayor puntuación a aquellos modelos que, aun a costa de una mínima pérdida de precisión estadística, ofrezcan una alta interpretabilidad a los funcionarios y jueces, permitiendo así cumplir con el deber de motivación del acto administrativo, puntuando de forma preferente aspectos como la explicabilidad(26) del algoritmo, metodologías robustas de detección y corrección de sesgos(27) (racial, de género, socioeconómico) desde la fase de diseño, así como la capacidad de la Administración para recuperar los datos y el modelo evitando el secuestro tecnológico(28). La dependencia de un proveedor, o “secuestro tecnológico”, ocurre cuando la Administración no puede migrar a otro sistema debido a formatos propietarios o falta de documentación. Se debe garantizar la interoperabilidad y la portabilidad, asegurando que el control sobre la función pública esté en manos de la Administración y no quede supeditado a los intereses comerciales del adjudicatario.

A diferencia de un suministro de papelería o energía, los sistemas IA crean ecosistemas cerrados. Cuando una Administración integra un algoritmo en su toma de decisiones, se genera una dependencia técnica y económica de difícil retorno. Los costes de migrar datos, reentrenar modelos y cambiar de plataforma son tan elevados que la Administración queda encadenada al proveedor original, anulando la libertad de elección en futuras licitaciones.

Al externalizar las decisiones a un algoritmo, la Administración pierde capacidad de respuesta autónoma. Si el proveedor cesa su actividad o decide elevar costes de mantenimiento, la estructura administrativa que depende de ese algoritmo queda paralizada. La eficiencia que se paga con dependencia no es ahorro, es una hipoteca sobre la autonomía de lo público. Esa eficiencia prometida se trasforma en una fragilidad extrema que pone en riesgo la continuidad del servicio público.

La soberanía de los datos y la capacidad de control humano se vuelven en meras aspiraciones teóricas frente a una realidad controlada por terceros.

Pasamos de que históricamente la Administración era dueña de sus procesos y criterios, con la IA, el conocimiento se desplaza del funcionario al código, convirtiendo a la Administración en un comprador ciego que no posee la propiedad intelectual ni puede modificar las reglas que rigen sus propias decisiones, trasladando las decisiones de la Administración a las empresas tecnológicas.

Es fundamental la soberanía de los datos, los datos no solo son registros, son el combustible que entrena y perfecciona los algoritmos. Si los datos de los ciudadanos y los patrones de la contratación pública sirven para que la empresa adjudicataria perfeccione su algoritmo sin que la Administración mantenga el control sobre ese conocimiento, se produce una transferencia silenciosa de riqueza pública (datos) hacia el sector privado.

Hablar de soberanía de los datos significa que lo que es público debe seguir siendo público. Cuando una Administración entrega sus datos a una IA externa para que los procese, corre el riesgo de perder el control sobre ellos. Se debe proteger los datos de los ciudadanos que son el alimento de la IA, y que gracias a ellos se vuelve más inteligente, por lo que debe pertenecer a la Administración y no ser un secreto comercial de la empresa. Así como el derecho a no quedarse atrapado si el servicio de una empresa no es adecuado, la Administración debe poder llevarse tanto sus datos como el aprendizaje acumulado a otro proveedor sin perder el trabajo realizado.

La Administración no puede convertirse en un inquilino de su propia información. Si los datos son la base de las decisiones públicas, el control de estos datos debe estar en manos de esta, nunca bajo el candado de la empresa adjudicataria.

Gran parte de la infraestructura de la IA reside en nubes públicas gestionadas por número reducido de corporaciones globales ubicadas fuera de la Unión Europea, que generan un desafío estructural de dependencia extranjera donde la Administración se expone a leyes extranjeras y a condiciones de servicio que pueden colisionar con el interés general. Si la Administración pierde la capacidad de decidir cómo, dónde y bajo que ética se procesan sus datos, la contratación pública pasará a convertirse en un proceso supeditado a los intereses de grandes proveedores tecnológicos.

Frente a esta vulnerabilidad, el marco normativo europeo emerge como un escudo de autonomía. La implementación del Reglamento (UE) 2024/1689 (29), obliga a los organismos públicos a realizar una gestión de riesgos proactiva. En la fase de licitación, la valoración positiva de técnicas de auditoría de sesgos y el uso de datos de entrenamiento verificados no es solo un mérito, sino una salvaguarda contra la responsabilidad patrimonial. Al exigir estas garantías, la Administración se asegura de que el sistema de IA sea auditable y cumpla con el mandato de reserva de humanidad, evitando que los errores cognitivos del pasado queden petrificados en el código fuente de las nuevas herramientas de gestión pública(30).

La IA trasciende la categoría de un simple suministro o servicio tecnológico, su implementación exige una redefinición de las garantías de seguridad y ética en el sector público. Resulta necesario transitar hacia un modelo de gobernanza contractual algorítmica donde las cláusulas de los pliegos de condiciones garanticen la auditoría durante todo el ciclo de vida del algoritmo, protección de datos desde el diseño y, sobre todo, que el control de la decisión final permanezca siempre en manos humanas.

3. HACIA UN MODELO DE GOBERNANZA CONTRACTUAL ALGORÍTMICA

La IA no es una herramienta estática, sino una tecnología dinámica y evolutiva. A diferencia de la compra de un software de oficina convencional, la IA posee una capacidad de aprendizaje (machine learning) que puede alterar su comportamiento tras la adjudicación del contrato, lo que obliga a una gobernanza contractual algorítmica. En la contratación de la IA, el contrato no termina con la recepción de la prestación, sino que es ahí donde comienza el verdadero control administrativo.

Se produce un desplazamiento del control del “acto de entrega” al “monitoreo y control continuo” al ser la IA un software evolutivo. La gobernanza contractual algorímica exige que los pliegos de contratación establezcan mecanismos de supervisión de su diseño y entrenamiento, implementación, explotación, suspensión y desconexión (fin de vida).

La insuficiencia de los modelos de contratación tradicionales exige el tránsito hacia una gobernanza contractual algorítmica. Este modelo no se agota en la perfección del contrato, sino que se extiende a lo largo de toda la vida útil del algoritmo.

Dada la singularidad de la IA justifica su tratamiento como una categoría contractual independiente o, al menos, como un subtipo del contrato de suministros o servicios. Esta categoría se diferencia del software convencional en que la Administración debe reservarse derechos propiedad y acceso perpetúo no solo del código, sino al modelo entrenado con datos públicos. Sin esta cláusula, la Administración incurre en secuestro tecnológico, perdiendo la soberanía sobre sus propios procesos de decisión al finalizar el contrato(31).

Estamos integrando sistemas dinámicos de toma de decisiones que redefinen la relación entre la Administración y el ciudadano. El uso de algoritmos introduce nuevos riesgos que no pueden ser ignorados como sesgos automatizados, la dificultad de señalar un responsable cuando el sistema falla y el uso masivo de datos personales sin una trazabilidad clara.

En este contexto, el pliego de condiciones deja de ser un mero catálogo de requisitos funcionales para convertirse en la primera línea de defensa de los derechos fundamentales. La Administración debe actuar como un promotor de tecnología ética, exigiendo que el diseño de la IA sea íntegro desde su nacimiento. No basta con que el algoritmo sea eficiente, debe de ser explicable.

El PPT no puede limitarse a pedir un sistema que automatice procesos o procedimientos. Debería ser el documento que defina la gobernanza ética del sistema. Cuando la Administración contrata un algoritmo, está contratando un elemento de burocracia automatizada que ejecutará potestades públicas, donde se deberá exigir la trazabilidad absoluta del proceso decisión, definición de técnicas de auditorías de datos que garanticen la igualdad de trato, realizando de esta forma el control de sesgos.

Transformar el PPT en un código de gobernanza implica integrar lo que denomina PONCE SOLÉ en una reserva de humanidad. Se deberá de restablecer los puntos de control donde la intervención humana es obligatoria. Se trata de cómo y cuándo el funcionario debe intervenir en el procedimiento, teniendo facultades para corregir o anular la decisión algorítmica si lo considera necesario. Un pliego que no prevea el “human in the loop” es un pliego que consiente la abdicación de la potestad pública en favor de una máquina. Esta situación acarrea consecuencias jurídicas severas que afectan tanto a la validez del contrato como a la del acto administrativo resultante.

La consecuencia más inmediata es la nulidad de las decisiones adoptadas por el algoritmo como establece el artículo 47.1 de la Ley 39/2015, donde son nulos los actos que se “dicten prescindiendo total y absolutamente del procedimiento legalmente establecido”. Al abdicar la potestad pública, se vulnera la reserva de humanidad que exige que todo acto administrativo sea fruto de un juicio valorativo humano. La falta de intervención humana convierte el acto en una vía de hecho algorítmica, carente de voluntad necesaria para ser considerado un ejercicio legítimo de autoridad.

Por otro lado, un PPT que consiente la opacidad técnica (la “caja negra”) impide cumplir con mandato constitucional del artículo 9, ya que si la Administración no puede explicar por qué el algoritmo tomó una decisión, esta se presume arbitraria, y consecuencia, se produce una vulneración del derecho a la tutela judicial efectiva, ya que el ciudadano no puede impugnar los fundamentos de una decisión que la propia Administración desconoce.

Además, el propio PPT puede ser impugnado ante el Tribunal Administrativo de Recursos Contractuales o antes la jurisdicción contencioso-administrativa cuando no prevea mecanismos de control humano ya que viola principios de orden público, ya que cualquier Administración que pretenda transferir la titularidad de la decisión a un software es nulo de pleno derecho, ya que las potestades públicas no son bienes comerciales que puedan enajenarse o delegarse contractualmente a una máquina, son competencias atribuidas por ley para el servicio de interés general. Estas competencias administrativas son irrenunciables(32). Por lo tanto, un contrato que desplaza el centro de decisión del funcionario al algoritmo constituye un fraude de ley, ya que utiliza el mecanismo de la contratación pública para eludir la reserva de humanidad exigible en el ejercicio de la autoridad.

El pliego de condiciones debe exigir el diseño de la IA cumpla con unos principios de ética en el diseño. Esto implica valora positivamente a aquellos licitadores que presenten certificados de calidad algorítmica y planes de mitigación de sesgos.

La Administración debe puntuar positivamente a los licitadores que aporten certificaciones de terceros, como las futuras normas ISO/IEC 42001 de sistemas de gestión de IA(33). Estas certificaciones garantizan que la empresa sigue procesos estandarizados de gestión de riesgos y gobernanza de datos, evitando que el algoritmo sea una “caja negra” impenetrable para el funcionario.

Asimismo, los pliegos deben exigir la presentación de un protocolo de detección y corrección de sesgos. Esto implica que el licitador declare el origen de los datos de entrenamiento y demuestre que ha realizado las correspondientes pruebas para asegurar que el algoritmo no discrimina por razón de género, origen o situación socioeconómica, cumpliendo así con el mandato constitucional de igualdad del artículo 14 de la Constitución.

Del mismo modo, el Reglamento Europeo de la IA(34) exige que los conjuntos de datos de entrenamiento, validación y prueba sean pertinentes, representativos y, en la medida de lo posible, carentes de errores. El protocolo debe incluir análisis de procedencia y la detección de sesgos estadísticos, si el algoritmo castiga a ciertos grupos antes de entrar en funcionamiento.

La Administración debe exigir(35) que el adjudicatorio entregue una “hoja de ruta” del algoritmo donde se especifique las características de los datos utilizados, las decisiones de diseño que podrían influir en el resultado, las limitaciones del algoritmo o que en qué condiciones el algoritmo deja ser fiable. Esta “hoja de ruta” no termina cuando se entrega el algoritmo, sino que se extiende a lo largo de todo su ciclo de vida operativa a través de una vigilancia proactiva y permanente, el algoritmo deberá ser monitorizado tras su puesta en marcha para detectar la “deriva” algorítmica que se produce cuando la IA al interactuar con nuevos datos reales de licitadores, empieza a desarrollar patrones de decisión que no estaban previstos, pudiendo generar sesgos de forma autónoma(36).

Es fundamental que cada ajuste, recalibración o actualización del algoritmo debe quedar documentado en un registro de eventos. En el contexto de la contratación pública, esto es vital para mantener la trazabilidad si un contrato se adjudicó hoy con una versión del algoritmo, la Administración debe poder reconstruir esta decisión años después, incluso si el algoritmo ha evolucionado, ya que es un software dinámico.

La “hoja de ruta” implica revisiones periódicas que comparen los resultados obtenidos con los principios éticos(37) del pliego. No es un examen de una vez, sino un compromiso de mejora continua que garantiza que el algoritmo no se convierta en una estructura rígida e incuestionable.

En definitiva, la entrega del algoritmo es solo el punto de partida, la verdadera gobernanza contractual algorítmica se demuestra en la capacidad de la Administración para supervisar, corregir y, si es necesario, desconectar (botón del pánico) el algoritmo cuando su funcionamiento sea sesgado o erróneo, o cuando este deje de servir al interés general.

Como hemos dicho esta “hoja de ruta” no termina cuando se entrega el algoritmo, sino que se extiende a lo largo de todo su ciclo de vida, vinculando directamente el rendimiento técnico con la responsabilidad patrimonial de la Administración.

Si un algoritmo de contratación presenta una “deriva” o un error no detectado que excluye injustamente a un licitador, la Administración no podrá escudarse en la complejidad técnica o en el “fallo del sistema” para eludir su obligación de indemnizar. La existencia de una supervisión continua y documentada es la única prueba de que la Administración actuó como diligencia. Si no existiera cualquier error algorítmico será interpretado como un funcionamiento anormal del servicio público, activando automáticamente la indemnización por lucro cesante.(38) Asimismo, una vigilancia constante permite identificar si el error fue fruto de una mala programación o de un defecto oculto del software. En este caso, la Administración tras indemnizar al licitador podría ejercer el derecho de regreso contra el proveedor tecnológico, exigiendo que este asuma el coste del error por haber entregado un producto que no cumplía con los estándares de seguridad y ética exigidos en el pliego.

En conclusión, la supervisión no es solo un deber ético, sino una estrategia de defensa financiera para las arcas públicas. Mantener el control sobre el algoritmo es la única forma de evitar que la eficiencia tecnológica se convierta en una fuente inagotable de litigios y compensaciones económicas.

Uno de los desafíos más complejos y menos explorados en la intersección del Derecho Público y la tecnología es qué ocurre cuando el algoritmo evoluciona más allá de lo pactado originalmente. A diferencia de un suministro estático, la IA es de naturaleza dinámica, sin embargo, la contratación pública, la inalterabilidad de los pliegos es una garantía sagrada de la libre competencia.

Si tras la adjudicación se produce una modificación sustancial de los datos de entrenamiento o una alteración en las finalidades del algoritmo, no estamos ante una simple actualización técnica, sino ante un cambio de la propia esencia del contrato.

Qué ocurre cuando el algoritmo es reentrenado con nuevos datos que alteran la ponderación de las ofertas o los umbrales de decisión, se corre el riesgo que las reglas de juego cambien a mitad de partida. Si estas nuevas reglas hubieran sido conocidas al inicio de la licitación, el resultado de la licitación podría haber sido diferente, lo que vicia el proceso por vulnerar el principio de igualdad de trato.

Según la LCSP, una modificación es sustancial(39) si altera las condiciones esenciales del contrato. En este contexto, un ajuste opaco en el código fuente que redefina la lógica de adjudicación equivale a una modificación del pliego sin pasar por un nuevo procedimiento licitación. Esto genera una indefensión de los licitadores que fueron descartados en su día, quienes pueden impugnar la vigencia del contrato alegando que el algoritmo actual no es que fue evaluado y puntuado originalmente. El algoritmo ha mutado, la Administración deja de aplicar las condiciones que prometió en los pliegos, lo que convierte la adjudicación en un acto en fraude de ley frente a los licitadores que fueron descartados.

Si el algoritmo que opera hoy no es el mismo que se evaluó y puntuó en el momento del concurso, se produce una quiebra del principio de seguridad jurídica. Los licitadores descartados podrían impugnar la vigencia del contrato bajo una premisa clara: el contrato se está ejecutando bajo condiciones que nunca fueron sometidas a pública concurrencia.

La indefensión se agrava por la falta de explicabilidad técnica. Para que un licitador descartado pueda ejercer su derecho a la tutela judicial efectiva, debe conocer las razones exactas de su exclusión. Si la Administración no puede demostrar que la lógica del algoritmo actual es idéntica a la que se describió en los pliegos, el licitador se encuentra ante un muro de arbitrariedad técnica.

Si el algoritmo muta, los licitadores no podrán verificar si los criterios de valoración siguen siendo objetivos o si, por el contrario, el reentrenamiento del algoritmo ha incorporado nuevos sesgos que favorecen injustamente al adjudicatario o a ciertos perfiles de empresas, consolidando una posición de dominio protegida por la opacidad tecnológica.

Una modificación sustancial de la lógica algorítmica sin una nueva licitación podría calificarse como una modificación ilegal del contrato (art. 205 de la LCSP).

Al no existir una correspondencia exacta entre lo que se licitó y lo que se está ejecutando, cualquier licitador con interés legítimo podría solicitar la nulidad de pleno derecho, alegando que se han eludido los procedimientos de publicidad y concurrencia. Nos encontramos que la Administración se enfrenta así a una fragilidad contractual permanente, un contrato que puede ser anulado en cualquier momento si se demuestra que la IA contratada ya no es la misma que la que se adquirió.

Permitir que el algoritmo cambie sus criterios de decisión durante la ejecución del contrato, sin un control estricto y transparente, equivale en la práctica a permitir que la Administración cambie los pliegos de condiciones a puerta cerrada. En el ámbito de la contratación pública, donde la inalterabilidad de las reglas de juego es la base de la seguridad jurídica, esta deriva técnica representa una amenaza directa a la justicia social y la libre competencia. Es obligatorio que cualquier modificación sustancial en la lógica del algoritmo sea tratada con el mismo rigor que una modificación de obra o servicio y, si es necesario, una nueva llamada a la competencia.

El algoritmo debe transitar hacia un modelo de gobernanza contractual algorítmica que se apoye en la inalterabilidad de la lógica adjudicada, donde la gobernanza contractual exige que la versión del algoritmo utilizada sea auditable en cualquier momento, garantizando que el algoritmo que opera hoy es idéntico en sus criterios esenciales al que fue evaluado en la licitación.

La gobernanza algorítmica traslada los conceptos del artículo 205 de la LCSP al código fuente. Cualquier actualización que suponga un reentrenamiento masivo o un cambio en la finalidad del algoritmo deber ser considera una modificación contractual. Para ello se deberá realizar una evaluación del impacto previa ante una actualización, donde el adjudicatario deberá demostrar que los nuevos datos no introducen sesgos que vulneren la igualdad. Asimismo, los licitadores descartados deben tener derecho a conocer si el algoritmo ha mutado y la extensión de esa mutación.

De este modo, la Administración recupera el mando. La gobernanza contractual algorítmica estipula que la propiedad del aprendizaje del algoritmo y la supervisión de sus cambios recaen en el sector público. Al tratar el código como una parte viva del pliego, se asegura que la reserva de la humanidad no sea solo una revisión del resultado, sino un control permanente sobre la evolución del algoritmo.

Dado que la IA de aprendizaje profundo (Deep learning) evolucionan con el tiempo, el pliego de condiciones debe incluir cláusulas de revisión y “congelación” algorítmica. Estas cláusulas actúan como cortafuegos ante la modificación sustancial del objeto del contrato.

Debe ser imperativo incluir una cláusula de notificación obligatoria de actualizaciones, donde cualquier cambio en los pesos de las variables, en el diseño del modelo o en el conjunto de datos de entrenamiento deber ser notificado previamente a la Administración para su validación por la misma.

Para proteger la seguridad jurídica, el contrato debe exigir que el sistema funcione bajo una versión certificada y estable. Cualquier mejora del algoritmo, esta debe pasar por un nuevo test de sesgos. Esto garantiza que la IA que fue evaluada durante la licitación es la misma en esencia que opera hoy.

Asimismo, la Administración debe reservarse el derecho de realizar auditorías algorítmicas periódicas (externas o internas). Estas revisiones deben verificar que la IA no ha sufrido una deriva que lo aleje de los principios de igual y no discriminación.

En estas cláusulas de revisión es imperativo estipular cómo se recuperará el control total de los procesos si se decide rescindir el contrato. Esto incluye la entrega de los modelos entregados y los datos en formatos abiertos e interoperables y asegurando la reserva de humanidad sea posible incluso tras el fin del contrato.

Introducir una IA en la Administración sin cláusulas de revisión es como firmar un contrato de obra donde el constructor puede cambiar los planos cada mañana sin avisar. La gobernanza contractual algorítmica es el único camino para que el Derecho Administrativo siga mandando en el código.

El Reglamento Europeo de IA obliga a que los algoritmos de alto riesgo generen automáticamente registros de eventos con corrección en tiempo real que permitan la desconexión o el reajuste inmediato cuando empiezan a producirse sesgos.

Sin embargo, esta arquitectura técnica es solo la base de una “hoja de ruta” mucho más ambiciosa: garantizar que la supervisión humana sea verdaderamente efectiva. En este marco el el funcionario encargado no sea un mero validador de clicks, sino que sea capaz de comprender la recomendación del algoritmo o anular o ignorar el resultado automatizado si detecta una anomalía o una evidente injustica.

Bajo este prisma, la supervisión humana no debe entenderse como un simple botón de “pausa” ante una emergencia, sino como una arquitectura de control integral. El diseño de la interfaz del sistema de IA debe actuar como un verdadero puesto de mando de la legalidad, donde la tecnología se subordine al criterio jurídico. No basta con la presencia formal de un funcionario, el artículo 14 del Reglamento Europeo de la IA exige un diseño proactivo que permita a los humanos no seguir, ignorar o anular el resultado de la IA, asegurando que la decisión administrativa final conserve siempre su esencia de responsabilidad y justicia.

La interfaz del algoritmo no puede limitarse a mostrar una puntuación, debe motivar esa puntuación, debe mostrar que variables (precios, plazo, certificaciones ambientales o criterios sociales) han tenido más peso en la resolución final, permitiendo contrastar al funcionario esa lógica con lo estipulado en el PPT. Debe permitir al funcionario a realizar los ajustes manuales o correcciones de trayectoria en tiempo real. Asimismo, el funcionario ante la sospecha de un error sistemático en el procesamiento de las ofertas debe poder suspender el proceso automatizado (botón del pánico) de inmediato sin que se bloquee la licitación manual.

El diseño del algoritmo en la contratación pública debe integrar mecanismos de ajuste manual y corrección de la trayectoria en tiempo real. Esta facultad se produce de la obligación de la Administración de garantizar la mejor relación calidad-precio. Si el algoritmo interpreta de forma rígida o errónea una variable técnica, el funcionario debe contar con capacidad de realizar el ajuste necesario a la realidad del pliego.

Sin embargo, el control humano más crítico se manifiesta ante la sospecha de un error sistemático en el procesamiento de las ofertas. En estos escenarios, el algoritmo debe incorporar un “botón del pánico” o mecanismo de suspensión inmediata de la automatización para que el proceso no se vea abocado a una nulidad masiva. Esta suspensión no interrumpe el procedimiento de contratación, sino su reversión inmediata a la modalidad manual. Esto asegura que se proteja la validez del proceso, el algoritmo se detiene antes que se produzca el acto administrativo. La licitación prosigue mediante los cauces tradicionales, evitando retrasos innecesarios en la prestación de los servicios públicos.

Al permitir esta transición fluida, la Administración demuestra el control efectivo sobre el algoritmo, para evitar que un error en el algoritmo comprometa los principios de libre competencia e igualdad de trato en la contratación pública,

No se debe olvidar el mayor riesgo que es la pasividad burocrática. Este fenómeno ocurre cuando el funcionario, desbordado por la carga de trabajo o condicionado por una falta percepción de infalibilidad tecnológica, asume la recomendación del algoritmo como una verdad absoluta, al confiar ciegamente en el algoritmo para evitar errores o ahorrar tiempo. Confiar ciegamente en el algoritmo para ahorrar tiempo o evitar errores no solo diluye la responsabilidad profesional, sino que anula a la discrecionalidad técnica que la ley encomienda exclusivamente a las personas físicas(40).

Esta confianza ciega anula la discrecionalidad técnica, potestad que el ordenamiento jurídico, desde el artículo 103 (41) de la Constitución hasta la ley 40/2015 (42) y la LCSP (43), encomienda a los órganos administrativos compuestos por personas físicas. La automatización no puede ser excusa para la dejación de funciones, el juicio técnico es, por imperativo legal, una tarea humana indelegable.

La reserva de humanidad (44) no es una facultad pasiva, sino una obligación activa. Sin embargo, esta garantía puede convertirse en una cáscara vacía si el funcionario encargado carece de las competencias necesarias para ejercer un control real. La incorporación de la IA exige un nuevo perfil de servidor público. No se trata de que el funcionario aprenda a programar, sino de que desarrolle una capacidad de interrogación técnica. El éxito de la IA no depende de la potencia de sus servidores, sino de la alfabetización algorítmica de quienes deben supervisarlos.

La formación debe evolucionar desde el manejo de herramientas ofimáticas hacia una comprensión crítica de la arquitectura del dato. Debe de entender que la IA no ofrece verdades, sino correlaciones estadísticas.

La formación debe combatir activamente la pasividad burocrática. El funcionario debe ser entrenado para desafiar el algoritmo, que la IA es una herramienta de apoyo, pero que la discrecionalidad técnica, la facultad de valorar si una oferta es la mejor relación calidad-precio, es una potestad administrativa delegada por la Ley a una persona física, y es, por tanto, indelegable e irrenunciable.

El funcionario debe ser plenamente consciente de que el uso de la IA no desplaza su responsabilidad. La formación debe dejar claro que, ante una impugnación o una auditoria, la justificación que la IA lo hizo así carece de validez jurídica. El funcionario debe estar capacitado para motivar el acto administrativo de forma humana, integrando la recomendación de la IA dentro de un razonamiento jurídico sólido.

Finalmente, la formación debe vincular la tecnología con las consecuencias legales. El funcionario debe ser plenamente consciente de que la motivación es humana, el deber de motivar los actos legislativos exige una explicación lógica que solo una persona puede construir, y que la IA no desplaza responsabilidad. Un error algorítmico no supervisado puede derivar en indemnizaciones de lucro cesante a licitadores excluidos, cuya responsabilidad recaerá sobre la Administración por falta de vigilancia debida.

En definitiva, la formación del funcionario es la inversión que garantiza la justicia social. Un funcionario capacitado es el único que puede evitar que la eficiencia tecnológica se convierta en una barrera de exclusión, asegurando que la tecnología sea siempre un servidor y nunca un legislador en la sombra. El funcionario no puede ser un espectador, sino en un auditor en tiempo real. Una supervisión humana efectiva le dota de la capacidad crítica para detectar cuando la eficiencia del código esta colisionando con el interés general o con los principios de igualdad y no discriminación.

La IA promete una Administración más rápida y eficiente, pero la eficiencia no es el valor supremo del Derecho Administrativo, lo es la justicia. No podemos permitir que la tecnología sacrifique la inteligibilidad por ser más rápidos.

El reto de la contratación pública es construir un modelo de gobernanza contractual algorítmica donde los datos sean soberanos, los licitadores responsables y el ser humano sea siempre el garante final de la legalidad. Solo así conseguiremos que la tecnología sea, de verdad, una herramienta de progreso y no un muro de opacidad.

Es crucial abordar como el nuevo marco europeo con la entrada en vigor del Reglamento IA obliga a replantear la interpretación de las directivas de Contratación Pública para dar cabida a una gestión dinámica del algoritmo.

Las Directivas de 2014 (traspuestas en España por la LCSP) fueron diseñadas para bienes y servicios estáticos. Sin embargo, la naturaleza dinámica de la IA como hemos comentado en este estudio obliga a una reforma de estas. Desde el principio de transparencia, ya que no basta con publicar el pliego, la transparencia exige hoy la explicabilidad del algoritmo durante todo el ciclo de vida de este, hasta la modificación de los contratos donde el Reglamento de IA impone una monitorización constante. Si este seguimiento revela que el algoritmo debe ser reentrenado o ajustado sustancialmente para corregir un sesgo, el modelo de gobernanza debe prever si dicha alteración entra en los supuestos de modificación no sustancial o si, por el contrario, requiere una licitación.

Uno de los pilares fundamentales de la contratación pública europea es la seguridad jurídica y la inalterabilidad del objeto contractual. La IA, por definición, es un objeto contractual vivo que aprende y muta.

Según el artículo 72 de la Directiva 2014/24/UE, cualquier cambio sustancial en el contrato exige una nueva licitación, en el caso de la IA, un reentrenamiento del algoritmo o una actualización de su base de datos de entrenamiento puede alterar radicalmente los criterios de adjudicación valorados inicialmente. Sin una actualización de las Directivas, la Administración se ve atrapada entre la obsolescencia técnica (no actualizar el algoritmo) o la ilegalidad contractual al modificar el código sin nueva licitación.

No se trata de comprar software, sino de gestionar un poder delegado. Las Directivas tradicionales tratan el software como un producto que está en una estantería, cuando el algoritmo decide sobre la solvencia de una empresa o adjudica el contrato, estamos ante una delegación de potestades administrativas delegadas. Las Directivas de 2014 no contemplan mecanismos para supervisar la discrecionalidad técnica de una máquina, lo que exige un nuevo cuerpo normativo que regule no solo qué se compra, sino cómo se controla el pensamiento de la máquina.

Uno de los mayores obstáculos para la fiscalización del poder público es la actual protección del secreto comercial. Bajo el paraguas de las Directivas del 2014 los adjudicadores no están obligados a revelar la lógica interna de sus algoritmos si alegan la protección de su propiedad intelectual, esto genera una brecha del control de legalidad por la indefensión del licitador descartado a su derecho a la tutela judicial efectiva ante un algoritmo que es una caja negra, la motivación del acto por la Administración es nula si la Administración no puede explicar el orden lógico del algoritmo. Asimismo, el secreto comercial puede actuar como un refugio de sesgos discriminatorios, donde la Administración acepta un acto de fe que vulnera la prohibición de arbitrariedad técnica(45).

Al blindar el contrato con cláusulas de revisión ética y protocolos de control técnico, la Administración asegura que el algoritmo siga siendo un servidor público y no un legislador en la sombra que redefine criterios de justicia sin control democrático.

En la era de la IA, la legitimidad de la Administración no se mide por la potencia de sus servidores, sino por su capacidad de someter la tecnología al imperio de la Ley. La gobernanza contractual algorítmica es el instrumento que garantiza que, aunque el proceso sea digital, la ética siga siendo profundamente humana.

4. EL CABALLO DE TROYA INSTITUCIONAL: GARANTÍAS DE LOS DERECHOS FUNDAMENTALES, RÉGIMEN DE RESPONSABILIDAD Y MUTACIÓN DEL DERECHO PÚBLICO ANTE LA CONTRATACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL

La Administración se encuentra en una encrucijada histórica. La IA se presenta como la panacea para la modernización, una herramienta capaz de optimizar la gestión de los recursos, agilizar procedimientos y tomar decisiones basadas en un análisis de datos masivo, prometiendo una eficiencia sin precedentes. Este impulso se refleja en normativas como el artículo 43 Uso de la inteligencia artificial(46) que insta a la Administración a incorporar soluciones basadas en IA para mejorar los servicios públicos.

En este contexto, la adquisición de sistemas de IA a través de la contratación pública parece un paso lógico y necesario, tanto para los servicios contratación como para el resto de las áreas administrativas.

Sin embargo, esta adquisición conlleva el riesgo de convertirse en un “caballo de Troya” institucional. Bajo la apariencia de un regalo de eficiencia, la Administración introduce en su núcleo operativo arquitecturas propietarias de terceros que, en muchos casos, escapan a su control real. Estos algoritmos, a menudo “cajas negras” cuya lógica interna es opaca incluso para sus propios creadores, pueden albergar sesgos no detectados, tomar decisiones automatizadas que vulneren derechos fundamentales y erosionar principios básicos del Estado de Derecho como la motivación de sus actos y la transparencia.

La contratación no es un mero acto de compra, sino un ejercicio de potestad administrativa sujeta a principios irrenunciables. Tanto las Directivas de 2014 sobre contratación pública como LCSP, establece como pilares la igualdad de trato, la no discriminación y la transparencia. Estos principios son el reflejo de derechos fundamentales en el ámbito de la interacción económica con el sector público.

La diligencia exigible a la Administración en estos procedimientos va más allá de la mera comprobación de los requisitos formales. Implica una diligencia tecnológica reforzada: la obligación de comprender el funcionamiento de la lógica del algoritmo, exigir garantías de auditabilidad y establecer mecanismos de supervisión humana efectiva.

La omisión de esta diligencia es primer eslabón en la cadena de responsabilidad. La normativa autonómica más avanzada ya recoge esta necesidad en su artículo 68(47) Compra púbica estratégica de inteligencia artificial donde prevé la elaboración de catálogos de cláusulas para los pliegos que garanticen, la transparencia, la supervisión humana, la explicabilidad de los resultados y la definición de responsabilidad a lo largo del ciclo de vida del sistema.

La integración de algoritmos en procesos estructurales puede, además, generar una cautividad del proveedor, donde el coste de abandonar ecosistemas cerrados se vuelve prohibitivo. Este fenómeno conocido como “la trampa del dato”, se manifiesta en la compleja migración de datos públicos, a menudo estructurados bajo formatos propietarios que dificultan su recuperación o interoperabilidad. La Administración corre así el riesgo de tolerar ineficiencias o sesgos flagrantes, sencillamente porque el coste de abandonar el sistema es inasumible, transmitiendo en la práctica la soberanía del procedimiento al proveedor tecnológico.

Cuando un licitador es excluido por una decisión de un algoritmo, el daño es patente. La clave para determinar la responsabilidad patrimonial de la Administración reside en la antijuricidad de dicho daño, es decir, la inexistencia del deber jurídico del particular de soportarlo.

La antijuricidad se fundamenta, en primer lugar, en la vulneración del principio de confianza legítima y transparencia. El licitador tiene derecho a esperar que las decisiones sean motivadas y comprensibles. Una decisión adoptada por una “caja negra” rompe esta expectativa, generando un daño que el licitador no debe soportar. La Administración no puede delegar el núcleo de su potestad decisoria en un sistema privado y opaco, pues al hacerlo, renuncia a su deber de control y garantía.

Como ha señalado la jurisprudencia en casos de responsabilidad patrimonial, a la Administración le es exigible una conducta diligente para evitar disfunciones, por así exigirlo el principio de buena administración, que reclama la plena efectividad de las garantías y derechos del administrado(48).

La responsabilidad no nace del fallo técnico del algoritmo, sino de la decisión administrativa de adquirir, implementar y utilizar dicho sistema sin las garantías suficientes. El acto lesivo es la actuación de la Administración al contratar tecnología opaca, no exigir cláusulas de auditabilidad y no establecer mecanismos de supervisión humana robustos, tal y como exige el artículo 47 (49) Requisitos de los sistemas de IA.

Cuando la Administración sustituye el razonamiento de un funcionario por un algoritmo ininteligible, se corre el riesgo de una arbitrariedad tecnológica. Este este contexto, la motivación del acto administrativo, se reduce a una aceptación de resultados algorítmicos cuya validez es imposible contrastar. Por tanto, no solo dificulta la auditoría interna, sino que levanta una barrera infranqueable para el control jurisdiccional, dejando al licitador en situación de indefensión al no poder impugnar los criterios de un algoritmo que ni siquiera la propia Administración alcanza a comprender o explicar.

Al integrar algoritmos en procesos estructurales, como la salud pública, la gestión tributaria o la propia contratación pública, la Administración queda cautiva de ecosistemas cerrados. El coste de salir se vuelve prohibitivo, trasmitiendo la soberanía del procedimiento al proveedor tecnológico, quien acaba dictando los tiempos y capacidades de la acción pública.

En este contexto, el fenómeno de la cautividad del proveedor no es sólo un problema económico, sino como una patología jurídica que afecta a la esencia misma de la potestad administrativa. La Administración se encuentra como un rehén tecnológico donde se genera una interdependencia técnica de difícil reversión. El coste de salida se vuelve prohibitivo, transmitiendo la soberanía del procedimiento al proveedor tecnológico.

Nos encontramos ante “la trampa del dato” donde los costes de salida no se limitan a adquirir una nueva IA, incluyen la compleja migración de los datos públicos, que a menudo quedan estructurados bajo formatos propietarios de los adjudicatarios, dificultando su recuperación o la interoperabilidad con otras IA.

De la misma forma, el reentrenamiento del funcionario y la profunda integración de la IA en el operativo burocrático provocan que cualquier intento de cambio sea percibido como un riesgo de parálisis administrativa. Como consecuencia, la Administración es capaz de tolerar ineficiencias o sesgos flagrantes de la IA simplemente porque la salida de la IA es inasumible.

Esta dependencia estructural no es solo un problema de eficiencia, sino que traslada el conflicto al plano jurídico. El problema se plantea al determinar quién es el responsable del daño ante un error o una mala actuación del sistema de IA. La Administración podría intentar romper el nexo causal argumentando que el fallo proviene del algoritmo. Sin embargo, esta defensa es débil. La responsabilidad no nace del fallo técnico del algoritmo, sino de la decisión administrativa de adquirir, implementar y utilizar dicho sistema de IA sin las garantías suficientes.

Este acto lesivo no es la decisión autónoma de la IA, sino la actuación de la Administración que consiste en adquirir tecnología opaca sin exigir cláusulas de transparencia y auditabilidad, implementar en un proceso decisorio que afecta a derechos de los licitadores y, por último, no establece mecanismos de supervisión y corrección humana robustos y efectivos. De esta forma, la falta de diligencia de la Administración al contratar es la causa directa y principal del daño, convirtiendo al sistema de IA es un mero instrumento de su actuación.

Es crucial reiterar que la acción de responsabilidad patrimonial es un recurso subsidiario o alternativo para anular actos firmes. El licitador perjudicado, en primer lugar, tiene que agotar las vías de impugnación ordinarias contra el acto de exclusión o de adjudicación. Sin embargo, la reclamación patrimonial cobra pleno sentido para resarcir los daños que la anulación del acto, por sí sola, no puede reparar como el lucro cesante, daño emergente y pérdida de oportunidad. Más aún, podría proceder incluso con el acto deviniera firme, si se demuestra que el perjuicio deriva del funcionamiento anormal del servicio público causado por la introducción de una herramienta opaca y lesiva. El funcionamiento anormal sería, precisamente, la utilización de un sistema sobre el que la Administración ha perdido el control efectivo.

La incorporación de la IA en la contratación pública no es una mera actualización de herramientas, sino una transformación estructural del procedimiento administrativo.

Cuando un algoritmo determina el sentido de una actuación administrativa automatizada, deja de ser una mera herramienta para convertirse en una extensión de la voluntad de la Administración. Debe ser tratado jurídicamente como parte del bloque de legalidad administrativo, sometido a los mismos estándares de publicidad, competencia y jerarquía normativa. Su validez dependerá de su respeto a las normas de rango superior, evitando la creación de una “legalidad algorítmica” (50) paralela.

La sumisión a la ley es imposible sin transparencia. La jurisprudencia, como la referida al caso BOSCO, ha marcado un hito al reconocer el derecho del ciudadano a conocer el funcionamiento de un algorítmico público, consolidando el acceso al código fuente como una manifestación del derecho a la información pública, especialmente cuando se afectan a derechos sociales.

El Tribunal Supremo marcó un hito en 2025 al obligar al Estado a revelar el código fuente de BOSCO(51), aplicación que asigna ayudas, siendo la primera vez que ese reconoce el derecho de ciudadano a conocer cómo funciona un algoritmo público. BOSCO es una herramienta del Ministerio para la Transición Ecológica para verificar automáticamente si los solicitantes cumplen con los requisitos para percibir el bono social eléctrico. El Tribunal Supremo ha sentenciado el derecho al acceso a la información pública, considerando que es un derecho constitucional. El Tribunal argumenta que cuando la herramienta está sometida a propiedad intelectual, este límite se atenúa cuando la titularidad de la propiedad recae en la propia Administración y el software se utiliza para el ejercicio de competencias públicas y reconocimiento de derechos sociales, el mero riesgo de uso o de explotación no autorizada, por sí solo, no tiene la relevancia necesaria para excluir el derecho de acceso.

Al delegar fases críticas de valoración, clasificación y selección a algoritmos, la Administración no solo busca eficiencia y celeridad, sino que introduce un nuevo actor decisor en la esfera público: el algoritmo. La ausencia de mecanismos de control efectivo conlleva el peligro de institucionalizar la arbitrariedad técnica, provocando una evasión de la responsabilidad administrativa.

Esta transición desplaza el ejercicio de la discrecionalidad técnica, tradicionalmente residenciada en el juicio experto y motivado del funcionario o de las mesas de contratación, hacia arquitecturas computacionales que a menudo operan bajo lógicas de “caja negra” e inescrutabiidad. Este desplazamiento no es neutral, supone un desafío directo al principio de transparencia administrativa, ya que ciertos algoritmos de aprendizaje profundo (Deep learning) impide conocer la lógica que conduce a una puntuación o adjudicación determinada.

Es precisamente a través de esta falta de escrutinio como se introduce el “caballo de Troya” en el procedimiento, mediante el cual la Administración genera un riesgo de vulneración de los derechos (igualdad, no discriminación) que no puede gestionar eficazmente. El licitador no tiene por qué asumir las consecuencias de un riesgo tecnológico que la propia Administración ha decidido importar sin las debidas cautelas.

El derecho de acceso a la información pública ha dejado de ser un mero principio rector para consolidarse como un derecho subjetivo esencial en cualquier Estado democrático de Derecho. Esta prerrogativa cobra especial importancia ante el uso de sistemas de decisiones automatizadas por parte de la Administración, especialmente cuando afectan a reconocimiento de derechos sociales (educación, salud, trabajo, vivienda, seguridad social). En este contexto, la transparencia no se satisface con una simple explicación funcional, ante los riesgos inherente de las tecnologías, resulta necesario el acceso al código fuente.

El deber de motivación del acto administrativo muta irreversiblemente. Ya no basta con exponer los fundamentos jurídicos: la Administración debe ser capaz de explicar la lógica del algoritmo. El artículo 48(52) Derecho de información de las personas interesadas detalla la información que debe proporcionarse, incluyendo la motivación de la decisión en lenguaje comprensible, los datos empleados y la lógica del funcionamiento del sistema.

En consecuencia, el derecho de defensa se transforma. La revisión del expediente resulta insuficiente si el código fuente permanece oculto. Si un licitador no puede comprender las razones por las que una IA le otorgó una puntuación inferior, se produce una indefensión material. La transparencia ya no consiste en un acceso al documento, sino en la explicabilidad del algoritmo. Una decisión basada en una lógica inescrutable deviene en arbitraria, contraviniendo el artículo 9.3 de la Constitución.

Nos encontramos en un momento de gestión del cambio del Derecho Público Europeo no como un reto logístico, sino como una mutación sustancial del Derecho Administrativo(53). Esta transformación, si no es pilotada desde la soberanía jurídica, puede derivar en una pérdida irreversible del control democrático sobre la función pública.

Tradicionalmente, el Derecho Administrativo se ha basado en una norma escrita. La mutación actual desplaza la ejecución de la ley hacia el algoritmo, donde la “norma jurídica” se traduce a “instrucción de código”.

El código, a diferencia de la norma, no suele someterse a los mismos principios de publicidad y participación ciudadana. Se crea una legalidad paralela e inescrutable, donde el ciudadano ya no es juzgado por lo que la ley dice, sino por cómo un algoritmo privado interpreta y aplica dicha ley.

La transición hacia una Administración algorítmica altera la titularidad del poder público, debemos entender que pasamos de una administración analógica a una administración algorítmica no es solo un cambio de herramienta, sino una transformación profunda en la relación de poder entre el Estado y el ciudadano. El éxito de esta transformación digital en la Administración depende de la gestión del cambio basada en la transparencia técnica. El acceso a la información garantiza que el cambio tecnológico no atropelle los derechos de los ciudadanos, asegurando que la innovación digital esté alineada con los valores democráticos.

Cuando la gestión del cambio se realiza sin una estrategia de soberanía digital, el procedimiento administrativo deja de pertenecer a la Administración para ser tutelado por el Mercado. De esta forma, la Administración corre el riesgo de sustituir la voluntad general, expresada en la ley, por una voluntad técnica, expresada en el código, cuya legitimidad democrática es, en el mejor de los casos, indirecta y, en el peor de los casos, inexistente.

Asimismo, esta mutación del Derecho Administrativo plantea una pregunta sobre la Soberanía del Derecho Público Europeo. Debemos entender si las Administraciones dependen de algoritmos diseñadas fuera de la Administración, bajo valores éticos distintos y regímenes de responsabilidad laxos, la capacidad de los tribunales para proteger los derechos fundamentales se ve mermada.

Por tanto, la gestión del cambio deber ser una reclamación de soberanía. El Derecho Administrativo debe evolucionar(54) para que el algoritmo sea considerado como parte del bloque de legalidad administrativo, exigiéndoles los mismos estándares de transparencia, neutralidad y sumisión plena a la ley que se le exigen a cualquier acto administrativo humano.

El primer paso de esta mutación es reconocer cuando un algoritmo determina el sentido de una decisión administrativa, deja de ser una mera herramienta técnica para convertirse en una extensión de la voluntad de la Administración. Según BOIX PALOP el algoritmo debe ser tratado jurídicamente como un reglamento(55) o una instrucción de obligado cumplimiento. Como consecuencia, al formar parte del bloque de legalidad administrativo, su validez depende de su publicación, de la competencia del órgano que lo dicta y de su respeto a las normas de rango superior. No puede existir una “legalidad algorítmica” paralela que escape al control del ordenamiento jurídico general.

Es fundamental integrar el algoritmo en el bloque de legalidad administrativo implica someterlo a los mismos estándares que cualquier acto administrativo humano. La sumisión a la ley es imposible sin transparencia. Si el algoritmo es una “caja negra”, el derecho a la motivación del acto desaparece. La Administración debe garantizar la trazabilidad del razonamiento algorítmico, permitiendo que tanto el juez como el ciudadano pueden auditar la lógica que conduce al resultado.

En el marco jurídico actual la figura de la revisión de oficio resulta insuficiente y requiere una flexibilización para corregir actos administrativos viciados por un error de código que funcionario no supo detectar. Cuando un algoritmo contiene un sesgo no detectado, las decisiones automatizadas que produce pueden ser discriminatorias o arbitrarias, generando un daño jurídico.

La revisión de oficio es el mecanismo extraordinario que permite a la Administración anular sus propios actos firmes cuando adolecen vicios de nulidad de pleno derecho. Sin embargo, su naturaleza está concebida para errores jurídicos evidentes y puntuales, no para vicios sistemáticos, latentes y de naturaleza tecnológica como un sesgo algorítmico. La revisión de oficio se contempla para evitar la pervivencia en el ordenamiento jurídico de actos o disposiciones administrativas que, estando afectados por alguna causa de nulidad de pleno derecho, no han sido recurridos en plazo(56).

Esta rigidez choca con la realidad de los errores algorítmicos de carácter masivo, un solo error de código afecta a miles de actos administrativos, haciendo inviable una revisión individualizada. Asimismo, el sesgo puede no ser evidente en el momento de dictarse el acto, sino que se manifiesta con el tiempo a través del análisis de patrones de decisión. Para cuando se descubre, los plazos para recurrir o incluso para instar la revisión pueden haber finalizado para mucho afectados.

Es imperativo mutar la figura de la revisión de oficio para dar repuesta a los vicios de origen del algoritmo. El descubrimiento de un sesgo algorítmico que ha fundamentado actos masivos deberá ser considerado como una causa que habilite una revisión de oficio de carácter colectivo o, al menos, que flexibilice los plazos para su interposición judicial.

Esta flexibilización encuentra su amparo en el principio de buena administración(57) que no se detiene en la mera observancia estricta de procedimiento y trámites, sino que reclama la plena efectividad de garantías y derechos, donde la Administración no puede ampararse en la firmeza de los actos para eludir su responsabilidad cuando el vicio es de origen tecnológico, masivo y de difícil detección para el administrado. La confianza legítima del ciudadano en que la actuación automatizada es conforme a derecho se ve quebrantada, lo que justifica una respuesta contundente del ordenamiento jurídico.

La normativa más reciente ya anticipa estos riesgos y establece un marco de actuación. El artículo 23 de la Ley integral para la igualdad de trato y la no discriminación mandata a las administraciones a que los algoritmos involucrados en la toma de decisiones tengan en cuenta criterios como minimización de sesgos, transparencia y rendición de cuentas. Del mismo modo normativas autonómicas insisten en la necesidad de realizar auditorías y evaluaciones de impacto para detectar y corregir posibles sesgos discriminatorios(58).

Para ello, es fundamental integrar el algoritmo en el bloque de legalidad administrativo, lo que implica someterlo a los mismos estándares de validez y eficacia que se exigen a cualquier acto administrativo dictado por un ser humano. La legitimidad de la actuación administrativa en un Estado Derecho no descansa en la infalibilidad de sus decisiones, sino en su sumisión plena a la ley y al Derecho(59). Esta integridad no es una opción técnica, sino una exigencia constitucional que se despliega en los siguientes aspectos esenciales:

- La transparencia como condición de legalidad: La sumisión a la ley es imposible sin transparencia. Si el algoritmo opera como una “caja negra”, el deber de motivación del acto desaparece, y con él, la frontera entre a la discrecionalidad y la arbitrariedad. En el Derecho Administrativo, la motivación no es mero formalismo, sino el presupuesto necesario para el ejercicio del derecho de defensa. Es necesaria la motivación del acto administrativo para conocer si la Administración ha servido con objetividad a los intereses generales.

- El derecho a la explicabilidad del razonamiento del algoritmo: La Administración tiene la obligación de garantizar la trazabilidad del razonamiento del algoritmo. Esto supone que el diseño del algoritmo debe permitir tanto al juez como al ciudadano puedan auditar, paso a paso, la lógica deductiva que conduce a la decisión final. Está explicabilidad debe ser accesible o comprensible, integral que abarque desde los datos de entrenamiento hasta la decisión final. Solo a través de una trazabilidad real se garantiza la tutela judicial efectiva permitiendo que los tribunales del contencioso-administrativo ejerzan su función de control sobre los hechos y la lógica de la decisión.

- La primacía del interés público sobre el secreto comercial: Uno de los mayores conflictos de la era de la IA es la colisión entre el secreto comercial de los proveedores tecnológicos y el principio de transparencia pública. Es fundamental que la transparencia administrativa prevalezca sobre los intereses de la propiedad intelectual de las empresas adjudicatarias.

Si una entidad privada desea contratar con la Administración para gestionar potestades públicas mediante IA, debe aceptar que su código ha de ser abierto y auditable. La opacidad de la “caja negra” no puede ser un privilegio comercial cuando lo que está en juego el ejercicio de los derechos fundamentales.

- Neutralidad y ausencia de sesgos: El principio de objetividad(60) exige que el algoritmo sea neutral. Exigir su sumisión a la ley significa que debe ser sometido a pruebas de estrés y auditorías de sesgo a lo largo de todo su ciclo de vida, desde su diseño hasta su implementación, asegurando que no introduce criterios discriminatorios (por razón de género, raza o nivel socioeconómico) que la ley prohíbe taxativamente, todo ello en línea con lo dispuesto en el artículo 23(61) Inteligencia Artificial y mecanismos de toma de decisiones automatizados.

- Supervisión y control humano: La decisión final debe mantener una “reserva de humanidad”. El algoritmo puede elaborar propuestas, pero la responsabilidad y la capacidad de revertir la decisión deben recaer en la autoridad administrativa, como establece el artículo 12(62) Reserva de humanidad y de revisión humana.

- Sumisión plena y control jurisdiccional: No puede haber zonas exentas de control. La mutación del Derecho Administrativo debe garantizar que el algoritmo no goce de una presunción de infalibilidad. El juez contencioso-administrativo deber tener la capacidad de anular una decisión automatizada si el algoritmo que la sustenta vulnera principios generales del derecho o derechos fundamentales.

- El algoritmo como acto administrativo motivado: Esta mutación del derecho administrativo debe imponer la reserva de humanidad en a la decisión final del acto administrativo. El algoritmo debe ser considerado un medio para la elaboración de la propuesta de resolución, pero la motivación jurídica debe seguir siendo responsabilidad de la autoridad administrativa. La soberanía reside en que la Administración sea capaz de comprender, explicar y revertir cualquier decisión tomada por una IA, evitando que la función pública sea una sucursal de intereses tecnológicos privados.

La incorporación de la IA en las Directivas de contratación pública de la UE no solo moderniza las compras públicas, sino que actúa como un catalizador de transformación para todo el Derecho Público Europeo. Sin embargo, sin las salvaguardas adecuadas, la IA actúa como un caballo de Troya jurídico: una vez que el sistema de asienta en el corazón del procedimiento administrativo, su opacidad inherente amenaza con desmantelar desde el interior los pilares del procedimiento administrativo. Esta realidad obliga a una mutación en la interpretación del bloque de legalidad administrativo, un giro doctrinal por el cual, al integrar el Reglamento de la IA, la contratación pública deja de ser un proceso puramente administrativo para convertirse en un mecanismo preventivo de defensa de los derechos fundamentales(63).

Asimismo, la integración de la IA en la contratación pública actúa como catalizador para una revisión del derecho administrativo español, activando tensiones con leyes fundamentales como la ley 39/2015 sobre Procedimiento Administrativo Común y la Ley 40/2015 del Régimen Jurídico del Sector Público. El bloque de legalidad administrativa deberá mutar(64) para garantizar la transparencia algorítmica(65) y la supervisión humana(66), transformando la exigencia de motivación de los actos administrativos y redefiniendo la responsabilidad patrimonial y el ejercicio de las potestades públicas.

La modificación de estas Directivas para integrar la IA genera un efecto dominó en las leyes generales administrativas, que obliga a reinterpretar todo el bloque de legalidad administrativa. Donde el sector público como desplegador de IA, tiene la responsabilidad legal de asegurar que los sistemas de alto riesgo, adquiridos cumplan con los estándares de transparencia y supervisión humana.

En este contexto, el despliegue de la IA en la esfera pública tensiona el concepto tradicional de acto administrativo, que se enfrenta ahora a la decisión automatizada. De la misma manera, la obligación de los sistemas sea trasparentes muta el deber de motivación. Ya no basta con exponer los fundamentos jurídicos, la Administración, como desplegadora de tecnología, debe ser capaz de explicar la lógica del algoritmo.

En este contexto el derecho de defensa(67) muta, si el ciudadano no puede comprender cómo la IA evaluó su oferta en una licitación, se quiebra el principio de transparencia y el derecho a una buena administración. Este derecho de defensa está sufriendo una mutación irreversible. Cuando la Administración emplea algoritmos para baremar criterios subjetivos o clasificar ofertas, la tradicional revisión del expediente administrativo de contratación resulta insuficiente si el código fuente o la lógica de la decisión permanecen ocultos.

Si un licitador no puede comprender las razones técnicas para las cuales la IA otorgó una puntación inferior a su oferta, se produce una indefensión material, la transparencia ya no consiste solo en el acceso al documento, sino la explicabilidad del algoritmo.

Nos encontramos en un momento de gestión del cambio del Derecho Público Europeo no como un mero desafío logístico, sino como una mutación sustancial del Derecho Administrativo. Esta transformación, si no es pilotada desde la soberanía jurídica, puede derivar en una pérdida irreversible del control democrático sobre la función pública.

Igualmente, el derecho a una buena administración(68) incluye la obligación de la Administración de motivar sus decisiones. En este proceso de integración de la IA se produce una mutación del concepto de motivación, donde una decisión basada en un algoritmo cuya lógica es inescrutable es una decisión arbitraria prohibida por el artículo 9.3 de la Constitución. Asimismo, sin una explicación significativa sobre la lógica aplicada, el principio de igualdad de trato en la contratación se vuelve ilusorio, ya que el licitador no puede impugnar los sesgos o errores técnicos que pudieron perjudicarle.

El deber de motivación del acto administrativo muta irreversiblemente. Ya no basta con exponer los fundamentos jurídicos: la Administración debe ser capaz de explicar la lógica del algoritmo. En la Ley 4/2025 (69) detalla la información que deber proporcionarse, incluyendo la motivación de la decisión en lenguaje comprensible, los datos empleados y la lógica del funcionamiento del sistema.

Si las Directivas de Contratación imponen estándares técnicos de IA, las leyes de procedimiento deben mutar para reconocer que el código es parte de decisión final. Como consecuencia, se altera el concepto de motivación(70). Si la contratación exige explicabiidad, el acto administrativo resultante de esa IA no será válido, sino incluye un resumen comprensible de la lógica algorítmica, bajo pena de nulidad de pleno derecho de indefensión.

También el derecho a saber del ciudadano ya no se limita al expediente, sino a acceder al algoritmo. Las leyes de procedimiento deberán garantizar que el código utilizado por la Administración sea considera información pública, limitando la propiedad intelectual que las empresas tecnológicas invocan para mantener sus “cajas negras”, repercutiendo en la Ley 19/2013 de Transparencia. El derecho de acceso a la información pública ha dejado de ser un mero principio rector para consolidarse como un derecho subjetivo esencial en cualquier Estado democrático de Derecho. Esta prerrogativa cobra especial importancia ante el uso del sistema de decisiones automatizadas por parte de la Administración.

La transición hacia una Administración algorítmica altera la titularidad del poder público, debemos entender que pasar de una administración analógica a una administración algorítmica no es solo un cambio de herramienta, sino una transformación profunda en la relación de poder entre el Estado y el ciudadano. El éxito de esta transformación digital en la Administración depende de la gestión del cambio basada en la transparencia técnica. El acceso a la información garantiza que el cambio tecnológico no atropelle los derechos de los ciudadanos, asegurando que la innovación digital este alineada con los valores democráticos.

Cuando la gestión del cambio se realiza sin una estrategia de la soberanía digital, el procedimiento administrativo deja de pertenecer a la Administración para ser tutelado por el Mercado. De esta forma, La Administración corre el riesgo de sustituir la voluntad general, expresada en la ley por una voluntad técnica, expresada en el código, cuya legitimidad democrática es, el mejor de los casos indirecta y, en el peor de los casos, inexistente.

Asimismo, esta mutación en el Derecho Administrativo plantea una pregunta sobre la Soberanía del Derecho Público Europeo. Si las Administraciones dependen de algoritmos diseñados fuera de la Administración, bajo valores éticos distintos y regímenes de responsabilidad laxos, la capacidad de los tribunales para proteger los derechos fundamentales se ve mermada.

Asimismo, se necesita transitar hacia una responsabilidad objetiva por riesgo tecnológicos por la integración de la IA en los procedimientos administrativos, ya que la Administración no podrá alegar funcionamiento normal si el algoritmo causa un daño, incluso si el error puede ser imprevisible técnicamente, ya que la decisión de contratar e integrar ese algoritmo en el procedimiento administrativo es una potestad soberana que conlleva la asunción del riesgo.

La incorporación de la IA en la Administración Pública, si bien se presenta como un vector de modernización, constituye una cesión de facto de parcelas de poder público a sistemas algorítmicos. Cuando estos sistemas son desarrollados y controlados por corporaciones tecnológicas, especialmente fuera de la Unión Europea, los riesgos transcienden la mera gestión administrativa para convertirse en una cuestión de soberanía estatal y autonomía estratégica.

La contratación de sistemas IA desarrollados en otros contextos geopolíticos, como Estados Unidos, implica el riesgo de importar sesgos culturales, sociales o económicos ajenos a la realidad europea. Un algoritmo entrenado predominantemente con datos de un mercado puede penalizar, sin justificación objetiva, a pymes o empresas con perfiles distintos, contraviniendo el principio de igualdad y no discriminación, pilar de la contratación pública.

La dependencia tecnológica de corporaciones no europeas tiene consecuencias estratégicas importantes.

Cada euro invertido en tecnología propietaria de una empresa estadounidense es un euro que no se destina a desarrollar un ecosistema tecnológico europeo competitivo. La contratación pública, en lugar de ser un motor de innovación local, se convierte en un mecanismo para el dominio de competidores estratégicos. En este sentido, se produciría la fuga de la inversión pública, produciéndose un problema estructural crítico para la economía y la soberanía tecnológica de la Unión Europea. La dependencia de la contratación pública en tecnología estadounidense no es solo una elección de proveedores, sino una fuga de capital, conocimiento e innovación.

En la actualidad, más del 80% del gasto europeo(71) en servicios en la nube y software profesional es capturado por empresas estadounidenses: Amazon, Microsoft y Google. Se estima que cerca de 264.000 millones de euros anuales en factura digital se destinan a soluciones estadounidenses. Esto supone una transferencia de riqueza directa que financia la I-D de competidores, en lugar de reinvertirse en la Unión Europea. Esta inversión contribuye a sostener cerca de 2 millones de empleos directos e indirectos en Estados Unidos, en lugar de en la Unión Europea.

Esta fuga de inversión pública perpetúa un ciclo de dependencia donde el capital europeo, en lugar de fomentar la industria local, subvenciona indirectamente el liderazgo de las grandes tecnológicas estadounidenses. Este fenómeno nos relega a la condición de “colonia digital estadounidense”, donde la infraestructura crítica de la UE queda bajo control extranjero.

La adopción de estas soluciones consolida estándares propietarios que actúan como una trampa técnica, el elevado coste de salida y la falta de interoperabilidad generan un bloqueo del proveedor que asfixia cualquier transición hacia alternativas soberanas. Como consecuencia, ante la falta de contratos públicos significativos en sus países de origen, las empresas tecnológicas de la UE se ven forzadas a emigrar fuera del continente, trasladando su talento, patentes y potencial de crecimiento a los ecosistemas de nuestros competidores estratégicos.

En el informe de Mario Draghi(72) sobre el futuro de la competitividad europea advierte que la UE se enfrenta a una lenta agonía si no logra cerrar la brecha tecnológica con sus rivales. Draghi subraya que la UE requiere una política industrial mucho más coordinada y decisiones de inversión masivas para seguir el ritmo de Estados Unidos y China.

De otra manera, la dependencia en sectores críticos de tecnologías, como la salud, seguridad y energía, controladas por actores de terceros países es una vulnerabilidad estratégica. En un contexto de tensión geopolítica, esta dependencia podría ser utilizada como una herramienta de presión, comprometiendo la capacidad de decisión soberana de los Estados miembros y la UE en su conjunto.

El uso de infraestructuras externas, como nubes no soberanas, pueden exponer los datos de salud, de seguridad y de energía, de los europeos a marcos legales extranjeros lo que entra en un conflicto directo con el Reglamento General de Protección de Datos(73). Cuando la Administración contrata tecnología propietaria estadounidense, los datos de los ciudadanos suelen acabar procesados bajo marcos legales como la U.S. CLOUD Act(74), que permite al gobierno de Estados Unidos, acceder a datos almacenados por sus empresas, incluso si están en servidores europeos. Esto produce una vulneración del artículo 48 del Reglamento Europeo de Protección de Datos donde se prohíbe explícitamente a las empresas cumplir con sentencias o decisiones de autoridades administrativas extranjeras a menos que exista un tratado internacional. Al usar nubes no soberanas, la Administración se expone a que le proveedor cumpla con Estados Unidos, violando la ley europea.

Bajo la ley estadounidense, un ciudadano europeo cuyos datos de salud o seguridad sean consultados por agencias de inteligencia de Estados Unidos no tiene capacidad de defensa ni acceso a una tutela judicial efectiva, lo cual es un derecho fundamental en la UE. Aunque las empresas firmen contratos prometiendo proteger los datos, el Tribunal de la UE ha dicho que esas promesas son insuficientes si la ley del país de origen las anula(75).

Por lo que invertir en tecnología estadounidense no es solo un riesgo económico, sino una imprudencia jurídica. El Tribunal de Justicia de la Unión Europea ha dejado claro que mientras en la ley de Estados Unidos permita el acceso de sus agencias a datos extranjeros, no existe seguridad jurídica real para los datos de los ciudadanos europeos en sus nubes.

Cuando una Administración opta por tecnología estadounidense, está construyendo sus servicios críticos sobre un “suelo legal inestable”. Esta imprudencia jurídica radica en ignorar que las empresas tecnológicas estadounidenses ante un contrato con una Administración de la UE están aceptando un contrato con un proveedor, que está obligado por su ley nacional a violar las cláusulas de los pliegos de condiciones del contrato si se le requiere. Es un contrato con una vulnerabilidad estructural.

Desmantelar toda esta infraestructura tecnológica estadounidense llevaría años y costaría millones de euros, dejando a la UE paralizada jurídicamente. Nos encontraríamos en un escenario de colapso operativo al que se enfrenta la Administración de la UE. No se trata solo de un cambio de proveedor, sino de una crisis de continuidad de servicios esenciales.

¿Qué pasaría si el Tribunal de Justicia de la Unión Europea anula el nuevo acuerdo de transferencia de datos entre Estados Unidos y la UE? La UE se encontraría en un callejón sin salida legal, por un lado, el Reglamento Europeo de Protección de Datos le prohíbe seguir tratando datos en esa nube, y, por otro lado, no tiene una alternativa lista para el día siguiente. Además, las autoridades de protección de datos podrían ordenar el cese inmediato del tratamiento de datos. Esto podría significar la imposibilidad de gestionar citas médicas, procesar nóminas públicas, ya que el soporte técnico que permite esas funciones es, de repente, ilegal.

Esta parálisis generaría un impacto económico devastador en las cuentas públicas, ya que los millones de euros invertidos en tecnologías estadounidense se convierten en dinero perdido que no pueden ser recuperados. La UE tendría que lanzar licitaciones de urgencia, mucho más caras, para construir una infraestructura tecnológica soberana bajo presión, mientras sigue pagando licencias del proveedor anterior estadounidense para evitar el “apagón total” de los servicios.

Es fundamental desarrollar un ecosistema local no solo es una opción económica, es un seguro contra la parálisis administrativa. Una infraestructura tecnológica soberana es una que la UE puede garantizar que seguirá siendo legal y funcional, sin importar lo que ocurra en tribunales extranjeros o despachos de grandes corporaciones, así como antes tensiones geopolíticas.

Las tensiones globales están rompiendo seguridad geopolítica, si la UE se ve forzada a elegir un bando en una disputa tecnológica entre Estados Unidos y China, y su infraestructura pública está integrada exclusivamente con tecnología estadounidense, la UE pierde su autonomía estratégica. No puede tomar decisiones independientes porque su administración dejaría de funcionar sin el permiso técnico estadounidense. La contratación pública debe priorizar proveedores locales supone que los servidores están en suelo nacional o de la UE, sujetos a protección militar y policial propia. Si la tecnología es local, el proveedor responde ante los jueces de su propio país, la Administración puede garantizar que el sistema de salud o la red eléctrica sigan funcionando, aunque se rompan los lazos diplomáticos.

Además, la contratación pública estratégica(76) asegura que el marco legal que rige la tecnología es el mismo que rige la Administración. Esto evita que un tribunal local puede declarar ilegal el soporte técnico de un hospital o de una central nuclear. Al contratar a proveedores locales, la Administración financia la existencia de un tejido industrial capaz de responder en tiempos de crisis. Sin estos contratos, las empresas de ciberseguridad y nube europeas desaparecen, dejando a la UE desarmada. Si la UE no controla sus datos no puede defender a sus ciudadanos. Por tanto, la contratación pública debe evolucionar de buscar el precio más bajo a buscar la resiliencia más alta.

La necesaria mutación del Derecho Administrativo para integrar el algoritmo en el bloque de legalidad administrativo responde a un imperativo de soberanía de garantizar que la potestad administrativa no sea delegada a sistemas opacos que operen al margen de los principios constitucionales. Esta reclamación de soberanía digital debe proyectarse directamente sobre la contratación pública, reinterpretando las directivas de 2014 bajo el prisma de la autonomía estratégica y la seguridad jurídica. En este contexto, el control nacional de los servicios mínimos esenciales depende de la capacidad de respuesta ante proveedores externos. Por ello, resulta fundamental que el estatuto del funcionario garante proteja su potestad para activar planes de contingencia y protocolos de desconexión. Solo mediante esta tutela de control público se asegura que la innovación tecnológica sea una extensión de la legalidad administrativa y no un riesgo político oculto, transformando la infraestructura digital de un potencial “caballo de Troya” en un activo plenamente sometido al Estado de Derecho.

En un entorno de soberanía digital y defensa nacional, el funcionario ya no es un mero tramitador de expedientes(77), sino en un garante que debe asegurar que la tecnología que utiliza no está filtrando datos masivamente a potencias extranjeras. Su deber de diligencia ahora incluye la vigilancia tecnológica. Si detecta que una herramienta propietaria estadounidense vulnera la normativa europea, su deber ético y legal es denunciar la brecha de soberanía.

5. CONCLUSIONES

Los informes de Letta y Draghi identifican la fragmentación del Mercado Único y la gestión de la contratación pública como desafíos críticos. Ambos expertos subrayan que, sin reformas profundas en estas áreas, la Unión Europea difícilmente podrá financiar las transiciones digitales y verde ni garantizar su soberanía económica en el actual escenario geopolítico. La Unión Europea se enfrenta a un escenario de “parálisis competitiva”, donde la inacción frente a la reforma de las directivas actuales conlleva riesgos sistemáticos que comprometen el modelo social europeo. Entre ellos, destaca una automatización opaca de las decisiones públicas que erosiona la transparencia administrativa y una creciente dependencia tecnológica hacia proveedores extracomunitarios.

Este escenario no solo incentiva litigios masivos por vulneración de derechos fundamentales, sino que precipita la pérdida de legitimidad de las instituciones. Nos enfrentamos a la “caja negra” algorítmica en el poder público, al cautiverio tecnológico frente a grandes plataformas y a una ola de inseguridad jurídica que derivará en conflictos judiciales sin precedentes. Por ello, la reforma de las directivas trasciende la mera técnica legislativa para situarse en una dimensión estrictamente constitucional. No se trata solo de ajustar normas de procedimiento, sino de redefinir el Derecho Público Europeo frente a la era digital. Es una salvaguarda de la calidad democrática: asegurar que el ejercicio del poder, ahora mediado por algoritmos, permanezca sujeto a los valores de transparencia y justicia que definen a la Unión Europea.

Bajo esta premisa, la Unión Europa debe elegir entre la reforma estructural o la irrelevancia estratégica. La convergencia entre el Mercado Único y la contratación pública inteligente es la única vía para preservar el modelo social europeo y garantizar la soberanía del continente en el nuevo orden geopolítico. En definitiva, el reto estructural no es solo tecnológico, sino de soberanía. La eficiencia que promete la IA no puede pagarse al precio de convertir la Administración en una entidad cautiva de proveedores. Para evitarlo, es imperativo apostar por estándares de código abierto, interoperabilidad obligatoria y, sobre todo, una formación técnica profunda de los empleados públicos que les permita mantener siempre el control sobre el algoritmo.

En este sentido, la incorporación de la IA en la contratación pública no puede reducirse a una cuestión de optimización técnica o ahorro presupuestario. Nos encontramos en un momento ante un cambio donde la tecnología debe ser gobernada por la ética para no erosionar los cimientos de la justicia social. Si permitimos que los procesos de contratación que deciden el destino de los recursos públicos se vuelvan opacos, corremos el riesgo de una “dictadura de datos” que castiga a los más vulnerables y favorece la concentración del poder económico. La verdadera innovación no es aquella que decide más rápido, sino la que decide con mayor justicia, garantizando que una pequeña empresa o un nuevo licitador tengan las mismas oportunidades que una gran corporación frente al frío análisis de un código.

Por consiguiente, la reserva de la humanidad y la soberanía de los datos no son obstáculos al progreso, solo a través de una gobernanza algorítmica, transparente, auditable y humana, conseguiremos que la IA sea el motor de la equidad. Aquí, la metáfora del “caballo de Troya” ilustra a la perfección el dilema actual la modernización tecnológica es deseable, pero no a cualquier precio. La falta de modificación de las Directivas de 2014 genera un vacío donde la eficiencia choca con la seguridad jurídica. Es urgente que el bloque de legalidad administrativo mute hacía un modelo donde la explicabilidad y auditoría del algoritmo sean condiciones esenciales para la validez de cualquier contrato público.

Finalmente, debemos ser conscientes de que la adquisición de IA sin las debidas garantías constituye una actuación administrativa que, en caso de producir un daño, genera una lesión antijurídica. El “regalo” de la eficiencia no puede significar la claudicación de la Administración ante la tecnología, dejando a los ciudadanos indefensos antes las decisiones arbitrarias e inexplicables. Para evitar este desamparo, se exige una interpretación flexible y evolutiva de la revisión de oficio y la creación de recursos administrativos especializados. Solo así se podrá garantizar la soberanía jurídica y digital de la Unión Europea, asegurando que, en la era de los algoritmos, la Administración sea inteligente, pero, sobre todo, siga siendo el reflejo de una sociedad justa donde el Derecho siempre prevalezca sobre la máquina.

En definitiva, las reformas de las directivas de contratación no es una cuestión técnica, sino una decisión política fundamental para el futuro de Europa. Se trata de decidir si la inversión púbica europea servirá para consolidar el dominio de corporaciones tecnológicas extranjeras, convirtiéndonos en una “colonia digital”, o si se utilizará estratégicamente para construir un ecosistema tecnológico propio, soberano y alineado con los valores democráticos y los derechos fundamentales que definen el proyecto europeo. La contratación pública es la herramienta más poderosa de la Unión Europea para forjar su autonomía digital y evitar “el apagón” de los servicios públicos europeos. De esta forma, la contratación de IA debe dejar de ser un “caballo de Troya” para convertirse en un motor de soberanía digital, garantizando que el dinero público contribuya a fortalecer el servicio público europeo y no a debilitar la autonomía estratégica.

6. BIBLIOGRAFÍA

ALMONACID LAMELAS, V., BATET JIMÉNEZ, Mª P. y GARCÍA MELIÁN, J. C., La promesa y el peligro: Una reflexión sobre la interacción de la Inteligencia Artificial en la contratación pública, 2 de octubre de 2024. ENLACE

BOIX PALOP, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público Teoría y Método. Vol 1, págs. 223-270.

CERRILLO i MARTINEZ, A.. (2022). Hacia una transformación digital para el buen gobierno y la buena administración. Anuario del bien gobierno y de la calidad de la regulación. ABGCR. Págs 305-339.

CERRILLO i MARTÍNEZ, A. (2018). CERRILLO i MARTÍNEZ, A. (2018). El Principio de Integridad en la Contratación Pública: Mecanismos para la Prevención de los Conflictos de Intereses y la Lucha contra la Corrupción. Aranzadi. Págs 278-367.

GAMO SANZ, L. (2025). Cautividad tecnológica en el sector público: singularidades en la contratación de bienes y servicios tecnológicos. Civitas.

GIMENU FELIÚ, J.M. (2026). La necesaria revisión de la normativa de contratación pública en Europa. Una nueva hoja de ruta en clave geoestratégica global. Revista General de Derecho Administrativo. Núm 71, enero 2026.

GIMENU FELIÚ, J.M. (2024). Hacia una buena administración desde la contratación pública. De la cultura de la burocracia y el precio a la de la estrategia y el valor de los resultados. Marcial Pons.

GIMENU FELIÚ, J.M. (2022). El necesario big bang en la contratación pública: hacia una visión disruptiva regulatoria y en al gestión pública y privada, que ponga acento en la calidad. Revista General de Derecho Administrativo. Núm 59, enero.

GIMENU FELIU, J. M., GARCÍA-ÁLVAREZ GARCÍA, G. y TEJEDOR BIELSA, J. (2022). La compra pública de tecnología en la nube en España: deficiencias y sugerencias de mejora. Aranzadi.

GAMERO CASADO, E. (Dir) y PÉREZ GUERRERO, F. L. (Coord) y VVAA, Inteligencia Artificial y Sector Público. (2023). Editorial Tirant Lo Blanch.

MARTÍN DELGADO, I. y MUÑOZ DE MORALES R., VVAA (2025). Inteligencia artificial y contratación pública: Propuestas para una buena regulación. Iustel.

MIRANZO DÍAZ, J.: La contratación pública como elemento de control, garantía e impulso de la IA pública, en P. VALCÁRCEL FERNÁNDEZ y F. HERNÁNDEZ GONZÁLEZ (coords.) (2025): El Derecho Administrativo en la era de la inteligencia artificial. INAP. Págs 429-540.

MORENO MOLINA, A.M. (2025): Los riesgos de la actuación administrativa automatizada y las carencias de su marco legal (con propuestas para uno nuevo, en M. VAQUER CABALLERÍA (Dir.), La actuación administrativa automatizada: sus claves jurídicas, Tirant lo Blanch. Págs 196-300.

PONCE SOLÉ, J. Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana, en Inteligencia artificial y sector público. Retos, límites y medios, Dir. E. GAMERO CASADO, Coord. F. L. PÉREZ GUERRERO (2023), Editorial Tirant lo Blanch. Págs 195-225.

PONCE SOLÉ, J. (2025) El derecho a una buena administración, automatización, sistemas algorítmicos y la inteligencia artificial. Working Papers. Universidad Oberta de Cataluña. ENLACE

PONCE SOLÉ, J. (2024) El Reglamento de Inteligencia Artificial de la Unión Europea e 2024, el derecho a una buena administración digital y su control judicial en España, Marcial Pons.

PONCE SOLE, J. (2024). Inteligencia artificial, decisiones administrativas discrecionales totalmente automatizadas y el alcance del control judicial: ¿Indiferencia, insuficiencia o deferencia? Revista de Derecho Público: Teoría y Método. Vol 9, págs. 9-56.

PONCE SOLÉ, J. (2019) Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo. Núm 50, enero.

RIVERO ORTEGA, R. (2025). La función pública del futuro: ¿bots expertos en promptear? El Consultor de los Ayuntamientos, nº13, abril de 2025.

RIVERO ORTEGA, R. (2024). Obligaciones de los proveedores de sistemas de IA. Revista de Privacidad y Derecho Digital. Núm 34 mayo-agosto.

RIVERO ORTEGA, R. (2024). ¿Tenemos balas de plata contra la corrupción en la contratación pública? Revista Galega de Administración Pública, EGAP. Núm 67, enero-junio 2024.

RIVERO ORTEGA, R. (2023). Derecho e Inteligencia Artificial. Cuatro Estudios. Olejnik.

NOTAS:

(1). La Decisión de Europa. Orientaciones políticas para la próxima Comisión Europea 2024-2029. Ursula von der Leyen. Candidata a presidenta de la Comisión Europea. ENLACE

(2). Titulado originalmente “Much more than a market”. Publicado en abril de 2024. El documento propone una hoja de ruta para modernizar el Mercado Único Europeo basada en la velocidad, seguridad y solidaridad. ENLACE

(3). Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público (LCSP)

(4). Directiva 2014/24/UE del Parlamento Europeo y del Consejo, de 26 de febrero de 2014, sobre contratación pública.

(5). Artículo 1.3 LCSP.

(6). RIVERO ORTEGA, R. (2024). ¿Tenemos balas de plata contra la corrupción en la contratación pública? Revista Galega de Administración Pública, EGAP. Núm 67, enero-junio 2024, págs 275-290.

(7). Documento Europeo Único de Contratación

(8). La Directiva 95/46/CE fue una norma fundamental de la UE que estableció las bases para la protección de los datos personales, buscando armonizar las leyes nacionales para proteger los derechos de los individuos y permitir la libre circulación de estos datos dentro de la UE, siendo el precursor directo del actual Reglamento General de Protección de datos.

(9). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos),

(10). Primera estrategia industrial europea de defensa para mejorar la preparación y la seguridad de Europa. ENLACE

(11). El Mecanismo Europeo de Estabilidad (MEDE) para ofrecer préstamos hasta el 2% del PIB con intereses favorables, destinados exclusivamente a gastos de seguridad y defensa como línea de Apoyo a la Defensa ENLACE.

(12). El Informe Letta 2024 propone aprovechar el Mercado Único Europeo para desarrollar una base industrial de defensa común, buscando la autonomía estratégica en un contexto de inestabilidad geopolítica. Entre las recomendaciones clave se incluyen la armonización de normativas, el fomento de la contratación pública conjunta y la exploración de mecanismos de financiación innovadores, como la “Línea de Apoyo a la Defensa” a través del Mecanismo Europeo de Estabilidad.

(13). GIMENU FELIÚ, J.M. (2022). El necesario big bang en la contratación pública: hacia una visión disruptiva regulatoria y en la gestión pública y privada, que ponga acento en la calidad. Revista General de Derecho Administrativo. Número 59, enero 2022.

(14). Informe Draghi sobre “El futuro de la competitividad Europea”. ENLACE

(15). GIMENU FELIU, J.M. (2024). Hacia la buena administración desde la contratación pública. De la cultura de la burocracia y el precio a la de la estrategia y el valor de los resultados. Marcial Pons, págs 87-110.

(16). Informe Especial 28/2023: Contratación pública en la UE- La competencia en la adjudicación de contratos de obras, bienes o servicios han disminuido en los diez años anteriores a 2021. ENLACE

(17). Informe especial 9/2025: Sistemas para garantizar la conformidad del gasto del MRR con las normas sobre contratación pública y ayudas estatales – Hay mejoras, pero no suficientes (C/2025/1702). ENLACE

(18). CERRILLO i MARTÍNEZ, A. (2018). El Principio de Integridad en la Contratación Pública: Mecanismos para la Prevención de los Conflictos de Intereses y la Lucha contra la Corrupción. Aranzadi. Págs 278-367.

(19). CERRILLO i MARTINEZ, A. (2022). Hacia una transformación digital para el buen gobierno y la buena administración. Anuario del bien gobierno y de la calidad de la regulación. ABGCR. Págs 305-339.

(20). Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas.

(21). PONCE SOLE, J. (2019). Inteligencia artificial, Derecho administrativo y reserva de la humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo. Núm 50, enero.

(22). ALMONACID LAMELAS, V., BATET JIMÉNEZ, Mª P. y GARCÍA MELIÁN, J. C., “La promesa y el peligro: Una reflexión sobre la interacción de la Inteligencia Artificial en la contratación pública”, 2 de octubre de 2024 ENLACE

(23). BOIX PALOP, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público Teoría y Método. Vol 1, págs. 223-270.

(24). BOIX PALOP, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público Teoría y Método. Vol 1, págs. 223-270.

(25). GIMENU FELIÚ, J.M. (2024) Hacia una buena administración desde la contratación pública. De la cultura de la burocracia y el precio a la de la estrategia y el valor de los resultados. Marcial Pons. Págs 57-86.

(26). La capacidad del modelo para explicar su razonamiento debe ser un criterio de adjudicación de primer orden.

(27). Si un sistema tiene sesgos, la Administración no podrá motivar razonablemente la decisión, lo que facilita que sea impugnada ante los tribunales.

(28). GAMO SANZ, L. (2025). Cautividad tecnológica en el sector público: singularidades en la contratación de bienes y servicios tecnológicos. Editorial Civitas. Págs 91-134.

(29). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

(30). PONCE SOLÉ, J. (2024). “El Reglamento de Inteligencia Artificial de la Unión Europea de 2024, el derecho a una buena administración digital y su control judicial en España”. Marcial Pons. Págs.57-106.

(31). GAMO SANZ, L. (2025). Cautividad tecnológica en el sector público: singularidades en la contratación de bienes y servicios tecnológicos. Editorial Civitas. Págs 91-134.

(32). Artículo 8 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.

(33). UNE-ISO/IEC 42001 es la norma internacional para la gestión de sistemas de inteligencia artificial. Este estándar ofrece un marco completo que garantiza que las organizaciones desarrollen, implementen y gestiones sistemas de IA de la manera responsable, confiable y transparente. ENLACE

(34). Artículo 10 Datos y gobernanza de datos del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

(35). RIVERO ORTEGA, R. (2024). Obligaciones de los proveedores de sistemas de IA. Revista de Privacidad y Derecho Digital. Núm 34 mayo-agosto, págs. 90-120.

(36). Articulo 72 Vigilancia poscomercialización por parte de proveedores y plan de vigilancia de comercialización y el artículo 14 Supervisión humana que refuerza la necesidad de que los sistemas de IA de alto riesgo sean supervisados para detectar riesgos de sesgos, errores o desviaciones del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

(37). Garantizando una IA ética y responsable. La Agencia Española de Supervisión de Inteligencia Artificial es el organismo público encargado de garantizar el uso ético y seguro de la inteligencia artificial en España. Su principal misión es asegurar que tanto entidades públicas como privadas cumplan con la normativa vigente, protegiendo la privacidad, igualdad de trato y derechos fundamentales. ENLACE

(38). La ganancia que la empresa dejó de obtener al no ser adjudicataria.

(39). Artículo 205 de la LCSP regula las modificaciones no previstas o que no cumplen los requisitos del pliego (modificaciones sustanciales), estableciendo que estas son, por norma general, causa de nulidad o nueva licitación. Se consideran sustanciales si cambian la naturaleza del contrato, alteran el equilibrio económico o modifican su ámbito de forma importante.

(40). Artículos 326 de la LCSP: Los órganos de contratación de las Administraciones Públicas estarán asistidos por una mesa de contratación (órgano colegiado humano) () que calificará la documentación acreditativa del cumplimiento de los requisitos, valoración de las proposiciones

(41). Artículo 103.1 C.E.: Obligación de servir con objetividad a los intereses generales.

(42). Artículo 41 de la Ley 40/2015 LRJSP: Que, si bien permite la actuación administrativa automatizada, la supedita a la identificación clara del órgano competente para su programación y supervisión, asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación.

(43). Artículos 326 de la LCSP: Los órganos de contratación de las Administraciones Públicas estarán asistidos por una mesa de contratación (órgano colegiado humano) () que calificará la documentación acreditativa del cumplimiento de los requisitos, valoración de las proposiciones

(44). Consagrada en el artículo 14 del Reglamento (UE) 2024/1689 de IA.

(45). Artículo 9.3 de la Constitución.

(46). Ley 6/2024, de 5 diciembre, de simplificación administrativa de Valencia. BOE 01/01/2025.

(47). Artículo 68 Compra pública estratégica de inteligencia artificial de la Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia. BOE 20/10/2025.

(48). Sentencia 1639/2023 del Tribunal Supremo. Sala Tercera, de 5 diciembre de 2023.

(49). Artículo 47 de la Ley 4/2025, de 11 julio, de Simplificación, Agilización y Digitalización Administrativa de la Castilla- La Mancha. BOE 25/09/2025.

(50). BOIX PALOP, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público Teoría y Método. Vol 1, págs. 223-270.

(51). Sentencia de la Sala Contencioso-Administrativo del Tribunal Supremo, Sala Tercera, número 119/2025 de 11 septiembre de 2025.

(52). Artículo 48 Derecho de información de las personas interesadas de la Ley 4/2025, de 11 de julio, de Simplificación, Agilización y Digitalización Administrativa de Castilla-La Mancha.

(53). RIVERO ORTEGA, R. (2023). Derecho e Inteligencia Artificial. Cuatro Estudios. Olejnik. Págs 9-26.

(54). MORENO MOLINA, A.M. (2025): Los riesgos de la actuación administrativa automatizada y las carencias de su marco legal (con propuestas para uno nuevo, en M. VAQUER CABALLERÍA (Dir.), La actuación administrativa automatizada: sus claves jurídicas, Tirant lo Blanch. Págs 196-300.

(55). BOIX PALOP, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias. Revista de Derecho Público. Vol 1, págs. 223-270.

(56). Sentencia 351/2022 del Tribunal Supremo, Sala Tercera.

(57). Artículo 3 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.

(58). Artículo 67 de la Ley 7/2024, de 11 de septiembre, de medidas urgentes de simplificación y racionalización administrativas de las administraciones públicas de las Islas de Balearies, o el artículo 47 de la Ley 4/2025, de 11 de julio, de Simplificación, Agilización y Digitalización Administrativa de Castilla La-Mancha.

(59). Artículo 103 de la Constitución.

(60). Artículo 103 de la Constitución.

(61). Artículo 23 Inteligencia Artificial y mecanismos de toma de decisión automatizados en la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación.

(62). Artículo 12 Reserva de humanidad y de revisión humana de la Ley 2/2025, de 2 de abril, para le desarrollo e impulso de la inteligencia artificial.

(63). Artículo 27 Evaluación de impacto relativa a los derechos fundamentales para los sistemas de IA de alto riesgo del Reglamento (EU) de IA.

(64). RIVERO ORTEGA, R. (2023). Derecho e Inteligencia Artificial. Cuatro Estudios. Olejnik. Págs 9-26.

(65). Sentencia del Tribunal Supremo, Sala Tercera, de 9 de julio de 2020, conocido como caso Bosch. Sentencia fundamental en España, ya que establece que la “Administración no puede escudarse en el carácter automatizado de la decisión para eludir su deber de transparencia”.

(66). Caso e-PSAR, Sentencias del Consiglio di Stato 2270/2019 y 7891/2021. Donde se ha enfatizado que el algoritmo debe ser conocible y que la reserva de humanidad es irrenunciable en la función pública,

(67). Artículo 24 de la Constitución.

(68). Artículo 41 de la Carta de los Derechos Fundamentales de la UE.

(69). Artículo 48. Derecho de información de las personas interesadas, de la Ley 4/2025, de 11 de julio, de Simplificación, Agilización y Digitalización Administrativa.

(70). Artículo 35 de la Ley 39/2015 de Procedimiento Administrativo Común.

(71). Informe European Digital Sovereingnty (2025).

(72). Informe Draghi sobre “El futuro de la competitividad Europea”. ENLACE

(73). Reglamento (UE) 2016/679, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.

(74). U.S. CLOUD ACT, Clarifying Lawful Overseas Use of Data Act, aprobada en 2018, es una ley federal estadounidense que obliga a los proveedores de servicios en la nube de Estados Unidos, como Google, Amazon y Microsoft, a entregar datos almacenados por sus usuarios, incluso si dichos datos se encuentran en servidores de fuera de Estados de Unidos.

(75). El Tribunal de Justicia de la Unión Europea anuló el primer acuerdo de transferencia de datos Safe Harbor, sentencia Schrems I (2015), caso C-362/14. El tribunal dictaminó que la legislación de Estados Unidos prioriza la seguridad nacional y el interés público sobre la privacidad de los ciudadanos europeos.

Con la sentencia Schrems II (2020), caso C-311/18, anuló el acuerdo Privacy Shield. El tribunal concluyó que programas PRISM o USTREAM, permiten una vigilancia que no está limitada a lo estrictamente necesario, violando el principio de proporcionalidad del Reglamento Europeo de Protección de Datos, y destacó que los ciudadanos de la UE no tienen tutela judicial efectiva en Estados Unidos, ya que, si el gobierno estadounidense accede a tus datos de salud o energía, no tienes un tribunal donde reclamar.

(76). GIMENU FELIÚ, J.M. (2026). La necesaria revisión de la normativa de contratación pública en Europa. Una nueva hoja de ruta en clave geoestratégica global. Revista General de Derecho Administrativo. Núm 71, enero 2026.

(77). RIVERO ORTEGA, R. (2025). La función pública del futuro: ¿bots expertos en promptear?. El Consultor de los Ayuntamientos, nº13, abril de 2025, págs. 1-11. RIVERO ORTEGA, R. (2023). Derecho e Inteligencia Artificial. Cuatro Estudios. Olejnik. Págs 1-26.