El Gobierno pone en marcha el primer entorno de pruebas de la UE para garantizar la responsabilidad de sistemas de IA

España vuelve a ser pionera con el primer Sandbox de IA de toda la UE, así como lo fue con la Agencia de Supervisión de IA o con la aprobación del Reglamento de IA durante su Presidencia. El Sandbox de IA pretende apoyar al ecosistema español de IA a cumplir con las obligaciones del Reglamento de IA, fomentando la competitividad y reduciendo la carga regulatoria, especialmente importante para PYMES y startups.

Digital.gob.es 03.04.25

El Ministerio para la Transformación Digital y de la Función Pública, a través de su Secretaría de Estado de Digitalización e IA, ha publicado la resolución provisional de la primera convocatoria del Sandbox de Inteligencia Artificial, seleccionando a 12 sistemas de IA de alto riesgo.

El ministro Óscar López ha sido el encargado de anunciar la publicación en los Desayunos Informativos de Europa Press, donde ha afirmado que “el sandbox impulsa la competitividad de nuestras empresas, implementa la seguridad jurídica europea y garantiza la formación y la democratización tecnológica”.

Con esta resolución, España se adelanta en la implementación del Reglamento europeo de IA, manteniendo su liderazgo en el desarrollo de la Inteligencia Artificial responsable en la UE y en el mundo. Esta norma establece una serie de requisitos para los sistemas considerados de alto riesgo, como, por ejemplo, que deberán contar siempre con supervisión humana.

El plazo de presentación de solicitudes se cerró el 30 de enero 2025, con una gran acogida, habiendo recibido 44 solicitudes de diferentes proveedores de sistemas de IA.

En aras de favorecer una mayor diversidad de sistemas de inteligencia artificial para entender mejor las implicaciones en los sectores definidos como alto riesgo por el Reglamento de IA, se seleccionan provisionalmente a los siguientes proveedores:

Acceso a servicios esencial públicos o privados:

- Dedomena Artificial Intelligence, SL _ Sistema de IA para la calificación crediticia, análisis de solvencia y riesgo de impago de individuos a partir de sus datos transaccionales bancarios.

- Fundación Centro de Investigación en Tecnoloxías da Información e as Comunicacións de Galicia _ Sistema de procesado de la transcripción inteligente de las comunicaciones de emergencias del centro de operaciones del 112 de Galicia.

Biometría:

- Veridas Digital Authentication Solutions, SL _ Veridas Age Verification. Sistema para verificar la edad de usuarios en máquinas de vending, asegurando el cumplimiento normativo en la venta de productos regulados como tabaco o también normativa pendiente de regular para vapeadores.

- Herta Security SL _ BioSurveillance. Solución 100% española de videovigilancia de alto rendimiento, que funciona por reconocimiento facial (mediante biometría). Está especialmente diseñada para la identificación simultánea de sujetos en entornos multitudinarios y muy cambiantes.

Empleo:

- Adevinta Jobs SLU _ Ranking de inscritos vía HyM (How you Match). Adecuación a la vacante mediante el cálculo de compatibilidad entre los currículos de los candidatos y los requisitos de las ofertas de empleo en InfoJobs.

- Shakers Global Solutions _ Shakers AI Matchmaker. Sistema de emparejamiento impulsado por IA que utiliza recomendaciones personalizadas para conectar talento freelance con proyectos empresariales.

Infraestructuras críticas:

- Imotion Analytics SL _ GuardianMobility AI – Supervisión avanzada en tiempo real diseñado para la seguridad y optimización de infraestructuras críticas de transporte. Detección temprana de incidentes y anomalías en vehículos, multitudes y espacios estratégicos.

- Loradix RED SL _ Ciberseguridad reforzada con IA en el control del flujo de datos ajenos al sistema eléctrico desde y hasta el sistema de telegestión de distribución de electricidad (IoT Loradix).

Maquinaria:

- Airbus Operations SL _ Asistente de operadores para el uso de SOIs. Aplicación web que utiliza Google Cloud Platform (GCP) y el modelo de contexto largo multimodal Gemini de Google para responder a preguntas a partir de un documento de instrucciones operativas estándar (SOI) seleccionado.

Productos sanitarios:

- Bit&Brain Technologies SL _ CL@UDIA. Plataforma para la ayuda, tratamiento y prevención de los problemas del sueño. Recogiendo datos multimodales obtenidos mediante sistemas de adquisición vestibles utilizados por los usuarios en su propia casa.

- Tucuvi Care SL _ Tucuvi Health Manager. Software médico que automatiza la monitorización clínica de pacientes a través de llamadas telefónicas gestionadas por LOLA, un asistente virtual basado en IA conversacional.

Productos sanitarios para diagnostico in vitro:

- Made of Genes SLU _ MoGIA-MetCare. IA para la Prevención de Enfermedades Metabólicas. Integra datos clínicos (anamnesis) junto con marcadores analíticos y genéticos para evaluar de manera personalizada el riesgo de enfermedades metabólicas como la diabetes o la obesidad.

Este mes de abril, la Secretaría de Estado de Digitalización e IA, acompañada de la Oficina europea de IA, presidirá la primera reunión del Sandbox en la que participarán hasta 18 PYMES y 6 startups de toda la geografía española, incluyendo una entidad francesa.

López ha explicado que estos sistemas seleccionados comenzarán su andadura en el Sandbox con un servicio de formación y consultoría pública de alto nivel que analizarán las obligaciones del Reglamento y realizarán un proceso de análisis y adaptación de sus sistemas para cumplir con dichas obligaciones.

La Oficina para la España Digital 2030 e Internacionalización acompañará a los participantes en esta iniciativa con la ayuda de un grupo de asesores y asesoras técnicos que serán consultados con las dudas técnicas en el proceso de adaptación de los algoritmos.

Como resultado de esta experiencia con hasta 12 sistemas de IA de alto riesgo se obtendrán las guías técnicas de implementación de los requisitos que se publicarán para uso de todos los desarrolladores de IA en España.

Estas guías luego servirán para influir en el desarrollo reglamentario y de estándares a nivel europeo, habiendo preparado con anterioridad a nuestro ecosistema.

Con el Sandbox de IA, el Gobierno de España quiere “fomentar la innovación y facilitar que pymes, start-ups y grandes empresas puedan cumplir los requisitos europeos para los sistemas de Inteligencia Artificial de alto riesgo, además de ayudar al tejido productivo español a desarrollar sistemas de IA innovadores y confiables, adelantándose a una norma que entra en vigor el 2 de agosto del 2026”, ha explicado el ministro.

Este entorno de pruebas potenciará la tecnología responsable, que respeta los derechos y construye una sociedad consciente de los riesgos de la tecnología, pero que aprovecha todas sus ventajas para superar retos sociales y económicos actuales y futuros.

Comentarios