La AESIA se alía con el Instituto de las Mujeres para combatir la violencia digital y corregir sesgos de género en la IA

Óscar López, ministro para la Transformación Digital y de la Función Pública, avanza que los dos organismos aportarán evidencias técnicas y documentales a la investigación de la Comisión Europea sobre el asistente de IA Grok en la plataforma X.

- La ministra de Igualdad, Ana Redondo, defiende que España es un referente en protección de igualdad, mujeres y feminismo, y apuesta por la necesidad de mejorar en democracia digital

- Ambos ministros han participado hoy en el acto Igualdad Digital Ya en el que han firmado un convenio de colaboración y una declaración conjunta sobre la protección de los derechos fundamentales de las mujeres y los menores en el ámbito digital

Digital.gob.es 05.03.26

La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), dependiente del Ministerio para la Transformación Digital y de la Función Pública, y el Ministerio de Igualdad, a través del Instituto de las Mujeres, han puesto en marcha una colaboración para combatir la violencia digital y corregir sesgos de género en los sistemas de Inteligencia Artificial. Para ello, han firmado hoy un convenio y una declaración institucional sobre la protección de derechos fundamentales de la mujer y los menores.

"Colaboración con Bruselas para los procedimientos que está siguiendo contra X y contra Grok. Todos sabemos lo que hoy está pasando. Aquellos que cogen vídeos de niñas los suben a Grok y le piden que las desnude y a continuación tenemos un desnudo falso, una manipulación de las imágenes horribles que no podemos consentir. No vamos a parar en contra de quienes piden que las redes y la inteligencia artificial sigan siendo la ley de la selva”, ha asegurado el ministro para la Transformación Digital y de la Función Pública, Óscar López, en el acto Igualdad Digital Ya celebrado este jueves en la sede de su departamento con motivo del 8 de marzo, Día Internacional de la Mujer.

“La igualdad es paz, democracia y derechos humanos; avanzar en igualdad es avanzar en el respeto. España es un referente en protección de la igualdad, mujeres y feminismo. La violencia que se genera en lo digital se reproduce en la vida real. Si hemos avanzado en democracia analógica, tenemos que avanzar en democracia digital”, ha dicho la ministra de Igualdad, Ana Redondo, durante su participación en el evento.

La AESIA compartirá evidencias técnicas y documentales con la Comisión Europea y la Oficina de IA europea para contribuir de forma eficiente a sus investigaciones sobre el uso de sistemas de inteligencia artificial en redes sociales que permiten la creación y difusión de imágenes sexualizadas o sexualmente explícitas manipuladas sin consentimiento. En esta recopilación de documentación, ha colaborado el Instituto Nacional de Ciberseguridad (INCIBE).

El Instituto de las Mujeres también elevará un informe sobre la situación en España, que aportará la visión y las evidencias recopiladas por actores e instituciones públicas y privadas con el fin de preservar el pleno respeto a los derechos fundamentales y los fundamentos de nuestro Estado de Derecho. 

En la declaración suscrita sobre La protección de derechos fundamentales de la mujer y menores en un mundo generado por la inteligencia artificial, la AESIA y el Instituto de la Mujer reconocen los esfuerzos de la Unión Europea y solicitan que siga liderando la lucha contra la violencia digital a la que se enfrentan mujeres y niñas en la red. “La producción de un alto contenido misógino, sexista y de discursos de odio en las redes sociales obstaculiza y desalienta la participación y el liderazgo femenino, afectando gravemente a la calidad de nuestra democracia y a la igualdad de género. Estos abusos superan la esfera digital, afectando a la salud mental, silenciando a las mujeres y niñas para poder expresarse con libertad y provocando situaciones de acecho, violencia física e incluso la muerte”, reza el texto.

Convenio AESIA e Instituto de la Mujer

En cuanto al convenio suscrito por ambas entidades, establece un marco de colaboración que servirá para integrar la igualdad de género en todo el ciclo de supervisión y uso de la inteligencia artificial en España. Ambas entidades cooperarán en la detección, prevención y corrección de los sesgos de género en sistemas de IA.

Esta coordinación permitirá reforzar la protección de los derechos fundamentales en el despliegue de sistemas de alto riesgo, así como asegurar que las decisiones automatizadas no generen discriminación. Por su parte, la AESIA alertará sobre sistemas de alto riesgo, compartirá documentación, organizará pruebas técnicas y formará a su personal en materia de igualdad.

El acuerdo prevé acciones coordinadas para promover una cultura de IA ética y responsable y alineada con el principio de igualdad. Para ello, ambas partes impulsarán de forma coordinada acciones de sensibilización y formación, así como su participación conjunta en el Laboratorio de Ideas de AESIA para la elaboración de estudios e informes específicos, el diseño de acciones de participación ciudadana orientadas al diálogo, así como en eventos y talleres de discusión.

La iniciativa también contempla la creación de una Comisión de Seguimiento que garantizará la planificación y continuidad de estas actuaciones durante la vigencia del acuerdo.

Declaración institucional

Origen de los datos: Ministerio para la Transformación Digital y de la Función Pública.