Seguimos con la participación de voces destacadas en Pulse AI 2025, y contamos con la participación de Ignasi Belda, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), para conocer la visión institucional de la Agencia en este momento clave de despliegue de la IA en España, su impacto en las empresas y en la sociedad, y los retos regulatorios y de confianza que tenemos por delante.
¿Cómo resumiría el rol de la Agencia en este momento decisivo para garantizar un uso ético, seguro y responsable de la IA en España?
España ha creado la primera agencia de Europa para la supervisión de la inteligencia artificial. Nuestro rol es clave y se sostiene, fundamentalmente, en tres pilares:
El primero es la sensibilización y formación de la ciudadanía, el tejido empresarial y las administraciones públicas en torno a los beneficios, oportunidades y riesgos de la IA. Es lo que llamamos el plan de alfabetización y lo llevamos a cabo conjuntamente con la Dirección General de Inteligencia Artificial (DGIA).
El segundo de ellos, la supervisión. En la AESIA supervisamos que en España se cumpla el Reglamento europeo de inteligencia artificial y dedicamos gran parte de nuestra actividad a ello.
El tercer pilar, el sandbox regulatorio, para ayudar a las empresas españolas a ser más competitivas y a tener la certeza jurídica para seguir avanzando, otro proyecto en colaboración con DGIA.
Además estamos trabajando en la creación de un think tank, que tiene como objetivo principal fomentar la investigación, la innovación y el debate sobre el desarrollo y uso responsable de la IA.
En poco tiempo, desde la AESIA estamos consolidando nuestro posicionamiento en Europa para el fomento de una IA ética, sostenible y confiable. Con iniciativas como la Agencia, el Gobierno de España posiciona a nuestro país como líder en la defensa de una IA que sirva a Europa, a sus empresas, a su ciudadanía y a la democracia.
«Estamos consolidando nuestro posicionamiento en Europa para el fomento de una IA ética, sostenible y confiable»
Supervisión y normativa
Con la entrada en vigor de la Ley de IA de la UE, ¿qué prioridades concretas está abordando AESIA para acompañar a organizaciones públicas y privadas en su cumplimiento?
Desde la entrada en vigor del Reglamento de Inteligencia Artificial europeo, RIA, los profesionales de la Agencia y la DGIA estamos participando activamente en los veinte grupos de trabajo creados por la Oficina de IA de la Unión Europea, el centro de conocimientos especializado en materia de inteligencia artificial para toda la UE y clave en la aplicación del Reglamento. España se posiciona así, como uno de los países con mayor presencia en estos grupos internacionales de expertos.
En ellos, afrontamos temáticas tan diversas como sanidad, finanzas, riesgos sistémicos o buenas prácticas en IA, entre otras.
A continuación, trasladamos todo este esfuerzo, mediante una intensa labor de difusión, participando activamente en actos, foros y conferencias tanto en España como en el ámbito internacional. Nuestro objetivo es que nadie se quede atrás.
Lo complementamos con un servicio de información a través de nuestra web donde damos respuesta todas las semanas a las consultas de organizaciones públicas y privadas que necesitan certeza jurídica, pero también de ciudadanos.
En paralelo, quiero destacar los resultados de nuestras labores de supervisión. Desde España estamos cumpliendo plenamente con los calendarios de supervisión que dicta el Reglamento. Desde el pasado febrero estamos supervisando 50 casos de uso por semana y la buena noticia es que no hemos encontrado ningún sistema de IA prohibido que esté siendo usado en nuestro país.
¿Cuáles son los principales riesgos que observan en relación con privacidad, igualdad y no discriminación, y cómo los está abordando AESIA?
Los principales riesgos en relación con la privacidad, igualdad y no discriminación son los relativos a los llamados “sistemas prohibidos”, que pueden causar incidentes graves, tal y como se definen en el propio Reglamento, causando la muerte o daños graves a personas o causando daños irreversibles a infraestructuras críticas. Como decía, la labor de supervisión de la AESIA no ha encontrado ningún incumplimiento del reglamento en el mercado interior español.
En cuanto a los sistemas de IA de alto riesgo, nos centramos en la concienciación y la difusión de los requisitos exigidos por el RIA que protegen los derechos fundamentales. El objetivo es que los sistemas cumplan estas normas de gestión de riesgos y de gestión de calidad cuando entren en vigor en agosto de 2026.
Colaboración público–privada
¿De qué manera AESIA está trabajando con empresas, asociaciones y sociedad civil para construir un entorno de confianza en torno a la IA?
En esta etapa inicial de la Agencia, hemos realizado un ingente trabajo para ayudar a las empresas y a la ciudadanía en los retos que tenemos con la IA.
Por un lado, estamos desarrollando con la Dirección General de Inteligencia Artificial un sandbox regulatorio, es decir, un entorno de pruebas controlado, para que las empresas puedan probar que sus sistemas de IA cumplen con el Reglamento europeo de inteligencia artificial antes de salir al mercado. En cumplimiento de la normativa europea, España facilita de este modo medidas de apoyo para proveedores de IA, especialmente las pequeñas y medianas empresas y empresas emergentes.
También la Agencia ha participado en más de un centenar de actos con 12.000 impactos directos en el primer semestre del año dirigidos, principalmente, al entorno empresarial, con el objetivo de explicar la normativa europea, resolver sus dudas y acompañar a la sociedad en las buenas prácticas y el buen uso de la IA.
La relación con la sociedad se canaliza principalmente a través del buzón de consultas en nuestra web, un canal creado para facilitar la participación de la ciudadanía, el sector empresarial y las administraciones públicas en general. A través de esta vía, los servicios especializados con los que contamos resuelven las dudas sobre el buen uso de la IA y brindan asesoramiento para la implementación del Reglamento de IA.
Los perfiles que realizan estas consultas son empresas en general (el 40%), ciudadanía (el 38%) y diferentes administraciones públicas (el 17%). El 5% restante de las consultas que atendimos provenían de otros públicos, tales como asociaciones o fundaciones. Sobre la temática específica de las consultas, la mayoría de ellas se referían a asesoramiento técnico, seguidas de regulación y uso responsable de la IA, alfabetización y uso y desarrollo de la inteligencia artificial generativa.
Por otra parte, estamos perfilando un ambicioso plan de alfabetización. Comprenderá desde la divulgación de contenidos didácticos, buenas prácticas, herramientas útiles, oportunidades de los sistemas de IA, así como la sensibilización para el buen uso de estas herramientas, y la formación y capacitación de las empresas, la ciudadanía y las administraciones públicas en esta tecnología transformadora.
«En el primer semestre hemos participado en más de un centenar de actos con 12.000 impactos directos en el entorno empresarial»
IA generativa
¿Qué retos y oportunidades plantea este tipo de sistemas y qué papel tendrá AESIA en su supervisión y buenas prácticas?
Uno de los retos es la supervisión de la IA generativa, es decir, las herramientas que crean contenidos en base a las peticiones de los usuarios.
En estos casos, la responsabilidad de supervisión de la IA Generativa es de Europa y nuestro papel es canalizar hacia el supervisor europeo cualquier abuso o anomalía que se detecte o suceda en España.
¿Qué capacidades o perfiles considera más críticos para garantizar una implantación responsable de la IA en empresas e instituciones?
En general, la supervisión humana y la alfabetización del personal son claves para garantizar una implantación responsable. Pero cobran especial importancia aquellos perfiles que tengan contacto directo con los sistemas de IA de la empresa.
Hablamos de sistemas de toma de decisiones, por ejemplo. Las personas que los gestionen deben conocer cómo funcionan y cuáles son sus límites. De esta forma evitamos caer en el llamado sesgo de la automatización, es decir, confiar en los resultados del sistema de IA y no poner en duda sus conclusiones.
«La supervisión humana y la alfabetización del personal son claves para una implantación responsable de la IA»
¿Dónde le gustaría ver a AESIA y a España en el ecosistema global de IA dentro de los próximos cinco años?
Siendo un referente en el gobierno de la IA.
Queremos liderar el fomento de una IA ética, sostenible y confiable, y todo ello garantizando una IA humanista.
¿Por qué considera importante un estudio como Pulse AI 2025 para el ecosistema empresarial, y qué mensaje lanzaría a los directivos y compañías españolas para animarles a participar en el cuestionario?
La Inteligencia Artificial es una herramienta que ha llegado para quedarse y que contribuirá a nuestra mejora como sociedad. Con iniciativas como este estudio podemos ir un paso más allá en el conocimiento de la IA para difundir cómo puede beneficiar a las empresas y a las personas.
