INTELIGENCIA ARTFICIAL (I.A.) Y ADMINISTRACIÓN PÚBLICA: UN PASO MÁS… Y OTRO RECORDATORIO

I. PROPUESTA DE REGLAMENTO EUROPEO

Con ocasión de mi último post sobre IA, inspirado en la publicación del Decreto-ley 2/2023, de 8 de marzo, de medidas urgentes de impulso a la inteligencia artificial en Extremadura [https://blogdejoselopezvinyaaldia.com/2023/04/24/la-inteligencia-artificial-al-servicio-de-los-principios-de-eficacia-de-la-administracion-publica-y-de-proximidad-al-ciudadano/], daba cuenta de la existencia de normas o proyectos legales, tanto en España como en la Unión Europea (UE), reguladoras de la materia, citando entre estas últimas, la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial [en adelante PREIA]

Son objetivos de la PREIA:

– asegurar el respeto de los derechos fundamentales de la ciudadanía

– generar confianza en el desarrollo y la utilización de la IA de manera holística en la economía y la sociedad.

– promover una IA fiable, ética y robusta.

Es objeto concreto de regulación en la PREIA:

Las aplicaciones de alto riesgo de IA, no la tecnología en sí.

II. I.A. AL SERVICIO DE LOS PRINCIPIOS DE EFICACIA DE LA ADMINISTRACIÓN PÚBLICA Y DE PROXIMIDAD AL CIUDADANO

Concluía mi post anterior con estas valoraciones:

1. Viendo con optimismo y satisfacción la implementación de sistemas de I.A. en la Administración Pública si suponen en la práctica eficacia y servicio efectivo al ciudadano.

2. Valorando positivamente las finalidades y medidas de apoyo establecidas en la citada norma legal extremeña

3. Considerando que la I.A. supone un avance tecnológico sin retorno, aunque admitía que entre el post que había publicado el 5 de febrero de este mismo año 2023 [https://blogdejoselopezvinyaaldia.com/2023/02/05/inteligencia-artificial-administracion-publica-y-ciudadano/] y el Decreto-Ley 2/2023 extremeño, expertos en I.A. han reclamado “frenar seis meses la carrera sin control de los ChatGPT”

4. Recordando que, de todas formas, las AAPP, además de cumplir las normas europeas, estatales y autonómicas, no deben olvidar lo que espera el ciudadano de las instituciones. Es decir: administración electrónica, sí; inteligencia artificial aplicada a la Administración, sí; pero servicio efectivo al ciudadano y ahora, más que nunca, mayor acercamiento al ciudadano, también.

III. EL REAL DECRETO 817/2023, DE 8 DE NOVIEMBRE, O CONVOCATORIA DE EXPERIENCIA PARA LA P.R.E.I.A

El día 9 del presente mes de noviembre se publicó en el BOE el Real Decreto 817/2023, de 8 de noviembre, que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial. [https://boe.es/boe/dias/2023/11/09/pdfs/BOE-A-2023-22767.pdf

El contexto de este Real Decreto es, por tanto, la citada propuesta de Reglamento Europeo (la que más arriba identifico como PREIA)

El objeto del mismo es, como su propio nombre indica, poner en marcha, con la colaboración de la Comisión Europea, el primer entorno controlado de pruebas, o experiencia, con una duración determinada, que proporciona un contexto estructurado para el desarrollo de las actuaciones necesarias que posibiliten a proveedores y usuarios de los sistemas de IA de alto riesgo, sistemas de propósito general y modelos fundacionales que realicen las pruebas necesarias para la implementación de los requisitos establecidos en este real decreto, bajo la supervisión del órgano competente.

El objeto es poner en marcha experiencias para comprobar la forma de implementar los requisitos aplicables a los sistemas de IA de alto riesgo de la propuesta de Reglamento Europeo

Entre otros, se consideran de alto riesgo los sistemas de IA que se indican en áreas como las siguientes [cito aquellos sistemas que pueden tener más incidencia en la Administración Pública]:

► Acceso y disfrute de servicios públicos y privados esenciales y sus beneficios:

● Sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar la admisibilidad de las personas físicas para acceder a servicios y ayudas esenciales de asistencia pública, así como para conceder, reducir, retirar o recuperar dichos servicios y ayudas;

● Sistemas de IA destinados a utilizarse para el envío o el establecimiento de prioridades en el envío de servicios de primera intervención en situaciones de emergencia, por ejemplo, bomberos y servicios de asistencia médica;

► Infraestructuras críticas:

●Sistemas de IA destinados a utilizarse como componentes de seguridad en la gestión y funcionamiento de infraestructuras digitales críticas, del tráfico rodado y del suministro de agua, gas, calefacción y electricidad.

► Asuntos relacionados con la aplicación de la ley:

● Sistemas de IA destinados a ser utilizados por las autoridades encargadas de la aplicación de la ley o en su nombre para evaluar el riesgo de que una persona física cometa una infracción o reincida o el riesgo de que una persona física se convierta en posible víctima de infracciones penales;

● Sistemas de IA destinados a ser utilizados por las autoridades encargadas de la aplicación de la ley o en su nombre como polígrafos y herramientas similares, o para detectar el estado emocional de una persona física;

● Sistemas de IA destinados a ser utilizados por las autoridades encargadas de la aplicación de la ley o en su nombre para evaluar la fiabilidad de las pruebas durante la investigación o el enjuiciamiento de infracciones penales;

● Sistemas de IA destinados a ser utilizados por las autoridades encargadas de la aplicación de la ley o en su nombre para predecir la comisión o reiteración de una infracción penal real o potencial a partir de la elaboración de perfiles de personas físicas mencionada en el artículo 3, punto 4, de la Directiva (UE) 2016/680, o para evaluar rasgos y características de la personalidad o comportamientos delictivos pasados de personas físicas o grupos;

● Sistemas de IA destinados a ser utilizados por las autoridades encargadas de la aplicación de la ley o en su nombre para elaborar perfiles de personas físicas, como se menciona en el artículo 3, punto 4, de la Directiva (UE) 2016/680, durante la detección, la investigación o el enjuiciamiento de infracciones penales.

► Actividad jurisdiccional y procesos democráticos:

● Sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para interpretar hechos o la ley, así como para aplicar la ley a un conjunto concreto de hechos.

El Real Decreto establece una relación de sistemas de IA de alto riesgo, entre ellos sistemas relativos a:

Acceso y disfrute de servicios públicos y privados esenciales y sus beneficios

La aplicación de la ley

Infraestructuras críticas

La finalidad es:

Obtener, como resultado de esta experiencia, unas guías basadas en la evidencia y la experimentación que faciliten a las entidades, especialmente las pequeñas y medianas empresas, y a la sociedad en general, el alineamiento con la propuesta del Reglamento Europeo de Inteligencia Artificial

Qué se regula en el Real Decreto:

►Los requisitos de participación en la experiencia o entorno controlado de pruebas

► El procedimiento de admisión

Podrán acceder a este entorno, en calidad de usuario participante, las personas jurídicas privadas y AAPP y entidades del sector público institucional del artículo 5.1 que hagan uso de un sistema de inteligencia artificial de alto riesgo, sistemas de propósito general, o modelos fundacionales, siempre que el correspondiente proveedor IA acceda conjuntamente al entorno con el usuario participante

Podrán participar las AAPP que hagan uso de algún sistema de IA de alto riesgo si el proveedor del sistema accede a la experiencia conjuntamente con las mismas

►El desarrollo de las pruebas, validación del cumplimiento, seguimiento e incidencias

►Las garantías y responsabilidad de los participantes

►Los canales de comunicación, obtención de Información, refinamiento de guías y otros documentos del entorno controlado de pruebas

►La finalización de la experiencia o entorno controlado de pruebas

Previa a la finalización, tanto de los proveedores IA participantes como de los usuarios participantes, entregarán un informe a la Subdirección General de Inteligencia Artificial y Tecnologías Habilitadoras Digitales

►La participación y coordinación de otras entidades

Cuando una Administración Pública sea usuaria de un sistema de alto riesgo de IA, podrá acordar con el proveedor IA de dicho sistema la participación conjunta en la experiencia.

Vigencia

Lo dispuesto en el Real Decreto tendrá una vigencia como máximo hasta el 10 de noviembre de 2026 o, en su caso, hasta que sea aplicable en España el Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de IA.

IV. ¿Y “QUÉ HAY DE LO MÍO”?

No, no me refiero a lo mío, a este bloguero. Ni siquiera a la expresión que coloquialmente se utiliza por cualquier ciudadano al que solo le interesa “su” asunto. Y en la expresión “cualquier ciudadano” comprendo no solo al ciudadano de a pie sino incluso a aquellos altos funcionarios, profesionales, o políticos que cada cuatro años (como hoy mismo está ocurriendo en la Administración General del Estado/Gobierno de España) esperan su nombramiento ya sea como ministro (bueno, “esto será para la próxima”, pensará alguno), o secretario de estado, o director general , o consejero, o cualquier otro cargo de confianza… (y es que en estos precisos momentos, a 20 de noviembre de 2023, muchas personas -mirando hacia La Moncloa, ya sea directa o indirectamente- estarán diciendo aquello de ¿y qué hay de lo mío?)

Pero como decía no me estoy refiriendo a eso [además, no se si la IA ni siquiera dentro de muchos años decidirá tales nombramientos].

 Cuando utilizo la expresión “qué hay de lo mío” estoy aludiendo al servicio efectivo al ciudadano en todos los aspectos desde la óptica de la Administración Pública. Y es que si hablamos de Administración Pública -y en este blog se trata de la misma, especialmente de la local, la más cercana al ciudadano- no podemos olvidar que la misma está para servir los intereses generales de los mismos. La Administración Pública no es un monstruo orgánico, ni burocrático, ni ha de existir ningún tipo de muro entre la misma y el ciudadano.

Por ello, antes de seguir adelante, me remito a uno de los objetivos (señalados antes) del proyecto de “Reglamento Europeo” sobre la inteligencia artificial: asegurar el respeto de los derechos fundamentales de la ciudadanía

Uno de los objetivos del proyecto de Reglamento europeo sobre la Inteligencia Artificial es asegurar el respeto de los derechos fundamentales de la ciudadanía

Por otra parte, como he puesto de manifiesto en post anteriores, son principios básicos de la Administración en su actuación y en sus relaciones con los ciudadanos, entre otros previstos en el artículo 3 de la LRJSP, la eficacia, el servicio efectivo al ciudadano, la simplicidad, claridad y proximidad al ciudadano, la buena fe, la racionalización y agilidad de los procedimientos administrativos.

Siendo ello así y valorando positivamente tanto la PREIA [recuérdese: propuesta de Reglamento Europeo sobre Inteligencia Artificial] como el Real Decreto español publicado el pasado día 9, este bloguero no puede dejar de recordar la existencia de determinados males (llamémoslos deficiencias) con que muchos ciudadanos se encuentran frecuentemente en su relación con la Administración:

◙-La tardanza y dificultades para lograr una cita con la Administración

El “nuevo muro que separa a la Administración del administrado”. ¿Recuerdan las ventanillas y aquél slogan de que debían derrumbarse las ventanillas al suponer muros que separan la Administración del administrado? Pues ahora, sí, en pleno siglo XXI, en la era digital, de la administración electrónica, en muchos órganos o dependencias de la Administración no es posible acceder a ésta o para una mera consulta, información o trámite simple, sin una cita previa, exigida sin fundamento alguno, por lo que deviene en ilegal por chocar frontalmente contra el principio de eficacia

◙ -El trato irrespetuoso y no facilitador al ciudadano

No es que sea la práctica común ni mucho menos. Pero no es difícil encontrar a algún ciudadano que, en algún momento, en alguna dependencia de la Administración, se haya encontrado con algún empleado público irrespetuoso y que ya de entrada, como si fuese una consigna, comienza indicando al ciudadano que no es posible, que le falta un documento; documento que no resulta esencial, que puede subsanarse incluso en el momento.

Es como si no existiera el párrafo e) del artículo 13 de la LPACAP.

◙-El lenguaje oscuro de la Administración.

Me remito a post anteriores sobre la materia; así, el último de ellos: https://blogdejoselopezvinyaaldia.com/2023/09/22/muchas-lenguas-y-lenguaje-administrativo-poco-claro/

◙-El silencio de la Administración

Igualmente me remito a mis artículos anteriores sobre el tema, así: https://blogdejoselopezvinyaaldia.com/2021/01/19/silencio-administrativo/

Parece olvidarse la Administración de su obligación de resolver todas las peticiones y solicitudes que se le presenten (exigencia establecida en el artículo 21 LPACAP)

◙-La brecha digital

Nuevamente ha de citarse que nos encontramos en la era digital, en la época de la administración electrónica.

Pero muchas veces parecen olvidarse los principios y obligaciones de la Administración de prestar un “servicio efectivo” y de “proximidad” a los ciudadanos (artículo 3.1, letras a) y b) LRJSP) o de “asistir (a las personas) en el uso de medios electrónicos” en sus relaciones con aquélla (artículo 13 b) LPACAP)

Resulta realmente contrario a los más elementales principios de una buena Administración la situación -nada infrecuente, por cierto, de familias que desisten de solicitar determinadas ayudas por el laberinto tecnológico-burocrático en que se encuentran. No es un tema baladí, ya que esta brecha digital puede suponer un problema social si se traduce en una disparidad de oportunidades o resultados para diferentes grupos de personas.

Pues eso. A esto me refería con la expresión “¿Y qué hay de lo mío?”

Si el futuro Reglamento Europeo sobre I.A. persigue asegurar el respeto de los derechos fundamentales de la ciudadanía y el Estado español va a hacer un test sobre sistemas de IA de alto riesgo, como los antes citados, pienso que resultará fácil establecer sistemas de IA que resuelvan las deficiencias citadas (sí, esos problemas cotidianos con que se encuentra el ciudadano en su relación con la Administración). ¿Por qué no?

Sí, soy consciente que esas deficiencias -donde existan- no se resuelven de la noche a la mañana. Pero sería posible:

– Con voluntad política

– Con una selección del personal adecuada a los nuevos tiempos en su capacitación

– Una formación continua y con obligatoria actualización

– Unas determinadas medidas legales en la normativa básica por la que se rigen las AAPP en su régimen jurídico y procedimiento (como por ejemplo el recorte a los supuestos de silencio negativo o la imposición de obligación de indemnización a cargo de la Administración si se constata la postura negativa de la misma a contestar obligando al ciudadano a acudir a la vía judicial). Medidas legales que por cierto no han de resultar muy difíciles, al lado de leyes orgánicas tan discutidas y de tan singular trascendencia como la de “Amnistía para la normalización institucional, política y social en Cataluña”

-Y con la implementación de sistemas de IA que solventen, de una vez, aquellas deficiencias. Pero pensando en el ciudadano, por favor, y respetando en todo momento y escrupulosamente los derechos que tiene el mismo en su relación con la Administración. ¡Que viva -entonces- la Inteligencia Artificial aplicada a la Administración Pública!