1.-Dos cuestiones previas:
-La Constitución española, promulgada en 1978, establece por un lado que la ley limitará el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos» (artículo 18.4) y, por otro -a los efectos que aquí interesan-, en su artículo 103 dispone que la Administración Pública sirve con objetividad los intereses generales y actúa de acuerdo con los principios de eficacia, jerarquía, descentralización, desconcentración y coordinación, con sometimiento pleno a la ley y al Derecho
-En segundo lugar, advertir por un lado que la “informática” evolucionó tanto desde 1978 que ahora es difícil ver el uso de tal término (se habla de nuevas tecnologías, administración electrónica, inteligencia artificial. o IA.) aunque considero que nadie dude de la vigencia, y ahora con más razón todavía, de tal precepto constitucional en cuanto a su aplicación a actuaciones automatizadas de la Administración que afecten al ciudadano. Por otro lado, dejar claro que la tecnología de la IA se aplica en todos los campos, es transversal a todos los campos de la ciencia, desde la medicina al derecho, pasando por la industria o la educación, etc.
Ya la Constitución prevé que por ley debe limitarse el uso de la informática para garantizar la intimidad y el ejercicio de los derechos de los ciudadanos
2. Ya empiezo con el motivo, y el objeto, de este artículo.
Hace unos días leía en un medio de comunicación que en un municipio se había aprobado y por unanimidad una “ley” que había sido redactada mediante la IA. No, no se asusten, ya se que los municipios (en España) no aprueban leyes. Creo recordar se trataba de una Cámara Municipal brasileña y allí aprueban “leyes”. Por eso, lo importante a señalar ahora es que esa norma, en realidad se trataba de una Ordenanza (en nuestra terminología jurídica), se había redactado desde la Concejalía de turno mediante la aplicación de la IA. Esto es lo llamativo de la noticia, unido al hecho de que se había aprobado por unanimidad.
Seguramente más de uno se habrá echado las manos a la cabeza, pensando ¿cómo es posible? ¿hasta dónde vamos a llegar? “qué ineptos todos los Concejales que no cuestionaron esa “ley” al haberse redactado mediante la IA”
Interesado este bloguero por el titular y adentrándome en la letra pequeña de la noticia constato que se trataba en realidad de una pequeña modificación de una Ordenanza (referente además a aplicar un beneficio, en el régimen sancionador o tributario, cuando el hecho causante fuese consecuencia de un fraude o estafa, etc.)
Esto ya me tranquilizó. Y al propio tiempo me hizo recordar que un Ayuntamiento español había publicado en el “Boletín Oficial” correspondiente, como es obligado, el texto de una Ordenanza, que lógicamente se había aprobado antes por el Pleno, en cuyo texto en algunos de los artículos se mencionaba el nombre de otro Ayuntamiento. Esto, que es verídico y estoy seguro no se trata de un hecho aislado, no ocurre por la aplicación de la IA (al menos en la acepción estricta actual) sinó por la práctica habitual -¿quién no partió o se basó a la hora de redactar una Ordenanza o Reglamento de otra previamente existente?- de copiar el texto del Ayuntamiento vecino o, mejor dicho de “copiar y pegar”. En lugar de “copiar y adaptar”
¿Qué es más peligroso entonces: “copiar y pegar”, sin comprobar y adaptar, o utilizar para la redacción de una Ordenanza, un sistema de IA cuyo sistema sea confiable y respetuoso con los derechos fundamentales y para cuyo uso se haya fortalecido la formación de los empleados públicos?
También ocurre a veces que se utilizan recursos o demandas en cuyo texto se mencionan a interesados, o hechos, que nada tienen que ver con el asunto en litigio. Las prisas, los olvidos … hacen que a veces los letrados, o los ayudantes o becarios de los despachos profesionales, incurran en tales errores.
Ya he leído que existen aplicaciones de IA para redactar demandas, o contestar a las mismas. También para hacer un rápido y sucinto extracto de la doctrina jurisprudencial sobre una materia determinada.
¿Es ello peligroso?
Vale lo dicho anteriormente.
En el ejemplo citado lo es para el cliente si la resolución judicial le resulta desfavorable por el error cometido
Los sistemas de IA deben ser confiables y respetuoso con los derechos fundamentales y para su uso debe fortalecerse la formación de los empleados públicos
3. Por otro lado, en un mismo periódico de tirada nacional y con solo unos días de diferencia, leía un artículo de opinión en el que en resumen se destacaba que la IA nos haría imbéciles y otro día un artículo editorial sobre la necesidad de regulación de la IA.
Sobre el primero, con todos los respetos, opino que es el recurso fácil a lo peligroso de la informática, de las nuevas tecnologías, etc. Y por supuesto que nos convertiremos en unos imbéciles si con las aplicaciones de IA dejamos de pensar, de reflexionar, de revisar los textos. Otra cosa es que nos apoyemos, nos ayude, una herramienta tecnológica, en nuestros quehaceres, derechos y obligaciones.
Sobre lo segundo, ya en anteriores artículos en este blog me hacía eco de regulaciones de la IA. Dichos artículos son:
Y en estos mismos días, en este momento, se está hablando -como yo ahora, también- de la IA Act, es decir de la Ley europea sobre Inteligencia Artificial. Se alcanzó acuerdo político y ahora deberá aprobarse formalmente por el Parlamento Europeo y el Consejo de la Unión Europea
Esta Ley en síntesis:
● Fija los parámetros que se deben cumplir para el desarrollo y el uso de la IA en sus distintos niveles
● Se establecen cuatro categorías de riegos:
Riesgo mínimo: Los sistemas no deben cumplir con obligaciones específicas porque no representan un riesgo para la seguridad y los derechos de los ciudadanos.
Riesgo alto: La ley obligará a los desarrolladores de estos sistemas de IA a cumplir con una serie de requisitos muy estrictos, como: asegurar que los datos utilizados para entrenar a los modelos de lenguaje sean de «alta calidad», deben incluir sistemas de mitigación de riesgos; tendrán que ser precisos, ofrecer claridad en el uso de la información de los usuarios y contar con supervisión humana.
Riesgo específico contra la transparencia. La Ley se centra en los chatbots y los sistemas de IA generativa: todo el contenido generado de forma sintética deberá ser identificado como tal y los usuarios tendrán que ser informados cuando estén interactuando de forma directa con una máquina; y deberá notificarse al público cuando estén en uso sistemas de reconocimiento de emociones o de categorización biométrica.
Riesgo inaceptable: Los sistemas de IA que se incluyan en esta categoría quedarán terminantemente prohibidos. La Ley incluirá en este apartado:
-el uso de la tecnología para manipular a las personas y coartar su libre albedrío
– el uso de la IA para el reconocimiento de emociones en el lugar de trabajo.
– el uso de la IA para que las empresas o gobiernos implementen un sistema de control sobre el comportamiento de los ciudadanos.
La Unión Europea aprobará próximamente una Ley de Inteligencia Artificial (la IA Act)
4. Entonces – voy terminando-, en la Administración Pública, en el Derecho administrativo español, en su aplicación, en la Administración más cercana… ¿hay miedo de implementar la IA?
Pues más allá de recelos, temores o incluso fobias de algún cargo o empleado público a la utilización de las nuevas tecnologías, desde el punto de vista del ciudadano -no me cansaré de reiterar que la razón que justifica la existencia de la Administración Pública es la prestación de servicios públicos a aquél- tendrá miedo:
-si para interactuar con la Administración se le exige utilizar mecanismos que desconoce y no se le facilita el uso de los mismos
-si la Administración utiliza sistemas que vulneren sus derechos fundamentales
-si como consecuencia de la utilización de sistemas poco fiables o no revisados, la Administración incurre en errores -como en el ejemplo de la Ordenanza que se refiere a otro municipio- que impliquen perjuicio al ciudadano
Por el contrario, el ciudadano se mostrará tranquilo y aplaudirá la implementación de sistemas de IA para la prestación de servicios públicos y la tramitación de los procesos administrativos:
– si ve satisfechas sus pretensiones de que se le contesten sus peticiones y en plazo
– si se le facilita en todo momento el acceso a la información y documentación en el marco de lo previsto en la ley
-si se agilizan los procedimientos
-si se produce una más efectiva prestación de los servicios públicos
Personalmente abogo por una progresiva implementación de sistemas de IA en el desarrollo de los procedimientos administrativos y demás actuaciones de la Administración, por supuesto en el marco del derecho administrativo vigente y de la futura Ley europea de IA, siempre que redunden en las demandas aludidas del ciudadano. La justicia -lo veremos en unos años en sentencias de la jurisdicción contencioso-administrativa- verá igualmente “con buenos y justos ojos” dicha implementación siempre que se ajusten a los principios constitucionales que informan la actuación de la Administración y se respeten los derechos y garantías del ciudadano.
En cualquier caso, estaremos atentos y en este blog por supuesto a las novedades en la materia, tanto en cuanto a la aprobación de la IA Act europea, como a posible normativa española y sobre todo a los resultados de la implementación de sistemas de IA
tuayuntamientoaqui.com 
2 comentarios sobre “ADMINISTRACIÓN PÚBLICA E INTELIGENCIA ARTIFICIAL ¿MIEDO O TRANQUILIDAD?”