Más Madrid propone que el Ayuntamiento adopte los principios del Observatorio Global de la Inteligencia Artificial Urbana  

• Los principios de este Observatorio permiten a las administraciones públicas ser más transparentes en el uso de herramientas basadas en IA: equidad y no discriminación; transparencia y apertura; seguridad y ciberseguridad; protección de la privacidad; sustentabilidad y responsabilidad 
• El grupo municipal lleva mañana una proposición al pleno de Cibeles para que el Ayuntamiento se sume a estos principios y para que se incorpore a la Coalición de las Ciudades por los Derechos Digitales, promovida por Barcelona, Ámsterdam y Nueva York, que agrupa a 54 ciudades de todos los continentes 

• Los municipios y corporaciones que están integrando la utilización de Inteligencia Artificial en la gestión de lo público y en la creación de políticas públicas tienen que ser los garantes de los derechos de la ciudadanía a la que sirven ante los desafíos que implica esta tecnología 

Madrid, 27 junio 2022
El Observatorio Global de Inteligencia Artificial es una herramienta para controlar la aplicación ética de la inteligencia artificial (IA) en las ciudades. De este Observatorio forman parte Londres, Barcelona y Ámsterdam, en el marco de la Coalición de Ciudades por los Derechos Digitales, fundada en el 2018. Los principios que recoge el Observatorio Global de la Inteligencia Artificial Urbana permiten a las administraciones públicas ir un paso más allá en la transparencia relacionada con el uso de herramientas basadas en IA: equidad y no discriminación; transparencia y apertura; seguridad y ciberseguridad; protección de la privacidad; sustentabilidad y responsabilidad. Por eso, el grupo municipal de Más Madrid ha presentado una propuesta para que el pleno del Ayuntamiento adopte estos seis principios del Observatorio y se integre en la Coalición de Ciudades por los Derechos Digitales.  

Texto de la propuesta  

En los últimos años hemos visto cómo la Inteligencia Artificial (IA) pasaba de ser un campo experimental a ser una herramienta, especialmente para la automatización y la gestión de problemáticas complejas. El sector público no ha sido ajeno a este fenómeno. Diversos órganos de gobierno en todas las escalas han explorado la utilización de la Inteligencia Artificial. De hecho, un reciente estudio elaborado por EY para Microsoft, reveló que un 33% del Sector Público en España “ya ha implementado soluciones de Inteligencia Artificial”. 

En el ámbito municipal, las ciudades -especialmente las más pobladas- son propensas a buscar herramientas de gestión que sean capaces de utilizar grandes volúmenes de datos relacionados con problemáticas y condiciones complejas, como pueden ser las soluciones Smart City o las operaciones tributarias, por citar unos ejemplos. 

Así mismo, la aparición de implementaciones comerciales cada vez más diversas y la proliferación de algoritmos en servicios usados por la población global ha provocado la movilización de sectores profesionales y civiles a la vista de las problemáticas que se evidenciaban con el uso de las herramientas basadas en IA: existencia de sesgos, grado de fiabilidad, falta de transparencia, entre otras. 

Y la Unión Europea, desde la Comisión, avanza la propuesta de un reglamento europeo de IA, una norma que constituirá un paso siguiente a las guías y normas éticas existentes y que tendrá eventualmente una transposición nacional y local. 

Por ello, los municipios y corporaciones que están integrando la utilización de Inteligencia Artificial en la gestión de lo público y en la creación de políticas públicas tienen que ser los garantes de los derechos de la ciudadanía a la que sirven ante los desafíos que implica esta tecnología. 

Aunque el debate sobre el marco ético que debe acompañar estos modelos y herramientas sigue abierto, el avance más cercano a la realidad de las ciudades fue el realizado en 2021 por el Observatorio Global de la Inteligencia Artificial Urbana, que avanzó seis principios:  
1. Equidad y no discriminación, 2. Transparencia y apertura, 3. Seguridad y ciberseguridad, 4. Protección de la privacidad, 5. Sustentabilidad y 6. Responsabilidad; y propuso herramientas de autodiagnóstico para que las administraciones fueran capaces de identificar sus avances en cada uno de ellos. 

Además, se fortaleció la Coalición de las Ciudades por los Derechos Digitales, promovida por Barcelona, Ámsterdam y Nueva York, agrupando actualmente 54 ciudades de todos los continentes, entre las que se encuentran también L’Hospitalet, A Coruña, Murcia y Zaragoza. 

En su conjunto, los principios recogidos permiten ir un paso más allá en la transparencia relacionada con el uso de herramientas basadas en IA, identificar los sesgos, los indicios de una mala modelización, garantizar la confiabilidad de sus aplicaciones, la representación real de la ciudad y sus habitantes, y el respeto al conjunto de los derechos de la ciudadanía que el Ayuntamiento tiene el deber de promover y cumplir. Así mismo, la participación en la Coalición ya mencionada, es una oportunidad para la transferencia de conocimiento y buenas prácticas en esta materia con otras ciudades, fortaleciendo la capacidad de la ciudad de Madrid de adaptarse en un futuro a un Marco Normativo Europeo. 

Por ello, el Grupo Municipal Más Madrid presenta la siguiente proposición, instando a los órganos competentes del Ayuntamiento de Madrid a que: 

1) Se adopten los principios de 1. Equidad y no discriminación, 2. Transparencia y apertura, 3. Seguridad y ciberseguridad, 4. Protección de la privacidad, 5. Sustentabilidad y 6. Responsabilidad, diseñados por el Observatorio Global de la Inteligencia Artificial Urbana, como su estándar institucional para todos aquellos procesos, herramientas o modelos que estén sujetos al uso de inteligencia artificial en cualquiera de sus áreas. 

2) Que conforme a los principios ya mencionados en el punto 1 y a las herramientas de autodiagnóstico que propone el Observatorio Global de la Inteligencia Artificial Urbana, habilite una revisión anual del desempeño de la ciudad en esta materia y que el resultado de la misma sea de conocimiento público a través de su publicación en la web de Transparencia del Ayuntamiento de Madrid 

3) Iniciar a la mayor brevedad los trámites necesarios para la incorporación de Madrid a la Coalición de Ciudades por los Derechos Digitales.