Mapeo de la inteligencia artificial urbana: primer informe del Atlas de la Inteligencia Artificial Urbana del GOUAI

El Atlas de la Inteligencia Artificial Urbana, considerado el proyecto emblemático del Observatorio Global de Inteligencia Artificial Urbana (GOUAI), se ha consolidado como el repositorio de inteligencia artificial urbana de carácter ético, de acceso libre, más importante y completo a nivel mundial. A partir de la investigación realizada, en este informe se analizan los casos que se recogen en el Atlas y se ofrece una amplia perspectiva de las buenas prácticas y las tendencias que caracterizan la evolución global de la inteligencia artificial urbana.

1. Introducción

La inteligencia artificial (IA) se presenta como una de las fuerzas más transformadoras de nuestra era, pues encierra la promesa de remodelar nuestras sociedades. Como era de esperar, este fenómeno ha captado la atención de los gobiernos de todo el mundo, y los gobiernos locales no son una excepción. Una reciente encuesta revela la existencia de un gran interés en las alcaldías de las principales ciudades del mundo por el uso de herramientas de IA para mejorar la prestación de los servicios públicos y abordar retos urbanos apremiantes tales como la congestión del tráfico, la mejora de las infraestructuras, la seguridad pública y la mitigación del cambio climático. Este profundo interés no es simplemente teórico; casi el 70% de los alcaldes y alcaldesas encuestados declararon haber probado esta tecnología, si bien sólo unos pocos la han implantado activamente. Por tanto, el impacto tangible de la IA en las zonas urbanas es sin duda importante.

Sin embargo, el entusiasmo que rodea a la adopción de la “inteligencia artificial urbana” se ve atenuado por un grado equivalente de cautela a la hora de utilizar las herramientas algorítmicas. Esta prudencia se debe a las repercusiones que los sistemas de IA podrían tener en los derechos humanos, así como a los importantes riesgos sociales y costes ambientales relacionados con la creciente dependencia de nuestras sociedades y gobiernos con respecto a los sistemas de IA. Además, las aplicaciones de IA urbana operan en marcos políticos concretos, por lo que ejercen una marcada influencia política. Las ciudades son espacios políticos en los que los gobiernos locales tienen el poder de tomar decisiones que afectan a millones de vidas. No es casualidad que la Ley de Inteligencia Artificial de la Unión Europea (UE) clasifique ciertos usos habituales de los sistemas de IA en entornos urbanos como de riesgo limitado o alto, lo que hace imprescindible examinar cuidadosamente el entramado formado por los sistemas algorítmicos y sus implicaciones políticas y éticas.

En esencia, es urgente que las ciudades adquieran conocimientos sobre el desarrollo ético de la IA; y este es precisamente el objetivo que pretende alcanzar el Atlas de la Inteligencia Artificial Urbana. Considerado como el proyecto insignia del Observatorio Global de la Inteligencia Artificial Urbana (GOUAI, por sus siglas en inglés), el Atlas ofrece una colección seleccionada de más de 200 iniciativas de 70 ciudades de todo el mundo, consolidándose como el repositorio de inteligencia artificial urbana, de acceso libre, más completo a nivel mundial. A partir de la investigación realizada, en este informe se pretende analizar los casos que se recogen en el Atlas y ofrecer una perspectiva general de las buenas prácticas y las tendencias que caracterizan la evolución mundial de la IA urbana.

En concreto, el informe aborda las siguientes preguntas: ¿en qué regiones muestran los gobiernos locales una mayor actividad en la implantación de sistemas de IA con una orientación ética?, ¿qué principios éticos aplican con más frecuencia las ciudades y cuál es el motivo?, ¿cómo se aplican en la práctica estos principios y cuáles de ellos se suelen pasar por alto?, ¿en qué fase de implantación se encuentran los municipios con respecto al uso de tecnología de IA?, ¿están ya en marcha la mayoría de los proyectos o se sigue poniendo el acento sobre todo en debatir los proyectos piloto?, ¿qué caracteriza al ecosistema de IA urbana de los gobiernos locales y quiénes son los principales actores aliados de estos?, y ¿es la IA urbana algo exclusivo de las grandes ciudades?

El informe se estructura en cuatro secciones. La primera ofrece una visión metodológica del proceso de investigación en el que se basa la creación del Atlas, con información sobre los criterios utilizados para seleccionar los casos que aparecen en él. La segunda sección, más teórica, tiene por objeto aclarar el concepto de “inteligencia artificial urbana”, plantea una reflexión sobre la relación entre el urbanismo y las tecnologías de inteligencia artificial y pone de relieve los elementos distintivos que diferencian la IA urbana de otros tipos de sistemas algorítmicos. La tercera sección presenta las tendencias clave de la inteligencia artificial urbana que se desprenden del análisis del Atlas. Por último, en la cuarta sección se analiza la regulación local de la IA y se identifican iniciativas políticas emprendidas por ciudades de todo el mundo para garantizar la implantación ética de los sistemas algorítmicos.

2. Nota metodológica

El Atlas de la Inteligencia Artificial Urbana del GOUAI es el resultado de en una extensa investigación documental derivada de la recopilación sistemática de datos de diversas fuentes de acceso público, como informes oficiales de las ciudades, sitios web gubernamentales, organismos de desarrollo urbano, informes de empresas tecnológicas, revistas sobre ciudades inteligentes y otras plataformas en línea de temáticas relacionadas. En menor medida, también se realizaron entrevistas y encuestas a las autoridades municipales y otras partes interesadas. La investigación, iniciada en 2021, sigue en curso y permanece abierta a la recepción de casos adicionales a través de un formulario en línea.

Los proyectos incluidos en la base de datos debían cumplir cuatro criterios específicos: (1) una alineación explícita con los principios éticos¹ del GOUAI, (2) la participación o el apoyo, directos o indirectos, del gobierno municipal, (3) una orientación clara a la IA urbana (es decir, con aplicaciones identificables en un marco urbano), y (4) un historial documentado de planificación, implementación o desarrollo activo.

Se ha procurado que este informe y la amplia investigación que sustenta el Atlas sean exhaustivos, pero sus autoras reconocen la existencia de posibles omisiones a la hora de reflejar todos los casos que se recogen en el Atlas. Ello se debe a las importantes limitaciones encontradas durante el proceso de recopilación de datos. La principal dificultad radica en la gran dependencia de las fuentes públicas, puesto que muchas ciudades no promueven activamente sus proyectos de IA urbana ni proporcionan información de fácil acceso sobre ellos. Esta falta de promoción y transparencia constituye un obstáculo muy relevante para obtener datos completos y actualizados. Además, incluso cuando las ciudades divulgan información sobre sus proyectos, las implicaciones y consideraciones éticas no suelen explicitarse ni están lo suficientemente documentadas. Esta ambigüedad hace difícil valorar la adecuación de algunos proyectos a los principios éticos del GOUAI, lo que da lugar a la exclusión de algunas posibles buenas prácticas.

En la misma línea, la recogida de datos de fuentes primarias se vio en general afectada por la respuesta —escasa y de carácter esporádico— de los trabajadores municipales, cuya limitada disponibilidad y capacidad para responder a las preguntas fue un obstáculo para la recopilación de datos cualitativos. Incluso cuando estaban dispuestos a compartir información, los trabajadores municipales solían encontrar dificultades relacionadas con la comunicación interna. Este problema refleja la complejidad de la tarea de coordinar y difundir información dentro de las administraciones municipales.

3. El concepto de “inteligencia artificial urbana”

La inteligencia artificial está intrínsecamente relacionada con la vida urbana. Para empezar, los espacios urbanos son escenarios tangibles y destacados en los que la presencia de la IA se hace visible. Las ciudades también sirven de campo de prueba para las formas nuevas de IA y son los lugares donde se manifiestan algunos de los efectos sociales y ambientales de estos sistemas, así como las oportunidades y los riesgos asociados con su uso (Galceran-Vercher y Rodríguez-Perez, 2024). Además, el funcionamiento y el desarrollo de la IA exigen una diversidad de recursos, muchos de los cuales están estrechamente ligados a los entornos urbanos. Básicamente, las ciudades pueden describirse como microcosmos a través de los cuales la IA observa y capta el mundo. Más concretamente, las ciudades proporcionan cuatro tipos fundamentales de recursos (Cugurullo et al., 2023b):

• Espacios urbanos. La IA requiere entornos físicos sobre los que actuar, y estos suelen ser urbanos. Las carreteras, los edificios, los parques y las calles son algunos ejemplos.
• Acceso a actividades. Los asentamientos urbanos encierran una cuantía y diversidad crecientes de las actividades que se realizan en todo el mundo. Por consiguiente, para participar en las interacciones sociales, terciar en las transacciones económicas, influir en los procesos políticos o intervenir en los cambios ambientales a nivel mundial, la IA debe interactuar con los sistemas urbanos.
• Datos para el aprendizaje automático. En la actualidad, la mayoría de los sistemas de IA mejoran su capacidad mediante procesos de aprendizaje automático, lo que implica un uso de datos considerable. Las zonas urbanas, que se caracterizan por su densidad poblacional, son importantes centros de coordinación de diversas actividades humanas, lo que las convierte en agentes fundamentales de producción de datos. Sin embargo, la importancia de las ciudades radica no sólo en el enorme volumen de información que generan, sino también en la calidad de esa información. Los espacios urbanos producen datos en tiempo real, muy detallados y especialmente provechosos para las aplicaciones de aprendizaje automático.
• Infraestructuras e instalaciones. Las ciudades también ofrecen otros servicios clave, como las redes eléctricas, las granjas de servidores, etc.

Así pues, el concepto de inteligencia artificial urbana trata de poner de manifiesto la relación existente entre los sistemas algorítmicos y los espacios urbanos, y abarca el entorno construido, las infraestructuras, los lugares y las personas y sus prácticas sociales (Luusua et al., 2023). Puede definirse, entonces, como todo sistema que emplea datos obtenidos del entorno urbano, tratados mediante algoritmos y que producen aplicaciones prácticas en la dinámica socioespacial de la ciudad (Popelka et al., 2023, p. 14). En términos generales, la materialización urbana de los sistemas de IA ha adoptado cuatro formas distintas: los vehículos autónomos, los robots urbanos, los cerebros de las ciudades y los agentes de software urbanos (Cugurullo et al., 2023a).

Existen algunos elementos importantes que distinguen la inteligencia artificial urbana de otras formas de inteligencia artificial (Popelka et al., 2023). En primer lugar, la complejidad de la ciudad, en el sentido de que en el funcionamiento de las zonas urbanas intervienen numerosos sectores interconectados. El Atlas de la Inteligencia Artificial Urbana clasifica las iniciativas de inteligencia urbana en siete áreas de ese tipo: servicios sociales, gobernanza y servicios urbanos, medioambiente y recursos, movilidad, infraestructuras y planificación urbana, economía y negocios, seguridad y resiliencia. Del mismo modo, en la vida urbana participan muchos actores, como el sector privado, las organizaciones de la sociedad civil o las comunidades de base. El segundo elemento es el hecho de que la IA urbana opera en marcos políticos concretos. Las ciudades son espacios políticos en los que los gobiernos locales tienen la facultad de tomar decisiones que afectan a la vida de millones de personas, por lo que las aplicaciones urbanas de inteligencia artificial tienen una marcada influencia política. Además, es precisamente el reconocimiento de esta dimensión política lo que ha llevado al Atlasa dar prioridad, al menos en la primera fase de la investigación, a la recopilación de casos en los que hay gobiernos locales implicados de forma directa o indirecta. El último elemento distintivo de la IA urbana es su carácter híbrido, en el sentido de que la IA urbana no puede existir únicamente en el ámbito digital; por el contrario, necesita la materialidad y los componentes de infraestructura de los sistemas urbanos físicos.

Como se ha señalado, el valor añadido y aspecto distintivo del Atlas de la Inteligencia Artificial Urbana del GOUAI residen en el hincapié que hace en los casos de uso que presentan consideraciones éticas. Esta cuestión es importante porque la implantación generalizada de sistemas de IA en las zonas urbanas, unida a las consecuencias que estos sistemas tienen en nuestra vida urbana cotidiana y en el proceso de creación de las ciudades, suscita numerosas preocupaciones en ese sentido. Por tanto, hay una creciente necesidad de estudiar el entramado formado por la inteligencia artificial, la dimensión física de los espacios urbanos, la vida de las personas y los aspectos políticos y éticos propios de la IA urbana. A este respecto, cabe señalar que la Ley de IA de la UE ha clasificado determinados usos habituales de los sistemas de IA en entornos urbanos como de riesgo limitado o alto (véase la tabla 1). Esto implica que es preciso aplicar determinadas salvaguardias —como la realización de pruebas, la documentación, la transparencia o las obligaciones de notificación— para mitigar los posibles efectos nocivos.

4. Resumen de las tendencias

a. Europa y América del Norte: ¿baluartes de la IA ética?

El 80% de las iniciativas documentadas en el Atlas de la Inteligencia Artificial Urbana se encuentran en América del Norte y Europa, seguidas de Asia (10%), América Latina y el Caribe (8%) y Oriente Medio y el Norte de África (1%). Esta distribución desigual (véase la figura 1) plantea la pregunta de si la IA urbana tiene que ver principalmente con el Norte global. Efectivamente, gran parte de la tecnología la desarrollan industrias de esta región, con lo que a los municipios les resulta fácil acceder a ella y situarse como centros de innovación para su utilización. Por otra parte, las ciudades europeas y norteamericanas suelen poseer más recursos, tanto técnicos como financieros, y también disponen de mayores niveles de autonomía fiscal y política para iniciar, desarrollar o regular proyectos tecnológicos. En las demás regiones del mundo, estas competencias suelen corresponder al ámbito nacional. De hecho, muchas ciudades de todo el planeta sirven simplemente de banco de pruebas de las innovaciones impulsadas por el sector privado, las organizaciones supranacionales y otros niveles de gobierno. En tales casos, el gobierno local no siempre asume un papel activo en estos avances.

Con todo, esta representación distorsionada también se ve agravada por otras limitaciones (abordadas en parte en la sección metodológica de este informe). En primer lugar, existen disparidades en las estrategias de comunicación, ya que las ciudades americanas y europeas suelen emplear enfoques comunicativos más sólidos y dirigidos al exterior. Esta visibilidad hace que sus proyectos sean más accesibles para el público en general en comparación con muchas de sus homólogas. En segundo lugar, la proximidad geográfica desempeña un papel clave. Este Atlas es resultado del GOUAI, proyecto conjunto del Programa Ciudades Globales de CIDOB y las ciudades de Barcelona, Ámsterdam y Londres, en el marco de la Coalición de Ciudades por los Derechos Digitales; de ahí que resulte más fácil establecer canales de comunicación con las ciudades ya conectadas a través de estas redes. Sin embargo, la proximidad geográfica también introduce otro tipo de limitaciones, como las barreras lingüísticas y las diferencias culturales, ya que los puntos de vista sobre la IA ética varían de una región a otra. Estas realidades dificultan la recopilación de información detallada sobre las iniciativas de IA urbana de otras partes del mundo, lo que repercute en la exhaustividad de la base de datos e influye en la valoración de prácticas éticas de IA existentes en todo el planeta. Todo ello pone de manifiesto la importancia de adoptar un enfoque más inclusivo y representativo a nivel mundial con respecto a la recopilación de datos y la evaluación ética en futuras investigaciones.

b. Gobernanza y servicios sociales: las principales áreas para la implantación de la IA

Como muestra la figura 2, la inmensa mayoría de los gobiernos locales utilizan las herramientas de inteligencia artificial para mejorar la gobernanza y los servicios urbanos. Un ejemplo claro es la creciente tendencia entre las ciudades de todo el mundo a implantar chatbots urbanos para atender a la población y prestar servicios (p. ej., Dubai.AI). Además, varias ciudades aprovechan cada vez más las herramientas de IA para mejorar los procesos internos de gestión municipal (p. ej., La Haya), recopilar datos para regular el espacio público (p. ej., Taoyuán), gestionar y analizar los datos de la ciudad (p. ej., Los Ángeles), mejorar la eficiencia de los servicios urbanos (p. ej., Melbourne) o aumentar la labor policial (p. ej., Seúl). El área de gobernanza y servicios urbanos, constitutiva del 66% del total de iniciativas recogidas en el Atlas, se presenta como la categoría predominante en la IA urbana, seguida de movilidad (24%), servicios sociales (22%) y medioambiente y recursos (22%).

Por otro lado, las áreas menos representadas en el Atlas son infraestructuras y urbanismo (10%), seguridad y resiliencia (9%) y economía y negocios (4%). De hecho, sólo siete de las iniciativas incluidas en el Atlas están orientadas a la economía, con proyectos tales como el uso de la IA para identificar oportunidades comerciales (p. ej., Buenos Aires) o mejorar la logística de la industria local (p. ej., Róterdam). Estas bajas cifras pueden indicar una falta de interés por parte de los municipios en la aplicación de la IA con fines productivos o de beneficio económico, en contraste con el amplio uso de la IA para el progreso económico existente a nivel mundial. En cambio, la seguridad y la resiliencia son áreas de gran prioridad para los municipios, pero están infrarrepresentadas en el Atlas debido a las consideraciones éticas. Por ejemplo, en el Atlas se excluyen deliberadamente los controvertidos usos del reconocimiento facial, ampliamente empleado en muchas ciudades de todo el mundo. En cambio, se incluyen ejemplos de responsabilidad en esta área, como la elaboración de leyes sobre la privacidad biométrica dirigidas a las empresas (p. ej., Nueva York), el uso de la IA para la detección temprana de incendios (p. ej., Hong Kong) o el mapeo de la percepción de seguridad (p. ej., Estocolmo).

c. Transparencia y protección de la privacidad: los principios éticos de oro

Los principios éticos que los municipios aplican en la implantación y el desarrollo de la inteligencia artificial urbana presentan diferencias en cuanto a su frecuencia. Cabe destacar la adopción generalizada del principio de transparencia y apertura, presente en el 67% de las iniciativas incluidas en el Atlas (véase la figura 3). Una explicación plausible del predominio de este principio básico es la percepción de que resulta fácil de aplicar, principalmente informando al público sobre el uso de la IA (es decir, cuándo, cómo y con qué propósito se emplean los sistemas de IA). Esta información se difunde a través de canales y plataformas de comunicación abiertos, especialmente registros e inventarios de IA tales como los creados por las ciudades de Ámsterdam, Nantes, Helsinki o San José. En menor medida, este principio también puede cumplirse mediante la adopción de iniciativas de código abierto y datos abiertos siempre que sea posible.

La protección de la privacidad, identificada en el 50% de las iniciativas, es el segundo principio más adoptado. Se consigue principalmente mediante la anonimización de la información y, más recientemente, mediante la generación de datos sintéticos. Hay abundantes ejemplos de estas prácticas, como la anonimización de las matrículas y la información biométrica al emplear herramientas de reconocimiento de imágenes (p. ej., el análisis de comportamiento, condado de Gran Mánchester o la solución inteligente del tráfico, Melbourne), el uso de tecnología lidar y radar para evitar ante todo el registro de información personal identificable (p. ej., el proyecto Roboat, Ámsterdam) o la elaboración de marcos para los datos sintéticos (p. ej., el marco para la implementación de técnicas de datos sintéticos, Dubái). En este contexto, no cabe duda de que el Reglamento General de Protección de Datos (RGPD) de la UE ha desempeñado un papel determinante a la hora de trazar el camino de una considerable cultura de la privacidad desde el diseño.

En cambio, los principios de equidad y no discriminación (42%), seguridad y ciberseguridad (40%) y rendición de cuentas (33%) se aplican de forma desigual, con presencia en aproximadamente el 40% de las iniciativas. Algunas prácticas que se emplean habitualmente para defender estos principios son la realización de auditorías externas, la adopción de enfoques basados en mantener informada a las personas y la utilización de la tecnología para ayudar en la toma de decisiones en lugar de automatizarla por completo. Sin embargo, hay que señalar que, aunque las auditorías externas son una medida deseable para respetar estos tres principios, las empresas proveedoras de sistemas de IA suelen ser reacias a revelar información basándose en la protección contra copia y escritura, lo que da lugar al uso de tecnologías de caja negra² y al desgaste de estos principios.

Cuando establecemos referencias cruzadas entre áreas y principios, concluimos que la adopción de los distintos principios éticos en las distintas áreas presenta una gran variabilidad (véase la figura 5). La transparencia es el principio más extendido en todas las áreas, pero su importancia es especialmente pronunciada en la IA urbana relacionada con la prestación de servicios sociales. Teniendo en cuenta que los sistemas de IA en este ámbito se utilizan a veces para asignar prestaciones sociales —y, por tanto, repercuten en la vida de las personas más vulnerables— es indispensable establecer salvaguardias para comprender y, si es necesario, impugnar las decisiones tomadas. Los principios de equidad y no discriminación, y de rendición de cuentas también tienen un peso considerable en el área de los servicios sociales por razones similares.

Una segunda observación es que algunas áreas necesitan incluir una mayor diversidad de principios éticos que otras. En particular, las iniciativas relacionadas con la movilidad parecen incorporar menos disposiciones éticas, que, cuando figuran, se centran principalmente en consideraciones de transparencia y protección de la privacidad. Una última y llamativa observación es la insuficiente atención prestada al principio de sostenibilidad en las iniciativas que tratan de mejorar las condiciones ambientales y la asignación de recursos. Este aspecto se analiza más a fondo en la sección siguiente.

d. Sostenibilidad: la realidad incómoda

Como se ha señalado, la sostenibilidad es, con diferencia, el principio menos defendido, y solo aparece en el 6% de las iniciativas. Además, en los ejemplos encontrados, este concepto se menciona principalmente en las estrategias y no se aplica en los propios proyectos. El reto consiste en conciliar el lado oscuro de la inteligencia artificial —abordar las repercusiones sociales y ambientales que conlleva el uso de esta tecnología— con su utilización para alcanzar fines sostenibles. En esencia, la sostenibilidad de la IA choca con el uso de la IA en favor de la sostenibilidad. Desde el punto de vista ambiental, la IA requiere de forma intrínseca una gran cantidad de energía y recursos, genera cantidades considerables de residuos electrónicos y depende de la extracción —generalmente insostenible— de metales y tierras raras, lo que supone costes no solo ambientales, sino también sociales y geopolíticos. Algunas estrategias para lograr que la IA sea más ecológica son utilizar energía sostenible para alimentar los centros de datos ecológicos y reutilizar el exceso de calor que se genera en ellos, entrenar algoritmos con una mínima cantidad de conjuntos pequeños —en lugar de grandes— de datos y considerar la posibilidad de recurrir a un suministro ético de los materiales.

En cuanto a la sostenibilidad social, se ha demostrado inequívocamente que la IA y los sistemas algorítmicos en general reproducen y refuerzan los prejuicios sociales existentes. Para abordar eficazmente esta cuestión, las ciudades deben adoptar una perspectiva de derechos digitales que garantice el respeto de los principios éticos fundamentales. En este sentido, iniciativas tales como la Coalición de Ciudades por los Derechos Digitales son espacios clave para que las urbes establezcan marcos operacionales que permitan promover los derechos humanos en los entornos digitales. Por otra parte, el propio proceso de entrenamiento de la IA también suscita dudas de carácter ético, ya que, de hecho, gran parte de este entrenamiento “automatizado” lo realizan en muchos casos personas con empleos mal remunerados y en unas condiciones dudosas en el Sur global. 

e. Crecimiento exponencial de la IA urbana: una tecnología que ha llegado para quedarse

Respecto al marco temporal, el 64% de los casos recopilados en el Atlas se iniciaron entre 2017 y 2023, lo que indica un notable repunte en la adopción de sistemas algorítmicos por parte de los municipios en los últimos cinco años (véase la figura 6). Además, 2021 fue un punto de inflexión en la formulación de estrategias y políticas locales para regular la inteligencia artificial, en consonancia con la tendencia mundial de aceleración de los esfuerzos por regularla.

En lo que se refiere al grado de madurez (figura 7), el 66% de estas iniciativas ya están plenamente implementadas, mientras que el resto se encuentran en fase de implementación o planificación (el 17% en ambos casos)³. Por consiguiente, podemos deducir que muchas ciudades de todo el mundo han superado la fase piloto de esta tecnología y ya la emplean activamente en una amplia variedad de áreas de sus funciones cotidianas. Este crecimiento seguirá aumentando de forma exponencial en los próximos años, sostenido por el incremento constante de las inversiones mundiales en el desarrollo de la IA y el creciente interés popular por esta tecnología.

f. Inteligencia artificial urbana: un esfuerzo colectivo de múltiples partes interesadas

La mayoría de las iniciativas que aparecen en el Atlas son producto de diversas formas de asociación público-privada, que implican colaboraciones de ciudades, empresas, centros de conocimiento y diversas organizaciones internacionales y supranacionales, como la Unión Europea y las Naciones Unidas. Además, existe una tendencia creciente a la colaboración intermunicipal, a menudo facilitada por redes internacionales de ciudades tales como Eurocities. En este contexto, es fundamental insistir en que la mayoría de las ciudades del mundo carecen de los recursos financieros y la capacidad técnica necesarios para desarrollar soluciones y elaborar proyectos de inteligencia artificial por su cuenta, lo que las lleva a adquirir esta tecnología principalmente a través de los canales de contratación pública.

Esta situación pone de manifiesto la gran importancia que revisten las alianzas y colaboraciones, que han sido fundamentales para alentar a ciudades de diversos tamaños a adoptar la IA. A pesar de la preocupación por el hecho de que la IA podría perpetuar las desigualdades geográficas que se han producido en los sectores de alta tecnología que la antecedieron, concentrados en centros tecnológicos punteros y ciudades “famosas”, nuestro Atlas revela que la revolución de la IA no es exclusiva de las grandes ciudades. En realidad, ocurre lo contrario: el 66% de las ciudades identificadas en nuestro Atlas son pequeñas y medianas, con poblaciones que oscilan entre 250.000 y 1.000.000 de habitantes.

5.      De la adopción de la IA a su gobernanza: ¿cómo regulan la IA las ciudades?

El análisis de los tipos de iniciativas urbanas de inteligencia artificial recogidas en el Atlas revela que, si bien muchas ciudades innovan activamente en materia de los casos de uso de la IA, son pocas las que han puesto en marcha políticas específicas o estrategias integrales sobre la adopción de esos sistemas y garantizan la adecuación con los principios éticos fundamentales. En términos cuantitativos, un significativo 82% de los casos que aparecen en el Atlas son servicios o soluciones urbanos concretos basados en la IA, mientras que los porcentajes relativos a las políticas y las estrategias son considerablemente inferiores (12% y 6%, respectivamente), como puede apreciarse en la figura 8. Dicho de otro modo: solo el 11% de las ciudades documentadas en el Atlas han establecido estrategias o planes de acción específicos sobre la IA. Entre la labor de este selecto grupo de ciudades pioneras, cabe destacar la estrategia de IA (2021) de la ciudad de Nueva York y su correspondiente plan de acción (2023), la estrategia municipal de Barcelona para impulsar una IA ética (2021), la agenda de la IA de Ámsterdam (2021), el plan de inteligencia artificial de Buenos Aires (2021) o la estrategia de inteligencia artificial de Viena (2019).

Por otro lado, solo el 21% de ellas ha puesto en marcha políticas y normativas locales concebidas para supervisar la IA de diferentes maneras. Estas políticas abarcan la introducción de cláusulas de contratación pública, la promulgación de leyes para promover la transparencia de los algoritmos, la creación de inventarios y registros públicos de algoritmos, el establecimiento de consejos o comisiones consultivas y la formulación de directrices, entre otras medidas. En la tabla que figura a continuación se presenta una recopilación más amplia de estas políticas y normativas, y se incluyen ejemplos concretos extraídos del Atlas del GOUAI.

Estas conclusiones indican que en la actualidad existe un grave desajuste entre la adopción generalizada de herramientas algorítmicas y el establecimiento de una gobernanza eficaz de la IA. Esa disparidad se pone también de manifiesto en otras esferas de la gobernanza tecnológica en todo el mundo. Podría decirse que el uso generalizado de herramientas algorítmicas sin haber establecido los marcos de gobernanza adecuados muestra una tendencia general al enfoque pragmático y orientado a la búsqueda de soluciones que los municipios (y otros actores) llevan tiempo adoptando. Principio del formulario

En este sentido, la atención se ha centrado, hasta hace poco, en abordar los retos urbanos inmediatos aprovechando las tecnologías disponibles, incluida la IA. Por el contrario, la gobernanza de la IA, caracterizada por la intención deliberada de regular exhaustivamente la tecnología para minimizar los riesgos que plantea, se ha quedado rezagada. Sin embargo, la popularidad que han adquirido recientemente herramientas tales como ChatGPT, Dall-e y otras ha situado con fuerza las preocupaciones de carácter ético en el discurso público y ha impulsado a la mayoría de los gobiernos y actores internacionales a lanzarse a una carrera mundial para regular los algoritmos y la IA. Ante esta situación, los gobiernos locales no pueden permitirse el lujo de quedar excluidos de esa competición, por lo que cabe esperar un aumento del número de ciudades de todo el mundo que promueven políticas y normativas para regular la IA. El principal reto que el Observatorio Global de la Inteligencia Artificial Urbana tiene ante sí es dar seguimiento y analizar todos estos esfuerzos. 

Referencias

Cugurullo, F. et al. (2023a) “The rise of AI urbanism in post-smart cities: A critical commentary on urban artificial intelligence”. Urban Studies, noviembre de 2023.

Cugurullo, F. et al. (2023b) Artificial Intelligence and the city. Urbanistic perspectives on AI. London: Routledge.

Galceran-Vercher, M., y Rodríguez-Perez, A. (2024) “El lado oscuro de la inteligencia artificial urbana: abordar el impacto ambiental y social de los algoritmos”. CIDOB briefings, número 55.

Luusua, A. et al. (2023) “Urban AI: understanding the emerging role of artificial intelligence in smart cities”, AI & SOCIETY, 38(3), pp. 1039-1044.

Popelka, S. et al. (2023) Urban AI Guide 2023. Urban AI.

Notes:

1- Equidad y no discriminación; transparencia y apertura; seguridad y ciberseguridad; protección de la privacidad; sostenibilidad, y rendición de cuentas.

2- Las cajas negras de IA son sistemas de inteligencia artificial cuyo funcionamiento interno es invisible para la persona usuaria. Se puede introducir datos en ellos y obtener resultados, pero no se puede examinar la lógica que generó esos resultados.

3- En el 28% de las iniciativas no se dispone de información sobre el estado de madurez ni el año de inicio.