Mapatge de la intel·ligència artificial urbana: primer informe de l’Atles de la Intel·ligència Artificial Urbana del GOUAI

L’Atles de la Intel·ligència Artificial Urbana considerat el projecte emblemàtic de l’Observatori Global de la Intel·ligència Artificial Urbana (GOUAI), s’ha consolidat com el repositori d’intel·ligència artificial urbana de caràcter ètic, d’accés lliure, més important i complet a escala mundial. A partir de la recerca duta a terme, en aquest informe s’analitzen els casos que es recullen dins l’Atles i s’ofereix una àmplia perspectiva de les bones pràctiques i les tendències que caracteritzen l’evolució global de la intel·ligència artificial urbana.

1. Introducció 

La intel·ligència artificial (IA) es presenta com una de les forces més transformadores de la nostra era, perquè enclou la promesa de remodelar les nostres societats. Com calia esperar, aquest fenomen ha captat l’atenció dels governs de tot el món, i els governs locals no en són una excepció. Una enquesta recent revela l’existència d’un gran interès a les alcaldies de les principals ciutats del món per l’ús d’eines d’IA per millorar la prestació dels serveis públics i abordar reptes urbans urgents com ara la congestió del trànsit, la millora de les infraestructures, la seguretat pública i la mitigació del canvi climàtic. Aquest profund interès no és simplement teòric; gairebé el 70% dels alcaldes i les alcaldesses enquestats van declarar haver provat aquesta tecnologia, si bé només uns pocs l’han implantada activament. Per tant, l’impacte tangible de la IA a les zones urbanes és sens dubte important. 

Tanmateix, l’entusiasme que envolta l’adopció de la «intel·ligència artificial urbana» es veu atenuat per un grau equivalent de cautela a l’hora d’utilitzar les eines algorísmiques. Aquesta prudència es deriva de les repercussions que els sistemes d’IA podrien tenir respecte els drets humans, com també dels importants riscos socials i costos ambientals relacionats amb la dependència creixent de les nostres societats i governs respecte dels sistemes d’IA. A més, les aplicacions d’intel·ligència artificial urbana operen en marcs polítics concrets, per la qual cosa exerceixen una marcada influència política. Les ciutats són espais polítics en els quals els governs locals tenen el poder de prendre decisions que afecten milions de vides. No és casualitat que la Llei d’intel·ligència artificial de la Unió Europea (UE) classifiqui certs usos habituals dels sistemes d’IA en entorns urbans com de risc limitat o alt, la qual cosa fa imprescindible examinar acuradament l’entramat format pels sistemes algorísmics i les seves implicacions polítiques i ètiques. 

En essència, és urgent que les ciutats adquireixin coneixements sobre el desenvolupament ètic de la IA, i aquest és precisament l’objectiu que pretén aconseguir l’Atles de la Intel·ligència Artificial Urbana. Considerat com el projecte insígnia de l’Observatori Global de la Intel·ligència Artificial Urbana (GOUAI, per les seves sigles en anglès), l’Atles ofereix una col·lecció seleccionada de més de 200 iniciatives de 70 ciutats de tot el món, i es consolida com el repositori d’intel·ligència artificial urbana, d’accés lliure, més complet a escala mundial. A partir de la recerca duta a terme, en aquest informe es pretenen analitzar els casos que es recullen a l’Atles i oferir una perspectiva general de les bones pràctiques i les tendències que caracteritzen l’evolució mundial de la IA urbana. 

En concret, l’informe es planteja les preguntes següents: en quines regions mostren els governs locals una major activitat en la implantació de sistemes d’IA amb una orientació ètica?, quins principis ètics apliquen amb més freqüència les ciutats i quin n’és el motiu?, com s’apliquen a la pràctica aquests principis i quins d’ells s’acostumen a passar per alt?, en quina fase d’implantació es troben els municipis respecte l’ús de tecnologia d’IA?, estan ja en marxa la majoria dels projectes o es continua posant l’accent, sobretot, a debatre els projectes pilot?, què és allò que caracteritza l’ecosistema d’IA urbana dels governs locals i quins en són els principals actors aliats?, i és la IA urbana una cosa exclusiva de les grans ciutats? 

L’informe s’estructura en quatre seccions. La primera ofereix una visió metodològica del procés de recerca en què es basa la creació de l’Atles, amb informació sobre els criteris utilitzats per seleccionar els casos que hi apareixen. La segona secció, més teòrica i que té per objectiu aclarir el concepte d’intel·ligència artificial urbana, planteja una reflexió sobre la relació entre l’urbanisme i les tecnologies d’intel·ligència artificial, i posa en relleu els elements distintius que diferencien la IA urbana d’altres tipus de sistemes algorísmics. La tercera secció presenta les tendències clau de la intel·ligència artificial urbana que es desprenen de l’anàlisi de l’Atles. Finalment, a la quarta secció s’analitza la regulació local de la IA i s’identifiquen iniciatives polítiques endegades per ciutats de tot el món per garantir la implantació ètica dels sistemes algorísmics. 

2. Nota metodològica

L’Atles de la Intel·ligència Artificial Urbana del GOUAI és el resultat d’una extensa recerca documental derivada de la recopilació sistemàtica de dades de diverses fonts d’accés públic, com ara informes oficials de les ciutats, llocs web governamentals, organismes de desenvolupament urbà, informes d’empreses tecnològiques, revistes sobre ciutats intel·ligents i altres plataformes en línia de temàtiques relacionades. En menor mesura, també es van dur a terme entrevistes i enquestes a les autoritats municipals i altres parts interessades. La recerca, iniciada el 2021, segueix en curs i continua oberta a la recepció de casos addicionals a través d’un formulari en línia. 

Els projectes inclosos a la base de dades havien de complir quatre criteris específics: (1) una alineació explícita amb els principis ètics¹ del GOUAI; (2) la participació o el suport, directes o indirectes, del govern municipal; (3) una orientació clara a la IA urbana (és a dir, amb aplicacions identificables en un marc urbà), i (4) un historial documentat de planificació, implementació o desenvolupament actiu. 

S’ha procurat que aquest informe i l’àmplia recerca que l’Atles sustenta siguin exhaustius, però les seves autores reconeixen l’existència de possibles omissions a l’hora de reflectir tots els casos que s’hi recullen. Això es deu a les importants limitacions trobades durant el procés de recopilació de dades. La principal dificultat rau en la gran dependència de les fonts públiques, ja que moltes ciutats no promouen activament els seus projectes d’IA urbana ni en proporcionen informació de fàcil accés. Aquesta falta de promoció i transparència constitueix un obstacle molt rellevant per obtenir dades completes i actualitzades. A més, fins i tot quan les ciutats divulguen informació sobre els seus projectes, les implicacions i les consideracions ètiques no se solen explicitar ni estan prou documentades. Aquesta ambigüitat fa difícil valorar l’adequació d’alguns projectes als principis ètics del GOUAI, la qual cosa dona lloc a l’exclusió d’algunes possibles bones pràctiques. 

En la mateixa línia, la recollida de dades de fonts primàries s’ha vist afectada, en general, per la resposta —escassa i de caràcter esporàdic— dels treballadors municipals, la limitada disponibilitat i capacitat dels quals per respondre a les preguntes ha estat un obstacle per a la recopilació de dades qualitatives. Fins i tot quan aquests treballadors municipals estaven disposats a compartir informació, solien trobar dificultats relacionades amb la comunicació interna. Aquest problema reflecteix la complexitat de la tasca de coordinar i difondre informació dins les administracions municipals. 

3. El concepte d’intel·ligència artificial urbana

La intel·ligència artificial està intrínsecament relacionada amb la vida a la ciutat. Per començar, els espais urbans són escenaris tangibles i destacats en els quals la presència de la IA es fa visible. Les ciutats també serveixen de camp de prova per a les formes noves d’IA i són els llocs on es manifesten alguns dels efectes socials i ambientals d’aquests sistemes, així com les oportunitats i els riscos associats amb el seu ús (Galceran-Vercher i Rodríguez-Pérez, 2024). A més, el funcionament i el desenvolupament de la IA exigeixen diversitat de recursos, molts dels quals estan lligats de manera estreta als entorns urbans. Bàsicament, les ciutats es poden descriure com a microcosmos a través dels quals la IA observa i capta el món. Més concretament, les ciutats proporcionen quatre tipus fonamentals de recursos (Cugurullo et al., 2023b):

• Espais urbans. La IA requereix entorns físics sobre els quals actuar, i aquests solen ser urbans. Les carreteres, els edificis, els parcs i els carrers en són alguns exemples.
• Accés a activitats. Els assentaments urbans enclouen un nombre i una diversitat creixents de les activitats que es duen a terme a tot el món. Com a conseqüència, per participar en les interaccions socials, intervenir en les transaccions econòmiques, influir en els processos polítics o intervenir en els canvis ambientals a escala mundial, la IA ha d’interactuar amb els sistemes urbans.
• Dades per a l’aprenentatge automàtic. En l’actualitat, la majoria dels sistemes d’IA milloren la seva capacitat mitjançant processos d’aprenentatge automàtic, la qual cosa implica un ús de dades considerable. Les zones urbanes, que es caracteritzen per la seva densitat poblacional, són importants centres de coordinació de diverses activitats humanes, la qual cosa les converteix en agents fonamentals de producció de dades. Tanmateix, la importància de les ciutats no solament rau en l’enorme volum d’informació que generen, sinó també en la qualitat d’aquesta informació. Els espais urbans produeixen dades en temps real, molt detallades i especialment profitoses per a les aplicacions d’aprenentatge automàtic.
• Infraestructures i instal·lacions. Les ciutats també ofereixen altres serveis clau, com les xarxes elèctriques, les granges de servidors, etc. 

Així doncs, el concepte d’intel·ligència artificial urbana tracta de posar de manifest la relació existent entre els sistemes algorísmics i els espais de la ciutat, i abasta l’entorn construït, les infraestructures, els llocs i les persones i les seves pràctiques socials (Luusua et al., 2023). Es pot definir, llavors, com tot sistema que empra dades obtingudes de l’entorn urbà, tractades mitjançant algorismes i que produeixen aplicacions pràctiques en la dinàmica socioespacial de la ciutat (Popelka et al., 2023, p. 14). En termes generals, la materialització urbana dels sistemes d’IA ha adoptat quatre formes diferents: els vehicles autònoms, els robots urbans, els cervells de les ciutats i els agents de programari urbà (Cugurullo et al., 2023a). 

Existeixen alguns elements importants que distingeixen la intel·ligència artificial urbana d’altres formes d’intel·ligència artificial (Popelka et al., 2023). En primer lloc, la complexitat de la ciutat, en el sentit que en el funcionament de les zones urbanes intervenen nombrosos sectors interconnectats. L’Atles de la Intel·ligència Artificial Urbana classifica les iniciatives d’intel·ligència urbana en set àrees temàtiques: serveis socials, governança i serveis urbans, medi ambient i recursos, mobilitat, infraestructures i planificació urbana, economia i negocis, i seguretat i resiliència. De la mateixa manera, a la vida urbana participen molts actors, com el sector privat, les organitzacions de la societat civil o les comunitats de base. El segon element és el fet que la IA urbana opera en marcs polítics concrets. Les ciutats són espais polítics en els quals els governs locals tenen la facultat de prendre decisions que afecten la vida de milions de persones, per la qual cosa les aplicacions urbanes d’intel·ligència artificial tenen una marcada influència política. A més, és precisament el reconeixement d’aquesta dimensió política el que ha portat l’Atles a donar prioritat, almenys en la primera fase de la recerca, a la recopilació de casos en els quals hi ha governs locals implicats de manera directa o indirecta. L’últim element distintiu és el caràcter híbrid de la IA urbana, en el sentit que no pot existir únicament en l’àmbit digital; ben al contrari, necessita la materialitat i els components d’infraestructura dels sistemes urbans físics. 

Tal com s’ha assenyalat, el valor afegit i l’aspecte distintiu de l’Atles de la Intel·ligència Artificial Urbana del GOUAI resideixen en el fet que posen l’accent en els casos d’ús que presenten consideracions ètiques. Aquesta qüestió és important perquè la implantació generalitzada de sistemes d’IA a les zones urbanes, unida a les conseqüències que aquests sistemes tenen en la vida quotidiana en aquest entorn i en el procés de creació de les ciutats, suscita nombroses preocupacions en aquest sentit. Per tant, hi ha una creixent necessitat d’estudiar l’entramat format per la intel·ligència artificial, la dimensió física dels espais de la ciutat, la vida de les persones i els aspectes polítics i ètics propis de la IA urbana. A aquest respecte, cal assenyalar que la Llei d’IA de la UE ha classificat determinats usos habituals dels sistemes d’intel·ligència artificial en entorns urbans com de risc limitat o alt (vegeu la taula 1). Això implica que cal aplicar determinades salvaguardes —com la realització de proves, la documentació, la transparència o les obligacions de notificació— per mitigar-ne els possibles efectes nocius. 

4. Resum de les tendències

a. Europa i Amèrica del Nord: baluards de la IA ètica?

El 80% de les iniciatives documentades a l’Atles de la Intel·ligència Artificial Urbana es troben a l’Amèrica del Nord i Europa, seguides d’Àsia (10%), l’Amèrica Llatina i el Carib (8%) i l’Orient Mitjà i el Nord d’Àfrica (1%). Aquesta distribució desigual (vegeu la figura 1) planteja la pregunta de si la IA urbana té a veure principalment amb el Nord global. Efectivament, gran part de la tecnologia la desenvolupen indústries d’aquesta regió, amb la qual cosa als municipis els resulta fàcil accedir-hi i situar-se com a centres d’innovació per a la seva utilització. D’altra banda, les ciutats europees i nord-americanes solen posseir més recursos, tant tècnics com financers, i també disposen de nivells més alts d’autonomia fiscal i política per iniciar, desenvolupar o regular projectes tecnològics. A les altres regions del món, aquestes competències solen correspondre a l’àmbit nacional. De fet, moltes ciutats de tot el planeta serveixen simplement de banc de proves de les innovacions impulsades pel sector privat, les organitzacions supranacionals i altres nivells de govern. En tals casos, el govern local no sempre assumeix un paper actiu en aquests avenços. 

Amb tot, aquesta representació distorsionada també es veu agreujada per altres limitacions (abordades en part en la secció metodològica d’aquest informe). En primer lloc, existeixen disparitats en les capacitats de comunicació, ja que les ciutats americanes i europees solen emprar estratègies comunicatives més sòlides amb una diensió internacional. Aquesta visibilitat fa que els seus projectes siguin més accessibles per al públic en general en comparació amb moltes de les seves homòlogues. En segon lloc, la proximitat geogràfica exerceix un paper clau. Així, aquest Atles és resultat del treball al si del GOUAI, projecte conjunt del Programa Ciutats Globals del CIDOB i les ciutats de Barcelona, Amsterdam i Londres, en el marc de la Coalició de Ciutats pels Drets Digitals; d’aquí que resulti més fàcil establir canals de comunicació amb les ciutats ja connectades a través d’aquestes xarxes. Tanmateix, la dimensió geogràfica també introdueix un altre tipus de limitacions, com les barreres lingüístiques i les diferències culturals, ja que els punts de vista sobre la IA ètica varien d’una regió a una altra. Aquestes realitats dificulten la recopilació d’informació detallada sobre les iniciatives d’IA urbana d’altres llocs del món, la qual cosa repercuteix en l’exhaustivitat de la base de dades i influeix en la valoració de pràctiques ètiques d’IA existents a tot el planeta. Tot plegat posa de manifest la importància d’adoptar un enfocament més inclusiu i representatiu a escala mundial respecte a la recopilació de dades i l’avaluació ètica en futures investigacions. 

b. Governança i serveis socials: les principals àrees per a la implantació de la IA

Tal com mostra la figura 2, la immensa majoria dels governs locals utilitzen eines d’intel·ligència artificial per millorar la governança i els serveis urbans. Un exemple clar és la creixent tendència entre les ciutats de tot el món a implantar chatbots urbans per atendre la població i prestar serveis (com ara Dubai.AI). Així mateix, diverses ciutats aprofiten cada vegada més eines d’IA per millorar els processos interns de gestió municipal (com ara la Haia), recopilar dades per regular l’espai públic (com ara Taoyuan), gestionar i analitzar les dades de la ciutat (com ara Los Angeles), millorar l’eficiència dels serveis urbans (com ara Melbourne) o augmentar l'eficàcia de la labor policial (com ara Seül). L’àrea de governança i serveis urbans, constitutiva del 66% del total d’iniciatives recollides dins l’Atles, es presenta com la categoria predominant a la IA urbana, seguida de mobilitat (24%), serveis socials (22%) i medi ambient i recursos (22%). 

D’altra banda, les àrees menys representades a l’Atles són infraestructures i urbanisme (10%), seguretat i resiliència (9%) i economia i negocis (4%). De fet, només set de les iniciatives incloses dins l’Atles estan orientades a l’economia, amb projectes tals com l’ús de la IA per identificar oportunitats comercials (és l’exemple de Buenos Aires) o millorar la logística de la indústria local (el cas de Rotterdam). Aquestes baixes xifres poden indicar la falta d’interès dels municipis per l’aplicació de la IA amb finalitats productives o de benefici econòmic, en contrast amb l’ampli ús per al progrés en matèria econòmica que se’n fa a escala mundial. En contrast, la seguretat i la resiliència són àrees de gran prioritat per als municipis, però estan infrarepresentades a l’Atles a causa de les consideracions ètiques. Per exemple, a l’Atles s’exclouen de manera deliberada els controvertits usos del reconeixement facial, emprat amb elevada freqüència a moltes ciutats de tot el món. En canvi, s’inclouen exemples de responsabilitat en aquesta àrea, tal com l’elaboració de lleis sobre la privacitat biomètrica dirigides a les empreses (com ara Nova York), l’ús de la IA per a la detecció precoç d’incendis (és el cas de Hong Kong) o el mapatge de la percepció de seguretat (a, Estocolm, per exemple). 

c. Transparència i protecció de la privacitat: els principis ètics d’or

Els principis ètics que els municipis apliquen a la implantació i el desenvolupament de la intel·ligència artificial urbana presenten diferències pel que fa a la seva freqüència. Cal destacar l’adopció generalitzada del principi de transparència i obertura, present al 67% de les iniciatives incloses a l’Atles (vegeu la figura 3). Una explicació plausible del predomini d’aquest principi bàsic és la percepció que resulta fàcil d’aplicar, principalment informant el públic sobre l’ús de la IA (és a dir, quan, com i amb quin propòsit s’empren els sistemes d’IA). Aquesta informació es difon a través de canals i plataformes de comunicació oberts, especialment registres i inventaris d’IA com ara els creats per les ciutats d’Amsterdam, Nantes, Hèlsinki o San José. En menor mesura, aquest principi també es pot complir mitjançant l’adopció d’iniciatives de codi obert i dades obertes sempre que sigui possible. 

La protecció de la privacitat, identificada en el 50% de les iniciatives, és el segon principi més adoptat. S’aconsegueix principalment mitjançant l’anonimització de la informació i, de manera més recent, mitjançant la generació de dades sintètiques. Hi ha abundants exemples d’aquestes pràctiques, com ara l’anonimització de les matrícules i de la informació biomètrica en emprar eines de reconeixement d’imatges (és l’exemple de l’anàlisi de comportament, al comtat de Gran Manchester, o la solució intel·ligent del trànsit de Melbourne); l’ús de tecnologia lidar i radar per evitar, per sobre de tot, el registre d’informació personal identificable (és el cas del projecte Roboat, d’Amsterdam), o l’elaboració de marcs per a les dades sintètiques (per exemple, el marc per a la implementació de tècniques de dades sintètiques, a Dubai). En aquest context, no hi ha dubte que el Reglament general de protecció de dades (RGPD) de la UE ha exercit un paper determinant a l’hora de traçar el camí d’una considerable cultura de la privacitat des del disseny.

En canvi, els principis d’equitat i no discriminació (42%), seguretat i ciberseguretat (40%) i rendició de comptes (33%) s’apliquen de manera desigual, amb presència a aproximadament el 40% de les iniciatives. Algunes pràctiques habituals emprades per defensar aquests principis són la realització d’auditories externes, l’adopció d’enfocaments basats a mantenir informades les persones i la utilització de la tecnologia per ajudar en la presa de decisions en lloc d’automatitzar-la per complet. Tanmateix, cal assenyalar que, encara que les auditories externes són una mesura desitjable per respectar aquests tres principis, les empreses proveïdores de sistemes d’IA solen estar poc inclinades a revelar informació basant-se en la protecció contra còpia i escriptura, la qual cosa dona lloc a l’ús de tecnologies de caixa negra³ i al desgast d’aquests principis. 

Quan establim referències creuades entre àrees i principis, concloem que l’adopció dels diversos principis ètics en les diferents àrees presenta una gran variabilitat (vegeu la figura 5). La transparència és el principi més estès en totes les àrees, però la seva importància és especialment pronunciada en la IA urbana relacionada amb la prestació de serveis socials. Tenint en compte que els sistemes d’IA en aquest àmbit s’utilitzen de vegades per assignar prestacions socials —i, per tant, repercuteixen en la vida de les persones més vulnerables— és indispensable establir salvaguardes per comprendre i, si cal, impugnar les decisions preses. Els principis d’equitat i no discriminació, i de rendició de comptes també tenen un pes considerable en l’àrea dels serveis socials per raons similars. 

Una altra observació que cal fer és que algunes àrees necessiten incloure una major diversitat de principis ètics que d’altres. En particular, les iniciatives relacionades amb la mobilitat semblen incorporar menys disposicions ètiques i, quan hi figuren, se centren principalment en consideracions de transparència i protecció de la privacitat. Una última observació molt significativa és la insuficient atenció prestada al principi de sostenibilitat en les iniciatives que tracten de millorar les condicions ambientals i l’assignació de recursos, aspecte aquest darrer que s’analitza més a fons a la secció següent.

d. Sostenibilitat: la realitat incòmoda

Tal com s’ha assenyalat, la sostenibilitat és, amb diferència, el principi menys defensat, i només apareix al 6% de les iniciatives. A més, als exemples trobats, aquest concepte s’esmenta principalment a les estratègies i no s’aplica als projectes pròpiament dits. El repte consisteix a conciliar el costat fosc de la intel·ligència artificial —abordar les repercussions socials i ambientals que comporta l’ús d’aquesta tecnologia— amb la seva utilització per aconseguir finalitats sostenibles. En essència, la sostenibilitat de la IA xoca amb l’ús de la IA a favor de la sostenibilitat. Des del punt de vista ambiental, la IA requereix, de manera intrínseca, una gran quantitat d’energia i recursos, genera quantitats considerables de residus electrònics i depèn de l’extracció —generalment insostenible— de metalls i terres rares, la qual cosa suposa costos no només ambientals, sinó també socials i geopolítics. Algunes estratègies per aconseguir que la IA sigui més ecològica giren a l’entorn d’utilitzar energia sostenible per alimentar els centres de dades ecològics i reutilitzar l’excés de calor que s’hi genera, entrenar algorismes amb una mínima quantitat de conjunts petits —en comptes de grans— de dades i considerar la possibilitat de recórrer a un subministrament ètic dels materials. 

Pel que fa a la sostenibilitat social, s’ha demostrat inequívocament que la IA i els sistemes algorísmics en general reprodueixen i reforcen els prejudicis socials existents. Per abordar aquesta qüestió amb eficàcia, les ciutats han d’adoptar una perspectiva de drets digitals que garanteixi el respecte dels principis ètics fonamentals. En aquest sentit, iniciatives com ara la Coalició de Ciutats pels Drets Digitals són espais clau perquè les ciutats estableixin marcs operacionals que permetin promoure els drets humans en entorns digitals. D’altra banda, el mateix procés d’entrenament de la IA també suscita dubtes de caràcter ètic, ja que, de fet, gran part d’aquest entrenament «automatitzat» el duen a terme, en molts casos,  persones amb ocupacions mal remunerades i en unes condicions dubtoses al Sud global. 

e. Creixement exponencial de la IA urbana: una tecnologia que ha arribat per quedar-se

Respecte al marc temporal, el 64% dels casos recopilats a l’Atles es van iniciar entre el 2017 i el 2023, la qual cosa indica un notable repunt en l’adopció de sistemes algorísmics per part dels municipis durant els últims cinc anys (vegeu la figura 6). A més, el 2021 va ser un punt d’inflexió en la formulació d’estratègies i polítiques locals per regular la intel·ligència artificial, d’acord amb la tendència mundial d’acceleració dels esforços per regular-la. 

Pel que fa al grau de maduresa (vegeu la figura 7), el 66% d’aquestes iniciatives ja estan plenament implementades, mentre que la resta es troben en fase d’implementació o planificació (el 17% en tots dos casos)⁴. Per consegüent, podem deduir que moltes ciutats de tot el món han superat la fase pilot d’aquesta tecnologia i ja l’empren activament en una àmplia varietat d’àrees de les seves funcions quotidianes. Aquest creixement continuarà augmentant de manera exponencial en els propers anys, sostingut per l’increment constant de les inversions mundials en el desenvolupament de la IA i pel creixent interès popular per aquesta tecnologia.

f. Intel·ligència artificial urbana: un esforç col·lectiu de múltiples parts interessades

La majoria de les iniciatives que apareixen a l’Atles són producte de diverses formes d’associació publicoprivada, que impliquen col·laboracions de ciutats, empreses, centres de coneixement i diverses organitzacions internacionals i supranacionals, com ara la Unió Europea i les Nacions Unides. Existeix, a més, una tendència creixent a la col·laboració intermunicipal, sovint facilitada per xarxes internacionals de ciutats com ara Eurocities. En aquest context, és fonamental insistir que la majoria de les ciutats del món no disposen dels recursos financers ni la capacitat tècnica necessaris per desenvolupar solucions i elaborar projectes d’intel·ligència artificial pel seu compte, la qual cosa les condueix a adquirir aquesta tecnologia principalment a través dels canals de contractació pública. 

Aquesta situació posa de manifest la gran importància que revesteixen les aliances i les col·laboracions, que han estat fonamentals per encoratjar ciutats de diverses grandàries a adoptar la IA. Malgrat la preocupació pel fet que aquest tipus d’intel·ligència podria perpetuar les desigualtats geogràfiques que s’han produït en els sectors d’alta tecnologia que la van precedir, concentrats en centres tecnològics capdavanters i ciutats «famoses», el nostre Atles revela que la revolució de la IA no és exclusiva de les grans ciutats. En realitat, ocorre el contrari: el 66% de les ciutats identificades en el nostre Atles són petites i mitjanes, amb poblacions que oscil·len entre 250.000 i 1.000.000 d’habitants. 

5. De l’adopció de la IA a la seva governança: com regulen la IA les ciutats?

L’anàlisi dels tipus d’iniciatives urbanes d’intel·ligència artificial recollides a l’Atles revela que, si bé moltes ciutats innoven activament en matèria dels casos d’ús de la IA, són poques les que han posat en marxa polítiques específiques o estratègies integrals relatives a l’adopció d’aquests sistemes i que garanteixen l’adequació amb els principis ètics fonamentals. En termes quantitatius, un significatiu 82% dels casos que apareixen a l’Atles són serveis o solucions urbans concrets basats en la IA, mentre que els percentatges relatius a les polítiques i les estratègies són força inferiors (12% i 6%, respectivament), tal com es pot apreciar a la figura 8. Dit d’una altra manera: només l’11% de les ciutats documentades a l’Atles han establert estratègies o plans d’acció específics sobre la IA. Entre la labor d’aquest selecte grup de ciutats pioneres, cal destacar l’estratègia d’IA (2021) de la ciutat de Nova York i el seu corresponent pla d’acció (2023), l’estratègia municipal de Barcelona per impulsar una IA ètica (2021), l’agenda de la IA d’Amsterdam (2021), el pla d’intel·ligència artificial de Buenos Aires (2021) o l’estratègia d’intel·ligència artificial de Viena (2019).

D’altra banda, només el 21% de les ciutats ha posat en marxa polítiques i normatives locals concebudes per supervisar la IA de diferents maneres. Aquestes polítiques abasten la introducció de clàusules de contractació pública, la promulgació de lleis per promoure la transparència dels algorismes, la creació d’inventaris i registres públics d’algorismes, l’establiment de consells o comissions consultives i la formulació de directrius, entre altres mesures. A la taula que figura a continuació es presenta una recopilació més àmplia d’aquestes polítiques i normatives, i s’hi inclouen exemples concrets extrets de l’Atles del GOUAI.

Aquestes conclusions indiquen que en l’actualitat existeix un greu desajust entre l’adopció generalitzada d’eines algorísmiques i l’establiment d’una governança eficaç de la IA. Aquesta disparitat es posa també de manifest en altres esferes de la governança tecnològica a tot el món. Es podria dir que l’ús generalitzat d’eines algorísmiques sense haver establert els marcs de governança adequats mostra una tendència general a l’enfocament pragmàtic i orientat a la cerca de solucions que els municipis (i altres actors) porten temps adoptant. 

En aquest sentit, l’atenció s’ha centrat, fins fa poc, a abordar els reptes urbans immediats aprofitant les tecnologies disponibles, incloent-hi la IA. Per contra, la governança de la IA, caracteritzada per la intenció deliberada de regular exhaustivament la tecnologia per minimitzar els riscos que planteja, ha quedat en un segon pla. Tanmateix, la popularitat que han adquirit recentment eines com ara ChatGPT, Dall-e i d’altres ha situat, amb força, les preocupacions de caràcter ètic en el discurs públic i ha impulsat la majoria de governs i actors internacionals a llançar-se a una carrera mundial per regular els algorismes i la IA. Així les coses, els governs locals no es poden permetre el luxe de quedar exclosos d’aquesta competició, per la qual cosa cal esperar un augment del nombre de ciutats de tot el món que promoguin polítiques i normatives per regular la IA. El principal repte que l’Observatori Global de la Intel·ligència Artificial Urbana té davant seu és donar seguiment i analitzar tots aquests esforços.

Referències

Cugurullo, F. et al. (2023a). «The rise of AI urbanism in post-smart cities: A critical commentary on urban artificial intelligence». Urban Studies, novembre del 2023.

Cugurullo, F. et al. (2023b). Artificial Intelligence and the city. Urbanistic perspectives on AI. London: Routledge.

Galceran-Vercher, M., i Rodríguez-Perez, A. (2024). «El lado oscuro de la inteligencia artificial urbana: abordar el impacto ambiental y social de los algoritmos». CIDOB briefings, número 55.

Luusua, A. et al. (2023). «Urban AI: understanding the emerging role of artificial intelligence in smart cities», AI & SOCIETY, 38(3), pp. 1039-1044.

Popelka, S. et al. (2023). Urban AI Guide 2023. Urban AI.

Notes:

1- Equitat i no discriminació; transparència i obertura; seguretat i ciberseguretat; protecció de la privacitat; sostenibilitat, i rendició de comptes.

2- La majoria de les iniciatives recollides a l’Atles (66%) pertanyen a una sola categoria.

4- Les caixes negres d’IA són sistemes d’intel·ligència artificial el funcionament intern de les quals és invisible per a la persona usuària. S’hi poden introduir dades i obtenir-ne resultats, però no es pot examinar la lògica que genera els resultats.

4-  En el 28% de les iniciatives no es disposa d’informació sobre l’estat de maduresa ni l’any d’inici.