Democràcia algorítmica o democratitzar l’algoritme

En un clima marcat per la digitalització, l’ús de tecnologies emergents com ara la intel·ligència artificial (IA) modifica la manera de percebre, habitar i organitzar la ciutat. Aquests canvis profunds van acompanyats d’una nova onada d’innovació urbana que ofereix l’oportunitat d’incorporar la IA com a eina per a l’anàlisi i el disseny de polítiques i infraestructura urbana adreçada a les necessitats dels ciutadans. 

Sorgeix així la necessitat de reflexionar sobre si l’ús d’eines algorítmiques fa de les ciutats espais més oberts i participatius, facilitant l’intercanvi entre les administracions locals i els ciutadans, i ajudant en l’exercici de la democràcia. El seu pes creixent en la planificació urbana per dissenyar ciutats obertes, democràtiques i sostenibles no està exempt de dilemes que amenacen els esforços d’integració, inclusió i justícia social. Riscos com la discriminació o l’execució automàtica de decisions sensibles posen en perill la idea que les eines algorítmiques poden ajudar a una millor governança democràtica de les ciutats. 

Com a resposta a aquesta realitat, el juliol de 2021, el CIDOB, juntament amb les ciutats de Barcelona, Amsterdam i Londres, en col·laboració amb ONU-Hàbitat, i dins del marc de la Coalició de Ciutats pels Drets Digitals, va llançar el Global Observatory of Urban Artificial Intelligence (GOUAI) per monitoritzar bones pràctiques i generar investigació aplicada sobre humanisme tecnològic i ètica digital que poguessin ser d’inspiració per a les ciutats a l’hora de dissenyar les polítiques públiques, i de referència a l’hora de llançar els seus projectes d’IA. L’objectiu del GOUAI és ajudar a la implementació ètica i democràtica dels algoritmes a les ciutats. 

És en aquest eix on s’emplaça la conversa proposada. Poden els algoritmes ajudar a que la governança urbana de les ciutats sigui més democràtica? Quins límits té la democràcia algorítmica? Com podrien les ciutats ajudar a mitigar els riscos per a la democràcia que suposa l’ús d’eines algorítmiques? Quin és el paper de la ciutadania? L’objectiu de la sessió és analitzar, des del debat humanístic i pràctic, com replantejar la integració de la intel·ligència artificial a l’entorn urbà i com fer-ho des de la societat civil.