Democracia algorítmica o democratizar el algoritmo

En un clima marcado por la digitalización, el uso de tecnologías emergentes como la inteligencia artificial (IA) modifica la manera de percibir, habitar y organizar la ciudad. Estos profundos cambios vienen acompañados de una nueva oleada de innovación urbana que ofrece la oportunidad de incorporar la IA como herramienta para el análisis y el diseño de políticas e infraestructura urbana dirigida a las necesidades de los ciudadanos.  

Surge de esta manera la necesidad de reflexionar sobre si el uso de herramientas algorítmicas hace de las ciudades espacios más abiertos y participativos, facilitando el intercambio entre las administraciones locales y los ciudadanos, y ayudando en el ejercicio de la democracia. Su peso creciente en la planificación urbana para diseñar ciudades abiertas, democráticas y sostenibles no está exento de dilemas que amenazan a los esfuerzos de integración, inclusión y justicia social. Riesgos como la discriminación o la ejecución automática de decisiones sensibles ponen en jaque la idea de que las herramientas algorítmicas pueden ayudar a una mejor gobernanza democrática de las ciudades. 

Como respuesta a esta realidad, en julio de 2021, CIDOB, junto con las ciudades de Barcelona, Ámsterdam y Londres, en colaboración con ONU-Hábitat, y dentro del marco de la Coalición de Ciudades por los Derechos Digitales, lanzó el Global Observatory of Urban Artificial Intelligence (GOUAI) para monitorizar buenas prácticas y generar investigación aplicada sobre humanismo tecnológico y ética digital que pudieran ser de inspiración para las ciudades a la hora de diseñar sus políticas públicas, y de referencia a la hora de lanzar sus proyectos de IA. El objetivo del GOUAI es ayudar a la implementación ética y democrática de los algoritmos en las ciudades. 

Es en este eje en el que se emplaza la conversación propuesta. ¿Pueden los algoritmos ayudar a que la gobernanza urbana de las ciudades sea más democrática? ¿Qué límites tiene la democracia algorítmica? ¿Cómo podrían las ciudades ayudar a mitigar los riesgos para la democracia que supone el uso de herramientas algorítmicas? ¿Cuál es el papel de la ciudadanía? El objetivo de la sesión es analizar, desde el debate humanístico y práctico, cómo replantear la integración de la inteligencia artificial en el entorno urbano y cómo hacerlo desde la sociedad civil.