El lado oscuro de la IA urbana: el impacto medioambiental y social de los algoritmos

La inteligencia artificial (IA) se ha convertido en uno de los temas más notorios del año, también en el mundo urbano. La explicación es sencilla: hoy esta tecnología es ampliamente percibida como una valiosa herramienta para abordar los retos más importantes de nuestras sociedades, incluida la gestión de la emergencia climática. Los usos potenciales de las aplicaciones de IA son amplios y variados: desde la mejora de la eficiencia en el uso de los recursos hasta la mejora de la eficacia del transporte y la planificación urbana o la prestación de servicios urbanos más personalizados. La IA también es la fuerza impulsora de la transición verde y digital promovida por ciudades de todo el mundo. Sin embargo, aunque tendemos a imaginar el mundo digital como un espacio etéreo, ilimitado, desmaterializado y neutral, existen costes sociales y ambientales significativos asociados a la creciente dependencia de nuestras sociedades a los sistemas de IA. 

Para empezar, la capacidad informática necesaria para desarrollar y desplegar sistemas de IA requiere grandes infraestructuras de datos, especialmente centros de datos que consumen grandes cantidades de energía y agua. Por ponerlo en cifras: los centros de datos representan el 1,5% del uso global de electricidad, y entrenar sólo un modelo de IA puede emitir más dióxido de carbono que las emisiones de vida útil de un coche medio. A medida que estas infraestructuras hambrientas de energía se trasladan sigilosamente a los centros urbanos, aumenta la necesidad de hacerlas más verdes y eficientes para que las ciudades puedan cumplir con sus compromisos climáticos. Asimismo, el hardware de la IA (chips y placas de circuito) depende en gran medida de metales raros y tierras raras, cuya extracción conlleva importantes costes ambientales, sociales y geopolíticos. Por último, la necesidad de sustituir periódicamente los dispositivos digitales está teniendo un impacto preocupante en la cantidad de residuos electrónicos que generamos. 

En el ámbito social, muchos de los sistemas algorítmicos utilizados por los gobiernos locales para apoyar la toma de decisiones son propensos a incorporar y reforzar nuestros sesgos sociales existentes. Abordarlos requiere adoptar una perspectiva de los derechos digitales y garantizar que su despliegue tenga en cuenta principios éticos básicos como la no discriminación, la transparencia, la protección de la privacidad o la rendición de cuentas. Una cuestión fundamental en este sentido es cómo la curación algorítmica puede influir en el carácter y la calidad de nuestra democracia. Por último, desde una perspectiva de justicia global, gran parte de la innovación de IA empleada por las ciudades de todo el mundo está impulsada por trabajadores mal pagados del sur global. 

Metodología del seminario 

El Programa de Ciudades Globales del CIDOB, en colaboración con el Ayuntamiento de Barcelona, organiza un seminario internacional para reflexionar sobre el lado oscuro del uso extensivo de la inteligencia artificial desde una perspectiva urbana. Concretamente, pretende mejorar nuestra comprensión de las externalidades negativas ambientales y sociales que comporta el desarrollo de sistemas de IA y discutir cómo mitigarlas o superarlas mediante iniciativas locales específicas. 

El programa consta de dos bloques. Cada bloque se inicia con una intervención de 10 minutos de dos ponentes principales, seguida de una discusión moderada en torno a un conjunto de preguntas básicas que se distribuirán con antelación. Para fomentar un debate dinámico y la propuesta de nuevas ideas, el moderador puede pedir a los participantes individuales que intervengan en un punto relevante de la discusión. Las conclusiones del seminario contribuirán a la investigación del Observatorio Global de la Inteligencia Artificial Urbana i servirán de base para una posterior publicación que sacará CIDOB en los próximos meses.