Reseña de libros | La colonización algorítmica de la democracia
García-Marzá, Domingo y Calvo, Patrici. Algorithmic democracy: a critical perspective based on deliberative democracy. Springer, 2024, 257 págs.
El impacto de la inteligencia artificial (IA) en la democracia es una cuestión ampliamente explorada en el debate académico actual. El presente libro aborda esta cuestión desde la perspectiva ética. Los autores defienden que existe un modelo en auge de «democracia algorítmica» que busca sustituir a la democracia liberal. Ello, alertan, puede conducir a un modelo político que renuncie a la participación ciudadana y a un rol relevante de la sociedad civil.
La primera parte de la obra analiza el concepto de «democracia algorítmica». Los autores consideran que vivimos un momento de «democracia a la deriva», caracterizado por una desafección de la ciudadanía y el surgimiento de alternativas a la democracia. Una de ellas es la «democracia algorítmica», donde la IA asumiría un liderazgo tecnocrático y supuestamente neutral con el objetivo de superar los actuales problemas políticos asociados a los humanos, como la corrupción, los sesgos emocionales o la incapacidad de procesar la complejidad del mundo contemporáneo.
En la «democracia algorítmica», la calidad de la democracia se mide por los resultados cuantitativos. Factores como la libertad, la participación o la responsabilidad son secundarios e incluso negativos. Su cosmovisión es la del positivismo y la fe en los datos. No es necesaria la sociedad civil, solo el algoritmo y el ciudadano individual. Los procesos en común de deliberación y participación son prescindibles, en un mundo donde el algoritmo puede agregar las preferencias individuales y proponer resultados basándose en ellas. En contraste con esta visión, los autores consideran que una democracia sin participación y sociedad civil no es una verdadera democracia. La democracia, afirman, no solo tiene un valor utilitario, sino también moral. Mediante la participación democrática el ciudadano pone en acción su autonomía, responsabilidad y libertad. Participar en democracia le dignifica en cuanto a sujeto.
La segunda parte del libro examina ámbitos donde la «colonización» de los algoritmos está reemplazando a las personas. En primer lugar, se analiza la figura del «político virtual»: algoritmos que se «han presentado» a elecciones o «asumido cargos» en países como Nueva Zelanda, Japón o Dinamarca. Estos «políticos virtuales» se presentan como la solución a los problemas de los políticos humanos actuales: en vez de incumplir promesas o ser parciales, los políticos IA serían neutrales, incorruptibles y representarían perfectamente nuestras preferencias. Sin embargo, este discurso esconde un modelo desigual que prioriza a los ciudadanos más digitalmente conectados, y que pasa por alto que los algoritmos también están cargados de sesgos y opacidad. En contraste con la idea de «político virtual», los autores tienen una visión más positiva de los modelos de «democracia aumentada» mediante «gemelos digitales», donde cada ciudadano tendría una réplica digital que le permitiera participar más directamente en los procesos democráticos.
A continuación, se aborda el auge de las «esferas públicas digitales». En la tradicional esfera pública, existe un proceso de deliberación y participación ciudadana del cual surge una opinión pública común. En cambio, en la digital no hay creación participativa en común y el resultado se basa en la pura agregación de opiniones individuales. Los ciudadanos ya no negocian y deliberan: simplemente proveen de datos al sistema. Los autores advierten de que estas «esferas públicas digitales», además, son constantemente manipuladas mediante bots que hacen pasar por humanas opiniones que son artificiales. Si antes las fuerzas antidemocráticas buscaban controlar la opinión pública, ahora simplemente la pueden sustituir por una artificial.
La tercera parte de la obra plantea debates éticos y ofrece propuestas. En primer lugar, los autores son escépticos de que los algoritmos puedan tener un «aprendizaje moral», ya que estos tienden al funcionalismo y a maximizar los resultados: la máquina se guía por objetivos y la mejora de indicadores, pero carece de motivación emocional y racionalidad práctica. El algoritmo tiene una actitud descriptiva hacia la ética, sin la parte normativa: reproduce la moral existente, pero no nos orienta a ser mejores.
Los autores consideran que el reto algorítmico actual debe afrontarse exigiendo «explicabilidad» a los sistemas algorítmicos. Una «explicabilidad» que puede conseguirse mediante un «diseño institucional» que promueva la transparencia y permita la participación de todos los grupos afectados por esta tecnología. Esto puede conseguirse mediante la creación de «esferas públicas»: en concreto, los autores defienden que estos espacios de participación deberían crearse dentro de las propias corporaciones tecnológicas y, mediante ellos, se podría exigir una rendición de cuentas y evitar el «lavado de cara ético». Las grandes tecnológicas deben dejar de ser mastodontes con un inmenso poder y sin apenas responsabilidades sociales. Además de la exigencia legal regulatoria, debe haber una exigencia ética que, mediante la explicabilidad y participación, pueda anticiparse a los problemas que estas compañías generan a la democracia.
Aunque este libro es un análisis original de los retos del nuevo mundo algorítmico, también tiene aspectos discutibles. Los autores sobredimensionan el impacto que la IA y los algoritmos están teniendo en la sociedad actual. Los «políticos virtuales» que analizan son más operaciones de márquetin que decisores efectivos. Hay partes del libro dedicadas al metaverso y otros conceptos que a pesar de tener mucho eco mediático, apenas han tenido impacto real. No toda la sociedad está abrazando la IA: en la Unión Europea, por ejemplo, existe una visión escéptica hacia estas nuevas tecnologías; en el campo de la cultura, la IA ha generado un fuerte rechazo. Por otro lado, el escenario previo a la irrupción algorítmica que plantean los autores parece ligeramente romantizado. Hablan de una esfera pública, sociedad civil y opinión pública previa a la IA en la que parece que no había constantes asimetrías de poder, interferencias o manipulación por parte de grupos de interés. Quizás más matices habrían sido positivos en este sentido.
En todo caso, aunque algunas tendencias o peligros mencionados en el libro nunca lleguen a imponerse, es importante que exista un debate al respecto para estar preparados por si estos finalmente ocurrieran. En este sentido, y en la línea marcada por los mismos autores, tener este debate sobre democracia e IA ya es algo positivo en sí mismo, como una participación colectiva ante la inercia mecánica de la «colonización» algorítmica.
Revista CIDOB d’Afers Internacionals, nº 138, pp. 219-220
Cuatrimestral (octubre-diciembre 2024)
ISSN:1133-6595 | E-ISSN:2013-035X