Oportunidades democráticas de la IA

Víctor Collí Ek

En un mundo donde la tecnología avanza a pasos agigantados, la democracia se enfrenta a una encrucijada histórica. ¿Será la Inteligencia Artificial -IA- una herramienta que empodere a la ciudadanía o un mecanismo que consolide el control en manos de unos pocos?

Pensemos en la democracia como una estructura en evolución constante, donde cada ciudadano tiene el potencial de ser arquitecto y constructor, pero repentinamente llega maquinaria pesada que puede acelerar la obra o, si no se usa con cuidado, derrumbar sus cimientos.

Así es como la IA irrumpe en el panorama democrático, desafiándonos a repensar quién toma las decisiones, cómo se toman y, especialmente, quien se beneficia de ellas. Esto no es solo un debate técnico, sino una cuestión fundamental sobre el futuro de nuestra capacidad para autogobernarnos. ¿Estamos construyendo una democracia más inclusiva o cavando nuestra tumba?

El reciente evento realizado en Paris denominado “Sommet pour l’Action sur l’IA” analizó esta cuestión. ¿Cómo se relaciona la democracia con la IA? Consideremos los algoritmos de recomendación que utilizamos a diario. Al acceder a plataformas como YouTube o Facebook, sistemas invisibles determinan qué contenidos vemos. Es como si alguien seleccionara qué noticias podemos leer o a qué debates podemos asistir, pero sin revelar quién toma esas decisiones, ni como lo hace. Esta dinámica representa una nueva versión de la “sala de máquinas” que describe el profesor Gargarella, solo que en un entorno digital.

Durante el panel se presentaron tres enfoques posibles. El primero, representado por Silicon Valley, implica delegar el control a un grupo reducido de expertos en tecnología. El segundo, de corte tecnocrático, promete que estos expertos actuarán en beneficio de todos. El tercero, defendido por Danielle Allen y alineado con lo que la profesora -experta en estudios de democracia- Landemore denomina “democracia abierta”, propone un sistema donde la tecnología sea diseñada y gestionada por y para la ciudadanía. Justo el evento tiene el objetivo de reposicionar Europa en este movimiento, con su proyecto sustentado en democracia y derechos humanos.

Un ejemplo de esto último es el caso Taiwán relatado en el panel. Ahí las decisiones relacionadas con la tecnología no se toman en ámbitos cerrados, sino a través de procesos deliberativos que involucran a toda la sociedad. Es como si, en lugar de confiar el diseño de nuestra democracia a un arquitecto estrella, organizáramos talleres comunitarios donde todos puedan aportar ideas.

¿Por qué es crucial este enfoque? Porque, como señala Gargarella, la democracia no se trata solo de tomar decisiones acertadas, sino de garantizar que todos tengan voz en las decisiones que les afectan. Y, como argumenta Landemore, esta inclusión no es solo una cuestión de equidad, sino también de eficacia. Las decisiones colectivas suelen ser más sólidas que las tomadas por las élites aisladas, ya lo decía así el profesor y filósofo Daniel Innerarity en su formidable libro Pandemocracia, la democracia es más efectiva como sistema de gobierno que cualquier otro funcionando el día de hoy.

El desafío que enfrentamos es evidente, debemos desarrollar la IA de manera que fortalezca y no debilite nuestra capacidad de autogobierno democrático. Esto implica crear espacios y herramientas que fomenten la participación ciudadana en el desarrollo tecnológico, asegurando que la IA sea un instrumento de emancipación colectiva y no de control centralizado.

El tiempo para actuar, sin embargo, es limitado. Como se indicó en el panel, cada avance tecnológico que se implementa sin supervisión democrática hace más difícil recurar el control ciudadano. Es momento de abrir las puertas de la “sala de máquinas” digital y garantizar que la IA del futuro esté verdaderamente al servicio de los ideales democráticos.