Français La inteligencia artificial no deja de transformar nuestras sociedades. Tras revolucionar la industria, las finanzas y la sanidad, ahora irrumpe en el ámbito político. ¿Gobernar un país con algoritmos: ciencia ficción o un futuro cada vez más posible? Esta provocadora cuestión es el eje del ensayo ¿Puede la inteligencia artificial gobernar un país? de Léwis Verdun, que nos invita a reflexionar sobre el papel que podría (o debería) desempeñar la tecnología en la administración pública.
En lugar de analizar directamente el libro, aquí abordaremos un tema conexo pero esencial: el lugar de la tecnología en los sistemas democráticos. ¿Puede fortalecer la transparencia, la participación ciudadana y la eficacia del Estado? ¿O corre el riesgo de poner en peligro los cimientos mismos de la democracia? Una exploración crítica, accesible y actual.
Tecnología y democracia: una alianza con condiciones
Desde la aparición de la administración electrónica, los Estados han adoptado herramientas digitales para mejorar su eficiencia: gestión de impuestos en línea, plataformas de participación ciudadana, sistemas de voto electrónico... Pero a medida que avanza la inteligencia artificial, se perfila una nueva etapa: la automatización parcial de los procesos de decisión.
La promesa es tentadora: algoritmos capaces de analizar millones de datos para prever necesidades, prevenir crisis y optimizar la asignación de recursos. Estonia, pionera digital, ha implementado asistentes virtuales que guían a los ciudadanos en sus trámites administrativos. En Corea del Sur, herramientas predictivas anticipan atascos de tráfico o picos de contaminación.
Pero esta eficiencia algorítmica plantea una pregunta clave: ¿podemos confiar decisiones públicas a sistemas no elegidos democráticamente, a menudo opacos y desarrollados por empresas privadas?
Los límites éticos y técnicos del gobierno algorítmico
La automatización de la gobernanza no está exenta de riesgos. Los sesgos algorítmicos, bien documentados en el ámbito judicial o en la selección automatizada de personal, pueden provocar injusticias a gran escala. El escándalo de las ayudas familiares en los Países Bajos —donde un algoritmo discriminaba sistemáticamente a ciertos grupos— demuestra el peligro de sistemas sin regulación adecuada.
Existen también limitaciones técnicas: falta de explicabilidad en las decisiones, dependencia de los datos disponibles, e incapacidad para integrar valores humanos como la empatía, la justicia social o la complejidad política.
Sin salvaguardias, la IA podría dar lugar a formas de gobierno deshumanizadas, basadas en lógicas de eficiencia o rentabilidad, en detrimento de los derechos fundamentales. Un modelo tecnocrático automatizado que difícilmente se ajusta a los principios democráticos.
Democracia aumentada: entre innovación y prudencia
Más que imaginar una IA soberana, la perspectiva más constructiva es la de una democracia aumentada: una gobernanza en la que la inteligencia artificial actúe como herramienta de apoyo a la decisión, y no como autoridad autónoma.
Esta visión es compartida por numerosos expertos en políticas públicas y ética tecnológica. Implica que la IA se utilice para:
analizar datos complejos y orientar las políticas públicas
detectar señales débiles (conflictos sociales, crisis sanitarias emergentes)
automatizar tareas administrativas y liberar tiempo para el personal humano
Pero para que esta visión sea viable, se deben cumplir tres condiciones fundamentales:
Transparencia algorítmica: es necesario entender por qué se ha tomado una decisión
Supervisión humana permanente: los agentes públicos deben poder corregir o interpretar las recomendaciones de la IA
Protección de los derechos ciudadanos, especialmente en lo que respecta a la privacidad y la no discriminación
Hacia una gobernanza digital responsable: buenas prácticas e iniciativas concretas
Ante estos retos, varios países e instituciones han comenzado a establecer marcos jurídicos. El AI Act europeo regula estrictamente el uso de la IA en sectores sensibles, incluida la gobernanza pública. En Estados Unidos, un decreto presidencial exige auditorías antes de implantar ciertos sistemas. China, por su parte, supervisa de cerca el uso de la inteligencia artificial en los medios y la administración.
A continuación, algunas buenas prácticas para una gobernanza digital ética:
Qué hacer:
Definir la IA como asistente de decisión, no como autoridad autónoma
Formar al personal público en el uso y los límites de estas tecnologías
Establecer comités éticos independientes para evaluar riesgos
Incluir a la ciudadanía en los debates sobre automatización y tecnología pública
Qué evitar:
Implementar sistemas sin un marco legal claro
Externalizar completamente las decisiones públicas a actores privados
Usar la IA para la vigilancia sin contrapesos democráticos
¿Puede el entorno digital reforzar la participación ciudadana?
Un aspecto a menudo subestimado de la tecnología es su potencial para revitalizar la democracia participativa. Consultas en línea, presupuestos participativos digitales, foros deliberativos asistidos por IA: estas herramientas pueden devolver la voz a los ciudadanos y facilitar el diálogo con los responsables políticos.
Algunas ciudades europeas ya experimentan con modelos en los que la IA ayuda a sintetizar las aportaciones ciudadanas, ofreciendo a los responsables públicos una visión clara de las preocupaciones del pueblo. Esto no sustituye el debate político, pero puede enriquecerlo.
No obstante, la inclusión sigue siendo un reto. Las poblaciones más vulnerables suelen ser las que menos acceso tienen a lo digital. Por ello, es vital combinar innovación tecnológica con justicia social para evitar que la IA amplíe las brechas democráticas.
¿Y si la inteligencia artificial pudiera iluminar la democracia sin gobernarla?
El libro ¿Puede la inteligencia artificial gobernar un país? de Léwis Verdun aborda estas preguntas con rigor, claridad y una mirada crítica. Sin caer en el alarmismo ni en el entusiasmo ingenuo, ofrece una visión global de los avances, límites y dilemas que plantea la gobernanza automatizada. Defiende una IA al servicio del bien común, bajo control democrático y en respeto de los derechos fundamentales.
Para quienes quieran entender cómo pueden evolucionar nuestras instituciones en la era digital, este ensayo es una lectura imprescindible.
Descubre ¿Puede la inteligencia artificial gobernar un país? ahora en FIVE MINUTES!
