Castellanos Claramunt, Jorge, DemocracIA: un análisis en clave constitucional, Dykinson, Madrid, 2025, 178 pp. ISBN: 9791370060626. DOI: https://doi.org/10.14679/3871

https://doi.org/10.18543/ed.3336

Fecha de recepción: 02.03.2025

Fecha de aprobación: 10.06.2025

Fecha de publicación en línea: junio 2025

La expansión de la inteligencia artificial ha supuesto una transformación radical en numerosos ámbitos de la vida cotidiana, y sus efectos sobre la democracia y el derecho constitucional han comenzado a ser objeto de un análisis más detenido. En este contexto, DemocracIA: un análisis en clave constitucional, de Jorge Castellanos Claramunt, profesor titular de Derecho Constitucional en la Universidad de Valencia, se perfila como una obra de referencia para quienes buscan comprender las interacciones entre el avance tecnológico y los principios fundamentales del Estado de derecho. Con una argumentación sólida y una mirada profundamente crítica, el autor examina cómo la inteligencia artificial está modificando las dinámicas de poder y decisión en las sociedades democráticas, planteando interrogantes fundamentales sobre la autonomía ciudadana, la transparencia institucional y la eficacia de los marcos normativos actuales.

Desde el inicio del libro, Castellanos deja claro que no se conformará con un análisis meramente técnico de la regulación de la inteligencia artificial. Su objetivo es más ambicioso: explorar las consecuencias políticas y jurídicas de la automatización en la toma de decisiones públicas. En esta línea afirma que “la tecnología ha sido históricamente una herramienta al servicio del ser humano, pero en el caso de la inteligencia artificial nos enfrentamos a una realidad en la que el propio concepto de autonomía ciudadana puede verse comprometido” (p. 17). A partir de esta premisa, desarrolla un análisis crítico del Reglamento de Inteligencia Artificial de la Unión Europea, señalando que, si bien representa un esfuerzo significativo en la materia, también adolece de una estructura excesivamente burocrática y una falta de mecanismos efectivos de supervisión democrática.

Uno de los puntos más interesantes del libro es el cuestionamiento del modelo de regulación europeo, que el autor describe como “un entramado normativo donde el ciudadano queda relegado a la categoría de sujeto pasivo, sin una verdadera capacidad de incidencia sobre las decisiones que afectan a su vida” (p. 63). En su opinión, la IA no solo presenta riesgos en términos de discriminación algorítmica y sesgos en la toma de decisiones, sino que, además, la regulación propuesta puede convertirse en una herramienta que, en lugar de proteger la autonomía de los ciudadanos, refuerce el control de los grandes actores tecnológicos y gubernamentales sobre la sociedad.

Más allá de la regulación, esta obra ofrece un análisis profundo de la relación entre inteligencia artificial y sistemas de control social, exponiendo cómo el desarrollo de esta tecnología está permitiendo a los Estados y las grandes corporaciones implementar mecanismos de vigilancia sin precedentes. Según Castellanos, “la inteligencia artificial no solo automatiza procesos, sino que establece nuevas formas de supervisión sobre el comportamiento ciudadano, con implicaciones aún no completamente exploradas para la privacidad y la libertad individual” (p. 99). Este argumento se inserta en una discusión más amplia sobre el peligro de la tecnocracia, es decir, el riesgo de que las decisiones políticas y jurídicas sean cada vez más dependientes de sistemas algorítmicos cuyo funcionamiento resulta opaco para la mayoría de la población.

Uno de los capítulos más provocadores de la obra es el que aborda la relación entre inteligencia artificial y desinformación. Castellanos analiza la creciente capacidad de los algoritmos para manipular la percepción de la realidad, alterando la forma en que los ciudadanos acceden y procesan la información política. Destaca que “la inteligencia artificial ha multiplicado la capacidad de generar y difundir narrativas falsas con una precisión sin precedentes, lo que supone una amenaza directa para la deliberación democrática” (p. 103). Esta reflexión es especialmente relevante en un momento en el que las campañas de desinformación se han convertido en una herramienta recurrente de influencia en procesos electorales y en la configuración de la opinión pública.

Otro aspecto que el autor desarrolla con especial énfasis es la transformación del ámbito jurídico ante el avance de la inteligencia artificial. Argumenta que el derecho constitucional, históricamente concebido para regular relaciones entre individuos y Estados, se enfrenta a una crisis conceptual cuando se encuentra con sistemas que operan de manera autónoma y generan decisiones sin intervención humana directa. En este sentido, critica la tendencia a superponer regulaciones sin un debate de fondo sobre los principios jurídicos que deben guiar la relación entre el ser humano y la IA. En palabras del autor, “la regulación actual se asemeja a un castillo de naipes construido sobre conceptos jurídicos tradicionales que ya no responden a la realidad de los sistemas algorítmicos” (p. 122).

De su lectura se desprende con claridad que el libro mantiene una mirada crítica a lo largo de toda su extensión, pero no cae en un pesimismo absoluto ni en un rechazo tajante de la tecnología. Así, Castellanos reconoce que la inteligencia artificial tiene un potencial inmenso en numerosos ámbitos, desde la salud hasta la educación, pero subraya la necesidad de establecer criterios éticos y jurídicos claros que eviten la concentración de poder en manos de unos pocos. En este sentido, plantea que “el desafío no es la inteligencia artificial en sí misma, sino la forma en que decidimos integrarla en nuestras sociedades y la distribución del poder que ello implica” (p. 154).

Especialmente revelador es el análisis sobre la manipulación de la noción de dignidad humana en el discurso sobre la inteligencia artificial. Castellanos denuncia que muchas de las narrativas promovidas por la industria tecnológica presentan la IA como una herramienta de emancipación y progreso, cuando en realidad está siendo utilizada para reforzar estructuras de desigualdad. “Nos encontramos en un momento en el que el concepto de dignidad humana se usa como una coartada para legitimar desarrollos tecnológicos cuyo propósito real es el beneficio económico de un reducido grupo de actores” (p. 150). Esta afirmación es una de las más contundentes del libro y resume bien su espíritu crítico: una advertencia contra la instrumentalización del lenguaje de los derechos humanos para justificar desarrollos tecnológicos con intereses ajenos a la mayoría de la población.

En definitiva, DemocracIA: un análisis en clave constitucional es una obra que ofrece una lectura imprescindible sobre la intersección entre inteligencia artificial, derecho y democracia. A diferencia de otros estudios sobre la materia, no se limita a una exposición técnica de la regulación vigente, sino que introduce también una dimensión filosófica y política que permite comprender las implicaciones más profundas del avance tecnológico en nuestras sociedades. Su análisis de la regulación europea es particularmente valioso, pues pone en evidencia los riesgos de un marco normativo que, lejos de empoderar a los ciudadanos, podría consolidar nuevas formas de control tecnocrático. Por todo lo expuesto, esta obra va a representar un referente esencial para juristas, politólogos y cualquier lector interesado en comprender los desafíos que plantea la inteligencia artificial desde una perspectiva crítica.

Ciro Milione

Profesor Titular de Derecho Constitucional

Universidad de Córdoba, España

https://orcid.org/0000-0002-0470-7498