CONSTITUCIONALIZAR LA INTELIGENCIA ARTIFICIAL

Constitutionalising Artificial Intelligence

Juan Francisco Sánchez Barrilao[1]

Catedrático de Universidad de Derecho Constitucional

Universidad de Granada, España

https://orcid.org/0000-0002-0075-0923

https://doi.org/10.18543/ed.3582

Fecha de recepción: 18.11.2025

Fecha de aceptación: 02.02.2026

Fecha de publicación en línea: junio 2026

Resumen

Este trabajo tiene por objeto la necesidad de integrar la inteligencia artificial en el Derecho constitucional mediante su constitucionalización. Al respecto se analizan, primeramente, las distintas dimensiones que presenta la inteligencia artificial, para luego concretar cómo aquéllas inciden material, formal y contextualmente en el Derecho constitucional. A continuación se analiza la doble consideración de la inteligencia artificial como instrumento y factor de poder, y a su amparo los nuevos paradigmas desde los que afrontar constitucionalmente la inteligencia artificial. Por último se presenta una potencial propuesta de constitucionalización de la inteligencia artificial.

Palabras clave

Inteligencia artificial, Constitución, reforma constitucional, limitación del poder

Abstract

This work addresses the need to integrate artificial intelligence into constitutional law through its constitutionalisation. In this regard, it first analyses the different dimensions of artificial intelligence and then specifies how these dimensions affect constitutional law in material, formal and contextual terms. Next, it analyses the dual consideration of artificial intelligence as an instrument and a factor of power, and under its auspices, the new paradigms from which to constitutionally address artificial intelligence. Finally, it presents a potential proposal for the constitutionalisation of artificial intelligence.

Keywords

Artificial intelligence, Constitution, constitutional reform, limitation of power

Sumario: I. Introducción: inteligencia artificial y Derecho constitucional. II. Dimensiones de la inteligencia artificial. III. Incidencias materiales, formales y contextuales de la inteligencia artificial en el sistema constitucional. IV. La inteligencia artificial como instrumento y factor de poder. V. Nuevo paradigma constitucional ante la inteligencia artificial. VI. La constitucionalización de la inteligencia artificial. VII. Consideraciones finales. VIII. Bibliografía.

I. INTRODUCCIÓN: INTELIGENCIA ARTIFICIAL Y DERECHO CONSTITUCIONAL[2]

La inteligencia artificial (en adelante IA) está en todas partes; casi cualquier cosa parece ser mejor si es con IA, o se ha hecho mediante ésta. Y al hilo de ello que, desde hace algún tiempo, se advierta un boom de la IA, incluso una burbuja (Nvidia, Palantir, etc.)[3]. Con todo, su incidencia seguirá aumentando aún más en el futuro, al amparo del progreso y de los nuevos avances en IA que están por venir (significativamente, Ray Kurzweil, 2012); sólo estamos en los primeros pasos de la IA (de interés, Nasser, 2024: 7-18).

A tenor de las graves consecuencias que la IA comporta para la entera realidad, es inevitable que también incida muy intensamente a nivel jurídico. Y a su sombra que la IA asimismo esté cada vez más presente en los estudios científico-jurídicos (a modo de muestra, vid.: Campione, 2020; Hoffmann-Riem, 2022; Muñoz Vela, 2022; Llano Alonso, 2024; y Solar Cayón, 2025), pudiéndose hablar ya (e igualmente) de un boom al respecto, y hasta de cierta burbuja. No en vano, en dicha literatura jurídica se advierte, en más de un caso, alguna reiteración sobre la condición disruptiva de la IA frente al Derecho y la necesidad de buscar nuevos paradigmas al respecto, mas sin discurrir luego, precisamente, sobre ello; o lo que es lo mismo, en cuáles puedan ser dichas nuevas bases dogmáticas sobre las que avanzar jurídicamente ante la incidencia de la IA en el Derecho.

Esto resulta particularmente relevante en el Derecho constitucional, dado que especialmente afectado por la IA. Piénsese no sólo en la incidencia de la misma hoy en los derechos fundamentales y en los procesos democráticos (ad e., D’Aloia, 2025: 101-114), sino en los propios presupuestos sobre los que el Derecho constitucional aún se erige (Balaguer Callejón, 2024a: 49-82). Pero todo esto, además, cuando el Derecho constitucional se encuentra en crisis desde hace tiempo: recuérdese que el modelo de Constitución normativa, sobre el que todavía gira aquél, se desarrolló tras la IIWW al servicio de la democracia pluralista, los derechos fundamentales y el Estado social, y cómo este modelo entró hace años en recesión a la vista de la globalización al venir ésta a limitar y afectar negativamente en su efectiva capacidad jurídica de ordenación sobre la realidad pública (vid. Sánchez Barrilao, 2004: 241 ss.); a lo anterior, a su vez, se le añade de manera más reciente el auge de los extremismos y la crisis medioambiental, agravándose la anterior crisis (cfr. Sánchez Barrilao, 2020a: 181 ss.). Ciertamente, aunque éstos son fenómenos diversos, entran en relación entre sí, a la par que con el propio progreso digital y la misma IA, lo que acaba por generar una retroalimentación mutua (con carácter general, nuevamente Sánchez Barrilao, 2024a: 119 ss.).

Ante lo referido proponemos profundizar entonces no ya sobre cómo esté la IA incidiendo hoy en el sistema constitucional (sin perjuicio de que se tenga en cuenta, claro), sino en la necesidad de integrar definitivamente la IA en el Derecho constitucional: en una palabra, en constitucionalizarla. A tales efectos proponemos aproximarnos, primeramente, a las distintas dimensiones que presenta la IA, para luego detenernos en cómo aquéllas inciden material, formal y contextualmente en el Derecho constitucional; y a continuación, en la doble consideración de la IA como instrumento y factor de poder, o lo que es igual en las diversas vertientes que al respecto de ésta cabe observar, con la expectativa de alcanzar nuevas vías de interés no sólo para el análisis constitucional de la IA, sino en sus potenciales respuestas ante ella. Es a su luz cuando veremos luego qué nuevos paradigmas quepan abrirse al Derecho constitucional, para finalmente presentar, ahora sí (y al amparo de dichos paradigmas), una potencial propuesta de constitucionalización de la IA (aunque orientada no tanto a concretos contenidos materiales, adelantamos, sino simplemente a cómo debería plantearse aquélla).

II. DIMENSIONES DE LA INTELIGENCIA ARTIFICIAL

Cuando el Derecho, en general, y el Derecho constitucional, en particular, pretenden centrar su atención sobre algo (a tenor de su transcendencia jurídica), resulta necesario conceptualizar, o al menos delimitar, previa y jurídicamente tal cuestión; sin embargo ello no obvia su oportuna precomprensión desde su primigenia realidad y condición, como así sucede con relación a la IA y su originario carácter científico-tecnológico, por más que luego tal concepto jurídico resulte autónomo (acerca de cómo progresar, aun de manera crítica, al respecto de un concepto constitucional de IA, Bustos Gisbert, 2024: 146 ss.).

En este sentido, desde las matemáticas y las ciencias de la computación o informática se viene buscando, desde hace décadas, la imitación mediante algoritmos digitalizados de capacidades y facultades humanas, como son la creatividad, el aprendizaje, el entendimiento, la sensibilidad, la percepción y/o el lenguaje (vid. Russell y Norvig, 2022); e incluso, y desde una visión más abierta, que lo anterior también alcance la propia naturaleza y su funcionamiento, de modo que la IA asimismo abarque tal realidad (cfr. Ciruela Martín, 2008: 81-83.). Ahora bien, desde esta perspectiva no se decanta un auténtico concepto de la IA, al margen de introducir su denominación y un campo nuevo de investigación o disciplina; lo más, se llega a una idea genérica y aproximada sobre la que progresar a nivel científico e informático. Y es que, más que buscarse una definición de qué sea la IA desde la literatura científica y tecnológica, lo que se ha procurado es delimitar un campo científico-tecnológico de investigación.

Con todo, al hilo de lo anterior es que se advierta una actividad humana en pos de dicha búsqueda de emulación artificial de facultades; y una actividad que, en cuanto que de índole científico-tecnológica (no se olvide), resulta encuadrable jurídico-constitucionalmente como manifestación de la libertad pública a la producción y creación científica y técnica (art. 20.1.b CE) (ad e., Fernández de Gatta Sánchez, 2018)[4]. De este modo la IA nos presenta una primera dimensión jurídica, cual es la de un derecho fundamental (o derecho humano, conforme arts. 27.1 y 2 DUDH, y 15.1.c y 3 PIESC) esencial para la persona (su dignidad y su desarrollo), y, consiguientemente, requirente de oportuna protección por el Derecho. Otra cosa es, no obstante, que tal actividad se vea, a la postre, altamente condicionada por su elevado coste económico y de la necesidad de fuentes de una financiación preponderadamente privada (dadas las limitaciones hoy de la financiación pública de la actividad científico-tecnológica en razón a sus altísimos costes; Sánchez Barrilao, 2017: 344), de manera que acabe conectándose al tiempo y simbióticamente (hibridándose, incluso) con la libertad de empresa, por lo demás, otro derecho fundamental (art. 38 CE).

Por otra parte está también la consideración de la IA como objeto y producto de la anterior actividad científico-tecnológica. Más allá de la distinción actual entre IA específica o débil (como de sus tipos actuales) y la cada vez más próxima general o fuerte (Kurzweil, 2025), han ido apareciendo diversos conceptos de la misma fuera del propio ámbito tecnológico, pero entroncado con áreas en las que la IA comenzaba a incidir, como es el caso, primeramente, de la economía y el comercio; en este sentido destaca la OCDE y sus Principios sobre Inteligencia Artificial (de mayo de 2019), y en los que por aquélla vino a entenderse como un sistema basado en una máquina capaz de hacer predicciones, recomendaciones o tomar decisiones, influyendo en entornos reales o virtuales, respecto a ciertos objetivos definidos por los humanos[5].

En el ámbito del Derecho, y al tiempo, han comenzado asimismo a aparecer conceptos jurídicos sobre la IA. Es el caso del que ofreciera la Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) en su Recomendación sobre la Ética de la Inteligencia Artificial (de noviembre de 2021), en tanto que «tecnologías de procesamiento de la información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, dando lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales» (art. 2.a). O en el ámbito europeo, el que ofrece el reciente Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho, al referirse a la IA como un sistema basado en una máquina que, con objetivos explícitos o implícitos, infiere, a partir de datos que recibe, predicciones, contenidos, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales (art. 2) (en torno a éste, vid. Presno Linera, M.Á. y Meuwese, 2024: 142 ss.); o los que también están surgiendo al hilo de los incipientes procesos regulatorios que van abriéndose paso al respecto de la IA, como es el que ofrece ahora el Reglamento de Inteligencia Artificial (2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024; en adelante RIA), al considerar la IA como aquel:

«[…] sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales» (art. 3.1 RIA) (en particular, Cotino Hueso, 2024: 113-121).

Sin perjuicio del gran interés que suscitan los anteriores conceptos jurídicos de la IA, consideramos oportuno reflexionar sobre un concepto en Derecho de la IA más abstracto, teórico y dogmático; y ello, dadas las concretas finalidades normativas a las que los otros sirven, como al tipo de IA predominante al momento que pretenden regular y de sus posibles aplicaciones. Es así que, a los anteriores efectos, consideremos adecuado, y especialmente en relación al Derecho constitucional, una aproximación que sea sencilla, abierta y apta para cubrir cualquier manifestación de la IA, a la vez que pueda ir adaptándose mejor a nuevos cambios[6] ; y que entendamos por IA, simplemente, como aquel proceso informático (como software o sistema de software) capaz de aprender e inferir capacidad con la que evaluar información con cierta autonomía[7]. Y es que, a diferencia de otros programas informáticos, las IAs no se limitan a ejecutar órdenes diseñadas por algoritmos y en los que la solución es única tras un mero procesamiento de datos, como son los sistemas informáticos automatizados (García Majado, 2025: 147 ss.). En la IA, en cambio, y previo aprendizaje y entrenamiento con datos expresamente aportados a tales efectos, se infiere capacidades de evaluación y se examina información, para a partir de ello construir o procesar de manera artificial y autónoma una respuesta apropiada a algo[8]. De ahí, precisamente, buena parte de la condición disruptiva de la IA para el Derecho, al permitir la primera evaluaciones que inciden directa o indirectamente en el ámbito jurídico no sólo con cierta autonomía de la intervención humana, sino, e incluso, más allá de su propio control y dirección. Por eso es tan importante ser capaces de fiscalizar adecuadamente el diseño, la programación, los datos y el proceso de entrenamiento de una IA, además de explicar el funcionamiento lógico que ha tenido luego el software de ésta; y no únicamente a efectos de dilucidar responsabilidades, en su caso (lo que por sí es muy relevante jurídicamente), sino simplemente para poder conocer cómo efectivamente funciona una IA, y esto ante la dificultad que se viene advirtiendo en no pocos casos a la vista de la conocida como black box (ad e., Tejero, 2022: 91 ss.). Esto supone, según se ha adelantado, uno de los cambios más importantes del Derecho, en general, y del Derecho constitucional, en particular[9]; y por esta razón se debe poder estar en disposición de explicar, en principio, cómo razonan las IAs especialmente cuando tengan consecuencias jurídicas, y muy especialmente cuando su funcionamiento y lógica sean parte de una actividad pública pues ésta queda, con carácter abstracto (no se olvide), sujeta a Derecho y bajo control jurisdiccional (sin más, arts. 9.3, 24.1, 103.1 y 106.1 CE) (vid. Jiménez López, 2022: 41 ss.)[10].

Con todo adviértase que, aun respondiendo tal aproximación de la IA a los elementos básicos de los otros conceptos presentados antes, en especial al respecto del RIA, el concepto que acabamos de exponer no reconoce todas las características que están presentes en aquél, como es, concretamente, la adaptabilidad que éste expresa a fin de que la IA pueda ir, por sí, mejorando su funcionamiento (nuevamente art. 3.1 RIA)[11]; y esto por más que tal característica parezca haberse visto al tiempo rebajada por la propia Comisión Europea a la luz de las Directrices que ésta ha publicado (el 6 de febrero de 2025) para preservar que la aplicación y el desarrollo normativo que se haga del RIA respete, efectivamente, el concepto de IA ofrecido por él[12].

Pero la IA puede considerarse mucho más, entendiéndose entonces de una forma abierta, compleja y hasta institucionalizada. En este sentido, y siguiendo a Crawford, cabe comprender por IA toda «una serie de prácticas técnicas y sociales»; es, incluso, «instituciones e infraestructuras, política y cultura» (Crawford, 2023: 29)[13]. De este modo por IA no se va a comprender sólo una tecnología y su producto, sino todo aquello que resulte esencial o entre en estrecha relación con ella, y así que cuando se hable de la IA se acabe haciendo referencia también: al complejo empresarial que viene desarrollando la IA durante estas últimas décadas (principalmente en el caso de Occidente, y sin perjuicio de su apoyo público desde ámbitos como seguridad y defensa), como al mercado que en torno a ella surge; al conjunto de recursos necesarios para su progreso (en especial los mineros), como al contexto geopolítico del que dependen; a los millones de datos que alimentan la IA (en particular los humanos), como a la forma en que se obtienen y se etiquetan; al propio hardware del que depende la IA, como a su progreso y nuevos desarrollos; a la energía que consume la IA, como su repercusión luego en el medioambiente y en el cambio climático; a la instrumentalización de la IA por los Poderes públicos y privados, como a sus consecuencias en los derechos y las libertades; y al impacto de la IA en el sistema económico y en el mercado laboral, como a los cambios sociales que ello ya está originando (Crawford, 2023: in toto). Precisamente esta tercera dimensión de la IA entronca con su condición de factor de poder, de la que más adelante vamos a hablar.

III. INCIDENCIAS MATERIALES, FORMALES Y CONTEXTUALES DE LA INTELIGENCIA ARTIFICIAL EN EL SISTEMA CONSTITUCIONAL

A la sombra de lo anterior se advierte una compleja e intensa incidencia de la IA en nuestros sistemas constitucionales, con ulteriores consecuencias sobre los mismos, y por tanto que sean múltiples las cuestiones que al respecto se están originando. Sin embargo consideramos adecuado no progresar directamente de este modo, sino, y a la vista de los años de experiencia que ya contamos en relación al análisis del impacto de la IA en el Derecho constitucional, partir de cómo se está produciendo dicha incidencia.

Primeramente, y de una manera evidente (según se ha adelantado), se constata el impacto sustantivo de la IA en los derechos fundamentales (entre otros: Valls Prieto, 2021; Presno Linera, 2022a; Rebollo Delgado, 2023; Pérez-Ugena, 2024: 307 ss.; y Al Hasani Maturano, 2024), como, e incluso, en los procesos democráticos (así, Innerarity, 2020: 87 ss.; Montilla Martos, 2023: 34 ss.; Galindo Vacha, 2025: 159 ss.; Rubio Núñez, 2025: 65 ss.; y Sánchez Barrilao, 2025a); y ello desde una perspectiva material, a tenor de cómo la IA acaba incidiendo en el contenido constitucional de dichas cuestiones. Pero no es sólo que la IA afecte negativamente los derechos y la Democracia, en tanto que su uso los contradiga (vulnerándose así la Constitución), sino que se está ya iniciando procesos de transformación objetiva de los mismos, de modo que ciertos derechos y procesos democráticos quepan entenderse constitucionalmente de manera diversa a como hasta hace poco se estaban concibiendo. De esta forma, y respecto a lo primero, estaría, por ejemplo, el uso de IAs con sesgos en relación a las personas, y dando lugar, consecuentemente, a tratos discriminatorios de unas en relación a otras (ad e., Ferrante, 2021: 27 ss.; Cotino Hueso, 2023: 260 ss.; y Belloso Martín, 2022: 45 ss.); o también, y nuevamente como mero ejemplo, la utilización de IAs capaces de identificar biométricamente a personas en lugares públicos (como reuniones o manifestaciones) a fin de, y bajo la amenaza de sanción o castigo, generar desánimo o desaliento político en la ciudadanía, de forma que las personas no participen en ciertas reuniones o manifestaciones (ad e., Escajedo San Epifanio, 2024: 183 ss.; y Sánchez Barrilao, 2025b: 527 ss.). Y en cuanto a lo segundo (la mera y referida transformación objetiva de los derechos), estaría ahora la incidencia taimada de la IA en nuestra propia psique, y al hilo de ello en la conformación de la conciencia, de la voluntad y en el ejercicio incluso de derechos, como los de opinión y participación política (entre otros, vid.: Suárez, 2023; y Beltrán de Heredia Ruiz, 2023. Asimismo de interés, aunque desde la dimensión del crédito social, Arjona Sánchez, 2025); también, los cambios que respecto a la libertad de expresión e información, y hasta de creación artística, supone la IA generativa (entre otros, Fernández Tourné, 2023: 393 ss.; Misseri, 2023; Aba-Catoira, 2024: 187 ss.; Muñoz Vela, 2024: 17 ss.; y Torres Manrique, 2024); o la misma transformación que del propio concepto de privacidad supone la digitalización, en general, y la IA, en particular, al ser la privacidad ya, de por sí, un concepto cultural, de manera que nuestra exposición pública o ante terceros (y al margen, claro, de la indebida intromisión ilegítima que supone la situación de constante vigilancia pública y privada en la que ya nos encontramos) no quepa considerarse igual a la vivida décadas atrás (Sánchez Barrilao, 2025b: 546-548).

Mientras que la anterior incidencia de la IA en el Derecho constitucional es sustantiva, insistimos (al afectar directamente a contenidos propiamente constitucionales, como son los derechos y el sistema democrático), a la par que manifiesta y explícita para la misma ciudadanía (pues le afecta directamente a nivel personal, en sus derechos, libertades y modos de participación política), es que la IA se despliegue además desde una perspectiva más formal e interna al respecto del Derecho constitucional, aunque menos evidente para la ciudadanía al actuar ahora sobre la propia articulación jurídica de aquél y su ulterior desarrollo normativo y democrático. Naturalmente ello requiere de una aproximación más compleja y abstracta (que lo anterior), pues es visible a partir de fenómenos que afectan a la Constitución, e incluso a la misma ciudadanía, de manera indirecta, aunque con una gran trascendencia. Es el caso de cómo la IA incide en el sistema de fuentes diseñado por la Constitución, y a su sombra en su propia normatividad como al respecto de su interrelación con el principio democrático y el valor del pluralismo político; y esto al evidenciarse, al margen de la consideración incluso de la IA como potencial fuente del Derecho, que la regulación de la IA está alterando ya nuestros sistemas de fuentes, sin ser nuevo (tempranamente, Sánchez Barrilao, 2005a: 467 ss.) al respecto de un mayor impacto de normas elaboradas por particulares, la proliferación del soft law, o la aceleración de los propios procedimientos normativos (a fin de permitir la rápida adecuación normativa al progreso tecnológico). Mas con esto, a su vez, la cuestión no sólo de cómo el Derecho constitucional debiera incidir en la IA para garantizar ciertos contenidos, sino el propio control democrático del devenir disruptivo de la IA (Sánchez Barrilao, 2023); y ello especialmente en estos días de embestida neoliberal-digital que se está dando desde los Estados Unidos, y en pos de una regulación absolutamente mínima al respecto en cuanto que límite aquélla del desarrollo informático y con esto del propio progreso humano (muestra de tal pensamiento es, cómo no, Thiel, 2011; y más recientemente, El Grand Continent, 2025). De ahí la nueva postura de la Administración Trump sobre la IA, no sólo derogando la exigua regulación que de la IA se había aprobado antes en Estados Unidos (Executive Order 14179, de 23 de enero de 2025, Removing Barriers to American Leadership in Artificial Intelligence, frente la anterior Executive Order 14110, de 30 de octubre de 2023, Executive Order on Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence del Presidente Joe Biden), sino promoviendo, directamente, su desregulación (America’s AI Action Plan, de 23 de julio de 2025); esto, por cierto, contrasta con la posición anunciada por China a favor de una mayor cooperación normativa sobre la IA a nivel internacional (Plan de Acción para la Gobernanza Global de la Inteligencia Artificial, asimismo de finales julio de 2025)[14].

Por último, y desde una dimensión ahora mucho más amplia, contextual diríamos, se advierte cómo la IA está acelerando exponencialmente la transformación digital de la realidad, y a su sombra el marco entero sobre el que se construyera, desarrollara y consolidara la Constitución normativa; o como dice Balaguer Callejón para referirse a ésta, la Constitución analógica, y en contraposición a dicha nueva realidad digital gobernada por y a través del algoritmo (2022a). Esto es importantísimo, pues la IA ya no se limita a incidir en partes esenciales de la Constitución, incluso en su propia naturaleza normativa y democrática, sino, y de forma sistémica, con relación a su misma función por cuanto que incapaz de desplegar su normatividad organizativa al respecto de una realidad que ya no obedece a sus presupuestos, a la par que, entonces, en relación a su misma validez al afectar a su efectividad general (en cuanto que ésta es parámetro de la validez constitucional). Consecuentemente la incidencia de la IA en la Constitución, y a su luz en el Derecho constitucional, es aún superior, más grave, que lo visto anteriormente. De lo que se trata ahora es de cómo la Constitución y el Derecho constitucional entran en una fase de riesgo total ante la IA, puesto que limitados por ella en sus respectivas misiones a las que se deben (fundamentalmente en torno a la organización y limitación del poder a fin de garantizar un marco de libertad para las personas, así como su gobierno por éstas). El riesgo, así, de verse las Constituciones incapaces para resolver y ordenar de manera abstracta, pero efectiva, los nuevos conflictos que surgen en la realidad digital de mano de la IA; y ante esto, entonces, la necesidad de un auténtico reseteo constitucional a la sombra de la IA. De la Constitución del algoritmo cabría ahora hablar, según nuevamente Balaguer Callejón (2022a)[15].

IV. LA INTELIGENCIA ARTIFICIAL COMO INSTRUMENTO Y FACTOR DE PODER

En principio, y según lo visto, la incidencia a la IA en relación al Derecho constitucional se presenta, de ordinario, en tanto que producto tecnológico novedoso que viene interactuando negativamente con aquél. Y esto ya sea de manera dolosa, eventual o meramente accidental, según que: efectivamente la IA se diseñe o se utilice con el propósito de arremeter directamente contra aspectos constitucionales, como sucede con IAs destinadas o usadas expresamente para limitar la privacidad de las personas (de interés, Álvarez García, 2024: 872 ss.) o en la alteración de procesos electorales (ad e., acerca del referéndum del Brexit y la elección de Trump en 2016: Balaguer Callejón, 2019; y, especialmente, Wylie, 2020.); o bien, y aun sin tener el propósito de vulnerar la Constitución, se acepte que la utilización de la IA pueda originar una lesión a la misma, como en el caso de IAs que intermedian, afectando, la formación de la opinión pública, pero únicamente en pos de una mayor interacción de los usuarios, lo que acaba por fomentar el conflicto y los discursos extremos (cfr. nuevamente Balaguer Callejón, 2022a: pp. 113 ss.)[16]; o finalmente, la IA simplemente produzca efectos perniciosos a nivel constitucional (ad e., IAs que al tiempo rezuman efectos negativos en su diseño o funcionamiento, como pueden ser sesgos que afectan a la igualdad de las personas, conforme ya se ha apuntado), o meras transformaciones constitucionales (sin más, la IA generativa al respecto de la libertad de expresión o artística, y según lo señalado también). Pero esto, insistimos, percibido siempre como algo externo a la Constitución y al Derecho constitucional, en tanto que mero instrumento de agresión o producto dañoso o transformador en manos de terceros; es decir, como algo que, desde fuera de la Constitución (dado que obra del desarrollo tecnológico), incide en ésta.

En esta perspectiva el Derecho constitucional se ve en la tesitura de buscar nuevas respuestas, en no pocos casos mediante nuevos contenidos, a los numerosos y diversos efectos nocivos de la IA en relación al sistema constitucional conforme éstos se van produciendo a tenor del propio desarrollo del progreso informático; o lo que es igual, cómo el Derecho constitucional se coloca y permanece a rebufo del progreso de la IA, sin perjuicio de cierta visión prospectiva, aun limitada, al respecto (aunque de manera más genérica en relación a la entera tecnología, vid. Sánchez Barrilao, 2005b: 257 ss.). Pero, nuevamente, en el entendido de la IA como algo externo a la Constitución y al Derecho constitucional.

Sin embargo la IA, incluso desde tal perspectiva, no es algo totalmente externo a la Constitución; recuérdese que la IA también es una actividad humana constitucionalmente encuadrable en la libertad de investigación científica y tecnológica, y por tanto fruto de la propia Constitución (nuevamente art. 20.1.b CE). Ello, entendemos, es relevante para estas páginas, pues, al margen de concepciones ius naturalistas o libertarias de tal derecho, en tanto que contrarias a toda regulación que retrase el progreso (de interés, González Pascual, 2025), permite no sólo la legítima limitación del desarrollo de la IA, sino su propia delimitación constitucional en atención a la dimensión sistémica de esta libertad (de cualquier derecho fundamental) al respecto del entero sistema constitucional (entre otros, vid. Villaverde Menéndez, 2004: 120 ss.). Por otra parte, tampoco se olvide la relación que se da entre dicha libertad y la libertad de empresa, asimismo constitucionalizada (nuevamente, también, art. 38 CE), a tenor de los elevadísimos costes que requiere la primera, de forma que el progreso digital resulta hoy en gran parte condicionado a la ulterior explotación comercial de la IA (si bien con carácter general en relación la tecnología y su progresiva dependencia a la financiación privada, vid. Sánchez Barrilao, 2005b: 258-259 y 270); y de este modo que la IA, finalmente, no sea sino el fruto híbrido de ambas libertades, y susceptible, en cuanto que constitucionalizadas, de determinación y concreción constitucional. La IA es, así, más que un producto tecnológico.

Pero la IA es más aún si atendemos ahora a su señalada concepción abierta, pues ésta deja de ser mero instrumento de poder (que se ejerce por unos frente a otros), para percibirse como auténtico factor de poder por sí misma; la IA como nuevo poder a tenor de su propia capacidad para incidir, alterar y transformar la realidad y las personas. Y esto, además, en relación a las grandes empresas internacionales en su condición también de sujetos de poder al respecto de la IA (al estar directa o indirectamente implicadas en el desarrollo, comercialización y uso de la IA), pues imponen ante personas y Estados la posición de superioridad y dependencia que precisamente les supone aquélla frente a éstos. Por tanto, si la IA viene siendo vista hasta ahora como materia constitucional en cuanto que incide en la Constitución, desde esta percepción, claramente más abierta, la IA pasa a ser directamente objeto constitucional, pues es poder y el poder es, por antonomasia, objeto del Derecho constitucional (García-Pelayo, 1991: 2269 ss.); y de esta forma que la IA, por sí (por ella misma), quepa considerarse directamente como objeto constitucional.

En cuanto al poder de la IA sobre las personas a tenor de su capacidad transformativa, cabe atender, por ejemplo, al debate abierto con ocasión de la IA generativa y de cómo para su entrenamiento se están utilizando millones de obras de arte sin el consentimiento de sus autores; y es que, a día de hoy, la justicia federal norteamericana únicamente ha exigido que dichas obras o sus reproducciones hayan sido efectiva y legítimamente obtenidas (en propiedad o uso) por las empresas que desarrollan o utilizan la IA (Sentencias del Tribunal de Distrito del Distrito Norte de California de 23 y 25 de junio de 2025, en los casos Bartz v. Anthropic y Kadrey v. Meta) (sobre éstas, vid. De Miguel Asensio, 2025). ¿De veras se puede asimilar el aprendizaje que una persona pueda alcanzar a partir de la lectura de cientos de libros (sea previa compra o préstamo) que el que puede alcanzar ahora una IA generativa desarrollada por grandes empresas a partir de su entrenamiento con millones de libros y al hilo de fines fundamentalmente económicos?; ¿es la misma la relación existente entre dicho lector con los cientos de autores cuyos libros ha leído, que la que se da entre una empresa con los miles de autores cuyos libros ha utilizado para entrenar la IA que desarrolla y de la que puede depender miles de millones de dólares o euros en beneficios? Otra cosa es qué pase, luego, con el relato o el libro que pueda generar dicha IA generativa, o si tal creación puede llegar a considerarse, o no, como expresión de la libertad de creación artística; pero incluso esto último también depende de lo que llegue a suponer la IA como factor de poder, pues ésta, por sí, no sólo determina la propia posición de la IA ante los autores de los libros, sino la misma consideración de qué se considere ahora como creación literaria. Es la IA, su poder, lo que transforma entonces tanto las relaciones como las actividades a nivel constitucional.

También en cuanto a las personas estaría el poder que la IA conlleva para las empresas con relación a una ciudadanía integrada en un sistema de redes digitales que vienen a sustituir el propio espacio público (ad e., Martínez-Bascuñán Ramírez, 2015: 175 ss.; o Cometta y Marcio Cid, 2023: 101 ss.); y no ya al respecto de la IA como medio de control de las personas (de imperio y capitalismo de la vigilancia se llega a hablar; respectivamente, Ramonet, 2016, y Zuboff, 2020), puesto que mero instrumento de poder, sino a tenor de cómo los derechos y libertades de las personas se ven progresivamente delimitados por su simple condición de consumidores y usuarios (vid. Aguilar Calahorro, 2016: 489 ss.) en aquéllas. No es ya cómo el sistema capitalista participa en la delimitación del régimen jurídico de las personas, sino la transformación que para los derechos de éstas supone un espacio digital conformado por una IA capaz de condicionar el ejercicio de tales derechos a partir de las reglas económicas de aquél. Piénsese, sin más, en cómo las nociones de consumidor y usuario no atienden a la igualdad material sobre la que se habría construido no sólo el Estado social, sino la propia Democracia pluralista desarrollada desde la segunda mitad del Siglo XX (Azpitarte Sánchez, 2024: 52 ss.); o, e incluso, en cómo la libertad contractual, en la que se basa tal espacio digital, al venir a supeditar la participación en el mismo al contrato, acaba por desmontar la propia igualdad formal con la que se construyó históricamente la noción liberal de ciudadanía (Esteve Pardo, 2023). Y así, finalmente, la vuelta a una Democracia censitaria, ahora digital (Sánchez Barrilao, 2020: 71 ss.), por cuanto que el interés político, como la participación política, ya no se presume y reconoce respecto a todas las ciudadanas y ciudadanos, sino sólo a aquellas y aquellos que efectivamente participen en dicho espacio digital conformado por la IA bajo el control de grandísimas empresas tecnodigitales (Balaguer Callejón, 2022b: 179 ss.).

Por otra parte, y en relación al poder que supone la IA frente a los Estados, está asimismo la dependencia tecnológica que conlleva una IA en manos privadas respecto de unos Estados que no tienen suficiente capacidad tecnológico-digital para desarrollar sus propias IAs, de modo que tienen que acudir a grandes y poderosas empresas tecnológicas. No es ya el poder primigenio de tales empresas al respecto de la capacidad que les supone la IA ante los mismos Estados (cfr. Balaguer Callejón, 2023a: 237 ss.), sino el plus de poder que asumen aquéllas al respecto de unos Poderes públicos incapaces de llevar a cabo por sí funciones tan básicas para ellos como la seguridad nacional o la defensa (de interés, Sánchez Barrilao, 2019a: 295 ss.). ¿Cómo limitar entonces el poder de dichas empresas cuando los Estados dependen tecnológicamente de éstas?

V. NUEVO PARADIGMA CONSTITUCIONAL ANTE LA INTELIGENCIA ARTIFICIAL

Lo anterior supone, a nuestro entender, un nuevo paradigma al respecto de cómo abordar constitucionalmente la IA. No se trata así únicamente de adaptar o acompasar los contenidos constitucionales a la IA (que también), sino la propia comprensión de la Constitución y del Derecho constitucional a partir de la IA y el poder que ésta conlleva por sí directamente y/o al respecto, especialmente, de dichas grandísimas empresas digitales (al punto de que sobre las mismas comience a postularse un nuevo orden mundial más allá de los propios Estados tal como hoy los conocemos)[17]. Si hasta ahora la Constitución normativa ha venido ordenando fundamentalmente el poder público, cuando este poder ha pasado a encontrarse si no sometido, sí que dependiente de grandes empresas digitales de impacto global, es que se pase a requerir un salto en la comprensión de la Constitución a fin de que ésta ordene también el poder privado; empresas, por su parte, cuya posición y poder dependen, precisamente, de la tecnología digital y de la IA a la que se dedican. Ciertamente el constitucionalismo económico y social del Siglo pasado pretendió ya cierta regulación del poder privado, incluso vino a conseguirlo parcialmente (piénsese en las relaciones entre empresarios y trabajadores; así, Maestro Buelga, 2002), mas, al margen de su crisis y ulterior agravamiento de manos de la globalización, no llegó en sus presupuestos a integrar el poder privado y la actividad particular como objeto directo de su ordenación; por supuesto que la Constitución del Estado social y democrático de Derecho (p.e. arts. 1.1 y 9.2 CE) conllevaba la superación de la separación liberal entre lo privado y lo público (también, arts. 33.2 y 128.1 CE), aunque sin suponer la integración de lo primero en la organización y regulación del poder como tal (ad e., Balaguer Callejón, 2002: 89 ss.). Ello, efectivamente, debe de cambiar; pero, ¿cómo hacerlo?, y, no menos importante, ¿hasta dónde? A tales efectos proponemos tres ejes sobre los que, por lo demás, ya se observan diversos avances a nivel jurídico: uno es la determinación de una concreta posición constitucional de aquellas empresas que ocupen una especial posición en la realidad digital y en relación a la IA; otro giraría sobre la responsabilidad de tales empresas en relación a los demás sujetos, tanto privados como públicos; y por último estaría el propio mercado en el que aquéllas actúan.

En cuanto a lo primero, y como se ha adelantado, grandes empresas tecnológicas controlan a nivel global el desarrollo de la sociedad digital, en general, y del avance de la IA, en particular; y empresas, por cierto, que a día de hoy son mayoritariamente norteamericanas, sin perjuicio del impulso creciente que se advierte en China, si bien, en este caso, bajo una mayor intervención del propio Estado y desde una consideración crítica, relajada, incluso débil, para los derechos (aunque con algunos años ya, vid. Lee, 2020; asimismo de interés, y más actual, Ng, 2025). A partir del poder que ostentan dichas empresas a tenor de la IA, pasan entonces a controlar el desarrollo de la IA no sólo influyendo en la definición del progreso digital y social (en vez de la propia ciudadanía), sino ante las personas, el resto de las empresas e incluso los Estados, al venir a ocupar una posición de preeminencia frente a éstos; o al menos, al respecto de los propios Estados, generando una situación de dependencia tecnológico-digital en su actuación pública (según se ha señalado), lo que limita, condiciona, que los mismos puedan en la actualidad llevar a cabo parte de las funciones que sus propias Constituciones les otorgan (Sánchez Barrilao, 2026). Pero es más, pues, y desde las propias empresas, se reclama la legitimidad de ocupar posiciones de preeminencia en el mercado al respecto de sus respectivos y particulares sectores de actividad (rompiendo así con el liberalismo clásico), por cuanto que desde tales posiciones de preeminencia éstas podrían impulsar, aún más, el progreso digital y de la IA, y por tanto el de la propia humanidad (en tal sentido, cómo no, Thiel, 2014 y, especialmente, 2015); mas esto, claro, al margen de la misma humanidad y las personas, al quedar tal progreso bajo el exclusivo impulso y control de dichas empresas, tal como finalmente está sucediendo en Estados Unidos (conforme se ha adelantado). En definitiva, una suerte de despotismo digital.

A tales efectos, entonces, resulta oportuno establecer un determinado régimen constitucional para dichas empresas al respecto de la IA, con el que contrarrestar la tan arrogante posición que ocupan en relación al entero sistema constitucional; y así que, con Balaguer Callejón, se debiera reconocer una posición de interés constitucional a tales empresas de IA dada su efectiva y privilegiada capacidad para incidir en los derechos y en las libertades de las personas, como para mediar en la comunicación y en los procesos de discusión política (2022a: 161 ss.), además de en la misma actividad de los poderes públicos.

En tal sentido, está también la posibilidad de reconocer una doble dimensión a los derechos, con Zagrebelsky (2023), en especial cuando corresponden a sujetos en situación de ventaja social, económica o de otro tipo (siempre que sea importante), pues los derechos de éstos acaban por dar cobertura a relaciones de preeminencia (incluso dominio) sobre otros, tal como finalmente se advierte entre las grandes tecnológicas digitales y el resto de la ciudadanía ante tanta asimetría entre ellos (Hoffmann-Riem, 2022: 106 ss.). Entonces, es oportuno reflexionar asimismo sobre cómo tales derechos puedan acabar generando deberes (nuevamente Zagrebelsky, 2023), e incluso sobre el poder mismo de tales empresas de IA al respecto de todo el sistema a nivel económico y político, al amparo de opciones jurídicas a fin de reducir la relación asimétrica que surge entre éstos y los demás (otra vez Hoffmann-Riem, 2022: 109 ss.) en relación a la IA.

Esta perspectiva, por cierto, es desde la que habría partido el Reglamento de Servicios Digitales (2022/2065 del Parlamento Europeo y del Consejo de 19 de octubre de 2022 relativo a un mercado único de servicios digitales; en adelante RSD), al reconocer a dichas empresas una posición crítica de intermediación en la sociedad digital, y al someterlas, consiguientemente, a un régimen jurídico intenso y específico a tales efectos (entre otros, López-Vidriero Tejedor, 2022; asimismo, Ortega Sánchez y Verdeguer Segarra, 2023). El RSD implica así a las empresas digitales en su responsabilidad abstracta al respecto de la posición y función mediadora que ostentan en relación a la información (en general), como en relación a la desinformación, las fake news y otros tipos de contenidos peligrosos para los valores constitucionales que circulan por la red a través de los servicios que ellas ofrecen (en particular); y al hilo de esto cómo, para evitar una responsabilidad sancionadora ahora, que el RSD les apremie a actuar contra los mismos y con mayor transparencia (Castelló Pastor, 2021: 37 ss.)[18]. Por cierto, al hilo del uso como motor de búsqueda de internet que en ciertas IAs generativas se advierte ya, como sucede con ChatGPT, es que quepa platearse su potencial consideración a los efectos del RSD (p.e. art. 34) (de interés, Prieto-Viertel y Tabarés Gutiérrez, 2025: 161 ss.); no en vano, y al margen del modo IA con que se presenta ya el buscador de Google, es que OpenAI haya diseñado su propio buscador (Atlas) a fin de conseguir una mayor operatividad de ChatGPT con otras aplicaciones y programas informáticos[19].

A tenor de la referida responsabilidad ahora de aquellos y aquellas que desarrollan, explotan y usan la IA, y en particular la de las grandes empresas dedicadas a ésta, se plantea también cómo el ejercicio de libertades como la investigación científico-tecnológica y su explotación económica, de las que son fruto la IA, no sólo son la base sobre la que se edifica la referida posición de preeminencia de dichas empresas, sino auténtica causa de afectación directa e indirecta de derechos fundamentales y otros contenidos constitucionales. De esta forma, y en principio, estaría la obligación de los poderes públicos de proteger los derechos y libertades de manera efectiva (además de como manifestación objetiva de los mismos), legitimando la intervención de éstos en el devenir de la IA a fin de establecer restricciones a la misma, como al respecto del esbozo de un sistema amplio y complejo de tutela jurídica y tecnológica de los derechos fundamentales y humanos ante la IA (Simón Castellano, 2023: 153 ss.).

Pero también está un principio jurídico ya clásico en relación al progreso tecnológico y su limitación, cual es el de responsabilidad (Jonas, 2004), construido, por lo demás, en torno al valor jurídico dignidad de la persona (art. 10.1 CE); un principio que, más allá de justificar restricciones al desarrollo y explotación de la IA, viene a implementar un imperativo en la realización de dichas libertades al respecto de su necesaria compatibilidad con las personas, de modo que la IA sea efectivamente compatible con la dignidad y los derechos de éstas a nivel individual y colectivo.

Lo anterior entronca, asimismo, con la protección de los derechos fundamentales frente a otros particulares en el ámbito digital (ya, Sánchez Barrilao, 2023b: 155 ss.), y en especial ante aquellos que ostentan, como acontece con la IA (según lo visto), una situación de superioridad o preeminencia frente a otros. Y a su amparo que quepa especularse directamente con la dimensión horizontal de tales derechos en relación a la IA (ad e., Pollicino y De Gregorio, 2021: 16 ss.), de forma que los particulares queden sujetos, al menos, a algunos de estos derechos; así acontece ya con la referida protección de los datos personales ante la informática (así, Minero Alejandre, 2019: 142), según viene reconociéndose en Derecho comparado (ad e., Alemania; cfr. Hoffmann-Riem, 2022: 116 ss.), o también se postula en el ámbito de las redes sociales (vid. Ferreria Mendes y Oliveira Fernandes, 2023: 249 ss.).

Por otra parte, no se olvide la consideración hoy del desarrollo tecnológico como un principio rector, quedando sujeto al interés general (art. 44.2 CE), además de la posibilidad de llegar a desarrollar un derecho a participar en el progreso digital y, en particular, al respecto de la IA; en este sentido, los artículos 27.1, in fine, de la Declaración Universal de los Derecho Humanos, y 15.1.b del Pacto Internacional de los Derechos Económico, Sociales y Culturales, vienen a reconocer un auténtico derecho humano al acceso y a participar en el progreso tecnológico (Sánchez Barrilao, 2017b: 335 ss.). También, y conforme a la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital, es que el progreso digital haya de centrarse en las personas, de forma que la tecnología sirva y haya de beneficiar «a todas las personas que viven en la UE» y empoderarlas así a fin de «que cumplan sus aspiraciones» (art. 1.1), mientras que la IA deba tender, específicamente, a «aumentar el bienestar humano» (art. 8) (de interés, Barrio Andrés, 2023: 77 ss.). De este modo el progreso digital y en IA deja de ser objeto exclusivo de los derechos de libertad científica y empresa (incluso del de propiedad, conforme art. 33.2 CE), para pasar a ser ahora, como poco, un principio en manos de los poderes públicos para que promuevan progresos digitales y en IA en beneficio de todas las personas y de la entera comunidad, que no de los meros usuarios (asimismo de interés, Vila-Viñas, 2021: 327 ss.), a la par que permitir la ponderación de tales derechos al amparo de una interpretación constitucional horizontal y sistémica.

Para finalizar este epígrafe, y conforme lo adelantado, estaría también la oportunidad de ascender el punto de mira constitucional hasta el mercado mismo de la IA, tal como en el ámbito europeo se plantea con ocasión del RIA, y de acuerdo al cual (art. 1.1):

«El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, “sistemas de IA”) en la Unión así como prestar apoyo a la innovación».

Y es que el mercado, a la sombra de la globalización económica, se ha convertido en el auténtico espacio de referencia para el poder (tanto para su organización, como para su ejercicio), desplazando al clásico territorio. Sólo grandes Estados que contienen grandes mercados son capaces de mantener cierta posición estratégica a nivel mundial, y al hilo de ello ofrecer suficiente entidad y capacidad (incluso firmeza) como para llevar a cabo sus funciones clásicas de seguridad y conformación social, política y jurídica de la comunidad frente agentes externos. No en vano ésta es la razón de ser, y esperanza, de la propia Unión Europea, ante unos Estados europeos que progresivamente pierden protagonismo político y económico: seguir progresando en la integración económica, política y jurídica entorno a un mercado único y fuerte (vid. Sánchez Barrilao, 2012: 71 ss.). Pero con ello, por otra parte, la constatación del aprieto del mismo Estado constitucional como espacio de protección de los derechos si no coincide su territorio físico con un mercado lo suficientemente sólido y amplio, al verse sometido a una mayor incidencia de la influencia externa; y, consecuentemente, la coronación del mercado como espacio de protección de los derechos en su realización, por más que ello suponga el desplazamiento del ciudadano y de la persona al usuario y al consumidor (de lo que ya se ha hablado), debilitando así la protección de los derechos fundamentales ante el mismo mercado (sobre la doble dimensión positiva y negativa que el mercado supone para los derechos en la Unión Europea, vid. Sánchez Barrilao, 2024b, pp. 315 ss.).

Siendo evidente entonces que tal salto constitucional hacia el mercado resulta problemático, es que el mercado europeo, con todo (a pesar de lo anterior), y en atención a su condición regulada al hilo del principio democrático y los derechos fundamentales (de interés, sobre el mercado y su potencial adecuación a los valores constitucionales, Häberle, 2006: 11 ss.; y acerca ya del carácter regulado del mercado europeo al respecto de los valores europeos, De La Quadra-Salcedo Janini, 2025: 173 ss.), se esté presentando aún con cierta capacidad de resistencia frente injerencias globales. Precisamente así ha acontecido con relación a la protección de los datos personales y las grandes plataformas digitales a nivel global conforme al Reglamento General de Protección de Datos (2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos; en adelante, RGPD); e incluso, al punto de llegar a exportarse, de facto, tal regulación del mercado de los datos personales a buena parte del mundo (el conocido como efecto Bruselas; Bradford, 2020). No en vano, el RGPD ha servido de modelo para el RIA[20]; otra cosa es si, efectivamente, el RIA va alcanzar o no el efecto global conseguido por el RGPD, en especial, y precisamente, a la vista de la oposición que están mostrando las grandes empresas norteamericanas de la IA, además de la propia Administración Trump, a cualquier forma de regulación de la IA (según se viene señalando, y se va a seguir apuntando) (cfr. Presno Linera, 2024: 93 ss.). Es más; bajo el palio de un progreso mundial liderado por la tecnología y los estándares estadounidenses, especialmente en IA, a la par que de los derechos soberanos de las naciones ante organizaciones transnacionales intrusivas, la reciente Estrategia de Seguridad Nacional norteamericana (NSS-2025) aboga, y en relación a una Europa cuya regulación socava la creatividad y el espíritu emprendedor, por que ésta abandone su obsesión por dicha regulación asfixiante, además de que abra su mercado a los bienes y servicios estadounidenses, garantizando un trato justo a las empresas estadounidenses[21].

Por último, y al margen de los anteriores paradigmas, resulta de interés lo que supone la exclusión (si no total, sí que muy intensa) que el propio RIA hace de las IAs de código abierto en su regulación (art. 2.12). Y es que las respuestas jurídicas con las que atender los retos que abre la IA caben ser distintas en el caso de aquéllas nacidas y desarrolladas en un sistema de código abierto, dada su mayor transparencia y control social, pues ahora sus diseños, usos y desarrollos quedan directa y públicamente en manos de la ciudadanía, que no de las empresas[22]. Esto conlleva, obviamente, sacar a la IA de la referida relación desequilibrada que se da entre las grandes empresas tecnológicas, las personas y los propios poderes públicos, y justifica, por tanto, regímenes mucho menos intensos para dichas IA, sin perjuicio de que puedan considerarse de alto riesgo (art. 25.4 RIA) o de uso general (art. 53.2 RIA). Ello, a su vez, evidencia la relevancia del modelo económico de mercado en el que surge y progresa la IA al margen de su evaluación tecnológica: o lo que es lo mismo, cómo buena parte de la problemática constitucional de la IA responde hoy más al marco económico en el que ésta progresa (sobre todo a nivel occidental), que al propio desafío tecnológico que efectivamente ella supone. Por tanto, no pocos de los problemas referidos en relación con la IA tienen más que ver con el modelo de explotación económica que poseen algunas de tales empresas tecnológicas de gran impacto global, que a las propias tecnologías digitales y a la IA en sí. Piénsese, sin más (y nuevamente), cómo se plantearía esta cuestión si, en vez de estar ante el vigente modelo de explotación de Internet y de las redes sociales, estuviéramos ante otro basado en las referidas aplicaciones privadas de código abierto, de modo que usuarios e informáticos participasen de manera más intensa en su desarrollo, a la par que, por el propio presupuesto del modelo, la IA acabaría desenvolviéndose en un marco mayor de transparencia sobre el algoritmo y su entrenamiento, lo que, a su vez, repercutiría positivamente en su efectivo control social (Sánchez Barrilao, 2025a).

VI. LA CONSTITUCIONALIZACIÓN DE LA INTELIGENCIA ARTIFICIAL

La referencia al RSD y al RIA nos lleva también a elevar la tensión entre el Derecho constitucional y la IA a la Unión Europea, sin perjuicio de que dicha regulación de la IA únicamente se prevea hoy a nivel normativo derivado, y no originario; otra cosa es en relación al RGPD, por cuanto que, aquí sí, cabe apreciar un marco jurídico concreto y originario sobre la protección de los datos personales ante los riesgos de la informática (arts. 39 TUE, 16 TFUE y especialmente 8 CDFUE) (de interés, Sánchez Barrilao, 2022c: 419 ss.). De este modo, y como acontece con la informática y los datos personales, debiera también positivizarse cierta protección ante los riesgos de la IA en el Derecho originario de la Unión, a fin de garantizarla, no ya frente potenciales retrocesos normativos, sino su propia eliminación tal como está sucediendo en Estados Unidos. Y es que el riesgo que pretende ser confinado por el RIA[23] es hoy considerado por las empresas digitales norteamericanas como el reverso natural del progreso humano, de modo que su limitación no puede sino frenar éste, según aquéllas (Borovinsky, 2024.); no en vano la libertad, como motor primario del progreso tecnológico y de la innovación social, tiende por sí a generar situaciones de riesgo que reducen, en contrapartida, los niveles de seguridad (Ridola, 2006: 144), y de ahí, apuntamos, la relevancia no sólo del referido principio de responsabilidad, sino del de precaución incluso[24].

Pero con lo anterior, además de hacerse referencia al necesario ámbito supraestatal de la IA, se plantea también la hipótesis de la reforma constitucional a nivel nacional, a fin de solventar al más alto grado normativo y de fuentes, precisamente, la tensión que entre el Derecho constitucional y la IA venimos analizando. A esto le vamos a dedicar las siguientes páginas, más allá: obviamente, del concreto debate en España de la plausibilidad real de una reforma constitucional y de su potencial alcance (entre otros, vid. Boix Palop, 2019: 44 ss.); así como, por otra parte, de la conveniencia también de otras reformas constitucionales en relación a otras materias igualmente necesarias de constitucionalización de acuerdo al contexto actual, como son el cambio climático, las generaciones futuras, etc. (Sánchez Barrilao, 2024a: pp. 135 ss.).

En principio, por supuesto que caben concretas o puntuales reformas constitucionales al impulso del progreso digital de la IA y de cómo éste está incidiendo ya en la Constitución; al fin y al cabo, es la forma natural de proceder al amparo de cómo los propios derechos nacen a partir de las demandas sociales que se van dando al hilo de la transformación de la realidad (cómo no, Von Ihering, 1881; también, y más recientemente en esta línea, Rodotà, 2010 y, especialmente, 2014), y así se están reclamando, por ejemplo, en relación a los conocidos como neuroderechos (en tal sentido, Mascitti, 2022: 149 ss.; asimismo, de interés, Pérez Manzano, 2024). Distinto es, claro, que tal proceder pueda finalmente limitar la reforma constitucional a una opción meramente adaptativa de la Constitución a las singulares necesidades o novedades que vayan surgiendo al impulso de la IA, y sin mayor vocación prospectiva, en especial ante la condición tan disruptiva y azarosa de la IA.

De una manera más abstracta, sistémica y profunda se plantea, en cambio, la constitucionalización del algoritmo que nos habla Balaguer Callejón, al referirse no ya a una realidad a parchear por parcelas en razón al desarrollo futuro de la IA, sino al propio contexto en el que naciera la Constitución, dado que distinto a los presupuestos en los que ésta debería de responder hoy (2022a). Y es que ello supone una propuesta de reforma constitucional mucho más profunda y transversal, pero también mucho más amplia y compleja al requerir un auténtico reseteo constitucional en razón a las nuevas necesidades que surgen con la sociedad digital, por lo demás algo más propio de un auténtico proceso constituyente que de una mera reforma constitucional (sin perjuicio de que ésta pueda ser total, a la vista del art. 168.1 CE; de interés, García-Escudero Márquez, 2006: 148).

Como tercera e intermedia opción está una reforma más o menos puntual de la Constitución, pero buscando una alta capacidad de irradiación a la misma, de forma que permita cierta constitucionalización sistémica de la IA. Sería, por tanto, una constitucionalización con la que alcanzar una integración básica, principial y horizontal de la IA en el sistema constitucional, tal como se hiciera en la misma Constitución en 1978 al respecto de la protección de la privacidad y el ejercicio de los demás derechos de las personas ante la informática (art. 18.4) (entre otros, Roig i Batalla, 2004: 107 ss.). Así, frente a una positivización de concretas respuestas constitucionales destinadas a encauzar el funcionamiento y actuación de la IA en relación a las personas y otros elementos de la más alta relevancia constitucional, la constitucionalización que aquí se propone afrontaría de manera general el impacto de la IA en la propia organización constitucional, reorientando su incidencia a nivel abstracto.

Con todo, la Constitución y el Derecho constitucional, en su situación actual, ofrecen un cierto marco regulatorio al respecto de la IA, a pesar de no regularla directamente: sin más, están los propios derechos fundamentales y, muy especialmente, el valor dignidad (art. 10.1). Y en tal sentido cabe entonces reconocer ya un régimen básico de la IA: al fin y al cabo, que la IA no vulnere, incluso que procure no dañar (hasta promueva, ex art. 9.2 CE), los derechos fundamentales reconocidos constitucionalmente (desde esta perspectiva vid., ad e., Presno Linera, 2022b: 55 ss.). Otra cosa es el alcance y las potencialidades que suponga este marco, y a su sombra sus propias limitaciones, en particular al no responder tal marco constitucional vigente al carácter tan dinámico y disruptivo de la IA. De ahí, precisamente, la conveniencia de esa constitucionalización básica y genérica de la IA con la que permitir cierta adaptabilidad del entero entramado constitucional a aquélla, y en particular a su referido carácter dinámico y disruptivo; y ello, evidentemente, a partir del concepto amplio y sencillo que de la IA hemos presentado en la primera parte de estas páginas.

A mero efecto ejemplificante, el referido artículo 8 de la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital, relativo a las interacciones con algoritmos y sistemas de IA bien puede ser una primera base sustantiva desde la que plantear una positivización de la IA a nivel constitucional en tal sentido: «La inteligencia artificial debe ser un instrumento al servicio de las personas y su fin último debe ser aumentar el bienestar humano». También en una línea similar se manifiesta la Carta española de los derechos digitales, según la cual «[l]a inteligencia artificial deberá asegurar un enfoque centrado en la persona y su inalienable dignidad, perseguirá el bien común y asegurará cumplir con el principio de no maleficencia» (XXV.1)[25]. Sería así (en ambos casos) una constitucionalización sencilla y abierta de la IA, a fin de permitir no sólo una interacción constitucional con la IA constante en el tiempo (a pesar de sus potenciales desarrollos futuros), sino también horizontal en relación al resto del sistema constitucional. En esta línea, aunque sin referirse expresamente a la IA y en una relación más concreta con los referidos neuroderechos, está precisamente la reforma de la Constitución chilena de 2021, según la cual (art. 18.1 in fine):

«El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella» (López Silva y Madrid Ramírez, 2022: 39 ss.; y Pino Pino, 2024: 1 ss.).

Por otra parte, y a la sombra del carácter tan dinámico de la IA, como de la entera tecnología digital, no estaría de más una reforma constitucional de los propios procesos productivos de las normas jurídicas tanto a nivel legal, como constitucional. Así, introducir mecanismos acelerados de producción normativa, más con suficientes garantías de intervención del pluralismo político, a fin de permitir eficaces reformas del marco jurídico de la IA tanto al hilo de su mismo progreso tecnológico, como de las novedades normativas que al hilo de ello asimismo vayan dándose a nivel supranacional (Sánchez Barrilao, 2018: 197 ss., y 2024c: 349 ss.).

Por último, la constitucionalización de la IA también debería abarcar, según lo señalado en el apartado anterior, la posición y dimensión de aquellas grandes empresas que controlan el progreso digital y uso de la IA, de modo que éstas se vieran normativa y directamente vinculadas a dicha positivización constitucional de la IA. De alguna forma así viene a permitirlo el Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (2024), al prever que los Estados puedan ratificar el Convenio con la referencia expresa a que éste pase a vincular directamente no sólo a los poderes públicos, sino a los mismos particulares (art. 3.1)[26], a pesar del carácter esencialmente principialista de la regulación que ofrece este Convenio (de interés, Hernández Ramos, 2024: 9 ss.).

VII. CONSIDERACIONES FINALES

Para terminar sólo nos queda insistir en la constitucionalización de la IA y en que ésta tenga carácter normativo-constitucional directo (Cap. II, Tít. I CE), y no meramente programático (Cap. III, Tít. I CE, conforme art. 53.3 CE). Lo contrario supondría relegar los nuevos paradigmas constitucionales de los que hemos hablado en relación a la IA, y quedarnos en una cota similar a la existente hoy: mantener la vinculación jurídica de tales empresas a las normas que los Poderes públicos constituidos definan en cada momento, y por tanto bajo las presiones y limitaciones que promuevan, precisamente, dichas empresas ante éstos. Unas empresas que: por un lado, ocupan ya una posición de la que dependen los propios Estados (lo que dificulta, obviamente, la capacidad de éstos para limitarlas); y por otro, están a favor, como mucho, de meros códigos éticos, y en ningún caso de regímenes jurídicos intensos y menos si están al más alto nivel normativo. No en vano tales empresas, en especial las norteamericanas, no sólo han conseguido (bajo el amparo de la Administración Trump) que la Unión Europea desista en la aprobación de la Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas sobre responsabilidad civil extracontractual a la inteligencia artificial (COM/2022/496 final, de 28 de septiembre de 2022)[27], sino que promueven cierta paralización del desarrollo normativo del RIA, incluso una potencial reforma del RIA a fin de rebajar su nivel de regulación[28]; esto último, entiendo, sería más difícil de conseguir si hubiera un marco jurídico de la IA a nivel originario del Derecho de la Unión Europea (tal como también se ha sugerido en páginas previas)[29].

Por otra parte, y de nuevo a la luz del Derecho europeo, es que cupiera rebajarse, sin embargo, la necesidad de una constitucionalización en España de la IA, al ser aquél el marco jurídico básico y prevalente de la IA en toda la Unión Europea y, por tanto, en nuestro Estado. Sin embargo recuérdese cómo no todo lo relativo a la IA es competencia de la Unión Europea, según acontece en materias constitucionalmente tan relevantes como es la seguridad nacional (art. 4.2 TUE), de manera que ésta resulta expresamente excluida del RIA (Considerando 24 y art. 2.3) (cfr. Gómez de Ágreda, 2024: 137 ss.)[30]; por no decir, o recordar, que el RIA no tiene por objeto directo la regulación de la IA en relación a los derechos fundamentales de la Unión, sino sólo el mercado europeo de una IA, eso sí, respetuosa con éstos (nuevamente art. 1.1 RIA) (Aguilar Calahorro, 2024: 107 ss.). Y en cuanto a la posibilidad de que tal potencial reforma constitucional pueda entrar en conflicto con un ulterior desarrollo normativo europeo de la IA, es una cuestión que debiera de resolverse en ese hipotético momento futuro, y no de manera preventiva simplemente no haciendo nada por lo que pueda pasar.

Por último no está demás volver a insistir en que la condición disruptiva de la IA está afectando ya de manera muy intensa nuestros sistemas constitucionales, y como en el futuro esta presión va a ser todavía más intensa. Cierto es que, ante las dificultades que aquí se advierten en relación a la reforma constitucional, la ley, en no pocas ocasiones, termina por desarrollar una función políticamente paraconstitucional al respecto de la determinación del marco jurídico de materias especialmente sensibles para el propio sistema (Guillén López, 2024: 209 ss.)[31]; pero ello no obvia la necesidad de la reforma constitucional. Como tampoco la obvia cómo en vía interpretativa quepa aún cierto margen para una adaptación progresiva de nuestra Constitución normativa (cfr. Balaguer Callejón, 2024b: 149) a la era de la IA en la que ya estamos en ciernes (ad e., Kissinger et al., 2023)[32], pues tal recurso va a resultar muy limitado en poco tiempo a tenor de los cambios tan profundos que está suponiendo la IA en los presupuestos constitucionales, afectando así no sólo a los contenidos constitucionales (como tales), sino a la misma validez de una Constitución y del sistema que se erige sobre ella (Balaguer Callejón, 2022c: 150 y ss., y 202 ss.); una Constitución normativa, y su respectivo sistema jurídico, por lo demás en crisis, tal como se ha señalado a lo largo de estas páginas. De ahí, por tanto, la conveniencia, insistimos, de constitucionalizar la IA, por más que hoy ésta resulte (políticamente) altamente improbable.

VIII. BIBLIOGRAFÍA

Aba-Catoira, A., «Respuestas normativas ante la inteligencia artificial generativa: ¿son suficientes?», en Caamaño-Domínguez, F.M. y Jove Villares, D. (dir.), Tecnologías abusivas y Derecho, Tirant lo Blanch, Valencia, 2024, pp. 187 ss.

Aguilar Calahorro, A., «El sujeto de derecho en la sociedad del consumo: el ciudadano como consumidor», en García Herrera, M.Á. (dir.), Constitucionalismo crítico: Liber amicorum Carlos de Cabo Martín (I), 2ª ed., Tirant lo Blanch, Valencia, 2016, pp. 489 ss.

Aguilar Calahorro, A., «La identificación biométrica, la inteligencia artificial y el efecto desaliento en reuniones y manifestaciones», en Balaguer Callejón, F. y Escajedo San-Epifanio, L. (dir.), Vigilancia biométrica masiva, inteligencia artificial y derechos fundamentales, Dykinson, Madrid, 2025, pp. 107 ss.

Al Hasani Maturano, A., El impacto de la inteligencia artificial y los derechos fundamentales (Un desafío a la sociedad), Aranzadi, Cizur Menor (Navarra), 2024.

Álvarez García, H., «La invasión de la privacidad por la inteligencia artificial», Pérez Calle, R.D. (coord.), Economía, Derecho y Empresa ante una nueva era: digitalización, IA y competitividad en un entorno global, Dykinson, Madrid, 2024, pp. 872 ss.

Arjona Sánchez, M.J., El Derecho en bits, Aranzadi, Cizur Menor (Navarra), 2025.

Atkinson, K. et al., «Explanation in AI and Law: Past, Present and Future», Artificial Intelligence, núm. 289, 2020.

Azpitarte Sánchez, M., «La Constitución del pluralismo y sus contradicciones internas», en Balaguer Callejón, F. et al. (coord.), Estudios sobre el Estado social y democrático de Derecho: liber amicorum Gregorio Cámara Villar (I), Centro de Estudios Políticos y Constitucionales, Madrid, 2024, pp. 37 ss.

Balaguer Callejón, F., «El Estado social y democrático de derecho. Significado, alcance y vinculación de la cláusula del Estado social», en Molina Navarrete, C. et al. (coord.), Comentario a la Constitución socio-económica de España, Comares, Granada, 2002, pp. 89 ss.

Balaguer Callejón, F., «Redes sociales, compañías tecnológicas y democracia», Revista de Derecho Constitucional Europeo, núm. 32, 2019.

Balaguer Callejón, F., La constitución del algoritmo, Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, Zaragoza, 2022a.

Balaguer Callejón, F., «O impacto dos novos mediadores da era digital na liberdade de expressão», Espaço Jurídico: Journal of Law, núm. 23/1, 2022b, pp. 179 ss.

Balaguer Callejón, F., Fuentes del Derecho, 2ª ed., Centro de Estudios Políticos y Constitucionales, Madrid, 2022c.

Balaguer Callejón, F., «Desafíos globales de las grandes compañías tecnológicas», en Aragón Reyes, M. et al. (coord.), Derecho constitucional del siglo XXI: desafíos y oportunidades, Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, Zaragoza, 2023, pp. 237 ss.

Balaguer Callejón, F., «La constitución del algoritmo y las transformaciones culturales en la sociedad digital», en Caamaño, F. y Jove Villares, D. (ed.), Tecnologías abusivas y Derecho, Tirant lo Blanch, Valencia, 2024a, pp. 49 ss.

Balaguer Callejón, F., «La Constitución», en Balaguer Callejón, F. (coord.), Manual de Derecho Constitucional (I), 19ª ed., Tecnos, Madrid, 2024b, pp. 115 ss.

Balaguer Callejón, F. (coord.), La constitución del algoritmo. Recensiones, presentaciones y entrevistas, Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, Zaragoza, 2025a.

Balaguer Callejón, F.: «Prólogo» y «La regulación digital europea en el nuevo contexto global», Revista de Derecho Constitucional Europeo, núm. 43, 2025b.

Barrio Andrés, M., «Inteligencia artificial: origen, concepto, mito y realidad», El Cronista del Estado Social y Democrático de Derecho, núm. 100, 2022, pp. 14 ss.

Barrio Andrés, M., Los derechos digitales y su regulación en España, la Unión Europea e Iberoamérica, Colex, Madrid, 2023.

Belloso Martín, N., «La problemática de los sesgos algorítmicos (con especial referencia a los de género) ¿Hacia un derecho a la protección contra los sesgos?», en Garrido Martín, J. et al. (dir), Inteligencia artificial y Filosofía del Derecho, Laborum, Madrid, 2022, pp. 45 ss.

Beltrán de Heredia Ruiz, I., Inteligencia artificial y neuroderechos: la protección del yo inconsciente de la persona, Aranzadi, Cizur Menor (Navarra), 2023.

Boix Palop, A., «Reforma constitucional posible frente a reforma constitucional necesaria en España», El Cronista del Estado Social y Democrático de Derecho, núm. 80, 2019, pp. 44 ss.

Boix Palop, A., «Transparencia en la utilización de inteligencia artificial por parte de la Administración», El Cronista del Estado Social y Democrático de Derecho, núm. 100, 2022, pp. 90 ss.

Borovinsky, T., «Peter Thiel: tecnología, aceleración y fin de los tiempos», Panamá Revista, 2024, en https://revistasupernova.com/nota/peter-thiel-tecnologia-aceleracion-y-fin-de-los-tiempos (09/09/2025).

Bradford, A., The Brussels Effect: How the European Union Rules the World, Oxford University Press, 2020.

Bustos Gisbert, R., «El constitucionalista europeo ante la inteligencia artificial. Reflexiones metodológicas de un recién llegado», Revista Española de Derecho Constitucional, núm. 131, 2024, pp. 146 ss.

Campione, R., La plausibilidad del Derecho en la era de la inteligencia artificial (Filosofía carbónica y filosofía silícica del Derecho), Dykinson, Madrid, 2020.

Castelló Pastor, J.J., «Nuevo régimen de responsabilidad de los servicios digitales que actúan como intermediarios a la luz de la propuesta de Reglamento relativo a un mercado único de servicios digitales», en Castelló Pastor, J.J. (dir.), Desafíos jurídicos ante la integración digital: aspectos europeos e internacionales, Aranzadi, Cizur Menor (Navarra), 2021, pp. 37 ss.

Chueca Rodríguez, R.L., «El derecho fundamental a la investigación científica», Revista electrónica de Derecho de la Universidad de La Rioja, núm. 6, 2008.

Ciruela Martín, S., «La sabiduría de la Naturaleza. Ciencia Cognitiva», Revista Electrónica de Divulgación, núm. 2/3, 2008, pp. 81 ss.

Cometta, M. y Marcio Cid, I., «The new agora: The space of public debate in the digital age», Teknokultura: Revista de Cultura Digital y Movimientos Sociales, núm. 20/1, 2023, pp. 101 ss.

Cotino Hueso, L., «Transparencia y explicabilidad de la inteligencia artificial. Elementos conceptuales, generales y de género», en Cotino Hueso, L. y Castellanos Claramunt, J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia, 2022, pp. 25 ss.

Cotino Hueso, L., «Discriminación, sesgos e igualdad de la inteligencia artificial en el sector público», en Gamero Casado, E. y Pérez Guerrero, F.L. (coord.), Inteligencia artificial y sector público. Retos, límites y medios, Tirant lo Blanch, Valencia, 2023, pp. 260 ss.

Cotino Hueso, L., «¿Qué es “inteligencia artificial” para el reglamento?: Análisis, delimitación y aplicaciones prácticas», en Cotino Hueso, L. y Simón Castellano, P. (dir.), Tratado sobre el reglamento de inteligencia artificial de la Unión Europea, Aranzadi, Cizur Menor (Navarra), 2024, pp. 113 ss.

Crawford, K., Atlas de la IA (Poder, política y costes planetarios de la inteligencia artificial), Díaz Klaassen, F. (trad.), 3ª ed., Ned Ediciones, Barcelona, 2023.

D’Aloia, A., Inteligencia artificial, derechos fundamentales y democracia, Teoría y Realidad Constitucional, núm. 55, 2025, pp. 101 ss.

De La Quadra-Salcedo Janini, T., «Las normas que regulan la actividad económica en el mercado interior», junto a Arzoz Santisteban, X. y Azpitarte Sánchez, M., La Constitución económica de la Unión Europea, Boletín Oficial del Estado, Madrid, 2025, pp. 165 ss.

De Miguel Asensio, P.A., «Obligaciones de diligencia y responsabilidad de los intermediarios: El Reglamento (UE) de Servicios Digitales», La Ley Unión Europea, núm. 109, 2022.

De Miguel Asensio, P.A., «Modelos de IA y propiedad intelectual: resoluciones sobre fair use», 2025, en https://pedrodemiguelasensio.blogspot.com/2025/07/modelos-de-ia-y-propiedad-intelectual.html (15/10/2025).

El Grand Continent, «El transhumanismo según Peter Thiel: la IA, Marte y la geopolítica», 2025, en https://legrandcontinent.eu/es/2025/07/03/el-transhumanismo-segun-peter-thiel-la-ia-marte-y-la-geopolitica-x/ (03/10/2025).

Escajedo San Epifanio, L, «El reconocimiento biométrico en el reglamento de inteligencia artificial: Exenciones, prohibiciones y especialidades de alto riesgo», en Cotino Hueso, L. y Simón Castellano, P. (dir.), Tratado sobre el reglamento de inteligencia artificial de la Unión Europea, Aranzadi, Cizur Menor (Navarra), 2024, pp. 183 ss.

Esteve Pardo, J., «Decidir y regular en la incertidumbre. Respuestas y estrategias del Derecho Público», en Darnaculleta i Gardella, M.M. et al. (eds.), Estrategias del Derecho ante la incertidumbre y la globalización, Marcial Pons, Madrid, 2015, pp. 33 ss.

Esteve Pardo, J., El camino a la desigualdad. Del imperio de la ley a la expansión del contrato, Marcial Pons, Madrid, 2023.

Fernández de Gatta Sánchez, D., Creación científica e innovación tecnológica: una aproximación desde el Derecho público, Tirant lo Blanch, Valencia, 2018.

Fernández Tourné, S., «Los derechos de autor de las obras empleadas para el entrenamiento de las herramientas de inteligencia artificial generativa», Anuario Iberoamericano de Derecho del Arte, 2023, pp. 393 ss.

Ferrante, E., «Inteligencia artificial y sesgos algorítmicos: ¿Por qué deberían importarnos?», Nueva Sociedad, núm. 294, 2021, pp. 27 ss.

Ferreria Mendes, G. y Oliveira Fernandes, V., «La efectividad de los derechos fundamentales en las relaciones privadas en internet. El dilema de la moderación de contenidos en las redes sociales desde una perspectiva comparada Brasil-Alemania», en Balaguer Callejón, F. et al. (coord.), Derechos fundamentales y democracia en el constitucionalismo digital, Aranzadi, Cizur Menor (Navarra), 2023, pp. 249 ss.

Galindo Vacha, J.C., «La inteligencia artificial (IA) en el marco de la democracia digital», Revista de Derecho Político, núm. 122, 2025, pp. 159 ss.

García Majado, P., «Los sistemas automatizados en el ordenamiento jurídico: tipos de programación, riesgos y control», Revista de Derecho Político, núm. 123, 2025, pp. 147 ss.

García-Escudero Márquez, P., «Consideraciones sobre el procedimiento agravado de reforma de la Constitución», Cuadernos de Derecho Público, núm. 27, 2006, pp. 147 ss.

García-Pelayo, M., «Derecho constitucional», en Obras completas (III), Centro de Estudios Políticos y Constitucionales, Madrid, 1991, pp. 2269 ss.

Gómez de Ágreda, A., «La exclusión de los sistemas inteligencia artificial de seguridad nacional, defensa y militares del Reglamento y el Derecho aplicable», en Cotino Hueso, L. y Simón Castellano, P. (dir.), Tratado sobre el reglamento de inteligencia artificial de la Unión Europea, Aranzadi, Cizur Menor (Navarra), 2024, pp. 137 ss.

Gómez Sánchez, Y., «La libertad de creación y producción científica: especial referencia a la Ley de Investigación Biomédica», Revista de Derecho Político, núms. 75-76, 2009, pp. 489 ss.

González Pascual, A., «Progresismo libertario y largoplacismo en piloto automático», Cinco Días, 2025, en https://www.esade.edu/es/articulos/progresismo-libertario-y-largoplacismo-en-piloto-automatico (24/10/2025).

Goñi Huarte, E., «La causalidad incierta en la responsabilidad civil derivada de la inteligencia artificial», Revista General de Derecho Europeo, núm. 58, 2022.

Greenstein, S., «Preserving the rule of law in the era of artificial intelligence (AI)», Artificial Intelligence and Law, núm. 30, 2022, pp. 291 ss.

Guillén López, E., «Constitución y ley. De la Constitución como marco de la ley a la ley como definitoria de la constitucionalidad», en D’Atena, A. (coord.), Las fuentes del Derecho treinta años después. Estudios con motivo de la nueva edición de Fuentes del Derecho de Francisco Balaguer Callejón (CEPC, 2022), Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, Zaragoza, 2024, pp. 209 ss.

Häberle, P., «Siete tesis para una teoría constitucional del mercado», Azpitarte Sánchez, M. (trad.), Revista de Derecho Constitucional Europeo, núm. 5, 2006, pp. 11 ss.

Hernández Ramos, M., «El marco jurídico regulatorio europeo de la inteligencia artificial. La relación de complementariedad entre el Reglamento de la UE y la Convención Marco del Consejo de Europa», Revista Española de Derecho Europeo, núm. 92, 2024, pp. 9 ss.

Hernández Ramos, M., «Encuesta sobre inteligencia artificial y derechos fundamentales», Teoría y Realidad Constitucional, núm. 55, 2025, pp. 11 ss.

Hoffmann-Riem, W., El Derecho ante el reto de la transformación digital, Knörr Argote, E. (trad.), Thomson Reuters / Aranzadi, Cizur Menor (Navarra), 2022.

Innerarity, D., «El impacto de la inteligencia artificial en la democracia», Revista de las Cortes Generales, núm. 109, 2020, pp. 87 ss.

Jiménez López, J., «Oscuridad algorítmica en el sector público», en Vestri, G. (dir.), La disrupción tecnológica en la Administración Pública. Retos y desafíos de la Inteligencia Artificial, Thomson Reuters / Aranzadi, Cizur Menor (Navarra), 2022, pp. 41 ss.

Jonas, H., El principio de responsabilidad (Ensayo de una ética para la civilización tecnológica), Fernández Retenaga, J.M. (trad.), 2ª ed., Herder, Barcelona, 2004.

Kissinger, H.A. et al, La era de la Inteligencia Artificial y nuestro futuro humano, 2ª ed., Señarís Cejas, L. (trad.), Anaya, Madrid, 2023.

Kurzweil, R., La singularidad está cerca: Cuando los humanos transcendamos la biología, García Hernández, C. (trad.), Lola Books, Berlín, 2012.

Kurzweil, R., La singularidad está más cerca: Cuando nos fusionamos con la IA, Casanovas López, A. (trad.), Deusto, Zalla (Bizkaia), 2025.

Lee, K.F., «Superpotencias de la inteligencia artificial: China, Silicon Valley y el nuevo orden mundial», Vaquero Granados, M. (trad.), Deusto, Zalla (Bizkaia) 2020.

Llano Alonso, F.H., Homo ex Machina (Ética de la inteligencia artificial y Derecho digital ante el horizonte de la singularidad tecnológica), Tirant lo Blanch, Valencia, 2024.

López Silva, P. y Madrid Ramírez, R., «Acerca de la protección constitucional de los neuroderechos: la innovación chilena», Prudentia iuris, núm. 94, 2022, pp. 39 ss.

López-Vidriero Tejedor, I., «Novedades que introduce el paquete del reglamento de servicios digitales y algunos de sus paralelismos con el RGPD», Derecho Digital e Innovación / Digital Law and Innovation Review, núm. 14, 2022.

Maestro Buelga, G., La Constitución del trabajo en el Estado social, Comares, Granada, 2002.

Martínez Nadal, A., «Naturaleza (y responsabilidad) de las plataformas digitales: de la directiva de comercio electrónico a la propuesta de reglamento de servicios digitales», en Blanco Sánchez, M.J. (dir.), Derecho digital y nuevas tecnologías, Aranzadi, Cizur Menor (Navarra), 2022, pp. 387 ss.

Martínez-Bascuñán Ramírez, M., «Democracia y redes sociales: el ejemplo de Twitter», Revista de Estudios Políticos, núm. 168, 2015, pp. 175 ss.

Mascitti, M., «El rango constitucional de los neuroderechos como una exigencia de justicia», Cuestiones Constitucionales: Revista Mexicana de Derecho Constitucional, núm. 46, 2022, pp. 149 ss.

Minero Alejandre, G., «Nuevas tendencias en materia de protección de datos personales. La nueva Ley Orgánica y la jurisprudencia más reciente», Anuario Jurídico y Económico Escurialense, núm. 52, 2019, pp. 125 ss.

Misseri, L.E., «Autoría e inteligencia artificial generativa: presupuestos filosóficos de la función del autor», Isonomía: Revista de Teoría y Filosofía del Derecho, núm. 59, 2023.

Montilla Martos, J.M., «Inteligencia artificial y derechos de participación política», De lege ferenda. Revista de la Facultad de Derecho de la Universidad de Granada, núm. 1, 2023, pp. 34 ss.

Muñoz Vela, J.M., Retos, riesgos, responsabilidad y regulación de la inteligencia artificial (Un enfoque de seguridad física, lógica, moral y jurídica), Thomson Reuters / Aranzadi, Cizur Menor (Navarra), 2022.

Muñoz Vela, J.M., «Inteligencia artificial generativa. Desafíos para la propiedad intelectual», Revista de Derecho UNED, núm. 33, 2024, pp. 17 ss.

Nasser, F., «Un repaso a la historia de la inteligencia artificial: acordes y desacuerdos», Tabanque. Revista Pedagógica, núm. 36, 2024, pp. 7 ss.

Ng, A., «IA: ¿Está China superando a Estados Unidos?», El Grand Continent, 2025, en https://legrandcontinent.eu/es/2025/09/10/ia-esta-china-superando-a-estados-unidos/ (10/09/2025).

Ortega Sánchez, O. y Verdeguer Segarra, M., «El nuevo Reglamento europeo de mercados digitales: regulación de las plataformas digitales en la nueva era tecnológica», Unión Europea Aranzadi, núm. 2, 2023.

Pérez Manzano, M., «¿Un estatuto constitucional singular para el cerebro y las neurotecnologías?: sobre los neuroderechos», Revista General de Derecho Constitucional, núm. 41, 2024.

Pérez-Ugena, M., «La inteligencia artificial: definición, regulación y riesgos para los derechos fundamentales», Estudios de Deusto, núm. 72/1, 2024, pp. 307 ss.

Pino Pino, F.A., «Neuroderechos y dogmática constitucional: aproximación crítica desde el artículo 19 N°1, inciso 5°», Revista Justicia y Derecho, núm. 7/1, 2024, pp. 1 ss.

Pollicino, O. y De Gregorio, G., «Constitutional Law in the Algorithmic Society», en Micklitz, H. et al. (ed.), Constitutional Law in the Algorithmic Society, Cambridge University Press, Cambridge, 2021, pp. 16 ss.

Presno Linera, M.Á., Derechos fundamentales e inteligencia artificial, Marcial Pons, Madrid, 2022a.

Presno Linera, M.Á., «Teoría general de los derechos fundamentales e inteligencia artificial: una aproximación», Revista Jurídica de Asturias, núm. 45, 2022b, pp. 55 ss.

Presno Linera, M.Á., «Análisis del origen y desarrollo de la propuesta de “ley de inteligencia artificial” europea», en Caamaño, F. y Jove Villares, D. (ed.), Tecnologías abusivas y Derecho, Tirant lo Blanch, Valencia, 2024, pp. 93 ss.

Presno Linera, M.Á. y Meuwese, A., «La regulación de la inteligencia artificial en Europa», Teoría y Realidad Constitucional, núm. 54, 2024, pp. 142 ss.

Prieto-Viertel, G. y Tabarés Gutiérrez, R., «El reto de la moderación de contenidos en inteligencia artificial generativa: ChatGPT bajo el marco regulatorio de la Unión Europea», Teknokultura. Revista de Cultura Digital y Movimientos Sociales, núm. 22/2, 2025, pp. 161 ss.

Ramonet, I., El imperio de la vigilancia, Clave Intelectual, Madrid, 2016.

Rebollo Delgado, L., Inteligencia artificial y derechos fundamentales, Dykinson, Madrid, 2023.

Ridola, P., «Libertà e diritti nello sviluppo storico del costituzionalismo», en Nania, R. y Ridola, P. (coord.), I diritti costituzionali (I. Parte prima – Libertà e diritti nel sistema costituzionale), Giappichelli, Torino, 2006, pp. 3 ss.

Rodotà, S., La vida y las reglas. Entre el derecho y el no derecho, Greppi, A. (trad.), Trotta, Madrid, 2010.

Rodotà, S., El derecho a tener derechos, Revuelta, J.M. (trad.), Trotta, Madrid, 2014.

Rodríguez-Drincourt Álvarez, J.R., «El derecho a la creación y producción científica», en Aguiar de Luque, L. (coord.), Constitución, estado de las autonomías y justicia constitucional: Libro homenaje al profesor Gurmesindo Trujillo, Tirant lo Blanch, Valencia, 2005, pp. 709 ss.

Roig i Batalla, A., «La protección de la privacidad: el derecho al honor y la intimidad personal y familiar, y los límites al uso de la informática (arts. 18.1 y 18.4 CE)», en Gavara de Cara, J.C. (coord.), Constitución desarrollo, rasgos de identidad y valoración en el XXV aniversario (1978-2003), J.M. Bosch, Barcelona, 2004, pp. 107 ss.

Rubio Núñez, R., «El uso de la inteligencia artificial en las campañas electorales y sus efectos democráticos», Revista de Derecho Político, núm. 122, 2025, pp. 65 ss.

Russell, S.J. y Norvig, P, Artificial Intelligence: A Modern Approach, 4ª ed., Pearson, Hoboken, 2022.

Saffo, P. (2025), «El nuevo momento Grocio», El Grand Continent, 2025, en https://legrandcontinent.eu/es/2025/08/22/el-nuevo-momento-grocio/ (11/09/2025).

Sánchez Barrilao, J.F., «Sobre la Constitución normativa y la globalización», Revista de la Facultad de Derecho de la Universidad de Granada, núm. 7, 2004, pp. 241 ss.

Sánchez Barrilao, J.F., «Tecnología, democracia y fuentes del derecho», en García Herrera, M.Á. (coord.), Constitución y democracia. 25 años de Constitución democrática en España: (actas del congreso celebrado en Bilbao los días 19 a 21 de noviembre de 2003) (I), Centro de Estudios Políticos y Constitucionales / Universidad del País Vasco, Madrid, 2005a, pp. 467 ss.

Sánchez Barrilao, J.F., «Sobre la Constitución normativa y la tecnología», Revista de la Facultad de Derecho de la Universidad de Granada, núm. 8, 2005b, pp. 257 ss.

Sánchez Barrilao, J.F., «La constitucionalización de la integración regional europea: ¡más Europa! de vuelta a una constitución para Europa, ante la situación de crisis de la Unión», Estudios de Deusto: Revista de Derecho Público, núm. 60/2, 2012, pp. 71 ss.

Sánchez Barrilao, J.F., «El Derecho constitucional ante la era de Ultrón: la informática y la inteligencia artificial como objeto constitucional», Estudios de Deusto: Revista de Derecho Público, núm. 64/2, 2016, pp. 225 ss.

Sánchez Barrilao, J.F., «Los fundamentos del “progreso informático” en la Unión Europea», Revista de Derecho Político, núm. 98, 2017, pp. 335 ss.

Sánchez Barrilao, J.F., «Artículo 85», en Gómez Sánchez, Y. (coord.), Estudios sobre la reforma de la Constitución de 1978 en su cuarenta aniversario, Thomson Reuters / Aranzadi, Cizur Menor (Navarra), 2018, pp. 197 ss.

Sánchez Barrilao, J.F., Inteligencia y seguridad como objeto constitucional. El CNI y la comunidad de inteligencia ante los nuevos retos de la sociedad del riesgo, Centro de Estudios Políticos y Constitucionales, Madrid, 2019a.

Sánchez Barrilao, J.F., «Servicios de inteligencia, secreto y garantía judicial de los derechos», Teoría y Realidad Constitucional, núm. 44, 2019b, pp. 309 ss.

Sánchez Barrilao, J.F., «La crisis del Derecho constitucional multinivel», en Häberle, P. et al. (coord.) Derechos fundamentales, desarrollo y crisis del constitucionalismo multinivel: libro homenaje a Jörg Luther, Thomson Reuters / Aranzadi, Cizur Menor (Navarra), 2020a, pp. 181 ss.

Sánchez Barrilao, J.F., «El internet en la era Trump: aproximación constitucional a una nueva realidad», Estudios en Derecho a la Información, núm. 9, 2020b, pp. 71 ss.

Sánchez Barrilao, J.F., «Innovación digital, ciudadanía e integración europea», D’Amico, M. et al. (ed.), Europa società aperta (I. Problemi attuali e prospettive future), Editoriale Scientifica, Napoli, 2022c, pp. 419 ss.

Sánchez Barrilao, J.F., «Inteligencia artificial y fuentes del Derecho», Revista de Derecho Constitucional Europeo, núm. 39, 2023a.

Sánchez Barrilao, J.F., «Transformaciones en la protección pública de los derechos fundamentales frente a particulares en la era digital», en Uscanga Barradas, A. et al. (coord.), Los derechos como límites al poder, Universidad Nacional Autónoma de México / Instituto de Investigaciones Jurídicas, México, 2023b, pp. 155 ss.

Sánchez Barrilao, J.F., «El constitucionalismo del siglo XXI», Revista Dominicana de Derecho Constitucional, núm. 6/2, 2024a, pp. 119 ss.

Sánchez Barrilao, J.F., «Disonancias en la Europa de los derechos», Estudios de Deusto: Revista de Derecho Público, núm. 72/2, 2024b, pp. 315 ss.

Sánchez Barrilao, J.F., «Las fuentes del Derecho en el Siglo XXI», en D’Atena, A. (coord.), Las fuentes del Derecho treinta años después. Estudios con motivo de la nueva edición de Fuentes del Derecho de Francisco Balaguer Callejón (CEPC, 2022), Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, Zaragoza, 2024c, pp. 335 ss.

Sánchez Barrilao, J.F., «El impacto de la inteligencia artificial en los procesos democráticos», Revista de Derecho Constitucional Europeo, núm. 43, 2025a.

Sánchez Barrilao, J.F., «La identificación biométrica, la inteligencia artificial y el efecto desaliento en reuniones y manifestaciones», en Balaguer Callejón, F. y Escajedo San-Epifanio, L. (dir.), Vigilancia biométrica masiva, inteligencia artificial y derechos fundamentales, Dykinson, Madrid, 2025b, pp. 527 ss.

Sánchez Barrilao, J.F., «La protección de los derechos en un mundo que cambia», en La costituzione al tempo delle transizioni (II), en Papa, A. (coord), Editoriale Scientifica, Napoli, 2026, pp. 1267 ss.

Sánchez Barroso, B., «¿Puede aplicarse el principio de precaución en el campo de la Inteligencia Artificial?», en Cernada Badía, R. (coord.), Respuestas jurídicas al desafío tecnológico: nuevas perspectivas del Derecho Digital, Tirant lo Blanch, Valencia, 2024, pp. 231 ss.

Santisteban Galarza, M., «Garantías frente a la moderación de contenidos en la Propuesta de Reglamento Único de Servicios Digitales», Revista CESCO de Derecho de Consumo, núm. 41, 2022, pp. 159 ss.

Simón Castellano, P., «Taxonomía de las garantías jurídicas en el empleo de los sistemas de inteligencia artificial», Revista de Derecho Político, núm. 117, 2023, pp. 153 ss.

Solar Cayón, J.I., Inteligencia artificial e imperio de la ley, Tirant lo Blanch, Valencia, 2025.

Sarmiento, D. e Iglesias Sánchez, S., La regulación europea de los contenidos en la red. El Reglamento de Servicios Digitales, Marcial Pons, Madrid, 2024.

Tejero, J., «Unwrapping black-box models: A case study in credit risk», Estabilidad Financiera, núm. 43, 2022, pp. 91 ss.

Torres Manrique, J.I., «La transformación de la inteligencia artificial y las tecnologías de la información. A la luz de la transformación de los derechos fundamentales y la interdisciplinariedad», Revista Iberoamericana de Derecho, Cultura y Ambiente, núm. 5, 2024.

Suárez, J.L., La condición digital, Trotta, Madrid, 2023.

Thiel, P., «The End of the Future», National Review, 2011, en https://www.nationalreview.com/2011/10/end-future-peter-thiel/ (07/09/2025).

Thiel, P., «Competition is for losers (If you want to create and capture lasting value, look to build a monopoly)», The Wall Street Journal, 2014, en http://www.csun.edu/~vcact00f/497CapStone/Peter%20Thiel_%20Competition%20Is%20for%20Losers%20-%20WSJ.pdf (10/09/2025).

Thiel, P., Cero a uno: Cómo inventar el futuro, Maestro Cuadrado, M. (trad.), Gestión 2000, Barcelona, 2015.

Valls Prieto, J., Inteligencia artificial, Derechos humanos y bienes jurídicos, Thomson Reuters / Aranzadi, Cizur Menor (Navarra), 2021.

Vila-Viñas, D., «Derecho a la ciencia. Libertad de investigación, acceso, participación y promoción de la ciencia en el ordenamiento español», Derechos y libertades: Revista de Filosofía del Derecho y Derechos Humanos, núm. 45, 2021, pp. 327 ss.

Villaverde Menéndez, I., «Los límites a los derechos fundamentales», en Bastida Freijedo, F.J. et al., Teoría general de los derechos fundamentales en la Constitución española de 1978, Tecnos, Madrid, 2004, pp. 120 ss.

Von Ihering, R., La lucha por el Derecho, Posada y Biesca, A. (trad.), Librería de Victoriano Suárez, Madrid, 1881.

Wylie, C., Mindf*ck: Cambridge Analytica. La trama para desestabilizar el mundo, Roca Editorial, Barcelona, 2020.

Zagrebelsky, G., Derechos a la fuerza, García Mayo, A. (trad.), Trotta, Madrid, 2023.

Zuboff, S., La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder, Santos Mosquera, A. (trad.), Paidós, Barcelona, 2020.

---