Abadías Selma, Alfredo, Justicia Juvenil e inteligencia artificial en la era de la cultura «Touch», Tirant lo Blanch, Valencia, 2022, 208 pp., ISBN 978-84-1130-755-0.

https://doi.org/10.18543/ed.2798

Publicado en línea: junio 2023

I

Han transcurrido más de ocho décadas desde que Isaac Asimov enunciara en 1941 las conocidas como Tres Leyes de la Robótica en su relato Runaround. Inicialmente consideradas como exclusivo producto de la imaginación, coincidirá el lector en que, a la luz del imparable e incesante avance de disciplinas como la informática o la robótica, aquellas han excedido las fronteras de la ficción para, cuando menos, pulsar las lindes de un no tan distante futuro.

Como muestra, un botón. El pasado mes de noviembre de 2022 fue lanzado al público ChatGPT, un avanzado sistema de inteligencia artificial basado en modelos de aprendizaje de lenguaje profundo capaz de, entre otras funcionalidades, generar contenido coherente, contextualizar conversaciones, procesar escritos o analizar sentimientos en estos. De igual forma, las más recientes propuestas de humanoides de compañías como Boston Dynamics o Hanson Robotics continúan marcando nuevos hitos en su aproximación, con androides capaces de emular los movimientos básicos del ser humano o de ejecutar con –preocupante– semejanza sus gestos y expresiones faciales.

Excursos aparte, no cabe duda de que nos encontramos ante un nuevo paradigma. Una nueva realidad cultural, socioeconómica, en que el progreso tecnológico ha alcanzado cotas otrora inimaginables. La creación de –permítaseme el término– herramientas como la primera inteligencia artificial en los años 50 –concebida esta como sistema autónomo informático de toma de decisiones– o la aparición de internet y los protocolos de comunicación TCP/IP en la década de los 60, han desencadenado el surgimiento de una nueva era. Una era en que lo inmediato y lo accesible, lo disponible, en definitiva, se ha elevado a la categoría de ideal, actuando de indiscutible guía en la toma de decisiones o, con los evidentes riesgos que ello conlleva, en la creación de leyes.

Una era –digital, si se prefiere– que ha sido calificada por reputadas voces de líquida[1], por inmediata, y de la que es claro exponente la cultura «Touch» en la que se encuadra la obra. Esto es: aquella en que las tecnologías táctiles habilitan a sus usuarios el acceso a un sinfín de productos, servicios y herramientas informáticas bajo el simple gesto digital realizado en la interfaz de un teléfono inteligente, tableta o computadora.

Una era que preconiza la mejora (?) de la vida humana a través de los avances tecnológicos, mas cuyos cambios distan de ser inocuos, dando lugar a situaciones de especial desprotección en los así denominados colectivos vulnerables, cual es caso de los menores de edad y ancianos, ad exemplum. Basta a este respecto una rápida mirada a las problemáticas derivadas de la recopilación masiva de datos, a la llamada brecha digital o al cada vez mayor uso de inteligencias artificiales en multitud de ámbitos con premura y, por ende, sin haber alcanzado, eventualmente, la necesaria fiabilidad, originando o agravando aquellas situaciones.

Y es que, en efecto, nos encontramos ante un despliegue sin parangón de inteligencias artificiales. Electrodomésticos, automóviles, útiles de producción, toda suerte de dispositivos y servicios…; son incontables los continentes en que estas se embeben. Como también lo son los sectores y concretos campos en que comienzan a implementarse, no siendo el ámbito legal ni la administración de justicia una excepción.

Precisamente en la convergencia de sendos tópicos –así: inteligencia artificial y administración de justicia; más concretamente: justicia juvenil– es donde se concibe la monografía Justicia Juvenil e inteligencia artificial en la era de la cultura «Touch» que tengo el placer de recensionar, y de cuyo principal contenido daré a renglón seguido cuenta.

II

Conforman el texto nueve equilibrados epígrafes a través de los que el autor expone y desbroza las principales aristas de tan destacada materia, invitando al lector a su abordamiento y profundización. Cuestión en modo alguno simple, pues la elevada tecnificación que rodea a las diferentes herramientas y programas empleados en inteligencia artificial dista de ser reclamo para legos –o, cuando menos, no avezados exégetas–. Y cuestión que conspicuamente solventa el profesor Abadías Selma a través de un inteligente uso de relaciones, síntesis y sistematizaciones, que confieren al estudio una estructura y contenidos de marcado carácter didáctico, propedéutico.

Amén de con una enriquecedora introducción –de tintes cuasi ensayísticos, en la que la búsqueda de la felicidad humana es brillantemente tomada como digresivo hilo conductor para aproximar histórica y culturalmente la materia–, a la que acompañan sendos «Prólogo» –a cargo de D. Juan Manuel Fernández Martínez, vocal del Consejo General del Poder Judicial y magistrado de la Sala de lo Civil y Penal del Tribunal Superior de Justicia de Navarra – y «Proemio» –de la mano de D. Carlos Vázquez González, profesor titular de Derecho Penal y Criminología en la UNED – principia el Dr. Abadías Selma la obra, como es menester en cualquier texto científico que se precie, proporcionando un marco conceptual y normativo de trabajo del término sobre cuyas virtudes, riesgos, ámbitos de aplicación e interacciones para con la justicia juvenil se construye aquella. Me refiero, claro está, a la conceptuación de la inteligencia artificial: a esa suerte de disciplina científica centrada en la creación de programas informáticos a que –y así lo define la Real Academia Española– se otorga la capacidad de «[ejecutar] operaciones comparables a las que realiza la mente humana […]» (apud p. 29). Esto es, a esa suerte de conjunto de instrucciones, reglas, algoritmos…, informáticos –o conjuntos de– capaces de aprender o razonar con supuesta personificación. Y, desde luego, a esa suerte de inteligencia aparentemente omnipresente y ubicua en la sociedad actual, como adelantaba supra, llamada a sentar un nuevo paradigma en las áreas de conocimiento y actuación sobre las que es posible su proyección, entre las que se evalúa la responsabilidad penal de los menores. O, si se prefiere, la justicia penal de menores o justicia juvenil.

Integran el citado marco conceptual de trabajo los dos primeros epígrafes, en los que se refieren, de un lado, la genética del concepto, sus ámbitos de aplicación y más estimadas definiciones –capítulo primero–. Y, de otro, las diferentes tipologías que bajo aquellas encuentran cobijo, sus virtudes y problemáticas connaturales –capítulo segundo–. Y es que, ciertamente, como de forma preclara refleja el autor, no es lo mismo un programa de inteligencia artificial débil (pp. 43-53), similar a los asistentes virtuales que ofertan las principales tecnológicas, que una inteligencia artificial fuerte, respecto de la que sea posible proponer y superar el Test de Turing[2], v. gr.

Sentadas las anteriores bases y diferenciaciones, el capítulo tercero plantea las diversas posturas y políticas que frente al fenómeno de la algoritmización están pergeñando los diferentes agentes intervinientes –sean Estados, organismos supranacionales o corporaciones internacionales, entre otros–. Junto a una acertada aproximación axiológica, el Dr. Abadías Selma pone el foco en esta sede en la necesidad de proceder a una urgente armonización legislativa, relacionando la normativa y el softlaw nacional e internacional más destacado y actual. Constituye, por tanto, este epígrafe, un importante documento de trabajo para quien busque una detallada sistematización del ya referido marco normativo.

Por su parte, los capítulos cuarto y quinto tratan de arrojar luz, respectivamente, sobre dos de las más debatidas cuestiones relacionadas con la inteligencia artificial en lo que aquí respecta: su proyección y uso en la administración de justicia, de un lado, y su potencial riesgo –especialmente en materia de violaciones a la debida protección de datos de carácter personal–, de otro. Consigue con ello, el autor, adentrar al lector en lo que será el núcleo duro de la monografía. A saber: el papel de la inteligencia artificial en la predicción y prevención de conductas reprochables en sede de justicia juvenil, y la interacción de aquella con el elenco de medidas judiciales imponibles a menores en aras a su más eficaz y eficiente aplicación. Mas vayamos por partes.

Así, el capítulo cuarto desgrana los diferentes ámbitos –principalmente relacionados con la administración de justicia– en que la inteligencia artificial puede ser, sino está siendo, empleada. Además de la significada referencia a su uso en materia de seguros y reaseguros, es particularmente interesante la distinción realizada entre Inteligencia Artificial Policial (IAP), de marcada faceta preventiva e investigadora, y su casi homóloga judicial –Inteligencia Artificial Judicial (IAJ)–, así como las fricciones que supone el uso en el ámbito penitenciario de controvertidos algoritmos para con la salvaguarda y respeto de derechos.

En el capítulo quinto, intitulado «Inteligencia artificial y delito», el Dr. Abadías Selma recoge algunas de las indeseables consecuencias que el incorrecto uso de la inteligencia artificial es susceptible de llevar aparejadas. En este orden de cosas, el autor pone el acento en la conculcación de derechos fundamentales que podría producirse en el proceso de obtención de datos de carácter personal con que nutrirla. Datos que, como acertadamente apunta, son cedidos por los usuarios –desafortunadamente, en la mayoría de los casos– de forma irreflexiva, precipitada, automática, ocasionando, cuando menos, situaciones de desprotección, sino violación de derechos de haberse recopilado sin su expreso consentimiento, subrepticiamente. Y datos que, amén de poder contravenir el «habeas data» (p. 104) constitucionalmente consagrado, no escapan a la problemática devenida de la existencia de sesgos, errores de muestreo o de un errático diseño del algoritmo decisional de la inteligencia artificial. O, de acontecer, artificiosa inteligencia.

Comienza el sexto epígrafe la acertada distinción entre los términos predicción y prevención. Relacionado este último con la evitación de comportamientos criminales o reprochables, se reserva el primero para la anticipación o conjetura de aquellas situaciones que requieran de dicha evitación. Diferenciación en modo alguno banal, pues es en estas sedes donde los sistemas de inteligencia artificial mayor proyección presentan en su interacción para con la justicia juvenil, sirviendo de herramientas con que evaluar y gestionar riesgos de ocurrencia y reincidencia de conductas indeseadas. Llama en este punto la atención la pormenorización que realiza el autor de los principales programas existentes y de mayor utilización nacional, relacionando y explicando sus respectivos ítems, genética y capacidades, en aras a su comprensión. En definitiva, erigiéndose en una valiosa guía para el lector en lo que a sistemas de predicción, evaluación y gestión de riesgos en materia de justicia juvenil se refiere.

Constituyen los capítulos séptimo y octavo el acmé de la obra que hoy recensiono, abordando las medidas judiciales susceptibles de ser aplicadas a menores y, desde luego, su interrelación para con los programas de inteligencia artificial. Empieza el autor, en el primero de ellos, por aproximar la cuestión reflexionando bajo la óptica político-criminal sobre los diferentes modelos de justicia juvenil –ora retributivo, ora marcado por la consecución de las finalidades de reinserción, rehabilitación y restauración– para, acto seguido, aquilatar con certero rigor jurídico en el capítulo octavo las medidas efectivamente recogidas en sede de art. 7 de la Ley Orgánica 5/2000, de 12 de enero, reguladora de la responsabilidad penal de los menores. Junto con una cuidada exégesis, abonada con valiosas colaciones doctrinales, destaca la profusa aportación que realiza el Dr. Abadías Selma al diseccionarlas; particularmente en relación con cómo la inteligencia artificial podría contribuir a su mejor desempeño, ya en términos de seguimiento, implementación o consecución de los fines antedichos. Sin duda un nítido ejemplo de análisis de lege ferenda a considerar en pro de un mejor y más eficaz modelo de justicia juvenil.

Queda reservado el último de los capítulos de la monografía a la exposición de las valiosas conclusiones alcanzadas, así como al catálogo de propuestas que, nuevamente en clave político-criminal, refiere el autor y que, junto con el «Epílogo» firmado por D. Miguel Abel Souto, catedrático acr. de Derecho Penal en la Universidad de Santiago de Compostela, cierran aquella. Conclusiones y propuestas de entre las que resulta pertinente la siguiente cita, de marcada influencia humanista, nuclear en lo que respecta a los principios que deben regir e informar el desarrollo de la inteligencia artificial en relación con cualesquiera ámbitos, máxime si se trata de colectivos especialmente vulnerables. Así: «[e]l interés del hombre ha de primar sobre cualesquiera avances, y en el caso de la justicia de menores, el superior interés del menor ha de constituirse en una finalidad muy clara» (p. 181).

III

Como el lector habrá podido adelantar, nos encontramos ante una significada monografía de lectura cuasi obligada para todo aquel que desee conocer el estado de la cuestión de un tópico de notable interés y –sobra puntualizarlo– rabiosa actualidad, como lo es la inteligencia artificial aplicada a la justicia juvenil. A través de sus páginas, el Dr. Abadías Selma no solo realiza un riguroso análisis en clave jurídica del sistema o modelo de justicia penal de menores en lo que a medidas judiciales aplicables se refiere, sino que aborda con impecable axiología humanística las políticas que deben presidir el innegable –e imparable– avance de la ciencia informática y el concreto producto de la inteligencia artificial en cualesquiera ámbitos; particularmente, en el que nos ocupa.

De estructura acertada y, como indicaba en los compases iniciales de esta reseña, apreciable carácter didáctico, más propedéutico, el lenguaje que emplea permite la fácil comprensión de la finalidad y sistemática de los diferentes programas informáticos que recoge, acercando aquellos pasajes que, por su elevado tecnicismo –inherentes a la misma realidad tratada– podrían resultar más tediosos en su lectura e interpretación.

Asimismo, su contenido, reflejo del profundo conocimiento del autor en el ámbito de la justicia juvenil –no en vano, además de contar con una dilatada experiencia como docente e investigador en destacadas universidades, y con múltiples publicaciones en las más relevantes revistas científicas, el Dr. Abadías Selma es también presidente de la Sociedad Española para el Estudio de la Violencia Filio-Parental– constituye una necesaria y remarcable aportación doctrinal a la materia.

En definitiva, una interesante y recomendable obra que, combinando un sólido análisis jurídico con un valioso planteamiento crítico, de lege ferenda, cumple con creces el objeto con que ha sido concebida: aproximar y profundizar dogmática y valorativamente en el binomio inteligencia artificial y justicia juvenil en pro de la mayor «[c]eleridad, eficiencia, eficacia, seguridad jurídica y […] verdadera calidad […] [de la] justicia penal del menor» (p. 176).

Cristian Antonio Morlans Pardos

Doctorando en Derecho Penal Económico

Universidad Internacional de la Rioja (UNIR)

---