Basile, Fabio; Caterini, Mario; Romano, Sabato (eds.), Il sistema penale ai confini delle hard sciences. Percorsi epistemologici tra neuroscienze e intelligenza artificiale, Colección Quaderni dell’Istituto di studi penalistici «Alimena», Centro di ricerca interdipartimentale dell’Università della Calabria, vol. III, Pacini Giuridica, Pisa, 2021, 282 pp., ISBN 978-88-3379-388-7.

http://dx.doi.org/10.18543/ed-69(2)-2021pp367-372

I. EL DERECHO ANTE EL AVANCE TECNOLÓGICO

El Derecho, como reflejo de la sociedad que pretende regular, no puede quedar al margen de los cambios y transformaciones que en el seno de esta se producen. Luego las leyes son una suerte de traje a medida de la sociedad que pretenden regular; sólo así adquirirán estas la vigencia y eficacia deseables para cualquier norma jurídica.

El avance tecnológico se produce con un efecto multiplicador sin parangón. Quizás esta es la faceta más peligrosa de la innovación tecnológica, que crece exponencialmente. Desde 1960 hasta hoy, aproximadamente, la potencia de procesamiento ha aumentado alrededor de un billón de veces. Ninguna otra cosa tangible que tenemos o hemos conseguido, como seres humanos, ha mejorado a un ritmo cercano a esto. Los automóviles, por ejemplo, aproximadamente son el doble de rápidos de lo que eran en su primer diseño. En casi todo lo demás, la evolución también es insignificante.

Sin embargo, esa intensa y exponencial transformación tecnológica se ha producido mientras que, en paralelo, nuestra fisiología humana, esto es, nuestros cerebros, no han evolucionado en absoluto y no están preparados para aprovechar las ventajas de esa evolución. La tecnología hoy ya supera y abruma las debilidades humanas, lo que nos acerca al colapso, más si cabe si tenemos en cuenta que cada vez son más los intentos de jugar a ser dioses, como afirmaba en sus últimos trabajos el maestro Rodotà, con la llamada convergencia tecnológica y el empleo de la inteligencia artificial en proyectos propios de nanotecnología y de biotecnología.

Ante una nueva realidad en la que imperan los objetos conectados a Internet y la capacidad de procesar ingentes cantidades de información de forma lógica, el Derecho no puede permanecer impasible. La doctrina nacional e internacional, y también el legislador europeo, han puesto el foco de forma muy especial en la inteligencia artificial, gran tendencia actual tal y como acredita la atención que los mercados le están prestando y las ayudas públicas a investigaciones relacionadas, así que no es de extrañar que los informes de prestigiosas firmas le auguren un crecimiento imparable a lo largo de la próxima década

Por su parte, la Comisión Europea publicó el 21 de abril de 2021 la propuesta de Reglamento europeo sobre el uso de la Inteligencia Artificial[1]. El objetivo de este nuevo instrumento creado ad hoc para la inteligencia artificial es garantizar que los europeos puedan confiar en lo que la inteligencia artificial puede ofrecer, permitiendo las mejoras técnicas a la par que reforzando la tutela de los derechos fundamentales frente a los riesgos que puede comportar el uso de herramientas o sistemas basados en inteligencia artificial.

Se persigue acabar con un escenario normativo atomizado, combinando y armonizando las distintas disposiciones con una vocación sistemática y coherente, junto a un nuevo plan coordinado con la participación de los distintos Estados miembros. Con ello se pretende, de un lado, garantizar la seguridad y los derechos fundamentales de las personas y las empresas, y del otro, reforzar la adopción e impulsar la inversión y la innovación en materia de inteligencia artificial en toda la UE.

Este es el contexto en el que se publica la obra colectiva que la doctrina italiana, y más concretamente, los doctores Fabio Basile, Mario Caterini y Sabato Romano, han coordinado con éxito recientemente. Una obra necesaria, puesto que cubre una laguna evidente, en un momento especialmente oportuno, en el que el legislador europeo parece lanzado a aprobar un texto normativo con vocación sistematizadora, y cuya propuesta, sin ir más lejos, ya ha recibido críticas por parte de la doctrina más especializada por la falta de protección específica de los derechos de los consumidores, al ser demasiado dependiente de las propias valoraciones de la industria y contemplar demasiadas excepciones, y por no reconocer un derecho a obtener indemnización frente a los daños causados por la tecnología.

La obra que tengo el placer de reseñar parte de un enfoque muy concreto en este ámbito, relativo al posible impacto de la neurociencia y la inteligencia artificial en materia penal, y lo hace recogiendo trabajos que provienen de enfoques, ángulos o campos de conocimiento bien diferenciados, con el fin de cubrir la inevitable multidisciplinariedad de los temas.

II. ESTRUCTURA Y CONTRIBUCIONES

Las contribuciones que recoge la obra están divididas en tres partes claramente diferenciadas, para circunscribir mejor los temas y también porque son objeto de animados debates multidisciplinares, inevitables por el hecho de que se trata de temas que involucran a diferentes ramas del conocimiento científico.

La complejidad de un estudio crítico sobre la naturaleza y los límites de la neurociencia y la inteligencia artificial en materia penal es elevada, porque se trata de conjugar los requisitos definidos ex lege, y lo cierto es que el factor humano delimita los límites y la irrepetibilidad de toda elección a realizar. Sucede con todos los poderes, del legislativo al judicial, con los postulados de la ciencia en los que prima la recolección y elaboración lógico-matemática de datos empíricos cuantitativos, capaces de alcanzar resultados predecibles.

En este complejo escenario, la obra trata de resolver desde una perspectiva jurídico-penal una cuestión que se plantea con prístina claridad: ¿qué certeza científica, objetivamente verificable y reconocible, acompaña la entrada y permite el uso de la neurociencia y la inteligencia artificial en el sistema penal?

La hipótesis de partida formulada por los tres coordinadores de la obra es que existen indubitados puntos de encuentro entre el derecho penal y la inteligencia artificial; sin embargo, resulta necesario probar su impacto con categorías dogmáticas y con los nuevos paradigmas de responsabilidad penal que se vislumbran en el horizonte, a la par que verificar su posible uso por parte de jueces y magistrados, partiendo de una correcta comprensión del funcionamiento de los algoritmos y del grado de fiabilidad de los resultados que estos proyectan.

Para tratar de responder esa cuestión que, a su vez, se atomiza en muchos interrogantes, los coordinadores diseñaron una obra dividida en tres partes claramente diferenciadas: la primera, para analizar la potencialidad y los efectos de los sistemas de inteligencia artificial en el sistema penal; la segunda, con el propósito de analizar derecho penal bajo el escrutinio de la neurociencia; finalmente, la tercera, con un visión sistemática que recoge contribuciones propias de una concepción teórico epistemológica, que privilegia la complejidad, desde la articulación de diferentes planos temporales y espaciales, que ayudan a comprender e identificar el fenómeno del avance tecnológico y de la inteligencia artificial con sus múltiples significados.

La experiencia que un servidor atesora en la coordinación de obras colectivas, siete hasta la fecha, me permite alertar a los potenciales y futuros lectores de una obviedad: cualquier obra de estas características se enfrenta al reto de la heterogeneidad de las contribuciones, tanto por lo que se refiere al contenido como a la calidad de las contribuciones. Sin embargo, en esta ocasión, quién suscribe estas líneas, a lo largo de lectura de la obra reseñada, no se ha percatado de estridencias ni disonancias, muy habituales hoy en determinadas obras colectivas, propias de contribuciones forzadas o de obras que enmascaran libros de actas. Lo cual debe, en esta ocasión, necesariamente, vincularse a una brillante dirección por parte de los tres coordinadores, que diseñaron metodológicamente las tres partes claramente diferenciadas y los temas que querían abordar ex ante y que planificaron cuidadosamente y escogieron con sumo detalle los autores cuya trayectoria y experiencia les permitiera abordar con éxito la misión encomendada.

En la primera parte, el punto de partida es la constatación de que la inteligencia artificial está en todas partes. Abre el libro un capítulo de Fabio Basile, uno de los coordinadores de la obra, que previamente había escrito sobre el tema un artículo de revista[2] de obligada referencia para cualquiera que quiera acercarse al estudio de la inteligencia artificial y su relación con el Derecho, ya sea en Italia o en cualquier otra parte del planeta.

El capítulo de Fabio Basile plantea y ofrece un posicionamiento decido sobre cuestiones importantes para el Derecho penal, tales como el uso de la inteligencia artificial para la aplicación de la ley y la prevención del delito, mediante la llamada policía predictiva; el empleo de los algoritmos en los procesos decisiones, reemplazando, total o parcialmente, la decisión del juez-juez; conectado con lo anterior, los algoritmos predictivos para la valoración del riesgo, utilizados para calcular y evaluar la peligrosidad criminal de un interno; finalmente, las posibles hipótesis de participación —como herramienta, como autor o como víctima— de un sistema de inteligencia artificial en la comisión de un delito.

La contribución de Fabio Basile, además, plantea los interrogantes que luego otros autores enfrentaran y trataran de resolver en esta primera parte de la obra. Francesco Fotia estudia los problemas que proyecta el aprendizaje autónomo de los algoritmos, el llamado machine learning, y las derivadas de la falta de transparencia y explicabilidad de algo que muta y se transforma sin que el autor del código conozca las razones; Elio Lo Monte, por su parte, se centra en la responsabilidad penal de las máquinas y de las consecuencias de lo que dicta el algoritmo, reflexionando en torno al paradigmático caso del coche autónomo; Giulia Rizzo Minelli, como continuación del anterior, explora la comisión delictiva por parte los robots y los problemas de imputación en un sistema penal que, como el nuestro, castiga conductas humanas.

La siguiente contribución es la de Mario Caterini, experto en la materia con publicaciones anteriores que lo convierten en un indiscutible referente en la materia[3]. En el texto el autor advierte que sus conclusiones relativas a un hipotético futuro juicio robótico que involucre cuestiones jurídicas están pensadas específicamente para la jurisdicción penal. Si bien el autor acepta que los jueces, en tanto seres humanos, no siempre proporcionan pruebas de una racionalidad jurídica apreciable y motivación bastante, constata que la alternativa proporcionada por un sistema de inteligencia artificial que proyecta decisiones probablemente frustraría aún más las garantías del individuo. Lo anterior especialmente en relación con los principios del favor rei, la presunción de inocencia —en su vertiente in dubio interpretatio pro reo— y el estándar del «más allá de toda duda razonable», como garantías de todo proceso penal.

No podemos dejar de compartir las reflexiones de Mario Caterini. En otro foro hemos defendido la imposibilidad de substituir el juicio jurisdiccional por el juicio robótico o los algoritmos inteligentes[4], entre otras razones, por expreso mandato constitucional ex art. 117.1 de la CE, que reserva tal función de forma exclusiva a jueces y magistrados. Sin embargo, Mario Caterini sí vislumbra un futuro de cambios legislativos en los que, en caso de querer substituir al juzgador por un algoritmo inteligente, advierte: el legislador sólo solo podría hacerlo en vista de una sentencia absolutoria o más favorable que las otras posibles debido a meros precedentes jurisprudenciales.

Compartimos la advertencia que, además, viene acompañada de un enfoque realista de la cuestión, que coincide con las tesis que un servidor ha publicado. La inteligencia artificial no debe emplearse para reemplazar al juez, sino para auxiliar al magistrado, una mezcla entre humanitas y techne, propia de un derecho penal sinestésico, útil para reducir los tiempos de respuesta. de la autoridad judicial, para mejorar la previsibilidad en la aplicación de la ley y asegurar la uniformidad de los pronunciamientos judiciales. Especialmente útil es, a nuestro juicio, para tomar decisiones judiciales que hoy, lamentablemente, los jueces adoptan en el vacío, por tratarse de medidas cautelares personales que, anticipan el juicio jurisdiccional propiamente dicho.

A continuación, encontramos el capítulo de Sabato Romano, con un enfoque eminentemente práctico y que, además de destacar el impacto que ya puede tener la inteligencia artificial en la práctica judicial, en referencia a la reciente intervención reguladora europea, vislumbra lo que podría suceder al insertar mecanismos artificiales en un sistema penal ya consagrado a la posmodernidad.

Cierra la primera parte Juliana Vivar Vera con análisis y estudio de lo que pueden aportar los algoritmos al proceso decisorio de dictar o fallar en una sentencia penal.

La segunda parte incorpora reflexiones específicas sobre la contribución efectiva de la neurociencia, sobre la relación real entre causalidad mental y culpa reguladora, sobre la existencia de la imputabilidad de los adictos al alcohol y sobre la mala conducta intencionada revisitada con la ayuda de la neurociencia, que también caen dentro de este arquetipo. Incluye los trabajos de Maristella Amisano, Antonio Nappi, Maria Beatrice Magro, Adelmo Manna y Pierluigi Guercia, y, finalmente, de Mattia di Florio y Giandomenico Salcuni.

La tercera parte, dedicada como decíamos a la perspectiva epistemológica, completa el estudio con tres trabajos obra de Francesco Schiaffo, Serena Ucci y Francesco Barresi. Se analizan cuestiones de sumo interés como el poder punitivo y el poder disciplinario y su ejercicio por parte de un algoritmo, con los efectos que despliegan las decisiones automatizadas sobre los derechos de las personas; también, el peligro abstracto bajo el escrutinio de las ciencias empíricas.

III. RECAPITULANDO

Son muchos los interrogantes y problemas que el empleo de la inteligencia artificial plantea para el Derecho, en general, y para el Derecho penal, en particular. Las cuestiones relativas a la responsabilidad penal y los delitos cometidos por máquinas han sido abordadas con premura por la doctrina nacional e internacional, si bien, parece que ese día aún está lejos. En cambio, los avances en sistemas de procesamiento masivo de datos, como el Big Data, y la capacidad de ciertos algoritmos de emular el juicio humano, a veces jurisdiccional, teniendo en cuenta muchas más variables, es una técnica ya presente en algunos sistemas donde la clave pasa por acertar en la valoración del riesgo de comisión delictiva futura o en la detección de un foco de riesgo concreto.

La oportunidad es notable, y no podemos permanecer de brazos cruzados. Algunos sistemas se emplean por ejemplo en sistemas penitenciarios, tales como COMPAS y HART, y predicen el riesgo de reiteración delictiva, cuyos resultados pueden resultar de mucha utilidad como elemento auxiliar de la valoración, en este caso, que realizan equipos técnicos, juntas de tratamiento y jueces de vigilancia penitenciaria.

La inteligencia artificial puede ayudar y auxiliar el noble ejercicio humano de la función jurisdiccional. Se trata de hacerlo con garantías para los derechos de las personas, garantizando el control humano (del juzgador si se trata del proceso decisorio de impartir justicia) sobre el algoritmo, su trazabilidad, transparencia, explicabilidad y auditabilidad. En este ambicioso escenario futuro, debemos contar con profesionales preparados para afrontar el reto de la necesaria transformación digital de nuestra administración de justicia. Aquellos que quieran formar parte de tal transformación y asesorar y liderar el cambio, deberán contar y tener en cuenta la obra que han coordinado los doctores Fabio Basile, Mario Caterini y Sabato Romano, que un servidor ha tenido el placer de reseñar.

Pere Simón Castellano

Profesor Contratado Doctor

Universidad Internacional de la Rioja UNIR

Abogado of counsel Font Advocats

---