Dentro del propio proceso judicial tienen lugar muchas operaciones que consisten en la mera comprobación de supuestos fácticos para la producción posterior de un efecto jurídico determinado. Se trata de actos que en la práctica ya se realizan de forma mecánica por los operadores jurídicos, como admitir una demanda, dar traslado a las partes, comprobar la existencia de litispendencia, conceder o denegar determinadas medidas cautelares en el proceso civil o resolver cuestiones de competencia o jurisdicción, entre otras. De hecho, la gran mayoría de las actuaciones en un proceso judicial son de este tipo y es difícil percibir en ellas una intervención humana que no pueda ser automatizada por un sistema de inteligencia artificial (Nieva Fenoll, 2018a, pp. 33 y ss.).
1.2.2 Límites de la inteligencia artificial
1.2.2.1 Límites propios de la técnica
Al margen de todas las oportunidades que ofrecen los sistemas de inteligencia artificial, lo cierto es que no están libres de limitaciones. Un aspecto que interesa especialmente en el ámbito del derecho son los problemas derivados de los sesgos (biases) de las aplicaciones de inteligencia artificial, que han sido objeto de profundo análisis desde el campo de la informática y la ciencia computacional.
Se han detectado, en primer lugar, disfunciones relacionadas con la configuración de los algoritmos. En este proceso, los programadores deben decidir cuáles son aquellas variables en las que basarán sus algoritmos. Por ejemplo, en la elaboración de un algoritmo para el proceso de selección de una universidad se debe decidir a qué méritos se dará importancia o si algunos méritos obtendrán una ponderación mayor que otros. Se puede decidir, por tanto, que se seleccionará a personas con una calificación académica determinada, que presenten un mayor número de cartas de recomendación, acrediten nivel de idiomas o que hayan realizado algún tipo de acción social. De la correcta elaboración del algoritmo y la adecuada selección de las variables dependerá que los resultados arrojados sean los más cercanos al objetivo buscado. Pues bien, en la selección de estos datos pueden existir sesgos discriminatorios, como los que se han detectado en algunas aplicaciones usadas para la predicción del riesgo de reincidencia de algunos delincuentes, que otorgaban un porcentaje diferente en función de la clase social o la raza (Tolan et al., 2019).
También se han detectado sesgos históricos provocados por tomar en consideración premisas basadas en sucesos pasados interpretados erróneamente, con lo cual se perpetúa una tendencia fundamentada en presupuestos falsos. También se ha alertado el riesgo de usar, para la determinación de algunas variables, categorías de datos que, pese a no ser las óptimas ni las más representativas, son las más fáciles de conseguir por los sistemas de inteligencia artificial. Se produce, entonces, una simplificación de la realidad que podría conducir a resultados poco rigurosos (Roselli, Matthews y Talagala, 2019).
Una segunda problemática está vinculada con la calidad de la información al alcance de dichos sistemas. Es fundamental que los datos se actualicen constantemente porque la caducidad de la información utilizada o de una parte de ella supondría el desfase de los resultados. Asimismo, se ha advertido del peligro de trabajar con datos susceptibles de manipulación o ambiguos y se ha puesto de relieve que los sistemas de machine learning o aprendizaje automático tienden a establecer con frecuencia correlaciones y generalizaciones desviadas que se deben redirigir mediante mecanismos de corrección de los resultados (Roselli et al., 2019).
1.2.2.2 Conflictos con la dinámica del proceso judicial
El trato individualizado de los casos
En un proceso judicial existe un factor humano esencial que garantiza tanto el buen desarrollo del proceso como el respeto a las decisiones adoptadas: la confianza de los ciudadanos en el sistema de justicia. Los seres humanos desconfiamos de aquello que no conocemos o que es ajeno a nuestra especie. En consecuencia, es normal que mostremos reticencia a que un sistema desconocido resuelva asuntos que afectan considerablemente nuestra esfera personal, como un conflicto privado con terceros o la declaración de que hemos cometido un delito con la consecuente pena que pueda tener asociada.
Cuando se trata de asuntos de entidad, confiamos más en aquello cuyo funcionamiento conocemos que en algo desconocido, por mucho que nos aseguren que es altamente fiable. Además, el interés personal subyacente suscita en el ciudadano la necesidad de convencerse de que su caso ha sido tratado con la atención que merece, de forma individualizada y luego de tomar en cuenta todas las variables. El ciudadano confía en que un operador jurídico humano podrá entenderle mejor y atender a las circunstancias particulares de su caso que, en realidad, es lo único que le importa cuando acude a la justicia (Citron, 2007).
No se puede, por tanto, aplicar de forma precipitada sistemas de inteligencia artificial que los ciudadanos no entiendan en un proceso judicial porque se podría menoscabar su confianza en el sistema, que no es un tema menor en una democracia. El modo de reforzar esta confianza es, en primer lugar, demostrar a la ciudadanía, mediante una incorporación progresiva, que en muchos aspectos del proceso e incluso en determinados procesos civiles de poca complejidad, las máquinas presentan un grado de acierto mucho mayor que los seres humanos.
En segundo lugar, es fundamental identificar el elemento humano que realmente debe seguir existiendo en el proceso judicial, no únicamente porque transmite confianza a la ciudadanía, sino porque verdaderamente supone un valor añadido respecto a los sistemas de inteligencia artificial en lo que respecta a la corrección de las decisiones judiciales. Se trata de la necesidad de atender a las circunstancias de cada caso concreto y delimitar los hechos probados de forma individualizada. Los sistemas de inteligencia artificial tienen un grado de acierto elevado, pero funcionan por mecanismos estadísticos. En el análisis de cualquier situación, detectan los elementos presentes y los ponen en relación con casos anteriores con el fin de arrojar un resultado probable en función de lo que ha sucedido en otras ocasiones (Barfield y Pagallo, 2018).
En el proceso civil, esto podría ser conflictivo, pero en el proceso penal entran en juego, además, derechos fundamentales que son objeto de una elevada protección. Cuando se trata de sugerir una compra de un producto por internet a un cliente determinado, si la herramienta de inteligencia artificial no acierta en un caso concreto no tiene la más mínima importancia. Si se trata de la resolución de un caso penal o de la libertad de una persona, la aplicación de la estadística puede conducir a generalizaciones que vulneren la presunción de inocencia y restrinjan infundadamente derechos fundamentales de los ciudadanos.
Razonamiento abstracto y creatividad
En ocasiones, se ha podido llegar a pensar que en el momento en que las máquinas fueran capaces de procesar datos y extraer conclusiones lógicas y coherentes, podrían contener la inteligencia propia de los humanos y sustituirles en la mayoría de sus funciones. Esta afirmación, sin embargo, está todavía lejos de la realidad. La inteligencia artificial se basa sencillamente en el cruce de información, con sujeción plena a los algoritmos que la configuran y a los patrones estadísticos que es capaz de identificar con la información que tiene a su alcance. Por tanto, todo lo que el sistema pueda decidir, por muy complejo que sea y por muchas variables a las que atienda, jamás podrá ir más allá de las posibilidades para las que está programado, por lo cual actuaría sujeto a una suerte de principio de necesidad, con lo que eliminaría cualquier resquicio de libre albedrío (Bringsjord, Bello y Ferrucci, 2001).
En el proceso judicial existen muchas operaciones que se basan en una cadena de comprobación de hechos que se pueden corroborar fácilmente si se tiene la información adecuada en bases de datos fiables. Sin embargo, la automatización del proceso judicial adquiere mayor complejidad cuando se trata de averiguar y reconstruir un supuesto de hecho incierto. Nos referimos a la actividad que deben realizar los jueces para fijar