La incorporación de herramientas de inteligencia artificial en los sistemas judiciales abre una discusión que no puede reducirse a modernización o eficiencia. Cada avance tecnológico dentro del Estado merece una pregunta previa: ¿fortalece la libertad, autonomía y capacidad de poder llevar a cabo el proyecto de vida de las personas o amplía la capacidad de control institucional en contra de la ciudadanía?

A continuación, dejamos cinco puntos para la reflexión, a saber:

1. La tecnología no es neutral cuando se vuelve en un criterio de autoridad. Un algoritmo puede ordenar información, detectar patrones o agilizar tareas. El problema comienza cuando sus recomendaciones adquieren peso -como un criterio- utilizado de manera irracional y sin pensar en motivar adecuadamente las decisiones que afectan derechos de propiedad, llevar a cabo nuestras metas o, peor aún, que comprometa, amenace y afecte la libertad individual.
2. La opacidad es incompatible con una justicia legítima. Si no podemos comprender cómo se llegó a una conclusión determinada en una decisión, tampoco puede cuestionarse plenamente por qué se desconoce cómo se arribó a la sentencia que dicte. Los sistemas cerrados, cajas negras o modelos imposibles de auditar, erosionan derechos básicos como la defensas, la transparencia y, en general, los derechos fundamentales.
3. La automatización incentiva la despersonalización del poder. Cuando el funcionario se refugia en lo que indicó el sistema, la responsabilidad política y moral se diluye. La tecnología puede convertirse en una excusa del Poder Judicial para justificar decisiones sin asumir sus consecuencias y la posibilidad de exigir que se reparen los daños ocasionados
4. La eficiencia no siempre se traduce en mayores grados de justicia verdadera. Reducir tiempos y costos en las decisiones que se dicten es un objetivo legítimo, pero no una preocupación única y excluyente, ya que puede convertirse en la meta central del sistema judicial. Una justicia rápida y sin razonamientos, verdaderamente transparentes, es alejada del individuo, y pueden convertirse los criterios y medidores con más peso y autoridad las estadísticas -del número de decisiones dictadas en un tiempo determinado- desplazando la importancia de los derechos y libertades ciudadanas y la motivación de la sentencia.
5. Todo mecanismo de vigilancia institucional tiende a expandirse peligrosamente. Los sistemas de inteligencia artificial han sido creados como medio para ayudar al Juez en causas difíciles y, por tanto, excepcionales, pueden pasar desapercibidas con el transcurso del tiempo. Bases de datos, perfiles predictivos y análisis automatizados pueden terminar ampliando la capacidad del Estado para controlar conductas más allá de lo razonable y lo que los derechos fundamentales defienden y protegen.

La discusión sobre inteligencia artificial y justicia no debería centrarse únicamente en qué tan avanzada es la tecnología, sino en cuánto poder adicional concentra quien la administra. Una sociedad verdaderamente libre no necesita funcionarios reemplazados por algoritmos; necesita límites claros al poder (Estado de Derecho) y fortificarlos diaria y petreamente en favor de la democracia, la transparencia absoluta y que los ciudadanos sean capaces de cuestionar toda decisión que afecte sus derechos y exigir un justo resarcimiento por los daños que puedan recibir. La tecnología puede asistir a las personas, pero nunca debería trasladar su conciencia y capacidad intelectual, en los criterios adoptados por la inteligencia artificial y -mas grave es que estos sistemas- se conviertan en una autoridad incuestionable.

Sobre jueces de inteligencia artificial, pueden ver este vídeo en el que reseñamos una película distópica sobre este tema. Ver.