Los retos de la inteligencia artificial (IA) en la toma de decisiones judiciales

La sentencia T-323 de 2024 del pasado de 2 de agosto, de la Corte Constitucional de Colombia, marcó un hito histórico.  Por primera vez la Corte se pronunció sobre el uso de la inteligencia artificial (IA) en el contexto de la decisión judicial.

La tutela había sido resuelta por el Juzgado Primero Laboral de Cartagena a favor de un menor con autismo, quien había  presentado una tutela contra su EPS por negarle el servicio de salud integral que requería. El menor alegaba que no podía pagar las cuotas moderadoras y copagos exigidos. 

A pesar de que se trata de un caso bastante común, lo que marcó la diferencia fue que el juez hizo uso de Chat GPT, un chatbot basado en IA, para tomar su decisión. Y justificó la legalidad de su actuación con base en la Ley 2213 de 2022 que autoriza el uso de las tecnologías de la información y comunicación en la función judicial.

La sala de revisión de la Corte Constitucional seleccionó el caso por considerar que el tema era de actualidad.  

En su revisión confirmó en parte la decisión del juzgado, pero manifestó su preocupación por el uso  de la IA en la toma de decisiones judiciales que afectan derechos fundamentales, previno sobre los riesgos asociados al uso de esta tecnología, y exhortó a  los jueces “(…) para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.” 

También estableció que los funcionarios y empleados de la Rama Judicial en el uso de las tecnologías de la información y la comunicación debían aplicar “los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad”. 

Sin duda alguna este precedente judicial abrirá la puerta en Colombia para el uso de la IA en el ámbito de las decisiones judiciales. Una tendencia creciente en otros países, donde  la IA  ya se utiliza con diversos fines, como la automatización de procesos, la predicción de resultados, la asistencia a la prueba, la resolución de conflictos o la generación de documentos. Algunos ejemplos de aplicaciones de la IA en el ámbito judicial son los siguientes:

• ROSS, un sistema que funciona como un asistente legal, capaz de responder a preguntas jurídicas, realizar investigaciones, redactar documentos o analizar casos.
• COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un modelo que evalúa el riesgo de reincidencia de los delincuentes, y que se utiliza para orientar las decisiones de los jueces sobre la libertad condicional, la fianza o la sentencia.
• EQUIVANT, una herramienta que ayuda a los jueces a determinar la pena más adecuada para cada caso, basándose en una serie de factores como la gravedad del delito, el historial del delincuente o el impacto social.
• ODR (Online Dispute Resolution), un sistema que facilita la resolución de conflictos en línea, mediante la mediación, el arbitraje o la negociación entre las partes.

La utilización de estas herramientas, sin embargo, no ha estado exenta de críticas a pesar de que se reconoce que el uso de la IA puede tener beneficios tanto para el juez como para la sociedad. 

En efecto, se ha señalado que el empleo de la IA para la toma de decisiones judiciales puede afectar   la independencia y la responsabilidad del juez, al condicionar o sustituir su criterio, o al dificultar el control y la revisión de sus decisiones, especialmente si la IA es opaca, compleja o incomprensible. También puede vulnerar los derechos y garantías de las partes, al generar sesgos, discriminaciones, arbitrariedades o injusticias, especialmente cuando los datos son incompletos, erróneos o tendenciosos, o si no respeta los principios y valores jurídicos.  A lo que se le adiciona el hecho que puede generar conflictos éticos y legales, al plantear cuestiones que no están previstas o reguladas por el ordenamiento jurídico, o que entran en contradicción con el mismo, especialmente si la IA actúa de forma autónoma, imprevisible o incoherente. 

Por todo ello, se hace necesario contar con medidas y criterios que garanticen el uso ético y responsable de la IA en el ámbito judicial, y que eviten o minimicen sus posibles riesgos y consecuencias negativas. Estas medidas deben tener en cuenta tanto las características y necesidades de cada contexto y aplicación, como los principios y valores que rigen el sistema jurídico y el Estado de derecho. Además, deben fomentar la participación, la transparencia y la explicabilidad de la IA, y asegurar el respeto de los derechos y garantías de las partes y de la sociedad en general. Solo así se podrá aprovechar el potencial de la IA para mejorar la eficiencia, la calidad y la justicia de las decisiones judiciales, así como para fortalecer la confianza y la legitimidad del poder judicial.