El ChatGPT contribuyó a resolver dos casos judiciales, pero su uso en la Rama Judicial podría deteriorar la calidad de los fallos.
Olga Lucía Camacho*
Dos casos judiciales
¿Las nuevas tecnologías transformarán la Rama Judicial? Dos decisiones judiciales dieron la vuelta al mundo recientemente:
- En Cartagena se decidió una acción de tutela con ChatGTP que eximió de los copagos de salud a un menor de edad con autismo;
- En Santa Marta se usó el ChatGPT para resolver dudas en una decisión que programó una audiencia de reparación que tuvo lugar en el metaverso.
Conversación automática
ChatGPT es un generador de texto que simula una conversación, con preguntas y respuestas, entre el usuario y la inteligencia artificial. No es comparable con Google, por ejemplo, al que acudimos con búsquedas como “tutelas de menores de edad y copagos de salud en Colombia” o “qué es el metaverso”, y obtenemos los links a los contenidos en línea más relevantes.
Muchos temen que el uso de la inteligencia artificial en la justicia podría sustituir a los jueces, esto por ahora es improbable —según el estado del arte tecnológico—. Sin embargo, un riesgo real tiene que ver con el posible relajamiento de las tareas básicas pero esenciales para resolver casos.
ChatGPT es otra cosa. No es un motor de búsqueda, sino una herramienta conversacional. Esta inteligencia artificial puede dar información falsa o imprecisa, así que la persona debe juzgar su valor, utilidad y veracidad —algo que, por cierto, convendría aplicar a toda información que se obtiene en línea—. Basa sus resultados en la predicción de texto fruto de las bases de datos con las que el chat ha sido entrenado: bases de datos con sesgos, estereotipos, desinformación o vacíos.
Cuestionemos el entusiasmo por la IA
Hay que ir más allá del entusiasmo de muchos que ven cómo la justicia parece dar verdaderos saltos en la transformación digital con la inteligencia artificial y en el metaverso. Estos entusiastas—por cierto— no han tenido que vérselas con el sistema de información de procesos de la Rama Judicial, pues opinarían otra cosa.
Más allá de las promesas grandilocuentes, hay que revisar críticamente ambos casos.
Sobre el uso judicial de ChatGPT otros abogados ya han advertido que:
- sería superfluo si el juez o jueza no tiene claro qué problema quiere resolver con su uso;
- existen sesgos en la herramienta, pero también en los jueces que confiaron excesivamente en esta;
- la falta de alfabetización digital de los jueces: se inclinaron hacia una tecnología disruptiva, pero demostraron en cada caso que no saben muy bien cómo (no) funciona.
Sobre el metaverso quizá convenga reflexionar después, a partir de los aprendizajes y frustraciones que ha dejado la justicia vía Zoom durante la pandemia (y mucho antes, la justicia sin rostro), pues ambas herramientas dejan preguntas parecidas.
El uso de ChatGPT en la Rama Judicial
ChatGPT es una tecnología disruptiva para la justicia, al menos por dos motivos en apariencia simples, pero con profundas implicaciones futuras:
- Relajar las tareas esenciales en la impartición de justicia
Muchos temen que el uso de la inteligencia artificial en la justicia podría sustituir a los jueces, esto por ahora es improbable —según el estado del arte tecnológico—. Sin embargo, un riesgo real tiene que ver con el posible relajamiento de las tareas básicas pero esenciales para resolver casos, como:
- la investigación;
- contrastar fuentes normativas, jurisprudenciales y doctrinarias
- y la escritura del fallo con precisión lógica, jurídica y fáctica.
Si un juez eleva una pregunta legal a ChatGPT, este arrojará un texto en perfecta jerga jurídica; pero se tratará de un texto carente de la precisión normativa esperada.
Por ejemplo, en el caso fallado en Cartagena:
Juez: “¿La jurisprudencia de la corte constitucional [sic] ha tomado decisiones favorables en casos similares?”
ChatGPT: “Sí, es cierto. La Corte Constitucional de Colombia ha tomado decisiones favorables en casos similares relacionados con la exoneración de cuotas moderadoras para personas con diagnóstico de autismo.”
Pero y ¿a cuál jurisprudencia alude el ChatGPT? El deber de responder a esta pregunta no es de la herramienta, sino del juez que —como en efecto sucedió— relajó la diligencia debida en la búsqueda y análisis sobre la jurisprudencia que favorecería al menor de edad involucrado.
En ese caso, el juzgador debe saber cómo usar y cómo no usar una herramienta. Una herramienta inofensiva se vuelve peligrosa cuando se usa sin tener idea para qué sirve o cómo funciona.
Visto así, ¿qué escrutinio resisten las decisiones judiciales que niegan o garantizan derechos bajo el argumento “la Corte lo dice” sin que medie ni la cita ni el análisis de esas decisiones? Exacto: ninguno.
- Puede deteriorarse la calidad de los fallos
Fruto del relajamiento de tareas como la investigación y el análisis jurisprudencial o normativa, habría que inferir que dichos fallos no serían acordes al derecho pues no se apoyarían en piezas de legislación o jurisprudencia que las partes puedan comprobar, verificar o cuestionar, por lo que incumplirían los principios de legalidad, contradicción y debido proceso, y un largo etc. Además, se fundamentarían en un argumento de autoridad mediocre: “lo que dice ChatGPT que dice la Corte”.
¿Es esa la justicia que soñamos?
La tecnología cambia la forma en la que actuamos, pero también está destinada a cambiarnos a nosotros y a nuestras ideas. A veces se trata de un cambio profundo e irreversible ¿Qué cambiará esta tecnología en una tarea tan compleja como la de decidir sobre lo que es lo justo para otros?
El dilema del futuro
Con seguridad, otros jueces acudirán al ChatGPT para administrar justicia. Ojalá lo adviertan de manera transparente en sus fallos.
Pero ¿cómo enfrentar los problemas que rodean su uso?
Creo que debería suspenderse el uso del ChatGPT. No porque sea “experimental” —algún día dejará de serlo—, sino porque no hemos discutido cuál justicia queremos cuando intervienen tecnologías como la IA en el medio. Especialmente, no hemos discutido nuestras ideas sobre la justicia y cómo debe (o no) impartirse en estos tiempos en que se apunta a su plena digitalización.
Pero suelen desoírse los llamados a la prudencia, en especial cuando se trata de una tecnología de fácil uso y acceso. Por tanto, conviene suspender su uso; al menos, debe evitarse hasta que el Consejo Superior de la Judicatura decida cómo usarla, mediante una consulta pública —que debe involucrar a usuarios del sistema judicial, jueces, academia y sociedad civil—.
Lo que temo es que este tipo de conversaciones nos distraiga de otras tanto o más urgentes acerca de la transformación digital de la justicia.
Aún no hemos reconocido la importancia de la soberanía tecnológica de la Rama Judicial (imaginen que mañana apaguen YouTube y desaparezcan todas las audiencias que están allí grabadas) o de las capacidades de seguridad de la información (imaginen que alguien secuestre los expedientes digitales de todos los despachos judiciales en el país).
Creo que debería suspenderse el uso del ChatGPT. No porque sea “experimental” —algún día dejará de serlo—, sino porque no hemos discutido cuál justicia queremos cuando intervienen tecnologías como la IA en el medio. Especialmente, no hemos discutido nuestras ideas sobre la justicia y cómo debe (o no) impartirse en estos tiempos en que se apunta a su plena digitalización.
¿Qué riesgos para la seguridad, privacidad, disponibilidad o confidencialidad de la información enfrenta nuestra justicia virtual? ¿Qué planes se han diseñado o deben diseñarse para afrontar las amenazas a su funcionamiento?
Mucho menos hemos abordado la brecha digital en la justicia. No tenemos información histórica o desagregada sobre cuál es el nivel de acceso de los jueces y usuarios de la justicia a tecnologías digitales, tipos de uso y habilidades digitales. Recordemos que en 2020 había jueces que no sabían usar Zoom, usuarios que no tenían un dispositivo para conectarse a una audiencia virtual o litigantes que no sabían cómo consultar el expediente en línea.
Entonces, ¿conviene depositar todas las expectativas de cambio en el poder de un chat inteligente? Hay que avanzar en la conversación más allá de los titulares de prensa. Primero, empecemos por formular todas las preguntas y luego dediquémonos entre todos a responderlas.
