BANDERAS ROJAS PARA LOS JUECES AL UTILIZAR INTELIGENCIA ARTIFICIAL GENERATIVA

El uso de la inteligencia artificial en el mundo contemporáneo es una realidad. Según la conclusión de The McKinsey Global Institute, la revolución de la IA es “diez veces más rápida y tiene una escala 300 veces mayor” que la Revolución Industrial (Vega Iracelay, 2018:18). Por lo tanto, la irrupción de esta en la administración de justicia no es una anomalía; sin embargo, sí implica un reto. Deben existir ciertas 'banderas rojas' que debe tener en cuenta el operador judicial para procurar un eficiente uso de esta herramienta indispensable en el mundo moderno, al final, la IA se presenta como una oportunidad de mejora y eficiencia en lo que a la justicia se refiere.

Con el fallo de sentencia emitido por el Tribunal Superior del Distrito Judicial de Pereira, sala de decisión penal, que se sepa, ya son dos las decisiones en las que nuestros togados se apoyan en la inteligencia artificial generativa para emitir sus fallos. Este avance no es un caso aislado al uso de la IA en la administración de justicia, de hecho, en países como China y Lituania ya se usa IA generativa para resolver procesos de pequeñas causas.

Consciente de esta tendencia, la presidenta del Consejo Superior de la Judicatura, la doctora Diana Remolina, manifestó que: “…buena parte del Plan de Transformación Digital y del Sistema Integrado de Gestión Judicial incluye componentes de inteligencia artificial. Estamos en un proceso de análisis sobre las distintas variables que tiene la inteligencia artificial y su incidencia en la administración de justicia, como, por ejemplo, la inteligencia artificial generativa.” Este proyecto estara en consonancia con lo establecido en el artículo 95 de la ley 270 de 1996, que establece que “El Consejo Superior de la Judicatura debe propender por la incorporación de tecnología de avanzada  al servicio de la administración de justicia…”

Asimismo, resulta pertinente destacar que el artículo 2 de La ley 2213 de 2022, faculta a los jueces a hacer uso idóneo de herramientas tecnológicas, dentro de la cual se podría contemplar la inteligencia artificial generativa, por lo cual su implementacion bajo la normativa vigente es permitida.

En el ámbito internacional, es importante destacar las posturas de organismos como la Unión Europea. El Consejo Europeo, en sus Conclusiones del 13 de octubre de 2020 sobre “Acceso a la Justicia: aprovechar las oportunidades de la digitalización”, ha reiterado la viabilidad del uso de la inteligencia artificial en el sector de la justicia. Sin embargo, es crucial considerar que, según la regulación para la inteligencia artificial en la Unión Europea, este tipo de tecnología conlleva riesgos significativos si no se utiliza adecuadamente. Por lo tanto, al emplear la inteligencia artificial generativa, los jueces deben tener encuenta ciertas advertencias o “banderas rojas”, dentro de las cuales consideramos como más relevantes las siguientes:

• Supervisión: Teniendo en cuenta antecedentes como el del juez de Cartagena que sustentó una acción de tutela con el apoyo de ChatGPT y del abogado en los Estados Unidos que presentó una solicitud para que no se desestimara un caso contra Avianca, en donde la herramienta se basó en información inexistente, específicamente en precedentes judiciales falsos. Los operadores judiciales deben tener en cuenta que la herramienta alucina, por ende, se debe ajustar el uso de la IA generativa a tareas específicas, tareas en donde el juez tenga cierta discrecionalidad al momento de definir como llevarlas a cabo, como, por ejemplo:
  • Análisis de jurisprudencia para facilitar la toma de decisiones de los tribunales.
  • El desarrollo de tareas reiterativas que se puedan presentar, por ejemplo, PROMETEA en Argentina es usada por la Fiscalía para la realización de dictámenes jurídicos, amparos habitacionales, conflictos de competencia, etc.
• Entrenamiento: La calidad de las respuestas que emita la inteligencia artificial generativa dependerán de la calidad de las preguntas y de la preparación que le hayamos brindado, cargando inicialmente ejemplos de la clase de documentos que queremos que proyecte, para que el resultado sea más pertinente. Al respecto, existen tutoriales supremamente enriquecedores sobre ingeniería de prompts.
• Información desactualizada: Asegúrense que la versión utilizada se base en información actualizada. En el caso de ChatGPT 3.5., su base de datos llega hasta el 2021, por ende, la información que arroje debe ser contrastada con la vigente actualmente.
• Habeas data: Actualmente cursan investigaciones en contra de OpenAI en California por una recolección masiva de datos sin consentimiento alguno de los usuarios. En Colombia, la Superintendencia de Industria y Comercio está investigando si ChatGPT cumple con las leyes de recolección de datos, ya que se sospecha que podría estar infringiendo los derechos de los usuarios al utilizar información obtenida de respuestas anteriores. Estas situaciones llevan a recomendar a los jueces evitar incluir datos sensibles en las preguntas o en los documentos cargados, relacionados con la identidad de las personas o información clave de los casos.

Así las cosas, es imprescindible que antes de aplicar herramientas de inteligencia artificial en sus decisiones de fondo, nuestros jueces tengan presente que han sido investidos de la facultad de administrar justicia por su integridad moral y su conocimiento de la ley, siendo deberes indelegables decidir y motivar la sentencia y demás providencias, según el Código General del Proceso artículo 42, numerales 6 y 7, respectivamente.

Para terminar, considerando el desarrollo actual de la inteligencia artificial generativa, la cual hasta el momento no ha alcanzado el nivel de razonamiento humano, es posible utilizar ese potencial para el desarrollo de herramientas destinadas a optimizar la gestión judicial. La implementación del expediente digital simplifica este proceso administrativo. En efecto, la aplicación de la inteligencia artificial en las decisiones procesales y no de fondo podría brindar posibilidades adicionales para facilitar y aumentar la eficiencia en las labores de los despachos judiciales, permitiendo así que los jueces y sus colaboradores se enfoquen primordialmente en los aspectos que demandan su discernimiento jurídico, razón fundamental de su designación.

Luis Alfonso Gómez Domínguez.

Docente investigador del Departamento de Derecho de los Negocios de la Universidad Externado de Colombia.

luis.gomez01@uexternado.edu.co

Juan Sebastián Ortiz Florez.

Integrante del grupo de investigación del Departamento de Derecho de los Negocios de la Universidad Externado de Colombia.

juan.ortiz22@est.uexternado.edu.co

 

BIBLIOGRAFÍA

Ortega Cruz, J. “La Inteligencia Artificial en la administración de la justicia.” Asuntos Legales. 2023. Consultado en abril de 2024. https://www.asuntoslegales.com.co/consultorio/la-inteligencia-artificial-en-la-administracion-de-la-justicia-3670413

Segura, R. (2023), Inteligencia artificial y administración de justicia: desafíos derivados del contexto latinoamericano. Bioética y Derecho.

Ámbito Jurídico. “Estamos analizando variables de inteligencia artificial y su incidencia en la administración de justicia.” De Ámbito Jurídico. Consultado en abril de 2024. https://www.ambitojuridico.com/noticias/personaje/administracion-publica/estamos-analizando-variables-de-inteligencia-artificial-y

Estevez, E., Fillottrani, P., & Linares, S. (2020). Transformando la administración de justicia con herramientas de inteligencia artificial. BID.

Cepeda, M., & Otálora, G. (2020). Modernización de la Administración de Justicia a través de la Inteligencia Artificial. Bogotá: Centro de Investigación Económica y Social.

Consejo Europeo. “Acceso a la Justicia: aprovechar las oportunidades de la digitalización.” Conclusiones del 13 de octubre de 2020. Consultado en abril de 2024.

Cernada, R. (2023). Inteligencia artificial y Justicia en la Unión Europea: statu quo y perspectivas de futuro. Universidad de Valencia.

Ortiz Fonnegra, María Isabel. “ChatGPT: primera sentencia que se hizo con inteligencia artificial en Colombia.” Editorial El Tiempo, febrero 3 de 2023. Consultado en https://www.eltiempo.com/justicia/servicios/juez-de-cartagena-uso-chatgpt-en-sentencia-de-tutela-739042

Ambito Jurídico. “SIC inició investigación a Chat GPT para determinar si cumple regulación de protección de datos personales.” Ambito Jurídico, 15 de Mayo de 2023. https://www.ambitojuridico.com/noticias/mercantil/sic-inicio-investigacion-chat-gpt-para-determinar-si-cumple-regulacion-de

Morales, Isabel. “Abogado usa inteligencia artificial en un caso y juez detecta sus mentiras.” CNN, Publicado a las 17:21 ET (21:21 GMT) 31 de mayo de 2023. https://cnnespanol.cnn.com/video/abogado-inteligencia-artificial-juez-dusa/#:~:text=El%20uso%20de%20ChatGPT%20le,antecedentes%20jurídicos%20expuestos%20eran%20falsos

“¿Por qué ocho periódicos de Estados Unidos demandaron a ChatGPT y Microsoft?” El Tiempo, abril 30 de 2024. https://www.eltiempo.com/mundo/eeuu-y-canada/por-que-ocho-periodicos-de-estados-unidos-demandaron-a-chatgpt-y-microsoft-3338904