Retos de la implementación de inteligencia artificial en la Supersociedades

Dado que la Superintendencia de Sociedades incorporó como asesor al robot “Siarelis” a su Delegatura de Procedimientos Mercantiles, se busca a través de este artículo indagar sobre las problemáticas que dicha incorporación propone al ordenamiento jurídico.

 

Con motivo de la incorporación de nuevas tecnologías, es dable afirmar que entre nosotros la “Cuarta revolución digital” ya es una realidad. (Oliván Cortés, 2016). Nuevos sistemas y aplicaciones surgen de forma inusitada, y las instituciones del Estado no son ajenas a estas realidades. Sin embargo, el robot como el que incorporó la Superintendencia en sus procedimientos sugiere reflexiones.

 

En Colombia, la incorporación de sistemas de inteligencia artificial es incipiente. La Fiscalía General de la Nación realizó un primer ensayo, que funge como precedente en el país. A través de “Watson”, un operador informático que opera para identificar y asociar conductas criminalísticas, la Fiscalía realiza un proceso de sistematización criminal, dentro del Sistema Penal Acusatorio. Ahora, la pregunta radica en saber si Siarelis replicara este esquema existente o si desarrollara, más bien, uno autónomo.

 

Con base en dichas premisas, el presente escrito se desarrollará, en dos partes. Por un lado, se hará (i) una explicación de cómo opera este sistema; para (ii) poner de presente algunas vicisitudes que encontramos pertinentes al respecto.

 

1. Siarelis, el nuevo juez de la Supersociedades

 

En su boletín jurídico de septiembre de 2018, la Superintendencia de Sociedades indica que el robot Siarelis “asesora a la Delegatura (…) a la hora de decidir sobre casos de conflicto”. Según el exsuperintendente Francisco Reyes, “esta innovación pone al país como pionero mundial en la revolución digital de la justicia, permite una justicia más ágil y transparente y abre las puertas a las posibilidades inmensas de la Inteligencia Artificial”.

 

En palabras de la entidad, el robot consulta al juez sobre los hechos del caso, y, luego de recopilada la información, da una respuesta específica, junto con la recopilación de sentencias más pertinente. Funge además como redactor de las decisiones del juez, puesto que permite escribir los borradores de autos y sentencias.

 

Resaltamos una preocupación: que esta iniciativa se acople con las recomendaciones que ha sugerido el Foro Económico Mundial, sobre Justicia e infraestructura jurídica. Esta institución ha sostenido recientemente que “[diversos] sistemas legales propios de los gobiernos han sido incapaces de mantenerse al día frente a las transformaciones que incorporan la digitalización y la inteligencia artificial” (traducción propia). En virtud de este esfuerzo por parte de la Superintendencia de Sociedades, destacamos la voluntad de la entidad por mantenerse al día, en materia de tecnología.

 

1. Vicisitudes jurídicas sobre la incorporación de Siarelis

 

A nuestro juicio, si bien somos conscientes de la importancia que dichos operativos fungen y del rol que precisamente tomarán en la sociedad colombiana, consideramos adicionalmente necesario poner de presente circunstancias con el fin de permitir la mejor aplicación de éstos, sin atentar contra los fundamentos del Estado Social de Derecho actual.

 

Por otra parte, consideramos relevante hacer énfasis a un espectro constitucional que podría verse afectado, en virtud de la incorporación de estos sistemas. Entre otros, consideramos que podrían verse involucrados derechos fundamentales, como la dignidad humana y a la intimidad, previstos en los artículos 1 y 15 de la Constitución Política.

 

En efecto, en octubre 23 del presente año se acordó en Bruselas la Declaración sobre Ética y Protección de Datos, en Inteligencia Artificial. La Conferencia Internacional para la protección de la información y la privacidad de operadores, “notando que muchos stakeholders en el campo de la inteligencia artificial han expresado sus preocupaciones sobre los riesgos de usos indebidos en la inteligencia artificial, al igual que los peligros relacionados con la privacidad, la protección de datos y la dignidad humana, adopta la serie de principios que acordó” [traducción propia].

 

Si bien esta Conferencia apenas es una declaración conjunta de organismos internacionales que no son vinculantes para las decisiones del Estado Colombiano ni sus autoridades, resaltamos el esfuerzo que se ha hecho en la materia. Y más, tratándose de temas que están apenas siendo incorporados en el país a través de instituciones como la Superintendencia de Sociedades.

 

Consideramos que, dada la información a la que tendría acceso Siarelis, son aplicables los principios de imparcialidad, transparencia del sistema y privacidad por default, desarrollados por la Conferencia.

 

Sobre el principio de imparcialidad, sostiene la Conferencia que “el uso de los sistemas con base en inteligencia artificial debe mantenerse consistente con sus propósitos originales, y que la información sea usada de una manera no incompatible con su propósito original de recolección.

 

A propósito de la transparencia que debe regir al sistema, enfatiza en “la realización de continuos monitoreos y el análisis de impacto de la inteligencia artificial, y la revisión periódica de sus mecanismos de vigilancia”.

 

Finalmente, con el objetivo de que se busque una implementación efectiva, los mecanismos de transparencia e inteligibilidad con base en los cuales se basan los sistemas de Inteligencia Artificial deberían ser mejorados, a través de políticas como: (i) la inversión pública y privada de mecanismos que promuevan la investigación científica; (ii) la promoción de transparencia, inteligibilidad y alcance, de manera que se permitan formas innovativas de comunicación; (iii) la realización de prácticas entre organizaciones que sean cada vez más transparentes.