Facultad de Derecho

15 de noviembre de 2019

Inteligencia Artificial, explicabilidad y la toma de decisiones.

  1. La aplicación de métodos científicos-analíticos a la información configura la Ciencia de los Datos. La producción, recolección y tratamiento de información y por ende, la posibilidad de obtener inferencias y evidencias sobre hechos es el resultado de la consolidación a escala global de las TIC, tecnologías de la información y las comunicaciones.

    La toma de decisiones puede tener efectos menores y limitados como la compra de un bien para uso personal o también decisiones macro en el ámbito corporativo o público, las cuales afectan a muchas personas.

    Precisamente las TIC son el supuesto de la revolución digital que es realmente una forma diferente de entender la información, la predictibilidad de las conductas y la explotación económica de la data mediante modelos de negocio o a través de una relación ciudadano-Gobierno mediada por las TIC.

    El control social por medio de la videovigilancia, la trazabilidad de nuestras actividades y hábitos por las empresas tecnológicas y la información que el Estado tiene de los ciudadanos en sus distintas facetas: tributarias, registrales, de estado civil, propiedad, entre otras.

    La capacidad de definir de manera autónoma depende siempre de un determinismo y una causalidad limitados. El espacio de la incertidumbre cada vez deviene más el resultado de la información incompleta más que de una verdadera libertad.

  2.  La estadística y la probabilidad de ocurrencia de un determinado hecho y sus efectos probables se miden de manera matemática (utilizada para el análisis de datos) y no por la mera intuición o por el azar. La ciencia informática entendida como la aplicación práctica de las TIC aporta también su método científico y nuevas herramientas como la inteligencia artificial, el Internet de las Cosas y Blockchain, entre otras tecnologías emergentes. La filosofía de la información (a la manera por ejemplo de Luciano Floridi) y la ontología del ser-información (en contraposición al ser y tiempo heideggeriano) contribuye a proporcionar las bases científicas del análisis de datos y de sus efectos sociales.
  3.  Las decisiones no necesariamente son racionales pero su ocurrencia se puede anticipar si se tiene suficiente información a disposición. La no razonabilidad (estar fuera de una regla) del sujeto en su actuar sirve como base para establecer la desviación en procesos regulatorios o en la responsabilidad jurídica.

    Aunque limitado al campo de la protección de datos, por ahora, la explicabilidad de los sistemas de información algorítmicos puede precisamente contribuir a una verdadera accountability de la lógica (o ilógica) propia de una toma “artificial” de decisiones.

  4.  Los sistemas de información y los algoritmos se han convertido en instrumentos poderosos para lograr analizar y tomar decisiones con base en lo que la información arroja como resultado óptimo. La información, lejos de ser escasa, se convierte en el insumo más importante para tomar decisiones corporativas, legales y regulatorias.
  5. Para el Derecho, la decisión por ejemplo en el ámbito contractual y regulatorio debe ser razonable. En el ámbito probatorio, el juez o árbitro reposaban su decisión en análisis probatorios en los cuales la información se procesaba a escala humana. Los sistemas de información permiten un análisis probatorio más completo que debe partir de criterios preestablecidos y no necesariamente trae consigo una decisión automática pero si una decisión con mejores posibilidades de análisis de información.
  6.  El estándar de razonabilidad de una decisión puede ser el resultado de un análisis objetivo de una cantidad de información relevante y no la mera interpretación subjetiva.

    El buen padre de familia decimonónico tiene un correlato objetivo de un proceder social aceptado de acuerdo con deberes objetivos de cuidado y la posición de garante en determinados roles sociales.

    Llegar a predecir estadísticamente una conducta culpable anticiparía la responsabilidad penal pero más bien podría juzgarse la acción u omisión con toda la información disponible sobre el real estado de cosas de su ocurrencia.

  7.  La regla de la discrecionalidad es el límite para que los jueces examinen el grado de diligencia con el que obraron los administradores de una sociedad al momento de ejercer las potestades propias de sus cargos en la compañía. Pero alejarse de un estándar analítico y probabilístico de información podría acarrear responsabilidad frente a los accionistas.
  8. En el futuro el estándar jurídico de muchas de las decisiones deberá  combinar los criterios de una máquina que ha aprendido y definido la objetividad en un tema específico (estándar de machine learning alimentado por la información relevante) y el criterio humano que debe sopesar el contexto de la revisión y los valores éticos involucrados. Estos dos últimos aspectos difícilmente -por lo menos a corto plazo- no deberían ser asumidos completamente por sistemas de información autónomos (por más “inteligentes” que sean).
  9. En suma, en la era de las máquinas de la predicción como se prefiere referir a una verdadera inteligencia artificial, la información tiene mayor costo, se produce más y quedan pocas barreras de entrada (algunas jurídicas como la protección de datos personales).

Artículos Recientes