Principios de ética e inteligencia artificial

El día 23 de septiembre de 2020, en el Ciclo de Ética en Sistemas Inteligentes de la Academia Nacional de Ciencias de Buenos Aires, presenté la conferencia “Principios de Inteligencia Artificial y Ética por Diseño”.
La pregunta central formulada fue: ¿podemos/debemos construir agentes/sistemas inteligentes éticamente conscientes?
Existen dos visiones respecto de este tema,

1. la ética por regulación (regida por los principios de prevención y precaución), en donde la legislación regula y pone límites a los sistemas de inteligencia artificial existentes y
2. la ética por diseño, la cual busca incluir dentro del diseño mismo del sistema de inteligencia artificial (en sus algoritmos) el componente ético, es decir, que este queda embebido dentro del mismo sistema de inteligencia artificial.

De esta manera, el principio de prevención parece no ser tan eficiente frente al aprendizaje autónomo de las máquinas y el cada vez más complejo control efectivo sobre la toma de decisiones, la aplicación del principio de precaución parece demasiado limitativa y prohibitiva de los desarrollos aplicados de la inteligencia artificial por ejemplo en los vehículos autónomos, en los asistenties personles y en los botnets para asesoria financiera automatizada. El diseño preestablecido en los sistemas de inteligencia artificial puede ser una alternativa. Según el Principio 5 sobre inteligencia artificial de la OECD: “Las organizaciones y las personas que desarrollen, desplieguen o gestionen sistemas de IA deberán responder de su correcto funcionamiento en consonancia con los principios precedente. Este principio ratifica la responsabilidad de los diseñadores, encargados e inversionistas en los sistemas de inteligencia artificial.”

Pero, concretamente ¿qué es la ética por diseño?

Es un concepto proveniente de la privacidad by design, de la protección de datos, en donde la toma de decisión de la Inteligencia Artificial está embebida en el diseño mismo de ésta en sus algoritmos de manera tal que las decisiones que este tome involucren un componente ético.

Importancia de la Ética por Diseño

Una de las razones por las cuales la ética por diseño se está convirtiendo en esa tercera vía, al lado de la regulatoria y la preventiva o de precaución, es porque involucra principios, reglas y normas del propio código (utilizando la expresión del Profesor Larry Lessig) porque implica:

1. Accountability (Responsabilidad Demostrada):
   1. La rendición de cuentas implica la justificación frente a terceros interesados sobre la toma de decisiones en una organización.
   2. ¿Qué y cómo fue el origen o causa de la decisión que se tomó?
   3. El algoritmo de inteligencia artificial puede incorporar dentro de sí las funcionalidades que permitan detectar la manera como se decidió adoptar un curso de acción y tener una trazabilidad de dicha decisión. De esta manera, la Ética por diseño va de manera más amplia pues no sólo abarca el recaudo de datos personales sino la explicación ex post respecto de cualquier toma de decisiones por un sistema de inteligencia artificial y permite tener una trazabilidad de estos procesos de toma de decisión. El principio 3 de la OECD sobre Inteligencia Artificial establece: los sistemas de IA deben estar presididos por la transparencia y una divulgación responsable a fin de garantizar que las personas sepan cuándo están interactuando con ellos y puedan oponerse a los resultados de esa interacción.
2. Responsabilidad (liability):
   1. Capacidad de los sistemas de no sólo tomar la decisión sino también de que, en caso de causar un daño, de responder por esa decisión. Lo anterior implica, incorporar una capacidad de examen de las decisiones del sistema de Inteligencia Artificial y una capacidad de respuesta del mismo.
   2. Esto permite que la cadena de responsabilidad pueda ser definida y permite funcionalidades en la Inteligencia Artificial que permitan discernir sobre sus decisiones y de responder sobre las consecuencias que éstas generan.
   3. La ética por diseño se trata precisamente de anticiparse desde el diseño mismo de a Inteligencia Artificial a los posibles daños que ésta pueda causar en su proceso de toma de decisiones y que la funcionalidad misma permita corregir los errores cometidos por estos sistemas.
3. Transparencia:
   1. Este elemento permite el activismo respecto de los sistemas de Inteligencia Artificial, en el sentido de que al dejar una trazabilidad del proceso de toma de decisiones del sistema, esto permite que el sistema tenga un proceso de auto-aprendizaje y, a su vez, cumpla con su deber de información frente a terceros interesados.
   2. El deber de información muchas veces choca con el derecho a la confidencialidad, pero si pensamos en la transparencia y en la capacidad de responder por sus errores, es preferible que esté incorporado en el diseño de la Inteligencia Artificial y no a través de los mecanismos de precaución y prevención.

La ética por diseño representa una convergencia entre el concepto de diseño (legal design) y la arquitectura del sistema jurídico (sistema normativo tradicional), con el fin de ajustar la Inteligencia Artificial a los sistemas legales, pensar los procesos jurídicos de manera tridimensional.

Las aplicaciones de la ética por diseño deben complementarse con una interactividad humana. El algoritmo siempre debe tomar una decisión ética, pero siempre que se refiera a conceptos éticos le concedemos a la Inteligencia Artificial la capacidad de tomar decisiones complejas. En ese sentido, la interacción hombre-máquina debe ser más intensa en los casos límite en los cuales la decisión implica un juicio moral. La inteligencia artificial ha dejado de ser puramente rutinaria y mecánica y los sistemas de decisión automatizado van a tener una repercusión moral a medida de que van avanzando.

Problemas o cuestionamientos de la ética by design

De cualquier manera, el sistema de ética por diseño también tiene algunos problemas/cuestionamientos, tales como:

1. ¿Es o no viable? la viabilidad de este sistema ex ante esuna alternativa más sostenible en ese trade off entre la regulación y la prohibición.
2. Definir cuál es la norma correcta a aplicar y el valor es complejo. Pero este es el gran problema del derecho: axiología frente a lo normativo.
3. Cómo convertirlo en una decisión práctica que tenga efecto en estándares internacionales y locales de diseño y puesta en el mercado de los sistemas de inteligencia artificial

En conclusión ¿por qué incorporar el sistema de Ética por Diseño en la toma de decisiones de la Inteligencia Artificial?

La idea de la ética por diseño es anticipar sin prohibir, es decir, generar un sistema técnico-jurídico de responsabilidad ex ante y generar mayor información y mayores opciones de control sin necesidad de afectar el desarrollo de los sistemas de Inteligencia artificial.