Blog de la facultad de Derecho

14 de noviembre de 2017

Inteligencia Artificial y Ética (By Design)

Al igual que los productos de la biotecnología, los servicios de inteligencia artificial sólo tendrán sostenibilidad en el mercado si están asociados a: (1) mitigación de riesgos legales y (2) estándares éticos en su prestación y utilización. El aprendizaje de las máquinas cada vez más profundo tiende a replicar la mente humana en la capacidad de toma de decisiones autónomas.

Por: Daniel Peña Valenzuela

Al igual que los productos de la biotecnología, los servicios de inteligencia artificial sólo tendrán sostenibilidad en el mercado si están asociados a: (1) mitigación de riesgos legales y (2) estándares éticos en su prestación y utilización.

El aprendizaje de las máquinas cada vez más profundo tiende a replicar la mente humana en la capacidad de toma de decisiones autónomas.

Frente a la autonomía aparece la responsabilidad legal que genera en los fabricantes de sistemas de inteligencia artificial la necesidad de revisar las nociones tradicionales de responsabilidad directa y por el control de las cosas para determinar políticas de mitigación del riesgo. Los ordenamientos jurídicos avanzan para establecer una asociación entre autonomía y responsabilidad atribuyendo responsabilidad jurídica a los nuevos “tomadores de decisiones”. Aún es incierto si esta idea jurídica sea la base de la nueva responsabilidad en el porvenir.

La dimensión ética despunta como un complemento necesario para involucrar los valores humanos como base del diseño de los algoritmos que permiten el desarrollo del aprendizaje profundo. 

Ethics by design (como la Privacy by Design concepto fundamental de la regulación de la protección de datos) permitirá avanzar en temas como la responsabilidad demostrada en la fabricación y funcionamiento de los sistemas de inteligencia artificial. El diseño, arquitectura, funciones y funcionamiento debe incorporar valores sociales fundamentales (dependerá de cada país, de forma de vida, tradición pero con límites generales aplicables en toda la humanidad)

La finalidad de la Ethics by Design es que el pensamiento autónomo de las máquinas así como la toma de decisión, fruto del aprendizaje propio, no puede desvincularse de los valores humanos individuales y colectivos.

Sea en los vehículos autónomos, en los asistentes virtuales o en armas de guerra que tomen decisiones autónomas deben regirse por principios de transparencia y lealtad en la creación diseño y uso, rendición social de cuentas sobre su utilidad, primacía del control humanos respecto de la autonomía salvo justificación social, debate en la sociedad y límites de comercialización sobre la conveniencia o no de la puesta en funcionamiento de un Servicios de inteligencia artificial.

Este debate nos recuerda discusiones éticas (luego incorporadas en el derecho positivo) sobre la clonación, la edición del código genérico o la patentabilidad de las secuencias genéticas. También nos recuerda la responsabilidad demostrada en protección de datos. En realidad,  estamos nuevamente en un cruce de caminos entre lo humano y la ciencia.

Artículos Recientes