Comercio electrónico :

Simposio AI ahora 2017: What’s at stake?: – ¿Qué está en juego?

Por: Andrés José Sánchez

18 de septiembre de 2017

En el marco del segundo simposio AI ahora, que tuvo lugar el 10 de julio del año en curso en la ciudad de Cambridge, Massachusetts, Kate Crawford y Meredith Whittaker llevaron a cabo una ponencia exponiendo las temáticas de mayor importancia actualmente, en relación con la inteligencia artificial. A continuación, procederemos a señalar los puntos más importantes de la presentación en comento, seguido de unas reflexiones al respecto.

La pregunta entorno a la cual gira toda la discusión que se presentará es la siguiente: ¿Cómo podrá la inteligencia artificial (AI) convertirse en parte de nuestras vidas?

En primer lugar, resalta la ponencia que la AI dejó de ser una cuestión del futuro, esta herramienta se está volviendo cada vez más usual y se ha incorporado dentro de las instituciones sociales de mayor relevancia. Incluso, sin darnos cuenta la inteligencia artificial está teniendo una influencia importante en aspectos tan simples como las noticias que leemos a diario, hasta temas mucho más complejos como los procesos de carácter penal.

En ese sentido, si bien AI tuvo un gran desarrollo a lo largo de la última década, será el decenio que viene aquel que significará los más grades desafíos en términos de AI, toda vez que están en juego los cimientos jurídicos, económicos y sociales sobre los cuales se han construido las sociedades contemporáneas.

Sentado lo anterior, las panelistas pasan a tratar uno de los temas que más ha dado de que hablar el último año: los sesgos o la parcialidad que puede presentarse en AI y en los sistemas que la utilizan. Así, es importante aclarar la parcialidad en AI o parcialidad incorporada (embedded bias) hace referencia a la discriminación que puede hacerse presente en los sistemas que utilizan herramientas de AI. Situación que pone en tela de juicio la llamada neutralidad del machine learning.

Sobre esta base, las ponentes resaltan cómo la comunidad en general acepta más fácilmente una decisión proveniente de un sistema automático que aquella tomada por un ser un humano, pensando que es más neutral objetiva. Nótese cómo esta circunstancia afecta el sistema judicial, en la medida en que los jueces pueden llegar a tomar decisiones con base en algoritmos que estén parcializados, esto, junto con el mayor grado de legitimidad de que goza una decisión tomada por un sistema automático, puede tener serias implicaciones en garantía fundamentales como el debido proceso.

De acuerdo con lo anterior, las panelistas ponen de presente que existe una tendencia comprobada a confiar en sistemas automáticos incluso cuando los mismos fallan.

Por otro lado, la ponencia se ocupó del rol que juegan los derechos y libertades fundamentales en el contexto AI. Así, la protección de datos personales, el debido proceso y las libertades individuales parecen ser las garantías fundamentales que pueden verse afectadas en mayor medida por AI.

De acuerdo con lo anterior, existen una serie de casos que ilustran esta situación y cabe traer a colación. Dubái lanzó el primer Policía-Robot el cual está dotado de un poderoso sistema de reconocimiento facial, gracias al cual es capaz de reconocer a cualquier persona que pase delante de sus ojos; el Departamento de seguridad de los Estados Unidos está ofreciendo incentivos económicos para quien mejore el algoritmo actual de detección de amenazas bajo la ropa; el Departamento de Migración y Aduanas del mismo país ha puesto en marcha una plataforma de machine learning que permite acceder a información sensible de los individuos tales como su lugar de habitación, su trabajo, el nombre de su jefe y sus amigos, entre otros. Con miras a implementar programas de deportación masiva; la incorporación de programas de reconocimiento facial a las cámaras que portan los policías en su uniforme.

Los anteriores desarrollos de AI hacen imperativo un análisis sobre sus implicaciones en los derechos y garantías fundamentales de todos los individuos, pues se pone en evidencia cómo los antecedentes, hoja de vida e información personal de los sujetos podrán ser puestos en conocimiento de las autoridades incluso antes de ser considerados un sospechosos.

Las ponentes terminan señalando que AI está siendo introducida en todo y, sin embargo, sabemos muy acerca de sus impactos. Por lo tanto, es necesario generar un entendimiento compartido de los poderosos efectos de AI y trazar las implicaciones de computación avanzada sobre los derechos civiles de las personas.

A manera de conclusión, es dable afirmar que la inteligencia artificial, cada vez más, hace parte de nuestra rutina diaria, conscientemente o de manera imperceptible, elementos con funciones de AI ingresan a nuestras vidas para, en principio, hacer más amena la existencia. Lo anterior constituye una tendencia homogénea que tiende a expandirse a nivel mundial (aunque de manera inequitativa) y, de la mano de los progresos tecnológicos, la AI será día a día mas importante en actividades cotidianas.

Este panorama supone grandes desafíos para la humanidad y para el derecho, toda vez que una acertada regulación, acorde con cada situación histórica, que no solo permita, sino que incentive los avances tecnológicos, sin dejar de un lado principios, derechos y garantías fundamentales de nuestra sociedad se hace indispensable y difícil de lograr.

Aprenda más sobre AI Now aquí

Observe la conferencia a continuación:

Compartir
Las opiniones y puntos de vista expresados en este Blog son de exclusiva responsabilidad de los autores de cada “Entrada” y no representan ni los puntos de vista de la Universidad Externado de Colombia (en adelante la “Universidad”) ni de su Departamento de Derecho de los Negocios (en adelante el “Departamento”). Se autoriza la reproducción de cualquier parte de los contenidos divulgados solamente con fines educativos, siempre que se cite la fuente.