Digitalización Ética

Introducción  

 Para legos y entendidos en la inteligencia artificial, lo que nos muestra GPT-4 (Generative Pre-trained Transformer 4) como el modelo de lenguaje de OpenAI más utilizado, no deja de ser preocupante.  No porque no se supiera lo disruptivo que puede llegar a ser el análisis de datos predictivo, potente y aplicado al lenguaje natural sino por la democratización en su utilización, la masificación. Lo aterrador es, para muchos, que sea una herramienta de uso no solo para los tomadores de decisiones (públicos y privados) o para los científicos sino que esté al alcance de la masa (en el sentido de Canetti).  

 

El lograr hacer más maleable y controlado el lenguaje natural y permitir funciones prácticas relacionadas con el uso del simbolismo lingüístico es muy atractivo, útil y anticipa, para el habla común, un impacto evidente del aprendizaje autónomo o semiautónomo de las máquinas. Inimaginable para Don Rufino José o para Luciano Pulgar! 

 

La tecnología del lenguaje, en general democratiza. GPT-4, en particular, llega a muchos en la medida que representa la fuerza más dinámica del siglo XXI, la del diluvio de datos (útiles, interrelacionados y correlacionados) en manos de herramientas de IA. Su alcance borra fronteras de idiomas (el fin de Babel en el sentido de U. Eco) y miles de millones de usuarios gozan de servicios y utilidades nunca antes imaginadas. El sector tecnológico tiene un avance que coloca a sus compañías como verdaderos rivales de los Estados. La ética de los negocios a prueba de la ética pública. La relación entre la sociedad civil, el estado y las compañías tecnológicas define lo que es el poder (un nuevo tecnopoder disciplinario en el sentido del primer Foucault). El verdadero poder. El poder al fin y al cabo es a la vez legitimación y control. No solo prerrogativas ni facultades sino también deberes. Disciplinas y (tecno)saberes.  

 

En este ensayo se aborda la necesidad de una convergencia entre la digitalización y las ciencias sociales para que la ética escale un peldaño en su relación con las normas que rigen al ecosistema digital. Los negocios no pueden trazar los límites éticos. Esta convergencia (en construcción) supera en alcance y objetivos la yuxtaposición de tecnologías que ha caracterizado la actual revolución tecnológica (blockchain + cloud computing + inteligencia artificial + plataformización + robótica + ecommerce + app) para llegar a una intersección entre el humanismo que adopte y defina el alcance (ojalá virtuoso y humanista) de lo digital.  

 

1. Problema jurídico  

Más allá del boom de la temática y de la divulgación necesaria sobre retos y alcances en los distintos ámbitos, cabe una reflexión que ha sido menos recurrente:  

¿Cuál es el rol de la ética dentro de la escalada de descubrimientos, avances y desarrollos en la ciencia, ahora de manera puntual, en la ciencia de los datos? 

¿La construcción de la regulación y la gobernanza de la datificación a escala global debe contener lineamientos éticos construidos mediante consensos internacionales -privados y públicos? 

 

Como hipótesis de trabajo : la soberanía de los datos define la autodeterminación, la libertad de escoger y la capacidad de obrar en el entorno digital. A quien le corresponde el buen proceder, a todos, a los usuarios, a los desarrolladores, a los funcionarios, a los jueces, a los ciudadanos. A todos los que interactúan en el ecosistema digital. No está limitada a los datos personales sino la metadata que en manos de herramientas de analítica suficientemente poderosas pueden determinar o condicionar la conducta. La manipulación directa o indirecta de la conducta humana por medio de la tecnología es tan nociva como otras manera de influencia inconsciente. Una cosa es hacer negocios y otra hacer empresa.  

 

2. Las humanidades digitales 

La respuesta final, probablemente provenga de una reflexión profunda en el seno de las Digital Humanities, es decir, a partir de las reflexiones filosóficas, epistemológicas, técnicas y sociológicas que se está construyendo al interior de las ciencias humanas a partir de los cambios derivados de nuevos instrumentos y artefactos pero también de la consolidación de la filosofía de la información (en el sentido de Floridi).  El trabajo en colaboración en investigación de ciencias sociales cuenta con herramientas que permiten el análisis de hechos históricos con información estadística, formas de presentación de información  e integración de lenguajes (en el sentido de Dewey). 

 

La información es la base de la conducta humana pero también del análisis de las ciencias sociales. Las ciencias sociales se debaten en teorías y prácticas construidas con base en recursos limitados de análisis, conceptos y herramientas a escala humana. Para lograr un planteamiento nuevo es necesario la aplicación de conocimiento, análisis y comprensión de una cantidad de información que es el estado del arte de cualquier problema por resolver. En España por ejemplo, se reporta el despliegue del PERTE de la Nueva Economía de la Lengua, para contribuir a que la Inteligencia Artificial aprenda a pensar en español y en las lenguas cooficiales, con cuyas iniciativas se han movilizado ya 313 millones de euros, crédito autorizado, lo que supone un 95% del presupuesto total asignado en 2022 incluyendo el proyecto AINA (catalán), GAITU (euskera), NÓS (gallego) y VIVES (valenciano). 

 

El punto de encuentro entre lo digital y lo humano se lleva a cabo en la intersección que las humanidades digitales presentan entre la historia, la filosofía, la antropología, la arqueología y la ciencia de los datos. Ambos extremos dependen en su evolución. Las  tecnologías emergentes se entrelazan con la protección de los derechos fundamentales así como de los principios éticos y morales que se derivan de las distintas concepciones jurídicas que los interpretan en cada caso concreto. La Corte Constitucional, por ejemplo, en el caso práctico de los derechos digitales, materializa una protección de la dignidad humana y de todos los valores y principios que fundamentan el estado social de derecho que tiene en el ecosistema digital un nuevo escenario de fortalecimiento y propicio para el cumplimiento de los derechos. Así debe ser. 

 

No es la primera vez que se plantea la moratoria en la investigación de una tecnología como algunos capitanes de la industria lo han propugnado recientemente ni tampoco estamos estrenando la discusión sobre cuáles son los aspectos eminentes del ser humano que no deberíamos tocar. George Steiner, se refería a las matemáticas, el ajedrez y a la música como los misterios profundos aún pendientes de resolver como base de una caja negra que definir que nos ubicaría fuera del mismo escaño de otros seres. Es extraño que en la era de la atribución de derechos a todos los seres vivos, abdiquemos de la opción de abrir la puerta equivalente a nuestros artefactos artificiales.  

 

Más allá de una atribución de personalidad, la discusión sobre la aplicación de los derechos fundamentales al ecosistema digital es una controversia que se reaviva diariamente en la medida que la sociedad migra buena parte de sus inquietudes e intereses a lo electrónico. El lenguaje es político y la inteligencia artificial entre a disputar la política. 

 

En el mismo linaje, I. Berlin, el libertario, afirmaba algo así como que pocas nuevas verdades han ganado su camino en contra de la resistencia de las ideas establecidas, salvo por ser exageradas. El entrenamiento cotidiano de nuestras máquinas parece ser demasiado rutinario para encender las alarmas como hemos visto en estos días pero el hecho de que tengamos en la arena política y en los medios masivos de comunicación (ahora digitales la mayoría) esa discusión trae consigo que también la sabiduría popular se pronuncie y no solo los mandarines del conocimiento y en particular, los emporios tecnológicos.  

 

De hecho, la transformación digital o la digitalización de todo (incluyendo la sociedad) es precisamente un hecho social y no un acontecer tecnológico. Las máquinas están aquí y ahora cambiando el quehacer de la academia, de los profesores y de los alumnos pero ya se vislumbre un cambio a escala empresarial y de negocios que trae consigo la necesidad de confianza, seguridad jurídica y un marco regulatorio adecuado a los primeros fines enunciados. 

 

La discusión sobre los límites del lenguaje, de los lenguaje(s) nos recuerda que la traducción es interpretación y que probablemente tendremos a máquinas y sistemas de información apoyándonos, de ahora en adelante, en la función hermenéutica del mundo así como en las Gramáticas de la Creación (otra obra recomendable de Steiner). El mundo como símbolo y representación ya no de mensajes de datos sino a partir de prompts, un flujo de información que predice, actúa y decide, en alguna medida, de manera autónoma. Solo las grandes religiones habían sido tan celosas con las fuentes y métodos de interpretación, el derecho contemporáneo no es el mejor ejemplo en cuanto a gestión y manejo de fuentes…a lo mejor, la teoría de la argumentación anticipaba la aparición de herramientas legaltech que permitirán reunir muchos factores de la realidad a la hora de aplicar un texto normativo. 

 

3. Normas y datificación 

En lo jurídico, todo indica que las normas como nuestro fenómeno por excelencia son limitadas en su alcance frente a la disrupción de la datificación. La regulación por si sola, no detendrá ni moldeará de manera adecuada las tecnologías para que se acoplen a la complejidad del mundo.  El mercado acelera las entregas de los avances tecnológicos al mismo ritmo que las falsas noticias se propagan en las redes o las políticas populistas se inoculan en los sistemas democráticos. Ese es el ritmo que nos tocó vivir. El derecho ni tiene esa velocidad ni menos una capacidad de reacción frente a la avalancha en curso. El tsunami de la predictibilidad algorítmica produce un pesimismo o anomia regulatoria. La TIC perdieron su ritmo, agotaron su alcance frente  la esterilidad de los instrumentos de gobernanza y frente a la efímera reacción de nuevas generaciones de juristas, muchas veces sin la formación adecuada para enfrentar un nuevo mundo. 

 

Si la esperanza de una regulación se finca en el derecho de la competencia, tal vez se olvida que el mismo es un mero corrector de mercados y que su lógica se enmarca no en la protección de la humanidad sino de la menos mala visión de mercado que permita mayor consumo. Mejores noticias no provienen de la paquidérmica base epistemológica de la protección de datos que se debate en un torbellino (con hoyo negro incluido) entre un derecho público proteccionista y un derecho de mercado sin mayor eficacia. La propiedad intelectual luce descolorida y vetusta frente a creaciones cada vez más artificiales, a lenguajes de expresión cada vez menos humanos y a tecnologías autónomas. 

 

La ética, más allá de lo normativo, probablemente, aparezca como un complemento necesario para definir los límites de la tecnología frente al transhumanismo del maquinismo lingüístico en boga. Entendible sería que tengamos una ética democrática, liberal (en el sentido kantiano), progresista (en el sentido de Voltaire) que permita copar los vacíos de lo legal. Menos sesgos posibles en los algoritmos y explicabilidad de las soluciones (y de los caminos), son principios que provienen no de una visión normativa sino de la trascendente mirada de la justicia, la buena fe y el sentido adecuado de lo justo y bueno.  En GPT-4, el aprendizaje sobre la variabilidad del lenguaje cuenta con apoyo humano. Según Ferrante: 

 

”Los ejemplos de sesgo algorítmico adquirido a través de los datos son variados y muchas veces tienen que ver con bases de datos que no representan en realidad al conjunto de la población. En el caso reportado por Joy Bowlamwini y Timnit Gebru8 , en el que diversos sistemas comerciales de reconocimiento facial muestran un rendimiento dispar respecto a variables demográficas como el género y el color de la piel, son las mujeres de piel negra el grupo para el cual los modelos presentan peor rendimiento. Este hecho está posiblemente relacionado con la falta de representatividad de mujeres negras en las bases de datos utilizadas para el entrenamiento. Ejemplos similares se encuentran al analizar ImageNet, una de las bases de datos de imágenes etiquetadas más grandes del mundo, que ha sido motor del desarrollo de los modelos más populares de clasificación de imágenes9 . ImageNet posee millones de imágenes clasificadas en miles de categorías. Sin embargo, pese a que es utilizada mundialmente, más de 45% de las imágenes provienen de Estados Unidos y reflejan una realidad localizada en el hemisferio norte y que encarna representaciones propias de la cultura occidental. No resulta sorpresivo entonces el ejemplo citado por Zou y Schiebinger: sistemas de inteligencia artificial entrenados con ImageNet asignan las categorías «novia», «vestido», «mujer» o «boda» a la imagen de una novia occidental vestida de blanco, pero identifican como «arte de performance» o «disfraz» la imagen de una novia vestida con el típico atuendo usado en la India, que ciertamente difiere del occidental.” (https://library.fes.de/pdf-files/nuso/nuso-294.pdf) 

 

La ciencia de los datos no es todavía ciencia pero podría revolucionar las existentes (en el sentido de Kuhn) como para justificar que volvamos a los básicos: el sentido y límites de la racionalidad y la fuerza dionisiaca del bien y el mal (en el sentido de Fausto) de nuestra creatividad. La malicia y la mala fe pueden determinar un buen argumento literario y la invalidez de un contrato, depende de la textura del lenguaje que no necesariamente es determinada por el modelo de un algoritmo.  

 

4. Conclusión 

En suma, la humanización de lo digital es necesaria así como la digitalización de las ciencias sociales. La ética debe ser un factor dominante en la construcción de lineamientos para la gobernanza y la regulación de la creciente datificación. El derecho está pasado de moda (por ahora) frente a la discusión humanística de lo digital pero es posible que, como siempre, aparezcan los límites del quehacer ético con lo cual debamos preguntarnos o preguntarles a los nuevo oráculos (que deberán entender el contexto de cada prompt para ser semidioses reales-ágoras): ¿cuál es la ley más pertinente para…?  Veremos -tarde o temprano- la respuesta…