Rostros de mentira: Retos legales producidos por las ‘Deepfakes’

Palabras clave: Deepfake, IA, contenidos audiovisuales, redes generativas adversarias, derecho probatorio, intimidad personal.

Una deepfake, también llamado ultrafalso, es un “vídeo hiperrealista manipulado digitalmente para representar a personas que dicen o hacen cosas que en realidad nunca sucedieron”[1]. Esta figura es un resultado de la proliferación de herramientas que facilitan la alteración de contenidos audiovisuales a bajo costo o de manera gratuita, mediante inteligencia artificial (IA). Respecto a su producción, la deepfake se genera por medio de dos tipos de algoritmos de IA, uno se encarga de duplicar una imagen o video real (la red generativa) y el otro algoritmo detecta si es falso, en cuyo caso indica las diferencias entre la réplica y el original (red adversarial). El proceso se repite hasta que el segundo algoritmo no encuentre datos falsos[2].

A raíz de la popularidad de esta tecnología, ha surgido un importante debate respecto a sus consecuencias éticas, pues no supone únicamente una vulneración al consentimiento de la persona cuyo contenido audiovisual está siendo modificado, sino que habilita una cadena de desinformación mediática con un alcance masivo.

Los gobiernos del mundo han reaccionado a esta amenaza, y países como China han decidido prohibir el uso de representaciones sintéticas que lleguen a difundir noticias falsas o información perjudicial para su economía, seguridad social o la imagen del gobierno. El Parlamento Europeo, por su parte, propuso un Reglamento de Ley de IA donde clasifica las deepfakes como tratamientos de alto riesgo, imponiéndole a los operadores que deseen utilizar tecnología de generación de representaciones sintéticas, una serie de condiciones, como la inclusión de una etiqueta de ‘ultra falsificación’.

Cómo lo ha señalado el Instituto Colombiano de Derecho procesal, la reacción que debe tener el derecho ante las deepfakes depende de su finalidad. Si su uso llega a un escenario de la comisión de un tipo penal, como lo sería el caso de la falsedad personal, o incluso el delito de pornografía con personas menores de 18 años, las consecuencias jurídicas de esta conducta son mucho más claras. Pero los efectos de los deepfakes no se limitan al ámbito penal, pese a que el 96% de estos contenidos sean de tipo pornográfico[3].

Un ámbito legal donde se ha advertido el peligro de las deepfakes es en el derecho probatorio. En un artículo publicado por la Revista Vasca de Derecho Procesal y Arbitraje, se entendió una deepfake como un archivo audiovisual, el cual es introducido al proceso a través del medio de prueba documental. Mediante jurisprudencia, se llegó a la conclusión de que una Deepfake es un soporte informático, ergo, es un documento,

“una deepfake puede ser aportada al proceso junto con el dispositivo de almacenaje en el que se encuentre, es decir, la prueba se practicará sobre el hardware. O puede ser aportada en formato intangible, es decir, el producto resultante del sistema de generación de ultrafalsificaciones, debiéndose aportar su archivo al LAJ y transcribir su contenido en un soporte duradero, para que se maneje su contenido con mayor facilidad”[4].

Teniendo en cuenta la categoría en que se ubica la deepfake, puede ser aportada como prueba documental y discutida entre las partes, por lo cual aquella que desee otorgarle un valor probatorio deberá demostrar su veracidad, y valerse de otros medios de prueba para potenciar su autenticidad, siendo uno de estos el informe pericial. Finalmente, el artículo propone, en consideración con lo planteado por la comunidad de investigación de análisis digital forense, utilizar las redes neuronales generativas adversariales, que crean la deepfake, para determinar la veracidad de la prueba documental. Otras soluciones son: el análisis de los metadatos del archivo, el análisis de la matriz de filtrado de color, el análisis del número de parpadeos, entre otros.

Se advierte que el legislador colombiano llegará a plantearse estas discusiones desde todas las ramas del derecho, sin limitarse a aquella derivada del ius puniendi. Por ejemplo, la protección actual que otorga la Constitución colombiana a la intimidad personal y familiar y al buen nombre se ha materializado en una protección a la imagen personal. Tal protección habilita diversas alternativas legales que están por fuera del escenario penal, las cuales eventualmente podrían aplicarse en casos como este. Asimismo, se prevé que la protección de los derechos de autor puede suponer a su vez una protección al titular del contenido que ha sido manipulado mediante esta tecnología.

Si se pretende abrir espacios donde se demuestre la falsedad de una deepfake, que sean ajenos al proceso penal, hay propuestas actuales que podrían extenderse a la impugnación de estos contenidos. Tómese como ejemplo el procedimiento de impugnación de fotomultas por exceso de velocidad. En este, el ciudadano tiene la posibilidad de pedir la anulación de la fotomulta, y uno de los casos en que se puede fallar a su favor es si logra demostrar que no era quien cometió la infracción que se le atribuye, actuación que no tiene tarifa legal probatoria. Aplicando esta lógica al evento de un contenido audiovisual alterado digitalmente y que produce consecuencias legales adversas a una persona, bien podría el Estado habilitar espacios que permitan demostrar la falta de autenticidad del contenido, y exonerar de estas consecuencias a la persona en cuestión.

*1 Estudiante de quinto año de Derecho de la Universidad Externado de Colombia, miembro de la línea de Innovación Legal del Departamento de Derecho de los Negocios.

---

[1] GARCÍA-UII, Francisco José. ‘Deepfakes’ el próximo reto en la detección de noticias falsas. En: Revista Análisi: Quaderns de comunicació i cultura. Barcelona: Universidad Autónoma de Barcelona. Nº. 64, 2021, págs. 103-120. ISSN-e 2340-5236, ISSN 0211-2175.

[2] NATIONAL GEOGRPAHIC. ¿Qué es un deepfake? [en línea]. National Geographic LA. Disponible en: https://www.nationalgeographicla.com/ciencia/2023/11/que-es-un-deepfake#:~:text=El%20llamado%20deepfake%20consiste%20en,Unidos)%20en%20su%20sitio%20web.

[3] LOZANO, Johan Sebastián. Deepfake: acerca de las implicaciones jurídicas por el uso de imágenes generadas con inteligencia artificial. En: Blog Instituto Colombiano de Derecho Procesal [en línea]. Disponible en https://icdp.org.co/deepfake-acerca-de-las-implicaciones-juridicas-por-el-uso-de-imagenes-generadas-con-inteligencia-artificial/

[4] BLÁZQUEZ MORENO, Rubén. Deepfakes en el procedimiento probatorio. En: Revista Casca de Derecho Procesal y Arbitraje [en línea]. Donostia: Instituto Vasco de Derecho Procesal, 2023. vol. 3, Pg. 223-257. Disponible en https://www.institutovascodederechoprocesal.com/sites/default/files/files/Ruben%20Blazquez2.pdf