Blog de la facultad de Derecho

26 de agosto de 2019

La inteligencia artificial bajo la lupa de la OECD

Por: Daniel Peña Valenzuela

  1. La Organización para la Cooperación y el Desarrollo Económico OCDE y sus países socios adoptaron la ‘Recomendación del Consejo sobre Inteligencia Artificial (IA)’ que contiene un conjunto de directrices de políticas públicas sobre IA. En particular, los gobiernos acordaron respetar las normas internacionales que apuntan a garantizar que estos sistemas (inteligentes) de información estén diseñados para ser robustos, seguros, justos y confiables.
  2. El documento de Recomendaciones de la OCDE se convierte en un marco fundamental para el diseño de políticas públicas de IA en los países que lo adopten. Varios países miembros de la OECD (por ejemplo Francia, Reino Unido, Japón, entre otros) han promulgado sus propias estrategias nacionales para el incentivo, regulación, utilización y puesta en marcha de las actividades públicas y privadas relacionadas con sistemas de IA.
  3. La Recomendación de la OCDE es el resultado del grupo de trabajo conformado por más de 50 expertos internacionales que representaban gobiernos, instituciones académicas, empresas, sociedad civil, sindicatos, organismos internacionales y la comunidad de tecnología.
  4. La parte sustancial de la Recomendación sobre IA de la OCDE incluye una serie de principios para la gestión responsable y confiable de la IA, con el respeto de los derechos humanos y los valores democráticos.
  5. Los cinco principios de la OECE respecto de la IA son los siguientes:
    1. La IA debe beneficiar a las personas y al planeta impulsando el crecimiento inclusivo, el desarrollo sostenible y el bienestar.
    2. Los sistemas de IA deben diseñarse de una manera que respete el Estado de derecho, los derechos humanos, los valores democráticos y la diversidad, y deben incluir salvaguardas apropiadas, por ejemplo, permitir la intervención humana cuando sea necesario, para garantizar una sociedad justa y equitativa.
    3. Debe haber transparencia y divulgación responsable en torno a los sistemas de IA, para garantizar que las personas entiendan los resultados obtenidos con base en la IA y puedan responderlos u objetarlos.
    4. Los sistemas de IA deben funcionar de manera robusta y segura a lo largo de sus ciclos de uso y explotación y los riesgos potenciales deben evaluarse y gestionarse continuamente.
    5. Las organizaciones e individuos que desarrollan, despliegan u operan sistemas de IA deben ser responsables de su correcto funcionamiento.
  6. Los principios de la OECD en materia de IA refuerzan el carácter antropocéntrico de la IA, como sistema de información y tratamiento de datos que tiene como objetivo lograr el bienestar de la especie humana.
  7. También se refuerza el carácter axiológico de la IA que responde a los valores y principios en que se ha basado el conjunto de Instrumentos internacionales y Nacionales que hacen referencia a derechos fundamentales
  8. La ciberseguridad es otro pilar de la IA en la medida que la exposición de los sistemas de información que se sirven de esta tecnología a los ataques puede producir efectos devastadores en la medida que infraestructuras privadas y públicas relacionadas con actividades críticas pueden ser afectadas, por ejemplo sistemas de movilidad, de seguridad nacional, de servicios de salud y de divulgación de información.
  9. La responsabilidad jurídica y regulatoria en la IA está asociada al control que ejercen empresas e individuos sobre la IA. En general, las actividades de IA pueden ser consideradas como actividades peligrosas o que exigen un mayor deber objetivo de cuidado que pueden determinar estándares de precaución y diligencia más exigentes. La etica en el diseño de los sistema IA puede contribuir a que exista una responsabilidad demostrada respecto de los sistemas de IA y su cumplimiento de la ley.
  10. Colombia no ha establecido hasta la fecha de publicación de este artículo reglas, normas o regulaciones relativas a la IA y a sus repercusiones prácticas en el ámbito social, económico y jurídico.
  11. En consonancia con los principios enunciados, la OCDE formula a los gobiernos las siguientes Recomendaciones de politicas públicas relacionadas con la IA:
    1. Facilitar la inversión pública y privada en investigación y desarrollo para estimular la innovación en una IA confiable.
    2. Fomentar los ecosistemas de IA accesibles con infraestructura y tecnologías digitales y mecanismos para compartir datos y conocimientos.
    3. Asegurar un entorno de políticas que abra el camino para el despliegue de sistemas IA confiables.
    4. Capacitar a las personas con las habilidades para la IA y apoyar a los trabajadores para una transición justa.
    5. Cooperar a través de las fronteras y los sectores para avanzar en la administración responsable de IA confiable.
  12. El siguiente paso en la OCDE será la elaboración de una guía practica para la implementación de los principios y las recomendaciones mencionadas
  13. Los paises OCDE deben establecer sus políticas públicas en relación con la IA de una manera proactiva y acelerada para aprovechar la transformación digital que conduce a la Cuarta Revolución Industrial.
  14. Colombia ha venido adelantando la discusión preliminar de un documento de política pública CONPES en el que se fijen los párametros de estímulo para la puesta en funcionamiento y aplicación práctica de sistema de IA.
  15. El alcance práctico de los sistemas IA depende de su incorporación efectiva en procesos productivos, industriales, comerciales y en su capacidad de influenciar y afectar procesos sociales. En ese sentido, la necesidad de mayor intervención jurídica y regulatoria dependerá en gran medida de su repercusión en la sociedad lo cual ocurrirá de manera paulatina en la próxima década.
  16. Aunque aún sea lejano el momento en el que la IA compita o reemplace cualidades humandas fundamentales es importante que la OECE (y Colombia de la mano de la Organización) trace a corto plazo caminos de políticas públicas relacionadas con el impacto económico, político, jurídico y regulatorio de la IA.

Artículos Recientes