Participación de Ley, Justicia y Desarrollo 2019

En noviembre del 2019 la sede del Banco Mundial en Washington D.C. y colaboradores, organizaron un foro dedicado a explorar diversos temas que incluyeron el uso de Tecnología, Desarrollo y Derechos Humanos, con el título de "Derecho, Justicia y Desarrollo 2019" (LJD2019, por sus siglas en inglés).

Este foro surgió por la inquietud generada ante la llegada de la ‘’Cuarta Revolución Industrial’’. Dicho arribo ha introducido tecnologías como la inteligencia artificial (IA), cadenas de bloque o blockchain y drones. Esto ha dado lugar a oportunidades de lo inconcebible, incluyendo para aquellos a los que en algún momento establecieron los regímenes legales y de justicia de sistemas alrededor del mundo. Los organizadores y asistentes al foro señalaron que los marcos legales actuales no fueron diseñados para sostener la forma de uso de la tecnología actual; no obstante, el interés por el desarrollo tecnológico crece. La Profesora Virginia Greiman, quien presentó "Una guía para proteger los Derechos Humanos en todos los megaproyectos", menciona que en la actualidad un total de 37.5 billones de dólares estadounidenses se están invirtiendo en los proyectos de inteligencia artificial. Especialmente en las economías líderes, en donde los fondos para el desarrollo son principalmente obtenidos por sectores privados en vez de gubernamentales, esto no es un hecho que asombra.

El LJD2019 facilitó el tiempo y lugar para que los interesados en el tema pudieran compartir su conocimiento y sus análisis de las ventajas, el impacto y los desafíos que conlleva el uso de tecnologías en diversos dominios y sus implicaciones legales.
Múltiples ejemplos del uso de la tecnología fueron presentados para mejorar o resolver problemas sociales y ambientales en diferentes países en África.
Adicionalmente, novedosos casos del uso de tecnología a nivel gubernamental y sistema legal fueron presentados, como, por ejemplo, el uso de la IA en la lucha contra la corrupción en Minas Gerais, Brasil, o el uso de la IA para la toma de decisiones durante procesos criminales en Guatemala.

Junto con los marcos legales se presentaron consideraciones éticas sobre el uso de tecnologías emergente. Una de las presentaciones más innovativas que desencadenaba reflexiones profundas y conversaciones entre los participantes fue el proyecto de ‘’Espejo Biométrico’’ (‘’Biometric Mirror’’). La presentación del proyecto la realizó el Dr. Niels Wouters, director de investigación y práctica emergente en la Galería de Ciencias de Melbourne del Laboratorio de Interacción de Diseño en la Universidad de Melbourne. El equipo de investigación del Dr. Wouters construyó un sistema de IA para analizar rostros. Una vez culminado el análisis el ejercicio después plantea pensar que una compañía de Recursos Humanos tiene acceso a esta información del participante. El ejercicio incita a la reflexión sobre los sentimientos propios respecto al uso de tecnologías en este particular contexto, obliga a ponderar riesgos y beneficios y a cuestionarse sobre el estatus actual de las tecnologías.

Para sorpresa de los asistentes al foro, el sistema fue traído al foro a modo de stand interactivo para todos los interesados en participar en el ejercicio. El sistema toma una imagen del individuo interesado, y un par de segundos después lleva a cabo un análisis facial que entrega valores para estimar categorías del individuo como: género, edad, etnia, ‘felicidad’, ‘amabilidad’, ‘responsabilidad’, ‘unicidad’, ‘sociabilidad’, y ‘rareza’, entre otras. Los resultados se muestran en una pantalla con un mensaje que dicta: ‘’Te ves de X edad y tienes X perfil. Imagina que enviara esto a agencias de reclutamiento y que ellos pasen esto a futuros trabajadores. Parece ficción, pero es posible’’. Efectivamente, el Dr. Wouters comentó que algunas compañías ya estaban mostrando interés en la compra de estos sistemas, aunque no que hayan sido diseñados con propósitos comerciales.

En el transcurso de los días, los participantes frecuentemente preguntaban acerca de la exactitud del sistema, a lo cual el investigador recalcó en sus respuestas que conceptos como ‘’amabilidad’’ y ‘’responsabilidad’’, no son binarios. Es difícil medir con exactitud cualidades sociales y morales, que además dependen de la cultura.

Parte del esfuerzo realizado en la asamblea fue gracias a los organizadores del Foro Global de Ley, Justicia y Desarrollo. Laurence Coste está a cargo del Foro Global al cual invitó a ponentes de diversas regiones del mundo a participar en diversos paneles. La Cátedra de Bioética y Derechos Humanos de la UNESCO, fue invitada para participar en el ‘’Negocio y Protección del Interés general y del Ciudadano’’. La sesión fue moderada por Anne-Charlotte Gros, quién es la directora ejecutiva de la Fundación de Ley Civil.
Una variedad de temas acerca de la formulación de normas en la responsabilidad de negocios fueron atendidos, que incluyeron desde el lavado de dinero, hasta denunciantes de empresas. Nuestra participación se enfocó en los desafíos para el establecimiento de normas dentro de la interacción de la empresa con el consumidor, que emerge en dos tipos de actividades de algunos negocios: el monitoreo o rastreo digital de usuarios y la investigación en forma de “Neuro-mercadotecnia” (‘Neuromarketing’).

Aunque exista cierto progreso en la discusión y regulación de técnicas manipuladoras y coercitivos de mercadotecnia en la Unión Europea y Estados Unidos, nosotros argumentamos que el trabajo no ha sido suficiente, especialmente en el contexto de poblaciones vulnerables. En dichas poblaciones las técnicas están apuntaladas hacia niños, adultos mayores, poblaciones con desventajas económicas y poblaciones que padecen adicciones. Por otro lado, aunque existan algunas regulaciones legales en países desarrollados, la falta de regulación en países en desarrollo y las condiciones de corrupción que afectan a estas economías, desafortunadamente hacen a las segundas más susceptibles de ser poblaciones sobre las cuales las primeras utilizan este tipo de tecnologías con fines de lucro.  
Finalmente, destacamos los componentes esenciales que son necesarios para cualquier análisis bioético en el contexto de investigación con sujetos humanos, y el hecho de que éstos son escasamente considerados en la regulación de prácticas empresarias que se aplican a seres humanos en el mundo real.