La moral de máquinas y la ética de la IA son temas de la mayor relevancia en la discusión tecnológica de nuestros días. Los algoritmos están en el ojo del huracán, por innegables problemas de sesgos de género o étnicos, fruto de la herencia que sus desarrolladores humanos transmiten, y de los problemas de representación existentes en las bases de datos de las que se nutren los sistemas inteligentes. Como una suerte de efecto dominó, con frecuencia algunos algoritmos de uso masivo en la sociedad digital reflejan en sus decisiones las inequidades provenientes de la brecha digital global. Por ejemplo, los indicadores bajos de conectividad en África y Latinoamérica ocasionan que en Internet hay más fotografías de personas blancas caucásicas (perfiles raciales predominantes en los países mejor conectados), lo cual genera sesgos raciales en los algoritmos que se nutren del inmenso banco de imágenes que es Internet.
La mayor parte de los desarrolladores de software está constituida por hombres blancos de la clase media alta norteamericana, lo que se refleja en decisiones con sesgos de género en algoritmos de selección de personal o en algoritmos que evalúan solicitudes de créditos. La prensa especializada en tecnología ha publicado numerosos artículos y noticias que dan cuenta de este fenómeno.
El gobierno colombiano se percató oportunamente de la importancia de las consideraciones éticas para el diseño, el desarrollo y la implementación de la IA en nuestro país, y el resultado de ello fue la construcción, luego de varias mesas de trabajo y asesoría especializada, del Marco Ético, que es una guía – no obligatoria – para orientar al sector público colombiano. Se le conoce como guía de «soft law», porque se trata de recomendaciones y sugerencias a las entidades públicas, con diez principios establecidos para iluminar el despliegue de proyectos de IA. Son ellos: Transparencia, Explicación, Privacidad, Control humano, Seguridad, Responsabilidad, No discriminación, Inclusión, Prevalencia de los derechos de niños, niñas y adolescentes, Beneficio social.
Los principios de transparencia y explicación indican la apertura que ha de tenerse para brindar información comprensible sobre el diseño, funcionamiento e impacto de la IA. «En este punto es relevante brindar información a la ciudadanía sobre los insumos que se utilizan en el diseño de los sistemas y los resultados que puedan presentarse (input and output transparency)«, indica el marco.
El principio de privacidad establece el respeto por la intimidad de las personas y su esfera privada, lo que supone que no se utilizará información sin consentimiento de cada ciudadano.
El principio de Control humano de las decisiones de un sistema inteligente recomienda que el control humano debe ser proporcional al nivel de riesgo, y deben existir siempre mecanismos de intervención de personas cuando se presenten resultados no deseados.
El principio de Responsabilidad propone que todos los participantes en la cadena de desarrollo de un sistema de IA deben hacerse cargo de los resultados que este produzca.
No discriminación indica que ningún sistema de IA puede estar limitado a un grupo específico de población por razones de sexo, raza, discapacidad, religión u orientación sexual. «Los sistemas deben adoptar un enfoque de neutralidad de género y se debe garantizar que el parámetro de género no sea utilizado como factor de discriminación«, advierte el texto.
La inclusión es un principio que orienta la participación activa de la población históricamente marginada y de poblaciones diversas, en el diseño, desarrollo, implementación y evaluación de los sistemas inteligentes que se utilicen en Colombia.
La Prevalencia de los derechos de los niños, niñas y adolescentes es un principio de gran importancia. El Marco Ético insiste en empoderar a niños, niñas y adolescentes mediante la educación, la participación y el codiseño de la IA, y que los datos no deben utilizarse para causar daño. «Es necesario recoger datos sobre NNA porque, de lo contrario, se pueden generar imprecisiones en los sistemas de IA que se les aplican. Por lo tanto, para equilibrar la recolección de datos con la seguridad de los NNA, deben utilizarse mecanismos como los sandboxes, la participación de los NNA o la evaluación continua de los sistemas«.
Un párrafo especialmente significativo dice: “El diseño y desarrollo de los algoritmos debe ser comprensible para los niños, niñas y adolescentes, en especial cuando estos tengan un impacto sobre su desarrollo y bienestar. Se debe evitar el diseño de todo algoritmo que repercuta en un perjuicio para los menores de edad y en especial en prácticas como la intimidación y la discriminación (bullying)«.
El principio de Beneficio social indica que los sistemas inteligentes que se implementen en el país deben buscar el impacto social positivo para los ciudadanos. Los beneficios pueden traducirse en reducción de costos, aumento de la productividad, mejora en la provisión de servicios y bienes públicos, o la protección del medio ambiente, entre otros.
Las herramientas
El documento describe varias herramientas para facilitar la implementación de los principios descritos. Una es el tablero de control (o «dashboard«) en el que cualquier ciudadano y funcionario puede conocer los detalles de cada proyecto de IA del sector público y sus avances en relación con los principios. Es una plataforma en la cual las entidades públicas reportan la forma como están implementando la ética de la IA en sus proyectos.
También se proponen varias actividades para ejecutar en el marco de cualquier proyecto de IA: la evaluación de algoritmos, la limpieza de datos, la evaluación de legitimidad, la definición de riesgos éticos, y el análisis de impacto en privacidad, entre otras.
En el documento completo se pueden revisar todos los detalles del Marco Ético. El documento con el que Colombia orienta éticamente la oportunidad de la IA responde al llamado que hizo el año pasado la Alta comisionada de Naciones Unidas para los Derechos humanos, Michelle Bachelet: «La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos«. Colombia es pionero en Latinoamérica en dar este paso.
