Durante la Tercera Cumbre de IA Colombia, el experto argentino Lionel Brossi, director del Núcleo Inteligencia Artificial y Sociedad, de la Universidad de Chile, compartió su mirada acerca de un tema central en las discusiones tecnológicas de nuestros días: La ética. Y comenzó su presentación haciendo referencia al problema d ellos sesgos de los algoritmos. “Pude verlo en los aeropuertos, donde el algoritmo de la IA usado por los organismos de seguridad está basado en un constructo binomial de género: solo entiende la existencia de hombre y mujer, lo que obliga a personas Trans y no binarios a pasar momentos incómodos y vergonzosos, pues esta tecnología los individualiza como sospechosos”, explicó el experto.
La implementación de las TIC en la sociedad requiere un marco ético y una adecuada inclusión dentro del contexto, tradiciones y dinámicas de una sociedad en particular. Un ejemplo cercano es el de la rigurosidad de las órdenes que los seres humanos damos a las IA de asistencia virtual (Alexa, Siri, Google Home, etc.) como “Alexa, prende la luz”, “Siri, reproduce ahora” y otros miles de expresiones autoritarias. Esto ha causado que los jóvenes de la generación Centennial abandonen progresivamente la cortesía y las formas amables de dirigirse a los demás, interactuando ahora a través de órdenes, como si sus interlocutores fueran máquinas.
Sesgos como los ya mencionados no hacen parte de una pérfida conspiración de las élites mundiales para oprimir a las mayorías (como promulgan los conspiranóicos), sino más bien – dice Brossi – tiene que ver con el análisis estadístico de los datos con los que se entrena a la IA (Machine Learning), derivado la mayoría de las veces por un manejo torpe, descuidado o insensible de la información, donde el o los encargados de dicha data no son conscientes de los dilemas ético-morales que presenta la Inteligencia Artificial.
Respecto al panorama colombiano, el marco ético sobre este tema – implementado por la misión de expertos en IA, d ela que Borssi fue mimebro – es considerado como un ejemplo de empoderamiento y alfabetización digital en América Latina, según el investigador chileno. “Curamos más de 400 contenidos sobre Inteligencia Artificial en español. Descubrimos que existen menos trabajos en nuestro idioma sobre este tema, pero resalta que muchos de ellos fueron creados por investigadores y desarrolladores colombianos”, indicó.
