Juan David Gutiérrez, profesor asociado en la Escuela de Gobierno de la Universidad de Los Andes, es uno de los más reconocidos expertos en el país en el complicado tema de la regulación de la Inteligencia Artificial. El abogado considera que se trata de un debate complejo porque el término Inteligencia Artificial hace referencia a “muchas tecnologías que funcionan de manera diferente y que pueden producir beneficios y riesgos también distintos”. En realidad, el tema de la regulación de la IA no es tan nuevo. “Entre los años 2016 y 2022 se aprobaron en el mundo 123 leyes que mencionan la palabra Inteligencia Artificial, y casi 50 países han provisto discusiones en sus órganos legislativos sobre este tema”, explica el profesor Gutiérrez.
“Más que querer hacer una gran legislación regulatoria sobre la IA, es apropiado arrancar por partes, priorizando cuáles son los riesgos más grandes o urgentes que se deben atender; explica el profesor Gutiérrez. En su opinión, hay que priorizar aquellos en los que se han identificado instrumentos idóneos. “Una cosa es identificar el problema y otra cosa identificar cómo resolverlo”, agrega.
El año pasado, el Representante a la Cámara Alirio Uribe convocó una audiencia en la Comisión Primera sobre Inteligencia Artificial y Derechos Humanos, en la que exploró la conveniencia o no de preparar una iniciativa legislativa. Actualmente hay dos proyectos de Ley que cursan trámite en el congreso colombiano y se discuten proyectos similares en ocho países de América Latina.
Desde 2019 Colombia dispuso de un documento Conpes, el 3975, que se refiere a la Política Nacional para la Transformación Digital e Inteligencia Artificial y que en su apartado 4.4 mencionaba la relevancia económica de las tecnologías emergentes para el futuro del país. «Se ha determinado que la IA contribuirá 15.7 billones de dólares a la economía mundial (PWC, 2017); para la Unión Europea se prevé un crecimiento del PIB del 20 por ciento y para China un 26 por ciento para el año 2030. En el caso de Colombia se estima que la implementación de esta tecnología puede significar un crecimiento mínimo anual de 4.5 por ciento del Producto Interno Bruto (PIB) durante los próximos 10 años (CIPPEC,2018). Siendo así, no existe evidencia de un crecimiento económico comparable mediante el uso de otra tecnología emergente».
El documento Conpes, que ya terminó su periodo de vigencia, tenía como objetivo primordial que la sociedad colombiana pudiera aprovechar estas tecnologías que el Estado se comprometiera a crear las condiciones para que nuestros ecosistemas tecnológicos pudieran aprovechar el potencial de estas herramientas, y está pendiente un balance acerca de si el 3975 alcanzó o no su cometido..
El gobierno de Iván Duque dejó establecido un Marco Ético para la implementación de proyectos de Inteligencia Artificial en el sector público, construido con asesoría internacional por una Misión de expertos en IA que presentó sus resultados en junio de 2022.
El gobierno de Gustavo Petro comenzó apenas hace poco, con la llegada de Mauricio Lizcano al frente del ministerio TIC, a proponer políticas públicas concretas en materia de IA. Lizcano conformó una mesa internacional de trabajo (en la que Inteligencia Artificial Colombia fue invitada a participar) y prepara iniciativas concretas que lidera Lina Zuluaga, encargada de la Oficina Internacional del ministerio.
En el plano internacional son muchas las voces que están de acuerdo con establecer rápidamente regulaciones claras sobre los desarrollos de la Inteligencia Artificial. Desde el secretario general de las Naciones Unidas, António Guterres, quien considera que “una inteligencia artificial que beneficie a todos requiere límites basados en los Derechos Humanos, la transparencia y la rendición de cuentas”, hasta las grandes celebridades de la industria tecnológica, como Elon Musk, Bill Gates, Sam Altman y Mark Zuckerberg, entre otros, han comparecido ante el Congreso de Estados Unidos para discutir este tema. Las empresas que representan tienen sus propuestas y puntos de vista y difieren en los detalles y enfoques.
Movimientos regulatorios en América Latina
Hay al menos 113 sistemas que están directamente asociados con la toma de decisiones frente a las personas, y que todos los ciudadanos deberían conocerlos. Fue la cifra que encontró Gutiérrez en una reciente investigación (cuando todavía estaba vinculado a la Universidad del Rosario, antes de su puesto actual). Sistemas como, por ejemplo, los que determinan que una persona está dentro de las condiciones requeridas para recibir ayuda pública y pertenece a un grupo vulnerable.
En Latinoamérica se han probado diversas soluciones. En Chile, por ejemplo, fue creado un órgano autónomo llamado el Consejo para la Transparencia, el cual se encarga de reglamentar a las instituciones públicas en relación con el tema de la transparencia algorítmica. “Se puedan establecer reglas para que cuando se utilice este tipo de sistemas para tomar decisiones sobre la vida de las personas, el Estado no solo informe que se está usando el sistema, sino que proporcione información básica a las personas”, explica el profesor Juan David.
En Latinoamérica, el tema de regulación sobre IA es emergente, y el único país que aprobó ya una ley es Perú. “No obstante, esta ley aprobada simplemente establece un principio, una orientación del deber ser, pero sin definiciones particulares; aún es limitada”, advierte.
El caso de Panamá es muy particular, porque allí se presentó una iniciativa ciudadana con un anteproyecto de ley que sí establece obligaciones, sanciones y deberes puntuales frente al uso de la Inteligencia Artificial.
¿Qué problemas se desea resolver?
Responder a esta pregunta constituye el punto de partida para la discusión. Desde hace algunos años, en Colombia se ha querido promover las condiciones habilitantes para usar estas tecnologías. Juan David Gutiérrez considera que existan vacíos y cita algunos ejemplos que permiten entender hacia dónde debería llevarnos una correcta regulación. En un lugar de Extremadura, España, la tecnología generó problemas nuevos. Hay menores de edad afectados por la circulación de imágenes creadas por algoritmos, con sus rostros y sus cuerpos desnudos. La IA generativa es un dolor de cabeza ético, porque la tecnología hace posible hoy la creación de imágenes falsas que pueden ser utilizadas para pornografía infantil. No hay un marco legal que lo prohíba, ni que lo autorice. Aquí es donde se plantea la preparación del sistema y de cómo abordar este tipo de problemas que antes no existían.
En algunos países las autoridades están utilizando sistemas de reconocimiento facial para identificar a personas que son buscadas por la justicia. El problema con esto es que, además de las controversias sobre amenazas a la privacidad de los ciudadanos, un sistema de reconocimiento facial mal calibrado puede resultar impreciso y cometer errores que lleven a graves injusticias. Ya ha ocurrido varias veces en Estados Unidos.
La Unión Europea, líder mundial de las iniciativas para regular la tecnología, está a punto de aprobar la primera ley sobre la inteligencia Artificial, que seguramente tendrá impacto global. En sus propuestas, la Unión Europea establece que hay riesgos para una sociedad democrática que son inaceptable, como la utilización de reconocimiento facial en lugares públicos. En Brasil, país en el que se ha asumido mucho del modelo regulatorio europeo, cursa actualmente un proyecto de Ley ambicioso.
En resumen, las tendencias muestran un fuerte deseo de regular la IA, pero en este proceso los proyectos regionales y locales están basados únicamente en principios, sin definiciones puntuales, “los reguladores aún no se aventuran de manera concreta, y cuando exista una herramienta probada como la de la UE, seguramente llegarán a leyes más concretas. La pregunta ahora es: ¿cómo vamos a regular?”, concluye Juan David Gutiérrez.
