Durante el conversatorio “IA y gestión pública: reflexiones prospectivas interdisciplinares”, organizado por la Facultad de Derecho, Ciencias Políticas y Sociales de la Universidad Nacional de Colombia, expertos de diferentes instituciones académicas expusieron sus preocupaciones en relación con el uso de ChatGPT y otras plataformas de Inteligencia Artificial en el sector público colombiano.
El gobierno nacional ha reconocido el potencial de la Inteligencia Artificial (IA) para mejorar la eficiencia, la toma de decisiones y la prestación de servicios públicos en diferentes áreas. Uno de los principales campos en los que se está utilizando es en la atención al ciudadano. Mediante el uso de chatbots y sistemas de procesamiento del lenguaje natural se automatizan respuestas a preguntas frecuentes de las personas, y así se facilita el acceso a la información y se brinda una asistencia básica las 24 horas del día, lo cual ayuda a reducir la carga de trabajo del personal y agiliza la atención a los ciudadanos. También es muy útil en la gestión de datos y en el análisis de información en el sector público, ya que esos algoritmos de aprendizaje automático permiten analizar grandes volúmenes de datos para identificar patrones, tendencias e incluso problemas que guían la toma de decisiones en el Estado colombiano basadas en evidencia.
El jefe de la Oficina Tecnologías de la Información TIC del Departamento Administrativo de la Función Pública (DAFP), Bruce Darío Vargas, señaló que “ya estamos trabajando en una prueba de concepto y hemos avanzado en un piloto que está próximo a salir, y es la integración del algoritmo que maneja ChatGPT con el chatbot del DAFP, una herramienta que le facilitaría al ciudadano encontrar una solución o respuesta de manera más efectiva”.
Según un mapeo realizado por el profesor Juan David Gutiérrez, de la Facultad de Estudios Internacionales, Políticos y Urbanos de la Universidad del Rosario, con información pública se han encontrado 113 sistemas de IA nacionales y subnacionales.
La Corte Constitucional de Colombia, la Superintendencia de Industria y Comercio, la Superintendencia de Sociedades, la Agencia Nacional de Defensa Jurídica del Estado y muchas otras entidades utilizan algoritmos para tomar decisiones o contribuir a ellas. Por ejemplo, el Departamento Nacional de Planeación utiliza algoritmos para clasificar los ingresos de una persona y determinar si acceden o no a subsidios específicos. El problema no es el uso de sistemas de IA en sí mismo, sino el uso de las TIC por parte de las administraciones públicas del Estado colombiano que están sometidas a la legalidad. Las autoridades deben respetar la Constitución, la ley y los reglamentos, independientemente del sistema de IA que utilicen. Esto significa que se debe respetar el derecho al debido proceso y al acceso a la información pública, insistieron los expertos.
Marco Emilio Sánchez, consultor en utilización de tecnologías de la información y las comunicaciones y sus implicaciones jurídicas, fue enfático en señalar que el problema no es que se usen sistemas de IA, sino que detrás de ellos existe un uso de las TIC por parte de las administraciones públicas y de las autoridades del Estado colombiano que están sometidas a la legalidad.
La profesora Jenny Marcela Sánchez Torres, directora de Investigación y Laboratorios de la UNAL, manifestó que cada vez que se utiliza este tipo de tecnologías, que se usan estos algoritmos, hay una implicación no solo en el funcionamiento interno de la entidad, sino en la relación entre el Gobierno y el ciudadano. “Personalmente lo que me preocupa es que se hubiera usado ChatGPT en una sentencia, porque esto implica un desconocimiento total de qué son en realidad esas herramientas y cuáles son las fuentes que utilizan para aprender, que puede ser por modelos supervisados en los que hay humanos que los alimentan, o por métodos no supervisados”, dijo.
