La semana pasada se publicó en el Diario Oficial la recomendación del Consejo para la Transparencia sobre Transparencia Algorítmica cuyo principal objeto es “orientar y promover la adopción de buenas prácticas en torno a la transparencia y publicidad de los sistemas de decisiones automatizadas y semiautomatizadas que se utilizan en el sector público, tanto desde el respeto al ejercicio del derecho de acceso a la información pública, como de la publicación proactiva de información relevante sobre dichos sistemas”.
Esta recomendación responde a lo rápido que va avanzando el uso de herramientas de inteligencia artificial en el sector público, para diversas acciones: Fiscalización: en el extranjero hay interesantes casos de uso de ésta para analizar volúmenes importantes de información para detectar posibles conductas anómalas en el pago de impuestos y en Chile existe un modelo predictivo para fiscalizaciones proactivas de la Dirección del Trabajo.
Para tomar decisiones como la asignación de colegios en el sistema de admisión escolar. Para comunicar o informar a la ciudadanía sobre ciertos servicios o bienes públicos, como el “bot” por Whatsapp del Ministerio de la Mujer y Equidad de Género para brindar ayuda a personas que se encuentren en situación de violencia de género. Para contribuir a la prevención de delitos con el uso de inteligencia artificial para el reconocimiento facial o de patentes vehiculares-; entre muchos otros usos y potencialidades.
Sin embargo, y como se ha advertido por diversas entidades internacionales (OCDE, Unión Europea, UNESCO, entre otras), la falta de transparencia y rendición de cuentas del uso intensivo de estos mecanismos puede afectar todo su potencial y aumentar sus riesgos, como la desinformación, la discriminación arbitraria o generar desigualdad. Tal como hay casos muy exitosos de su uso, también ha habido casos muy criticados.
Un estudio mostró cómo algunos sistemas de reconocimiento facial tenían tasas de error más altas en la identificación de personas de raza negra o asiática comparado con personas de raza blanca, lo que lleva a la discriminación en áreas como la seguridad, la vigilancia y la identificación.
También se detectaron sesgos de género en procesos de reclutamiento laboral afectando a mujeres; discriminación algorítmica en la concesión de créditos por instituciones financieras, privilegiando a hombres aún en caso de contar con los mismos antecedentes que mujeres; entre muchos otros ejemplos.
En Chile, contamos desde el año 2008 con el principio de publicidad de la función pública establecido en nuestra Carta Fundamental y, desde el 2018, con la Ley de Transparencia que ha implicado un importante desarrollo de nuestro ecosistema de transparencia e integridad. Así mismo, tenemos desde el 2021 una Política Nacional de Inteligencia Artificial y se discute en el Congreso un proyecto de ley que Regula los sistemas de inteligencia artificial. Es decir, tenemos una experiencia de 15 años impulsado la transparencia en el sector público pero en materia de IA aún está todo muy en pañales.
Por esto, se hace tan necesario comenzar a establecer un cierto marco regulatorio a estas herramientas para sacarles su máxima potencialidad y que puedan contribuir a tener servicios y bienes públicos de calidad, accesibles para todas las personas, aumentando la acción eficaz y eficiente del Estado.
De este modo un primer paso imprescindible es la transparencia y rendición de cuentas, de modo que todas las personas puedan acceder, de manera sencilla y rápida, a información sobre los sistemas de decisiones automatizadas y semiautomatizadas que se están utilizando hoy en día para hacer más eficiente su labor, fomentando así que los organismos mantengan publicada cierta información que pueda afectar los derechos fundamentales de las personas o su acceso a servicios y beneficios.
Así, se busca que sea la tecnología la que esté al servicio de las personas y no al revés, pudiendo informarse, controlar y cuestionar el cuándo y cómo nuestras instituciones públicas se sirven de estas herramientas para el cumplimiento de sus funciones. Sin duda se trata de un primer paso que probablemente vaya evolucionando de la mano del mayor desarrollo e intensidad de su uso.
Para seguir leyendo columnas de Ex-Ante, clic aquí.
Lea también. Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer
Caso Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer. https://t.co/Z594duqc3z
— Ex-Ante (@exantecl) September 5, 2024
Publicaciones relacionadas
Un Estado que no sabe qué intervenciones ahorran costos futuros ni qué poblaciones están quedando fuera termina recortando a ciegas. Y en política social, recortar a ciegas suele ser caro: para las personas, para los servicios públicos y para el propio presupuesto fiscal.
Es tarea de la Corte Suprema corregir este fallo y volver a mostrar esa necesaria deferencia técnica de los tribunales hacia la autoridad administrativa y al proceso técnico.
Un plan de construcción incide en la capacidad productiva futura: capital humano, mercado laboral, innovación y Estado. Lo presentado al Congreso incide en la carga tributaria y genera incentivos temporales que no construyen una arquitectura de incentivos capaz de impulsar un progreso sostenible.
El mensaje encarnó fielmente las ideas y principios del sector político que el mandatario representa, de la derecha, y los sostuvo sin ambages ni medias tintas, poniéndolos en valor y trazando instrumentos claros para alcanzar los objetivos que, desde esas ideas políticas, se propone lograr.
Podemos redibujar organigramas y mover cajitas, pero si no enfrentamos la verdadera camisa de fuerza de que impone un Estatuto Administrativo que no permite gestionar personas, los esfuerzos serán en vano.
