La semana pasada se publicó en el Diario Oficial la recomendación del Consejo para la Transparencia sobre Transparencia Algorítmica cuyo principal objeto es “orientar y promover la adopción de buenas prácticas en torno a la transparencia y publicidad de los sistemas de decisiones automatizadas y semiautomatizadas que se utilizan en el sector público, tanto desde el respeto al ejercicio del derecho de acceso a la información pública, como de la publicación proactiva de información relevante sobre dichos sistemas”.
Esta recomendación responde a lo rápido que va avanzando el uso de herramientas de inteligencia artificial en el sector público, para diversas acciones: Fiscalización: en el extranjero hay interesantes casos de uso de ésta para analizar volúmenes importantes de información para detectar posibles conductas anómalas en el pago de impuestos y en Chile existe un modelo predictivo para fiscalizaciones proactivas de la Dirección del Trabajo.
Para tomar decisiones como la asignación de colegios en el sistema de admisión escolar. Para comunicar o informar a la ciudadanía sobre ciertos servicios o bienes públicos, como el “bot” por Whatsapp del Ministerio de la Mujer y Equidad de Género para brindar ayuda a personas que se encuentren en situación de violencia de género. Para contribuir a la prevención de delitos con el uso de inteligencia artificial para el reconocimiento facial o de patentes vehiculares-; entre muchos otros usos y potencialidades.
Sin embargo, y como se ha advertido por diversas entidades internacionales (OCDE, Unión Europea, UNESCO, entre otras), la falta de transparencia y rendición de cuentas del uso intensivo de estos mecanismos puede afectar todo su potencial y aumentar sus riesgos, como la desinformación, la discriminación arbitraria o generar desigualdad. Tal como hay casos muy exitosos de su uso, también ha habido casos muy criticados.
Un estudio mostró cómo algunos sistemas de reconocimiento facial tenían tasas de error más altas en la identificación de personas de raza negra o asiática comparado con personas de raza blanca, lo que lleva a la discriminación en áreas como la seguridad, la vigilancia y la identificación.
También se detectaron sesgos de género en procesos de reclutamiento laboral afectando a mujeres; discriminación algorítmica en la concesión de créditos por instituciones financieras, privilegiando a hombres aún en caso de contar con los mismos antecedentes que mujeres; entre muchos otros ejemplos.
En Chile, contamos desde el año 2008 con el principio de publicidad de la función pública establecido en nuestra Carta Fundamental y, desde el 2018, con la Ley de Transparencia que ha implicado un importante desarrollo de nuestro ecosistema de transparencia e integridad. Así mismo, tenemos desde el 2021 una Política Nacional de Inteligencia Artificial y se discute en el Congreso un proyecto de ley que Regula los sistemas de inteligencia artificial. Es decir, tenemos una experiencia de 15 años impulsado la transparencia en el sector público pero en materia de IA aún está todo muy en pañales.
Por esto, se hace tan necesario comenzar a establecer un cierto marco regulatorio a estas herramientas para sacarles su máxima potencialidad y que puedan contribuir a tener servicios y bienes públicos de calidad, accesibles para todas las personas, aumentando la acción eficaz y eficiente del Estado.
De este modo un primer paso imprescindible es la transparencia y rendición de cuentas, de modo que todas las personas puedan acceder, de manera sencilla y rápida, a información sobre los sistemas de decisiones automatizadas y semiautomatizadas que se están utilizando hoy en día para hacer más eficiente su labor, fomentando así que los organismos mantengan publicada cierta información que pueda afectar los derechos fundamentales de las personas o su acceso a servicios y beneficios.
Así, se busca que sea la tecnología la que esté al servicio de las personas y no al revés, pudiendo informarse, controlar y cuestionar el cuándo y cómo nuestras instituciones públicas se sirven de estas herramientas para el cumplimiento de sus funciones. Sin duda se trata de un primer paso que probablemente vaya evolucionando de la mano del mayor desarrollo e intensidad de su uso.
Para seguir leyendo columnas de Ex-Ante, clic aquí.
Lea también. Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer
Caso Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer. https://t.co/Z594duqc3z
— Ex-Ante (@exantecl) September 5, 2024
Publicaciones relacionadas
Estamos asistiendo en estos días a manifestaciones de la atávica tradición autodestructiva de la derecha chilena, que no pocas veces se comporta como si se estuviera saboteando a sí misma, como si le asustara la idea de gobernar y quisiera alejar esa posibilidad.
Resulta evidente que los partidos de oposición no atraviesan su mejor momento. En la misma encuesta del CEP, ninguno de éstos tiene más de un 5% de adhesión, aunque el panorama es igualmente paupérrimo para las colectividades oficialistas, con la salvedad de que al menos ellos cuentan con la fuerza que otorga estar en un […]
Fue una tragedia moral y cultural que muchas personas se mostraran indulgentes frente a la barbarie, en algunos casos por creer que era la manifestación necesaria del despertar del pueblo, y en otros casos por miedo a la agresión. De cualquier modo, en aquellos días se debilitaron hasta un punto crítico los valores democráticos, y […]
Mientras los políticos que llegaron al poder gracias al estallido social aseguran sus futuros de acuerdo con lo planificado, el resto de los acreedores del fatídico estallido social no han logrado ni lo más mínimo. Nunca antes había sido tan difícil comprar una vivienda propia en Chile, nunca antes había sido tan caro obtener un […]
El Ángel que habita en el fiscal Valencia, tendrá que usar, entonces, todo el poder de sus alas, para escapar a ese enorme infierno que van abriendo sus círculos en el corazón de lo único que no debería fallar en nuestro estado: La justicia para todos.
