Septiembre 5, 2024

Transparencia algorítmica: ¿Quiénes y cómo están tomando las decisiones? Por María Jaraquemada

Abogada y Presidenta de la Comisión de Probidad

Tenemos desde el 2021 una Política Nacional de Inteligencia Artificial y se discute en el Congreso un proyecto de ley que Regula los sistemas de inteligencia artificial. Es decir, tenemos una experiencia de 15 años impulsado la transparencia en el sector público, pero en materia de IA aún está todo muy en pañales.


La semana pasada se publicó en el Diario Oficial la recomendación del Consejo para la Transparencia sobre Transparencia Algorítmica cuyo principal objeto es “orientar y promover la adopción de buenas prácticas en torno a la transparencia y publicidad de los sistemas de decisiones automatizadas y semiautomatizadas que se utilizan en el sector público, tanto desde el respeto al ejercicio del derecho de acceso a la información pública, como de la publicación proactiva de información relevante sobre dichos sistemas”.

Esta recomendación responde a lo rápido que va avanzando el uso de herramientas de inteligencia artificial en el sector público, para diversas acciones: Fiscalización: en el extranjero hay interesantes casos de uso de ésta para analizar volúmenes importantes de información para detectar posibles conductas anómalas en el pago de impuestos y en Chile existe un modelo predictivo para fiscalizaciones proactivas de la Dirección del Trabajo.

Para tomar decisiones como la asignación de colegios en el sistema de admisión escolar. Para comunicar o informar a la ciudadanía sobre ciertos servicios o bienes públicos, como el “bot” por Whatsapp del Ministerio de la Mujer y Equidad de Género para brindar ayuda a personas que se encuentren en situación de violencia de género. Para contribuir a la prevención de delitos con el uso de inteligencia artificial para el reconocimiento facial o de patentes vehiculares-; entre muchos otros usos y potencialidades.

Sin embargo, y como se ha advertido por diversas entidades internacionales (OCDE, Unión Europea, UNESCO, entre otras), la falta de transparencia y rendición de cuentas del uso intensivo de estos mecanismos puede afectar todo su potencial y aumentar sus riesgos, como la desinformación, la discriminación arbitraria o generar desigualdad. Tal como hay casos muy exitosos de su uso, también ha habido casos muy criticados.

Un estudio mostró cómo algunos sistemas de reconocimiento facial tenían tasas de error más altas en la identificación de personas de raza negra o asiática comparado con personas de raza blanca, lo que lleva a la discriminación en áreas como la seguridad, la vigilancia y la identificación.

También se detectaron sesgos de género en procesos de reclutamiento laboral afectando a mujeres; discriminación algorítmica en la concesión de créditos por instituciones financieras, privilegiando a hombres aún en caso de contar con los mismos antecedentes que mujeres; entre muchos otros ejemplos.

En Chile, contamos desde el año 2008 con el principio de publicidad de la función pública establecido en nuestra Carta Fundamental y, desde el 2018, con la Ley de Transparencia que ha implicado un importante desarrollo de nuestro ecosistema de transparencia e integridad. Así mismo, tenemos desde el 2021 una Política Nacional de Inteligencia Artificial y se discute en el Congreso un proyecto de ley que Regula los sistemas de inteligencia artificial. Es decir, tenemos una experiencia de 15 años impulsado la transparencia en el sector público pero en materia de IA aún está todo muy en pañales.

Por esto, se hace tan necesario comenzar a establecer un cierto marco regulatorio a estas herramientas para sacarles su máxima potencialidad y que puedan contribuir a tener servicios y bienes públicos de calidad, accesibles para todas las personas, aumentando la acción eficaz y eficiente del Estado.

De este modo un primer paso imprescindible es la transparencia y rendición de cuentas, de modo que todas las personas puedan acceder, de manera sencilla y rápida, a información sobre los sistemas de decisiones automatizadas y semiautomatizadas que se están utilizando hoy en día para hacer más eficiente su labor, fomentando así que los organismos mantengan publicada cierta información que pueda afectar los derechos fundamentales de las personas o su acceso a servicios y beneficios.

Así, se busca que sea la tecnología la que esté al servicio de las personas y no al revés, pudiendo informarse, controlar y cuestionar el cuándo y cómo nuestras instituciones públicas se sirven de estas herramientas para el cumplimiento de sus funciones. Sin duda se trata de un primer paso que probablemente vaya evolucionando de la mano del mayor desarrollo e intensidad de su uso.

Para seguir leyendo columnas de Ex-Ante, clic aquí.

Lea también. Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer

Publicaciones relacionadas

Abogada y Presidenta de la Comisión de Probidad

Febrero 12, 2025

Por qué Chile cayó en el Índice de Percepción de Corrupción. Por María Jaraquemada

Los países más corruptos son presa fácil del autoritarismo y populismo, pero también tienen peores indicadores de desarrollo humano, inversión extranjera y crecimiento económico, además de ser más inseguros. Es decir, por todos lados la lucha real y efectiva contra la corrupción es una inversión.

Vicepresidente ejecutiva FIAP

Febrero 11, 2025

Reforma de pensiones: mucho camino por recorrer. Por Karol Fernández

Imagen generada con IA

Hay al menos tres normativas que serán cruciales para que esta reforma no desencadene una serie de consecuencias de segundo y tercer orden imprevistas. El debate de pensiones, lejos de haber terminado, inicia una nueva etapa, en la cual los distintos actores que participamos de éste podemos colaborar.

Investigador CEP

Febrero 10, 2025

La caída de la fecundidad en Chile: ¿Un futuro económico en riesgo? Gabriel Ugarte

Imagen generada con IA

El futuro económico de Chile dependerá de la capacidad para afrontar de manera decidida esta nueva realidad demográfica con decisiones efectivas y oportunas.

Ex-Ante

Febrero 9, 2025

La otra elección de noviembre. Por Pepe Auth

Vista de la Cámara de Diputados durante el debate por la reforma de pensiones. Foto: Agencia UNO.

Las últimas cuatro elecciones presidenciales han sido ganadas por la oposición, cualquiera sea su signo político, generacional, de género o carácter de la candidatura que pasa a segunda vuelta. Le será muy difícil al gobierno contrariar esta constante. Pero, independientemente de que fracase o tenga éxito en el intento, la manera en que enfrente la […]

Por Ana Josefa Silva, crítica de cine

Febrero 9, 2025

Las series en Netflix que quiero ver este 2025 (parte 2). Por Ana Josefa Silva

Afiche de Departamento Q (Netflix)

Este sábado la presidenta del Círculo de Críticos de Arte de Chile, Ana Josefa Silva, destacó en su columna el catálogo que dio a conocer la popular plataforma de streaming para fines de enero, con nuevas producciones y temporadas. Sin embargo, no se quiso quedar allí; en esta segunda parte, recomienda series en desarrollo.