La semana pasada se publicó en el Diario Oficial la recomendación del Consejo para la Transparencia sobre Transparencia Algorítmica cuyo principal objeto es “orientar y promover la adopción de buenas prácticas en torno a la transparencia y publicidad de los sistemas de decisiones automatizadas y semiautomatizadas que se utilizan en el sector público, tanto desde el respeto al ejercicio del derecho de acceso a la información pública, como de la publicación proactiva de información relevante sobre dichos sistemas”.
Esta recomendación responde a lo rápido que va avanzando el uso de herramientas de inteligencia artificial en el sector público, para diversas acciones: Fiscalización: en el extranjero hay interesantes casos de uso de ésta para analizar volúmenes importantes de información para detectar posibles conductas anómalas en el pago de impuestos y en Chile existe un modelo predictivo para fiscalizaciones proactivas de la Dirección del Trabajo.
Para tomar decisiones como la asignación de colegios en el sistema de admisión escolar. Para comunicar o informar a la ciudadanía sobre ciertos servicios o bienes públicos, como el “bot” por Whatsapp del Ministerio de la Mujer y Equidad de Género para brindar ayuda a personas que se encuentren en situación de violencia de género. Para contribuir a la prevención de delitos con el uso de inteligencia artificial para el reconocimiento facial o de patentes vehiculares-; entre muchos otros usos y potencialidades.
Sin embargo, y como se ha advertido por diversas entidades internacionales (OCDE, Unión Europea, UNESCO, entre otras), la falta de transparencia y rendición de cuentas del uso intensivo de estos mecanismos puede afectar todo su potencial y aumentar sus riesgos, como la desinformación, la discriminación arbitraria o generar desigualdad. Tal como hay casos muy exitosos de su uso, también ha habido casos muy criticados.
Un estudio mostró cómo algunos sistemas de reconocimiento facial tenían tasas de error más altas en la identificación de personas de raza negra o asiática comparado con personas de raza blanca, lo que lleva a la discriminación en áreas como la seguridad, la vigilancia y la identificación.
También se detectaron sesgos de género en procesos de reclutamiento laboral afectando a mujeres; discriminación algorítmica en la concesión de créditos por instituciones financieras, privilegiando a hombres aún en caso de contar con los mismos antecedentes que mujeres; entre muchos otros ejemplos.
En Chile, contamos desde el año 2008 con el principio de publicidad de la función pública establecido en nuestra Carta Fundamental y, desde el 2018, con la Ley de Transparencia que ha implicado un importante desarrollo de nuestro ecosistema de transparencia e integridad. Así mismo, tenemos desde el 2021 una Política Nacional de Inteligencia Artificial y se discute en el Congreso un proyecto de ley que Regula los sistemas de inteligencia artificial. Es decir, tenemos una experiencia de 15 años impulsado la transparencia en el sector público pero en materia de IA aún está todo muy en pañales.
Por esto, se hace tan necesario comenzar a establecer un cierto marco regulatorio a estas herramientas para sacarles su máxima potencialidad y que puedan contribuir a tener servicios y bienes públicos de calidad, accesibles para todas las personas, aumentando la acción eficaz y eficiente del Estado.
De este modo un primer paso imprescindible es la transparencia y rendición de cuentas, de modo que todas las personas puedan acceder, de manera sencilla y rápida, a información sobre los sistemas de decisiones automatizadas y semiautomatizadas que se están utilizando hoy en día para hacer más eficiente su labor, fomentando así que los organismos mantengan publicada cierta información que pueda afectar los derechos fundamentales de las personas o su acceso a servicios y beneficios.
Así, se busca que sea la tecnología la que esté al servicio de las personas y no al revés, pudiendo informarse, controlar y cuestionar el cuándo y cómo nuestras instituciones públicas se sirven de estas herramientas para el cumplimiento de sus funciones. Sin duda se trata de un primer paso que probablemente vaya evolucionando de la mano del mayor desarrollo e intensidad de su uso.
Para seguir leyendo columnas de Ex-Ante, clic aquí.
Lea también. Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer
Caso Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer. https://t.co/Z594duqc3z
— Ex-Ante (@exantecl) September 5, 2024
Publicaciones relacionadas
El rastro que antes se evaporaba hoy distingue al directorio que ejerció criterio del que solo lo aparentó. Los buenos directorios nunca temieron ser leídos. Ahora, simplemente, lo serán.
Si los retornos económicos del título universitario no son como antes (era imposible que se mantuvieran tan altos), debemos preguntarnos por qué la demanda por educación superior no ha cedido en la misma proporción. ¿Por qué las familias siguen considerando la universidad como un objetivo prioritario?
La apertura hacia modelos internos bien diseñados es una herramienta necesaria para que el capital de la banca refleje con precisión sus riesgos subyacentes. Optimizar el uso del capital bancario no debe ser sinónimo de ahorro de capital, sino de un capital bien gestionado.
Una política genuinamente progresista debe anteponer el interés nacional a las servidumbres del partidismo. Es lo que se jugará en los próximos meses, cuando el país procure salir del estancamiento y estimular el crecimiento económico en un contexto difícil, agravado por los enormes daños causados por los temporales.
Se puede negociar una reforma tributaria, una condonación, casi cualquier cosa, siempre que quien se sienta a la mesa sepa con claridad qué línea no está dispuesto a cruzar y qué está dispuesto a ceder para sostenerla. Eso no es ideología abstracta: es la diferencia entre incidir en el resultado final de una ley y […]
