Albania ha hecho noticia alrededor del mundo estos días por una “innovación política”. El primer ministro Rama nombró a Diella en su gabinete como Ministra de Estado. La particularidad es que no se trata de una persona sino que fue generada por la inteligencia artificial (IA). Esto viene a concretar lo que ya otros han planteado previamente, particularmente ante una alta desconfianza en la política y quienes la desempeñan: el gobierno de los algoritmos, que reemplace a humanos corruptos y cargados de conflictos de interés.
De hecho, en su presentación, Diella destaca precisamente estos puntos “…(no) tengo ambiciones ni intereses personales… Sólo tengo datos, sed de conocimiento y algoritmos dedicados a servir a los ciudadanos de forma imparcial, transparente e incansable”. La ministra virtual estaría a cargo de emitir documentos electrónicos para ciudadanos y empresas, así como de gestionar todas las contrataciones públicas en Albania, con una promesa de terminar 100% con la corrupción en esta materia.
¿Cómo podríamos oponernos ante la expectativa de cero conflictos de intereses y el ejercicio transparente, imparcial y 24/7 de la función pública? ¿Qué podría salir mal?
La inteligencia artificial y los Modelos de Lenguaje Grande, (por sus siglas en inglés) son sistemas que se entrenan con enormes cantidades de datos para comprender, generar y procesar el lenguaje humano de manera natural, sofisticada y en muy poco tiempo. Así hoy ChatGPT, Gemini y otras variaciones de la IA nos ayudan a hacer resúmenes de grandes documentos; traducir en los más diversos idiomas; generar “chat bots” o bots conversacionales que permiten a los servicios públicos o empresas interacciones más naturales y eficientes como asistentes virtuales con las personas; realizar análisis de sentimientos expresados en un texto; hacer rápidamente cálculos matemáticos muy complejos; hasta la creación de código, es decir nos pueden ayudar a escribir y completar funciones o programas de software.
Sin duda, un gran apoyo para labores profesionales, académicas e incluso personales (en mi caso, ha sido una gran ayuda para planificar vacaciones).
Pero, para bien o para mal, la IA no es capaz de reemplazar labores humanas tan claves y relevantes como un puesto en un gabinete gubernamental. Y también está lejos de cumplir con la promesa de imparcialidad y transparencia absoluta. Quizás lo único que sea cierto de las afirmaciones de Diella, es su trabajo incansable y 24/7.
Como ya se ha visto en todo el mundo, la IA padece de los mismos sesgos que los humanos. Si bien no tiene conflictos de intereses propios, puede replicar o reproducir prejuicios de otras personas que terminan implicando importantes discriminaciones para la ciudadanía.
Las bases de datos a través de las cuales la IA se entrena no son absolutamente neutros y según como estén diseñadas y configuradas, pueden reproducir relaciones de poder y discriminaciones muy asentadas en nuestra sociedad (por raza, género, origen social, nacionalidad, etc.). La IA tiene la misma falta de parcialidad y sesgos que los humanos, de hecho se basa y “aprende” de nuestras conductas y decisiones pasadas, por eso hay tantos casos de errores y discriminaciones documentadas en las más diversas latitudes.
Por lo mismo, como la IA se entrena con datos de decisiones y hechos que ya han ocurrido, por esencia mira hacia el pasado, se basa en datos y conductas que hemos tenido hasta el momento, pero no puede predecir el futuro ni anticiparse a cambios de conductas, lo que le deja un punto ciego importante.
Asimismo, en no pocas ocasiones el cómo actúan los algoritmos para tomar decisiones (como asignar subsidios, beneficios sociales, créditos, seleccionar a personas o postulantes a cargos, etc), puede ser bastante complejo de explicar, gestionar y regular por la creciente complejidad de la tecnología y por los masivos datos con los que se ha entrenado. Esto hace que no necesariamente delegar la toma de decisiones a la IA sea más transparente a que lo haga una persona y su rendición de cuentas puede ser más compleja.
¿Significa esto, entonces, que hay que descartar su uso? Para nada, por el contrario, se trata de una herramienta tremendamente útil para asistir a las personas cuando deben procesar largas cantidades de información en poco tiempo y quieren focalizar el uso de recursos limitados: por ejemplo, podemos entrenarla para que detecte conductas anómalas para efectos de focalizar la fiscalización; que sea el primer filtro para atender a personas cuando requieren atención de un servicio o empresa; entre muchas otras funciones.
Pero no podemos delegar al 100% algunas decisiones en las cuales es clave la deliberación, la flexibilidad y adaptación al contexto y la mirada prospectiva hacia el futuro.
La IA, tal como nosotros, comete errores y está llena de sesgos. Y, por suerte, está lejos de reemplazar a las personas en funciones clave. Si bien puede ser una gran asistente de investigación, fiscalización o atención ciudadana, no debemos olvidar que no es infalible y está para servirnos y no al revés, endiosar a la IA puede generar expectativas que rápidamente sean traicionadas por errores o sesgos.
Es decir, lo que queríamos evitar a toda costa, la desconfianza ciudadana, puede aumentar en vez de disminuir.
Publicaciones relacionadas
En relación al embargo de cuentas bancarias a personas en deuda con el Crédito con Aval del Estado (CAE) que afecta a 1.500 personas con ingresos sobre los $3,5 millones mensuales, el 37,4% de los encuestados está de acuerdo, el 40,4% en desacuerdo y el 22,2% no tiene opinión definida.
Por razones de seguridad, pero también de dignidad nacional, el Estado chileno debe esclarecer la trama del Tren de Aragua y desarticular sus redes.
La pregunta para Boric es ¿qué ocurre cuando la base que lo respalda empieza a reconocer que el CAE no se condonó no porque la oposición lo bloqueara, sino porque su propio gobierno nunca lo empujó en serio? Esa parte del electorado, que ha tolerado la promesa incumplida porque cree que el responsable fue el […]
A casi cinco años de dejar la alcaldía y sin apariciones públicas relevantes, Raúl Torrealba (77) se prepara para el juicio oral. El dirigente que durante un cuarto de siglo gobernó la comuna más rica de Chile y encarnó el poder municipal en la derecha, enfrenta una acusación de Fiscalía que pide 28 años de […]
La pregunta de fondo es si la notable separación entre estabilidad económica e inestabilidad política que Perú ha exhibido durante la última década puede sostenerse indefinidamente o si, tarde o temprano, las debilidades de la gobernabilidad terminarán afectando el crecimiento, la inversión y el enorme potencial estratégico que hoy posee el país.
