La encíclica Magnifica Humanitas del papa León XIV entrega una reflexión para la humanidad resumida en dos grandes caminos: construir una nueva “Torre de Babel”, basada en concentración de poder, eficiencia extrema y control tecnológico; o reconstruir una “Jerusalén” centrada en dignidad humana, colaboración y bien común.
Esa reflexión resulta pertinente para Chile en momentos en que se discute el proyecto de Ley de Inteligencia Artificial (IA). El proyecto avanza correctamente al reconocer que la IA debe estar al servicio de las personas, proteger derechos fundamentales y regularse según niveles de riesgo. Además, incorpora principios valiosos como supervisión humana, transparencia, privacidad, no discriminación y responsabilidad. Sin embargo, la iniciativa presenta una limitación importante: entiende la IA principalmente como un problema regulatorio y técnico, cuando en realidad estamos frente a una transformación mucho más profunda del poder económico y social.
La gran pregunta no es solo si un algoritmo funciona bien sino qué ocurre cuando las organizaciones comienzan a delegar decisiones humanas relevantes para que sistemas las automaticen sin crear mecanismos de gobernanza que establezcan claramente la responsabilidad de dichas decisiones.
La encíclica plantea justamente ese riesgo: reducir el misterio y la dignidad humana a información procesable, que en términos corporativos podría entenderse como reducir la administración a un conjunto de máquinas de irresponsabilidad automatizadas o “the unaccountability machines” usando el título del autor británico Dan Davies.
El proyecto de ley de IA actualmente en discusión en el Congreso Nacional incluye varios de estos aspectos, originalmente ya existentes en la ley europea. Esto incluye un sistema de clasificación de riesgos y el cumplimiento de varias condiciones tales como el uso responsable de la IA, accountability, transparencia, reducción de sesgos, privacidad y explicabilidad, entre otros.
Como un todo, estos persiguen poner a los humanos en el centro de modo de evitar los impactos negativos humanos y sociales. Sin embargo, el proyecto se preocupa en demasía de los posibles riesgos por el uso de la IA pero muy poco de justamente los impactos humanos y sociales. Nuevamente, como en otras políticas públicas (ej. ciencia y tecnología) estamos más preocupados de los resultados que de los impactos.
Muchos de los problemas que ya se están generando en variadas empresas se originan por la falta no sólo de gobernanza, sino de un uso irresponsable y negligente de tecnologías de IA: empresas despidiendo a trabajadores porque supuestamente ciertas tareas de automatización los está reemplazando, reducción de personal aludiendo a supuestos incrementos en productividad que no están demostrados, negligencias en la interacción con usuarios/clientes debido a la no comprensión de las herramientas de IA, entre otros.
Estudios del MIT Sloan School of Management han mostrado cómo implementaciones de pilotos de IA en empresas han fracasado. entre otras causales, por una falta de comprensión de los problemas por los propios CEO y el uso sin conocimiento de herramientas de IA, entre otros factores. Estos mismos protagonistas son quienes están tomando decisiones de automatización, despidos y reemplazo de trabajadores.
En forma tardía, mucha de la adopción de tecnologías de IA en la organización detecta que es vital un uso aumentado de humanos y máquinas, la otra IA (Inteligencia Aumentada) para no sólo evitar dichos impactos, sino que incluso para evitar problemas de la automatización que producen efectos negativos en humanos. Por ejemplo, como ya ha acontecido, tecnologías que operan 24/7 súbitamente producen información falsa perjudicando a clientes de un banco, pacientes de un hospital o trabajadores en una faena. Naturalmente, un humano en el loop habría resuelto eso en un segundo, pero limitaría la operación 24/7, por lo que claramente la supervisión humana trae consigo la necesidad de mejorar las tecnologías actuales para que cooperen en dicha fusión IA+IA.
Más aún, esta necesidad de velar por el impacto humano y social no es de exclusiva responsabilidad de las organizaciones o empresas, sino también de los mismos humanos.
Otro efecto no contemplado de la facilidad y accesibilidad de varias herramientas de IA es que cualquier persona puede utilizarlas. Sin embargo, estas mismas tecnologías funcionan como “cajas negras” que mucha gente no las entiende, por lo tanto, no puede determinar sus efectos/impactos y menos aún controlar sus resultados. Quizás esto no representa mucho riesgo cuando las personan las utilizan en forma masiva con fines de productividad personal. Sin embargo, cuando se utilizan para producir resultados en las organizaciones que pueden impactar la integridad de otros humanos, eso sí es un problema y grave.
Ergo, los humanos también están perjudicando a otros humanos.
Finalmente, la pregunta decisiva no es ¿cuánta IA requiere el país? sino ¿qué decisiones corporativas y/o individuales dejaremos tomar a las máquinas y cuáles dejaremos a las personas? con sus defectos y virtudes, pero asegurando un uso racional y responsable.
Para más columnas en Ex-Ante, clic aquí.
Lea también
Cuenta regresiva para la Cuenta Pública. Por Roberto Munita Morgan
Publicaciones relacionadas
Doy por descontado que es altamente probable que el congreso terminará aprobando una versión “descafeinada” del proyecto de ley que crea el registro, que no contemplará la posibilidad de suspender derechos y beneficios sociales tales como la como la PGU; y que su aporte a resolver el problema del vandalismo será bastante más limitado de […]
A través de una declaración pública, la cadena de gimnasios Energy Fitness Club, fundada por Alex Weisner, adelantó que presentará una solicitud de quiebra voluntaria, tras no encontrar alternativas para preservar su continuidad. La crisis financiera de la compañía se gatilló tras el estallido social, y se complicó aún más con la irrupción de la […]
Con el paso del tiempo, Chile se ha posicionado como el país con mayor frecuencia de uso de scooters eléctricos en América Latina, con la presencia de empresas como Whoosh, Lime y Jet. En el canal online, las ventas también muestran un fuerte dinamismo: según datos de Mercado Libre, las ventas de este tipo de […]
Una de ellas se estrenó hace casi diez años pero con su llegada a Netflix ha sido (re)descubierta por muchísima gente. Y tiene una secuela reciente. Ambas, adaptaciones de novelas de Margaret Atwood. La otra serie, la sorprendente Spider-Noir.
Junto a un equipo multidisciplinario de Hacienda, el ministro Quiroz y el subsecretario Rodríguez encabezan el análisis de una iniciativa para agilizar el acceso a información bancaria en investigaciones de crimen organizado y lavado de activos. Aún no se define si ingresarán una indicación o habrá un nuevo proyecto de ley.
