Ingresar
4 min
La pregunta decisiva no es ¿cuánta IA requiere el país? sino ¿qué decisiones corporativas y/o individuales dejaremos tomar a las máquinas y cuáles dejaremos a las personas? con sus defectos y virtudes, pero asegurando un uso racional y responsable.
La encíclica Magnifica Humanitas del papa León XIV entrega una reflexión para la humanidad resumida en dos grandes caminos: construir una nueva “Torre de Babel”, basada en concentración de poder, eficiencia extrema y control tecnológico; o reconstruir una “Jerusalén” centrada en dignidad humana, colaboración y bien común.
Esa reflexión resulta pertinente para Chile en momentos en que se discute el proyecto de Ley de Inteligencia Artificial (IA). El proyecto avanza correctamente al reconocer que la IA debe estar al servicio de las personas, proteger derechos fundamentales y regularse según niveles de riesgo. Además, incorpora principios valiosos como supervisión humana, transparencia, privacidad, no discriminación y responsabilidad. Sin embargo, la iniciativa presenta una limitación importante: entiende la IA principalmente como un problema regulatorio y técnico, cuando en realidad estamos frente a una transformación mucho más profunda del poder económico y social.
La gran pregunta no es solo si un algoritmo funciona bien sino qué ocurre cuando las organizaciones comienzan a delegar decisiones humanas relevantes para que sistemas las automaticen sin crear mecanismos de gobernanza que establezcan claramente la responsabilidad de dichas decisiones.
La encíclica plantea justamente ese riesgo: reducir el misterio y la dignidad humana a información procesable, que en términos corporativos podría entenderse como reducir la administración a un conjunto de máquinas de irresponsabilidad automatizadas o “the unaccountability machines” usando el título del autor británico Dan Davies.
El proyecto de ley de IA actualmente en discusión en el Congreso Nacional incluye varios de estos aspectos, originalmente ya existentes en la ley europea. Esto incluye un sistema de clasificación de riesgos y el cumplimiento de varias condiciones tales como el uso responsable de la IA, accountability, transparencia, reducción de sesgos, privacidad y explicabilidad, entre otros.
Como un todo, estos persiguen poner a los humanos en el centro de modo de evitar los impactos negativos humanos y sociales. Sin embargo, el proyecto se preocupa en demasía de los posibles riesgos por el uso de la IA pero muy poco de justamente los impactos humanos y sociales. Nuevamente, como en otras políticas públicas (ej. ciencia y tecnología) estamos más preocupados de los resultados que de los impactos.
Muchos de los problemas que ya se están generando en variadas empresas se originan por la falta no sólo de gobernanza, sino de un uso irresponsable y negligente de tecnologías de IA: empresas despidiendo a trabajadores porque supuestamente ciertas tareas de automatización los está reemplazando, reducción de personal aludiendo a supuestos incrementos en productividad que no están demostrados, negligencias en la interacción con usuarios/clientes debido a la no comprensión de las herramientas de IA, entre otros.
Estudios del MIT Sloan School of Management han mostrado cómo implementaciones de pilotos de IA en empresas han fracasado. entre otras causales, por una falta de comprensión de los problemas por los propios CEO y el uso sin conocimiento de herramientas de IA, entre otros factores. Estos mismos protagonistas son quienes están tomando decisiones de automatización, despidos y reemplazo de trabajadores.
En forma tardía, mucha de la adopción de tecnologías de IA en la organización detecta que es vital un uso aumentado de humanos y máquinas, la otra IA (Inteligencia Aumentada) para no sólo evitar dichos impactos, sino que incluso para evitar problemas de la automatización que producen efectos negativos en humanos. Por ejemplo, como ya ha acontecido, tecnologías que operan 24/7 súbitamente producen información falsa perjudicando a clientes de un banco, pacientes de un hospital o trabajadores en una faena. Naturalmente, un humano en el loop habría resuelto eso en un segundo, pero limitaría la operación 24/7, por lo que claramente la supervisión humana trae consigo la necesidad de mejorar las tecnologías actuales para que cooperen en dicha fusión IA+IA.
Más aún, esta necesidad de velar por el impacto humano y social no es de exclusiva responsabilidad de las organizaciones o empresas, sino también de los mismos humanos.
Otro efecto no contemplado de la facilidad y accesibilidad de varias herramientas de IA es que cualquier persona puede utilizarlas. Sin embargo, estas mismas tecnologías funcionan como “cajas negras” que mucha gente no las entiende, por lo tanto, no puede determinar sus efectos/impactos y menos aún controlar sus resultados. Quizás esto no representa mucho riesgo cuando las personan las utilizan en forma masiva con fines de productividad personal. Sin embargo, cuando se utilizan para producir resultados en las organizaciones que pueden impactar la integridad de otros humanos, eso sí es un problema y grave.
Ergo, los humanos también están perjudicando a otros humanos.
Finalmente, la pregunta decisiva no es ¿cuánta IA requiere el país? sino ¿qué decisiones corporativas y/o individuales dejaremos tomar a las máquinas y cuáles dejaremos a las personas? con sus defectos y virtudes, pero asegurando un uso racional y responsable.
