Congreso Futuro 2024: Quién es Kate Crawford y su crítica al impacto global de la Inteligencia Artificial

La investigadora principal de Microsoft Research, cofundadora del AI Now Institute y profesora de ética de la inteligencia artificial en la Universidad de Nueva York señaló que “necesitamos una estrategia regulatoria que monitoree todos lo niveles de la inteligencia artificial” en su charla de apertura de Congreso Futuro 2024, ¿Cómo lidiar con la IA que el ser humano ha creado?.

Kate Crawford. Es una destacada académica que ha estudiado las implicancias sociales de la inteligencia artificial y fue una de las personas más influyentes de 2023 de acuerdo con la revista Time. Profesora de la Universidad de Nueva York e investigadora de la Escuela de Comunicación y Periodismo de la Universidad del Sur de California, tiene 50 años y se ha dedicado a comprender los sistemas de datos a gran escala, el aprendizaje automático y su impacto global.

• El 15 de noviembre de 2017, junto a Meredith Whittaker, lanzó el primer centro de investigación liderado por mujeres AI Now Institute, que reúne a expertos de computación, economía y derecho para explorar el uso responsable de tecnologías.
• Entró al equipo de Microsoft Research en 2005, donde reúne un interesante repertorio de investigaciones sobre diversos temas, como el debate mediático sobre la descarga musical, la censura en internet, la primera web dedicada a los emojis y la personalización de las noticias con X (ex Twitter), entre otras cosas.
• Actualmente ocupa la cátedra visitante inaugural de IA y justicia en la École Normale Supérieure de París.
• Ha asesorado a políticos de la ONU, la Comisión Federal de Comercio, el Parlamento Europeo, la Comisión Australiana de DD.HH. y la Casa Blanca. Además, ha colaborado para medios como The New York Times, The Atlantic y Harper’s Magazine.
• Su trabajo también reúne proyectos colaborativos e investigaciones visuales. El proyecto “Anatomía de un sistema de IA” con Vladan Joler, que observa el ciclo de vida de Amazon Echo, recibió el galardón Beazley al “Diseño del Año” (2019) y se encuentra en la colección permanente del MoMA.

Crítica de los modelos de IA. En una entrevista con el medio británico The Guardian en junio de 2021, señaló que “la ética en la [IA] es necesaria, pero no suficiente. Más útiles son preguntas como: ¿Quién se beneficia y quién resulta perjudicado por la IA? Lo que vemos una y otra vez, desde el reconocimiento facial, hasta el seguimiento y vigilancia en los sistemas de trabajo, es que estos sistemas están empoderando a instituciones que ya son poderosas: corporaciones, militares y policías”.

Su paso por Chile. Con su ponencia ¿Cómo lidiar con la IA que el ser humano ha creado?, Crawford fue encargada de abrir la convocatoria que reúne Congreso Futuro 2024, bajo el lema “IAhora qué hacemos”, que hace un guiño a cómo la inteligencia artificial está cambiando la vida en el planeta.

• “Cuando algo demuestra no ser lo que pretende, la democracia misma presenta un colapso epistemológico. La concentración de decisiones en tan pocas manos [principalmente en China y Estados Unidos], y en plataformas que demuestran ser esenciales para la comunicación pública y las elecciones va más allá de la desinformación, porque estas plataformas regulan toda la información. Muchos [empresarios] se benefician en promover sus propios chats de inteligencia artificial, y sus intereses no están con los del público”, afirmó en su ponencia en el Congreso Futuro.
• Resulta que muchos gobiernos no se sienten capaces para regular las transferencias de poder, donde la incidencia de las alianzas internacionales son muy relevantes. “Necesitamos una estrategia regulatoria que monitoree todos lo niveles de la inteligencia artificial, entre el trabajo, la información, recursos naturales y muchos otros aspectos”, agregó Crawford.
• El 2022, Chile fue uno de los principales países en regular el funcionamiento de las plataformas digitales, a través de la ley 21.431, para entregarle seguridad social a los trabajadores de aplicaciones, cubriendo a los repartidores y conductores.

Su Atlas de la IA. A través de su libro Atlas de IA: poder, política y costos planetarios de la inteligencia artificial (2021) indaga en cuáles serán los efectos de la inteligencia artificial en el planeta, y cómo ella terminó por moldear cómo nos percibimos y a nuestro entorno.

Dentro de sus descubrimientos se encuentran que la IA es finalmente una tecnología de extracción, que está impulsando una gobernanza no democrática, incrementando la inequidad. Crawford llega a la conclusión de que la idea de que la IA corresponde meramente a una acumulación de algoritmos matemáticos etéreos en la nube es completamente errónea. De hecho, explica que esta funciona al extraer grandes cantidades de datos, trabajo humano y factores que incluyen energía, agua y minerales.

Se trata de una investigación de más de 10 años de duración que ha provocado varias críticas positivas:

• “Este estudio sostiene que la [inteligencia artificial] no es artificial ni particularmente inteligente… una historia fascinante de los datos con los que se entrenan los sistemas de aprendizaje”. – New Yorker.
• “Un valioso correctivo para gran parte del revuelo que rodea la IA y un manual de instrucciones para el futuro”. – John Thornhill, Financial Times.
• “Es un libro que seducirá a los recién llegados mientras recorren el profundo dominio de la tecnología en el siglo XXI, mientras le ofrece a los lectores experimentados un compendio convincente para la investigación y la enseñanza”. – Lauren M.E. Goodlad, Critical Inquiry.

Su nueva publicación. En una entrevista con la Revista TIME el 7 de septiembre de 2023, la experta contó que se avecina un nuevo libro en 2024.  “Los hallazgos van a girar principalmente en torno al proyecto Knowing Machines, donde hemos estudiado sistemas de IG generativa desde distintas perspectivas: sociológica, histórica, legal y técnica”, explicó.

Lea también. Inteligencia Artificial y el dilema de regular su uso. Por Edmundo Varas

Vea su ponencia en Congreso Futuro 2024 a continuación: