Congreso Futuro 2024: Quién es Kate Crawford y su crítica al impacto global de la Inteligencia Artificial

Fernanda Valiente D.
Kate Crawford en Congreso Futuro 2024. Crédito: Agencia Uno.

La investigadora principal de Microsoft Research, cofundadora del AI Now Institute y profesora de ética de la inteligencia artificial en la Universidad de Nueva York señaló que “necesitamos una estrategia regulatoria que monitoree todos lo niveles de la inteligencia artificial” en su charla de apertura de Congreso Futuro 2024, ¿Cómo lidiar con la IA que el ser humano ha creado?.


Kate Crawford. Es una destacada académica que ha estudiado las implicancias sociales de la inteligencia artificial y fue una de las personas más influyentes de 2023 de acuerdo con la revista Time. Profesora de la Universidad de Nueva York e investigadora de la Escuela de Comunicación y Periodismo de la Universidad del Sur de California, tiene 50 años y se ha dedicado a comprender los sistemas de datos a gran escala, el aprendizaje automático y su impacto global.

  • El 15 de noviembre de 2017, junto a Meredith Whittaker, lanzó el primer centro de investigación liderado por mujeres AI Now Institute, que reúne a expertos de computación, economía y derecho para explorar el uso responsable de tecnologías.
  • Entró al equipo de Microsoft Research en 2005, donde reúne un interesante repertorio de investigaciones sobre diversos temas, como el debate mediático sobre la descarga musical, la censura en internet, la primera web dedicada a los emojis y la personalización de las noticias con X (ex Twitter), entre otras cosas.
  • Actualmente ocupa la cátedra visitante inaugural de IA y justicia en la École Normale Supérieure de París.
  • Ha asesorado a políticos de la ONU, la Comisión Federal de Comercio, el Parlamento Europeo, la Comisión Australiana de DD.HH. y la Casa Blanca. Además, ha colaborado para medios como The New York Times, The Atlantic y Harper’s Magazine.
  • Su trabajo también reúne proyectos colaborativos e investigaciones visuales. El proyecto “Anatomía de un sistema de IA” con Vladan Joler, que observa el ciclo de vida de Amazon Echo, recibió el galardón Beazley al “Diseño del Año” (2019) y se encuentra en la colección permanente del MoMA.

Crítica de los modelos de IA. En una entrevista con el medio británico The Guardian en junio de 2021, señaló que “la ética en la [IA] es necesaria, pero no suficiente. Más útiles son preguntas como: ¿Quién se beneficia y quién resulta perjudicado por la IA? Lo que vemos una y otra vez, desde el reconocimiento facial, hasta el seguimiento y vigilancia en los sistemas de trabajo, es que estos sistemas están empoderando a instituciones que ya son poderosas: corporaciones, militares y policías”.

Su paso por Chile. Con su ponencia ¿Cómo lidiar con la IA que el ser humano ha creado?, Crawford fue encargada de abrir la convocatoria que reúne Congreso Futuro 2024, bajo el lema “IAhora qué hacemos”, que hace un guiño a cómo la inteligencia artificial está cambiando la vida en el planeta.

  • “Cuando algo demuestra no ser lo que pretende, la democracia misma presenta un colapso epistemológico. La concentración de decisiones en tan pocas manos [principalmente en China y Estados Unidos], y en plataformas que demuestran ser esenciales para la comunicación pública y las elecciones va más allá de la desinformación, porque estas plataformas regulan toda la información. Muchos [empresarios] se benefician en promover sus propios chats de inteligencia artificial, y sus intereses no están con los del público”, afirmó en su ponencia en el Congreso Futuro.
  • Resulta que muchos gobiernos no se sienten capaces para regular las transferencias de poder, donde la incidencia de las alianzas internacionales son muy relevantes. “Necesitamos una estrategia regulatoria que monitoree todos lo niveles de la inteligencia artificial, entre el trabajo, la información, recursos naturales y muchos otros aspectos”, agregó Crawford.
  • El 2022, Chile fue uno de los principales países en regular el funcionamiento de las plataformas digitales, a través de la ley 21.431, para entregarle seguridad social a los trabajadores de aplicaciones, cubriendo a los repartidores y conductores.

Su Atlas de la IA. A través de su libro Atlas de IA: poder, política y costos planetarios de la inteligencia artificial (2021) indaga en cuáles serán los efectos de la inteligencia artificial en el planeta, y cómo ella terminó por moldear cómo nos percibimos y a nuestro entorno.

Dentro de sus descubrimientos se encuentran que la IA es finalmente una tecnología de extracción, que está impulsando una gobernanza no democrática, incrementando la inequidad. Crawford llega a la conclusión de que la idea de que la IA corresponde meramente a una acumulación de algoritmos matemáticos etéreos en la nube es completamente errónea. De hecho, explica que esta funciona al extraer grandes cantidades de datos, trabajo humano y factores que incluyen energía, agua y minerales.

Se trata de una investigación de más de 10 años de duración que ha provocado varias críticas positivas:

  • “Este estudio sostiene que la [inteligencia artificial] no es artificial ni particularmente inteligente… una historia fascinante de los datos con los que se entrenan los sistemas de aprendizaje”. – New Yorker.
  • “Un valioso correctivo para gran parte del revuelo que rodea la IA y un manual de instrucciones para el futuro”. – John Thornhill, Financial Times.
  • “Es un libro que seducirá a los recién llegados mientras recorren el profundo dominio de la tecnología en el siglo XXI, mientras le ofrece a los lectores experimentados un compendio convincente para la investigación y la enseñanza”. – Lauren M.E. Goodlad, Critical Inquiry.

Su nueva publicación. En una entrevista con la Revista TIME el 7 de septiembre de 2023, la experta contó que se avecina un nuevo libro en 2024.  “Los hallazgos van a girar principalmente en torno al proyecto Knowing Machines, donde hemos estudiado sistemas de IG generativa desde distintas perspectivas: sociológica, histórica, legal y técnica”, explicó.

Lea también. Inteligencia Artificial y el dilema de regular su uso. Por Edmundo Varas

Vea su ponencia en Congreso Futuro 2024 a continuación:

Publicaciones relacionadas

Ex-Ante

Junio 13, 2024

Caso ProCultura: Por qué la policía incautó el celular al gobernador de Valparaíso Rodrigo Mundaca (Ind-FA)

El gobernador Rodrigo Mundaca el 11 de junio en Valparaíso. (Yvo Salinas / Agencia Uno)

El gobernador de Valparaíso —que competirá por la reelección respaldado por el FA— entregó este jueves su celular, como parte de la incautación realizada en el marco de la investigación a los convenios con ProCultura. El traspaso fue por un monto bajo en comparación con otros entregados a la fundación —$25 millones por un proyecto […]

Marcelo Soto

Junio 13, 2024

Labatut, la nueva estrella de la literatura chilena en el mundo: “Tenerle pánico a la inteligencia artificial es completamente justificable”

El escritor chileno Benjamín Labatut, 44 años, el autor nacional más famoso desde Bolaño y Zambra, estuvo en Santiago en un encuentro con el mundo de los negocios, la literatura y la política en BTG Talks. El autor de Maniac, considerado por la crítica extranjera uno de los mejores libros de 2023, una mezcla de […]

Jaime Troncoso R.

Junio 13, 2024

William Maloney, del Banco Mundial: “Chile tiene el potencial para superar su crecimiento del 2%”

William Maloney, Economista jefe del Banco Mundial para América Latina.

Esta semana, el Banco Mundial elevó su proyección para el crecimiento de la economía chilena desde el 2,0% al 2,6% para 2024. Para 2025 y 2026 estimó que Chile se expandirá a una tasa del 2,2% cada año. En esta entrevista, el economista jefe del Banco Mundial para América Latina, William Maloney, aborda las fortalezas y […]

Ex-Ante

Junio 13, 2024

El polémico juez Urrutia y sus declaraciones que cuestionan su independencia en la causa del INDH

El juez Daniel Urrutia el 8 de noviembre de 2023 en Santiago. (Víctor Huenante / Agencia Uno)

El juez Daniel Urrutia dio una entrevista frente a la denuncia de tráfico de influencia derivada del Caso Topógrafo, que investiga su tribunal. En ésta, calificó de “absolutamente inaceptable (…) estas develaciones de los chats por WhatsApp que el ministro (Poblete) mantuvo, y es de conocimiento público con quien los mantuvo, y pidiendo favores”. Sus […]

Marcelo Soto

Junio 13, 2024

Crónica del caótico Campus Juan Gómez Millas y la toma que indignó a la comunidad de la U. de Chile

Imagen de archivo.

El Campus Juan Gómez Millas lleva varios días tomado por estudiantes que apoyan a Palestina. Aunque resistida por muchos alumnos que quieren asistir a clases, la protesta se extiende por otras facultades, mezclando demandas internas. El movimiento ha sido cuestionado por polémicas medidas, como marcar a quienes pueden entrar con una “L”, la misma letra […]