Congreso Futuro 2024: Quién es Kate Crawford y su crítica al impacto global de la Inteligencia Artificial

Fernanda Valiente D.
Kate Crawford en Congreso Futuro 2024. Crédito: Agencia Uno.

La investigadora principal de Microsoft Research, cofundadora del AI Now Institute y profesora de ética de la inteligencia artificial en la Universidad de Nueva York señaló que “necesitamos una estrategia regulatoria que monitoree todos lo niveles de la inteligencia artificial” en su charla de apertura de Congreso Futuro 2024, ¿Cómo lidiar con la IA que el ser humano ha creado?.


Kate Crawford. Es una destacada académica que ha estudiado las implicancias sociales de la inteligencia artificial y fue una de las personas más influyentes de 2023 de acuerdo con la revista Time. Profesora de la Universidad de Nueva York e investigadora de la Escuela de Comunicación y Periodismo de la Universidad del Sur de California, tiene 50 años y se ha dedicado a comprender los sistemas de datos a gran escala, el aprendizaje automático y su impacto global.

  • El 15 de noviembre de 2017, junto a Meredith Whittaker, lanzó el primer centro de investigación liderado por mujeres AI Now Institute, que reúne a expertos de computación, economía y derecho para explorar el uso responsable de tecnologías.
  • Entró al equipo de Microsoft Research en 2005, donde reúne un interesante repertorio de investigaciones sobre diversos temas, como el debate mediático sobre la descarga musical, la censura en internet, la primera web dedicada a los emojis y la personalización de las noticias con X (ex Twitter), entre otras cosas.
  • Actualmente ocupa la cátedra visitante inaugural de IA y justicia en la École Normale Supérieure de París.
  • Ha asesorado a políticos de la ONU, la Comisión Federal de Comercio, el Parlamento Europeo, la Comisión Australiana de DD.HH. y la Casa Blanca. Además, ha colaborado para medios como The New York Times, The Atlantic y Harper’s Magazine.
  • Su trabajo también reúne proyectos colaborativos e investigaciones visuales. El proyecto “Anatomía de un sistema de IA” con Vladan Joler, que observa el ciclo de vida de Amazon Echo, recibió el galardón Beazley al “Diseño del Año” (2019) y se encuentra en la colección permanente del MoMA.

Crítica de los modelos de IA. En una entrevista con el medio británico The Guardian en junio de 2021, señaló que “la ética en la [IA] es necesaria, pero no suficiente. Más útiles son preguntas como: ¿Quién se beneficia y quién resulta perjudicado por la IA? Lo que vemos una y otra vez, desde el reconocimiento facial, hasta el seguimiento y vigilancia en los sistemas de trabajo, es que estos sistemas están empoderando a instituciones que ya son poderosas: corporaciones, militares y policías”.

Su paso por Chile. Con su ponencia ¿Cómo lidiar con la IA que el ser humano ha creado?, Crawford fue encargada de abrir la convocatoria que reúne Congreso Futuro 2024, bajo el lema “IAhora qué hacemos”, que hace un guiño a cómo la inteligencia artificial está cambiando la vida en el planeta.

  • “Cuando algo demuestra no ser lo que pretende, la democracia misma presenta un colapso epistemológico. La concentración de decisiones en tan pocas manos [principalmente en China y Estados Unidos], y en plataformas que demuestran ser esenciales para la comunicación pública y las elecciones va más allá de la desinformación, porque estas plataformas regulan toda la información. Muchos [empresarios] se benefician en promover sus propios chats de inteligencia artificial, y sus intereses no están con los del público”, afirmó en su ponencia en el Congreso Futuro.
  • Resulta que muchos gobiernos no se sienten capaces para regular las transferencias de poder, donde la incidencia de las alianzas internacionales son muy relevantes. “Necesitamos una estrategia regulatoria que monitoree todos lo niveles de la inteligencia artificial, entre el trabajo, la información, recursos naturales y muchos otros aspectos”, agregó Crawford.
  • El 2022, Chile fue uno de los principales países en regular el funcionamiento de las plataformas digitales, a través de la ley 21.431, para entregarle seguridad social a los trabajadores de aplicaciones, cubriendo a los repartidores y conductores.

Su Atlas de la IA. A través de su libro Atlas de IA: poder, política y costos planetarios de la inteligencia artificial (2021) indaga en cuáles serán los efectos de la inteligencia artificial en el planeta, y cómo ella terminó por moldear cómo nos percibimos y a nuestro entorno.

Dentro de sus descubrimientos se encuentran que la IA es finalmente una tecnología de extracción, que está impulsando una gobernanza no democrática, incrementando la inequidad. Crawford llega a la conclusión de que la idea de que la IA corresponde meramente a una acumulación de algoritmos matemáticos etéreos en la nube es completamente errónea. De hecho, explica que esta funciona al extraer grandes cantidades de datos, trabajo humano y factores que incluyen energía, agua y minerales.

Se trata de una investigación de más de 10 años de duración que ha provocado varias críticas positivas:

  • “Este estudio sostiene que la [inteligencia artificial] no es artificial ni particularmente inteligente… una historia fascinante de los datos con los que se entrenan los sistemas de aprendizaje”. – New Yorker.
  • “Un valioso correctivo para gran parte del revuelo que rodea la IA y un manual de instrucciones para el futuro”. – John Thornhill, Financial Times.
  • “Es un libro que seducirá a los recién llegados mientras recorren el profundo dominio de la tecnología en el siglo XXI, mientras le ofrece a los lectores experimentados un compendio convincente para la investigación y la enseñanza”. – Lauren M.E. Goodlad, Critical Inquiry.

Su nueva publicación. En una entrevista con la Revista TIME el 7 de septiembre de 2023, la experta contó que se avecina un nuevo libro en 2024.  “Los hallazgos van a girar principalmente en torno al proyecto Knowing Machines, donde hemos estudiado sistemas de IG generativa desde distintas perspectivas: sociológica, histórica, legal y técnica”, explicó.

Lea también. Inteligencia Artificial y el dilema de regular su uso. Por Edmundo Varas

Vea su ponencia en Congreso Futuro 2024 a continuación:

Publicaciones relacionadas

Ex-Ante

Febrero 22, 2024

General (R) John Griffiths y secuestro de exmilitar venezolano: “Chile no tiene sistema de inteligencia”

John Griffiths | Foto: Agencia Uno

Ex Jefe del Estado Mayor del Ejército y Jefe de Estudios de Seguridad y Defensa Nacional de AthenaLab, desde hace años John Griffiths viene alertando sobre las falencias de inteligencia del país. Por eso afirma que no le sorprende el plagio del ex militar venezolano. “Cuando no tengo fronteras seguras, puede ingresar cualquiera y puede […]

Ex-Ante

Febrero 22, 2024

El Nikkei de la Bolsa de Tokio logró su máximo histórico en 34 años

Gráfico: Ex-Ante | Fuente: Federal Reserve Bank of St. Louis.

El principal indicador bursátil de Japón, el Nikkei, llegó a su máximo nivel en 34 años ante el retorno de los inversionistas al mercado japonés. La economía nipona ha logrado salir de la deflación con que vivió en las últimas décadas y ha logrado crecer sostenidamente. El principal índice el Nikkei 225 cerró el jueves […]

Jorge Poblete

Febrero 22, 2024

Video registra a falsos policías con pasamontañas en el edificio del ex militar venezolano secuestrado

Una cámara de seguridad del edificio de calle El Molino de Independencia mostró cómo a las 3:11 am del miércoles a una persona vestida de negro, con pasamontañas del mismo color y lo que aparentaban ser parches policiales en los brazos, abrió la puerta detrás del piloto y subió a un Nissan Versa gris. Luego […]

Ex-Ante

Febrero 22, 2024

[Confidencial] Por qué Grau asume como ministro de Hacienda subrogante en medio del caso convenios

Nicolas Grau y Javiera Martínez

Este jueves el Fiscal Cristián Aguilar inició en Santiago los interrogatorios del caso convenios. Javiera Martínez estaba ocupando el cargo de ministra de Hacienda subrogante luego que la subsecretaria de la cartera Heidi Berner también hiciera uso de su feriado legal al igual que el ministro Mario Marcel. Sin embargo, este miércoles le traspasó esa […]

Jaime Troncoso R.

Febrero 21, 2024

Actas de la FED confirman que baja de tasa en EE.UU. comenzará a partir de junio

Reunión del Comité de Política Monetaria de la Reserva Federal. (Crédito: Fed Reserve)

La conclusión que analizaron los miembros del Comité de Política Monetaria de la Reserva Federal es que bajar la tasa de referencia es riesgoso. Las actas de la reunión de los pasados 30 y 31 de enero confirman el mensaje del presidente del Banco Central estadounidense, Jerome Powell de que la tasa referencial tocó su […]