Privacidad de los mensajes y manipulación de imágenes, los grandes retos de la revolución digital

Una nueva sección de Tecnología y Futuro de Ex-Ante da cuenta de los inmensos avances que en un futuro muy próximo cambiaran —entre otros ámbitos— la economía, las empresas, la vida cotidiana, la salud y la cultura a nivel mundial. Esta sección está basada en una alianza con BOMA, red global que acompaña a líderes empresariales a abordar exitosamente los cambios tecnológicos, sociales y culturales. Los siguientes artículos muestran cómo Signal se posiciona como un bastión de privacidad en las aplicaciones de mensajería, cómo la proliferación del deepfake porn pone a prueba los límites de la regulación tecnológica y el avance de la fabricación de robots humanoides que podrían transformar la automatización industrial en los próximos años.

Mensajes telefónicos privados: la silenciosa revolución de Signal

Qué observar: En un mundo dominado por grandes empresas tecnológicas que obtienen beneficios a partir de la recolección de datos de sus usuarios, la plataforma Signal desafía el modelo. Creada hace 10 años, la aplicación de mensajería y llamadas ha logrado mantener su compromiso de no caer en el “capitalismo de vigilancia”, es decir, ofrecer un servicio sin fines de lucro.

• “Capitalismo de la vigilancia” es un término acuñado por la experta Shoshana Zuboff para describir el modelo de negocio en el que las plataformas tecnológicas rastrean a los usuarios para obtener datos con fines comerciales.
• Shoshana Zuboff fue la invitada del primer encuentro realizado por Boma Chile. En la instancia, a la que asistieron más de 2000 personas, la académica especializada en redes sociales abordó el vertiginoso avance de la tecnología a nivel mundial.

Sin datos para vender: Signal fue lanzada en 2014 y desde su inicio apostó por lo que ellos mismos llaman “una herramienta para una comunicación privada real”, que se estructura a partir de un código de fuente abierto -disponible públicamente- y como una organización cuyo financiamiento proviene de las donaciones de los usuarios.

• “Signal no tiene datos para vender, ni anunciantes a quienes vendérselos, ni accionistas que se beneficien de esa venta”, dice en su página web.

Chats seguros: El método de cifrado de última generación de Signal mantiene los chats seguros, “no podemos leer tus mensajes ni escuchar tus llamadas”, dicen. Y si bien servicios de mensajería como WhatsApp han integrado los protocolos de cifrado de extremo a extremo, sí pueden procesar datos como la localización geográfica, patrones de uso o número de teléfono, para luego generar anuncios personalizados en Facebook o Instagram.

• A diferencia de WhatsApp, Signal no comparte los datos de sus usuarios ni con ella misma; Whatsapp lo hace con Meta, la compañía dueña de la aplicación y de Instagram, y matriz de Facebook.

Lejos de la vigilancia: Meredith Whittaker, presidenta de la Fundación Signal desde 2022, se ha convertido en una reconocida crítica del “capitalismo de vigilancia”. El crecimiento de Signal, dice a Wired, responde a la desconfianza en otras grandes empresas tecnológicas y a la demanda de mayor privacidad en un mundo cada vez más conectado.

El auge del deepfake porn (y el intento de EEUU por frenarlo)

Panorama general: El 98% de los videos deepkafe son pornografía no consensuada y el 99% de las víctimas son mujeres. Los datos son del sitio especializado Techopedia y dan cuenta de cómo la tecnología que usa la inteligencia artificial para crear videos o imágenes falsas está siendo explotada sin límite. La cantante Taylor Swift es una de sus víctimas. En Chile, el caso más conocido fue el de escolares que crearon imágenes falsas de compañeras. En Estados Unidos, las leyes estatales están intentando evolucionar con rapidez para combatir el deepfake porn.

• En Illinois, las víctimas pueden demandar por daños y perjuicios.
• 39 estados han presentado mociones legislativas como la Ley de Desafío (que permitiría demandar si puede demostrar que el deepfake se realizó sin consentimiento) y la Ley de Eliminación (que obligaría a las plataformas a eliminar el deepfake porn no consensuado).

Tecnología accesible: Los sistemas de IA que utilizan quienes crean estas imágenes son dos: uno que genera el contenido y otro que intenta detectar la falsedad. ¿Resultado? videos falsos, pero muy realistas, lo que dificulta la detección del engaño.

• Hay más de 40 herramientas disponibles para crear deepfakes.
• Este tipo de herramienta se buscan 10 millones de veces al mes en internet.

Deepfakes políticos: Aunque en EE.UU. existe consenso sobre la necesidad de una legislación federal, la lentitud del Congreso dificulta su avance. Según Wired, los políticos tienden a preocuparse más por los deepfakes políticos.

• Según Kaylee Williams, investigadora de la Universidad de Columbia citada por esa publicación, muchos estados están más centrados en proteger la integridad electoral que en abordar la crisis del deepfake porn.

Percepción pública: En el estudio citado por Techopedia, también se incluyen datos sobre la percepción de la gente sobre este tema.

• Alrededor del 48% de los hombres estadounidenses han visto porno deepfake al menos una vez.
• El 73% de los encuestados dijo que lo denunciaría a las autoridades si alguien que conociera fuera la víctima.

¿Y la industria? Las grandes tecnológicas están invirtiendo en herramientas para detectar y prevenir la creación de deepfake. Microsoft recientemente anunció que se estaba asociando con StopNCII para probar en su motor de búsqueda Bing, un enfoque centrado en la víctima.

El desarrollo de robots humanoides

Qué observar: En una demostración a Forbes, el CEO de Figure, Bret Adcock, le preguntó a su robot humanoide, Figure 01, que eligiera un alimento saludable. El robot le pasó una naranja, descartando la bolsa de papas fritas. Especializada en la fabricación de robots, la empresa estadounidense es una de las más importantes en este ámbito y también es parte de un puñado de compañías que a partir de la convergencia tecnológica actual, están apostando por fabricar robots parecidos a los humanos.

• La integración de inteligencia artificial (IA), robótica avanzada y visión por computadora está permitiendo el desarrollo de robots cada vez más capaces de replicar tareas humanas complejas.

La esperada convergencia: ¿Por qué ahora y no antes? Según Adcock, en una conversación con Peter Diamandis publicada en el sitio web de este último, hay varios factores que lo están haciendo posible.

• Los modelos de IA con algoritmos de aprendizaje profundo están permitiendo estos avances.
• Hace 10 años, la tecnología y las baterías necesarias no existían.
• Las capacidades de procesamiento actuales permiten implementaciones complejas de IA en tiempo real.
• Los avances en visión por computadora han mejorado la interacción de los robots con su entorno.

El rol de la IA: La IA es clave en el desarrollo de estos robots. Por lo mismo, Figure se asoció con OpenAI, que ayuda a la empresa de Adcock a usar modelos que ayudan a los robots a comprender y actuar según las órdenes humanas.

La dura competencia: Varias empresas están aprovechando esta convergencia tecnológica con el foco puesto en la gestión de la cotidianidad, es decir, para realizar tareas en las casas, y otras para el mercado laboral del futuro.

• Tesla inicialmente desarrolló su robot humanoide Optimus para apoyar las líneas de producción automotriz, pero “podría sacar a pasear a tu perro, cortar el césped y vigilar o enseñar a tus hijos”, dijo Elon Musk recientemente.
• Lo mismo que 1X con su Neo Beta, un robot humanoide diseñado para uso doméstico y para ser seguro en casas con niños.
• En el segundo grupo, el del mercado laboral, está Agily Robotics con robots para tareas físicas en entornos laborales y Apptronick, en alianza con Mercedes Benz, que está dedicada a robots para labores industriales.

¿Para cuándo? Según Ash Sharma, experto en robótica citado por Forbes, hay que esperar unos cinco años. Uno de los grandes problemas “es conseguir que el costo de fabricación de los robots sea lo suficientemente bajo como para que sean asequibles”, dice.

Para más contenido sobre Tecnología y Futuro, clic aquí.

• Lea también. Por qué la IA está envenenándose a sí misma y el jaque a toda la fuerza laboral del planeta

Tecnología y Futuro: Por qué la IA está envenenándose a sí misma y el jaque a toda la fuerza laboral del planeta.https://t.co/l2WBNJQCxW

— Ex-Ante (@exantecl) September 6, 2024