Peligroso: ahora cualquiera puede hacer ‘deepfakes’ con una aplicación china llamada Zao

Así luce Zao / Momo Inc.

¿Recuerdan a FaceApp? La aplicación que hasta hace no mucho le añadía a rostro tu aspecto de 30 o 40 años más. Y también tuvo su momentum hace algunos años FaceSwap, un software para móviles que te permitía intercambiar tu rostro con el de tus amigos o familares. Hoy las cosas parecen haber llegado a otro nivel (y empeorarán) si no empezamos a regularnos: una aplicación creda en China, llamada Zao, es capaz de crear deepfakes de forma instantánea a partir de rostros de gente común y corriente y clips de películas.

La app, de la plataforma desarrolladora Momo, se volvió increíblemente popular a pocos días de su creación el viernes que pasó. De acuerdo al South China, en solo tres días, los posts con el hashtag #zao habían alcanzado las 8 millones de vistas en Weibo, una suerte de Twitter chino. Bloomberg, por su parte, informó hace que la aplicación el domingo ya estaba en la cabeza de la lista de aplicaciones más descargadas en el la tienda de iOS en la sección de descargas libres.

 

Peligrosamente fácil

Lo llamativo y peligroso es lo fácil que es obtener y utilizar esta aplicación. Los usuarios simplemente deben subir un selfie al sistema, lo que automáticamente pegará su rostro en clips de películas de actores como Leonardo DiCaprio, Sheldon, de The Big Bang Theory, o John Bradley, de Game of Thrones.

Solo puedes subir tu rostro en una película en particular o escenas de televisión disponibles en la app. No se puede, por ejemplo, hacer lo mismo en una escena de crimen o un discurso político.

Aquí algunos ejemplos de usuarios de Twitter que utilizaron la aplicación:

 

Preocupaciones por la privacidad

La popularidad de Zao trae consigo inevitables preguntas sobre privacidad. Esto aplica particularmente a las fotos que se suben, y a la casi inmediada facilidad con que se pueden convertir en imágenes fake con un altísimo nivel de realismo.

Como si no fuese suficiente, de acuerdo a Mashable la aplicación hace al usuario firmar un acuerdo en el que demanda derechos “libres, irrevocables, permanentes, transferibles y relicenciables” para cualquier contenido subido en la aplicación.

Aparentemente, estas llamativas licencias han sido la razón por la que la calificación de Zao sea de 1.9 estrellas de 5, con más de 4.000 comentarios, y entre ellos muchos citando el tema de la privacidad.

Zao, de acuerdo a una publicación reciente en su cuenta de Weibo, actualizó esta parte, indicando que cualquier selfie o video añadido a la app no será utilizado para otra cosa que el mejoramiento de la app u otras necsidades que el usuario haya aceptado previo a la descarga. Además, el mismo reporte dice que las fotos o videos serán eliminados de los servidores.

Esto, en un mundo post-Cambridge Analytica, suena demasiado bueno para ser real. La principal implicancia es que, como en situaciones anteriores, la información personal de las personas, esta vez incluyendo fotos, vaya a parar a “terceras partes” con el desconocimiento de sus propietarios.

Otra preocupación general también es la relacionada a la cada vez mejorada efectividad de los deepfakes en falsear situaciones que parecen realidad. En un mundo y sociedad de fraudes permanentes, tener herramientas para aumentar este negativo efecto puede ser realmente altamente riesgoso. Y no sabemos hasta dónde puede llegar. 

 

Daniel Meza

Esta noticia ha sido publicada originalmente en N+1, tecnología que suma.

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, tecnología que sumawww.nmas1.org”.​​

Suscríbete

Déjanos tu mail para recibir nuestro boletín de noticias

La confirmación ha sido enviada a tu correo.