China castigará con cárcel a quienes produzcan deepfakes

^{Algunos usuarios en comunidades online como Reddit, se divierten agregando el rostro de Nicolas Cage a diversas escenas televisivas o cinematográficas. / DeepCage}

Las autoridades reguladoras chinas anunciaron nuevas reglas para el contenido online en audio y video, incluyendo prohibiciones a la publicación y distribución de noticias falsas creadas con tecnologías como la inteligencia artificial y la realidad virtual, de acuerdo a un informe de Reuters citando al Departamento del Ciberespacio de China (CAC, por sus siglas en inglés).

Un poco de contexto

En los últimos años, los ‘deepfakes’ han demostrado ser impresionantemente realistas, lo que hace posible poner el rostro de cualquier persona en otros cuerpos. Gracias a usuarios de Reddit como el ya infame, deepfakes, estos se hicieron virales. Por ejemplo, algunos videos reemplazaron los rostros de actrices como Scarlet Johansson o Gal Gadot en rostros de personajes femeninos en escenas porno.

Para entrenar redes neuronales, se requiere una gran cantidad de imágenes de una persona, por lo que inicialmente se ha hecho más fácil emplear material fotográfico o de video de políticos o actores famosos. Lo que empezó como una broma, sin embargo, puede usarse para propalar información falsa o en detrimento de otros. Perjudicar reputaciones se volvió, digamos, demasiado fácil.

Hasta la fecha, los deepfakes han sido prohibidos en ciertas circunstancias: en California, recientemente, se prohibieron específicamente para campañas electorales, pero la prohibición solo se aplicó a políticos y duró 60 días antes de las elecciones.

China cambia el paradigma

Las nuevas reglas chinas, que serán efectivas desde el 1 de enero del 2020, fueron publicadas en su sitio web oficial luego de ser enviadas a los proveedores de audio y video la semana pasada.

En particular, se subrayó los potenciales problemas que ocasionó la tecnología deepfake, que usa inteligencia artificial para crear videos hiperrealistas, donde cualquier persona podría aparecer diciendo o haciendo cosas que nunca dijeron o hicieron.

Los ‘deepfake’ podrían representar “un peligro para la seguridad nacional, alterar la estabilidad social, hacer tambalear el orden social e infringir los derechos legítimos e intereses de otras personas”, de acuerdo al comunicado oficial de la CAC tambiém rebotados por medios chinos como el South China Morning Post.

Además de los países y regiones, algunas empresas han empezado a notar de la necesidad de regular la aparición de deepfakes. Por ejemplo, Google ya ha reunido una gran base de datos para entrenar algoritmos que puedan detectalos, en tanto que Facebook y Microsoft, han lanzado sendas competencias para desarrolladores en este tipo de detección.  

Daniel Meza
Esta noticia ha sido publicada originalmente en N+1, tecnología que suma. 

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, tecnología que suma: www.nmas1.org”.