China castigará con cárcel a quienes produzcan deepfakes

Algunos usuarios en comunidades online como Reddit, se divierten agregando el rostro de Nicolas Cage a diversas escenas televisivas o cinematográficas. / DeepCage

 

Las autoridades reguladoras chinas anunciaron nuevas reglas para el contenido online en audio y video, incluyendo prohibiciones a la publicación y distribución de noticias falsas creadas con tecnologías como la inteligencia artificial y la realidad virtual, de acuerdo a un informe de Reuters citando al Departamento del Ciberespacio de China (CAC, por sus siglas en inglés).

 

Un poco de contexto

En los últimos años, los ‘deepfakes’ han demostrado ser impresionantemente realistas, lo que hace posible poner el rostro de cualquier persona en otros cuerpos. Gracias a usuarios de Reddit como el ya infame, deepfakes, estos se hicieron virales. Por ejemplo, algunos videos reemplazaron los rostros de actrices como Scarlet Johansson o Gal Gadot en rostros de personajes femeninos en escenas porno.

Para entrenar redes neuronales, se requiere una gran cantidad de imágenes de una persona, por lo que inicialmente se ha hecho más fácil emplear material fotográfico o de video de políticos o actores famosos. Lo que empezó como una broma, sin embargo, puede usarse para propalar información falsa o en detrimento de otros. Perjudicar reputaciones se volvió, digamos, demasiado fácil.

Hasta la fecha, los deepfakes han sido prohibidos en ciertas circunstancias: en California, recientemente, se prohibieron específicamente para campañas electorales, pero la prohibición solo se aplicó a políticos y duró 60 días antes de las elecciones.

 

China cambia el paradigma

Las nuevas reglas chinas, que serán efectivas desde el 1 de enero del 2020, fueron publicadas en su sitio web oficial luego de ser enviadas a los proveedores de audio y video la semana pasada.

En particular, se subrayó los potenciales problemas que ocasionó la tecnología deepfake, que usa inteligencia artificial para crear videos hiperrealistas, donde cualquier persona podría aparecer diciendo o haciendo cosas que nunca dijeron o hicieron.

Los ‘deepfake’ podrían representar “un peligro para la seguridad nacional, alterar la estabilidad social, hacer tambalear el orden social e infringir los derechos legítimos e intereses de otras personas”, de acuerdo al comunicado oficial de la CAC tambiém rebotados por medios chinos como el South China Morning Post.

 

Nota del editor

El comunicado no aclaró cómo el ente regulador controlará los ‘deepfakes’ y la realidad virtual: generalmente existen grietas en este tipo de medidas en las que los funcionarios intentan regular una esfera de la que no son completamente entendidos. Quizás, en la práctica, todo se limitará a la atribución de responsabilidad a los autores de videos generados por aplicaciones como Zao.

Además de los países y regiones, algunas empresas han empezado a notar de la necesidad de regular la aparición de deepfakes. Por ejemplo, Google ya ha reunido una gran base de datos para entrenar algoritmos que puedan detectalos, en tanto que Facebook y Microsoft, han lanzado sendas competencias para desarrolladores en este tipo de detección.  

 


Daniel Meza
Esta noticia ha sido publicada originalmente en N+1, tecnología que suma

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, tecnología que sumawww.nmas1.org”.

Novedades

Nuestro reportero del futuro Juan Scaliter, autor de "Exploradores del futuro" y "La Ciencia de los Superhéroes", viaja cinco años hacia adelante y nos envía la primera de sus historias sobre todo lo que presencia desde la perspectiva de una familia común y corriente.

La otra vida de Pi: el transporte del 2025

Al cumplirse casi cinco años de iniciada la pandemia, los autos privados son prohibidos, la inteligencia artificial invade el transporte, y la energía solar amenaza a la energía eléctrica

Suscríbete

Déjanos tu mail para recibir nuestro boletín de noticias

La confirmación ha sido enviada a tu correo.