Facebook desarrolla un algoritmo que puede esconder sutilmente tu rostro de un video [VIDEO]

^{Oran Gafni / YouTube} 

Los investigadores de Facebook AI Research han creado un algoritmo que cambia automáticamente la cara de la persona en el video de tal manera que no se la puede reconocer. El sistema, basado en un codificador automático competitivo y un clasificador facial, cambia las características faciales principales de una persona en el video, dejando sus expresiones faciales e iluminación.

Los videos resultantes se ven naturales, y ni el sistema de reconocimiento facial ni los seres humanos reales pueden reconocer la cara de la persona en el video. La descripción del algoritmo está disponible en una preimpresión en el sitio web de la unidad de investigación de Facebook.

El riesgo del reconocimiento facial

El reconocimiento automático de rostros ahora funciona de manera bastante eficiente y facilita enormemente la vida de una persona en muchas áreas: por ejemplo, al identificar pasajeros en los aeropuertos o al usar un teléfono inteligente.

Al mismo tiempo, por supuesto, existe una creciente preocupación de que el uso de tecnologías de reconocimiento facial en general pueda violar la privacidad de los usuarios. Si solo algunas fotos de una persona están disponibles gratuitamente, entonces dichos sistemas pueden, incluso sin el conocimiento de las personas mismas, reconocerlas.

Una de las soluciones a este problema es el engaño de los sistemas de reconocimiento. Para esto, se utiliza una modificación de los píxeles en el marco, así como ejemplos competitivos que distraen la atención de la visión por computadora y obligan a los algoritmos a ver en las imágenes lo que realmente se muestra en ellos.

^{Arquitectura del algoritmo
Facebook AI Research}

La solución de Facebook

Hablando específicamente sobre el reconocimiento de las personas, otra opción es la sustitución de rostros en fotos y videos. Sin embargo, no siempre funciona a la perfección, y a menudo las personas no quieren ser completamente irreconocibles o cambiar su identidad. Por eso, investigadores de Facebook AI Research, liderados por Oran Gafni, han propuesto resolver este problema de otra manera: cambiando las caras de las personas en un video para que sea imposibles de identificar.

Su algoritmo se basa en un codificador automático competitivo (se utiliza un método similar en el trabajo de redes neuronales generativas competitivas), en cuyo espacio latente se utiliza un clasificador facial basado en ResNet-50 con varios parámetros.

Primero, el algoritmo cambia la cara de la persona en el video, teniendo en cuenta la iluminación de la imagen y la forma del rostro; se obtiene una imagen preliminar de la cara, que se utilizará como resultado. Luego, se aplica una máscara eliminada de la cara en el video original, y la cara final se forma usando un decodificador. Para aprender, el algoritmo, utiliza el conjunto de datos CelebA-HQ que contiene videos con celebridades.

Por lo tanto, el algoritmo cambia las características principales de la cara de la persona en el video (la forma de la nariz, las cejas o los ojos), y todo el resto (la iluminación y las expresiones faciales, así como el habla) permanecen sin cambios. Tal sustitución puede engañar a los sistemas de reconocimiento automático, pero la imagen de una persona sigue siendo similar a la original. En esencia, el algoritmo reemplaza la cara de una persona en video con la cara de una persona inexistente.

La prueba

Para probar el funcionamiento del algoritmo, los científicos mostraron el video resultante al algoritmo de reconocimiento facial automático ArcFace, que puede reconocer a más de 50 mil personas.

El sistema hizo frente a los videos originales de manera eficiente, pero no pudo reconocer a una persona específica en los procesados; dependiendo de la calidad del video recibido, ArcFace ofreció una selección de más de tres mil opciones de caras que se pueden mostrar en el video.

También resultó que las personas no pueden identificar a una persona en el video: 20 personas a las que se les pidió que identificaran a la persona en el video resultante completaron la tarea correctamente en solo el 53.6% de los casos. Es interesante que el algoritmo no necesite ser pre-entrenado para videos específicos: puede cambiar a cualquier persona.

Incluso los gobiernos de varios países están preocupados por la violación de la privacidad que plantea el uso de tecnologías de reconocimiento facial. Por ejemplo, en mayo de este año, las autoridades de San Francisco prohibieron el monitoreo de los ciudadanos que utilizan dichas tecnologías.
 

Victor Román
Esta noticia ha sido publicada originalmente en N+1, ciencia que suma.

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, ciencia que suma: www.nmas1.org”.