Facebook y Microsoft publicaron los resultados de su concurso para combatir los deepfakes

Imágenes de un conjunto de datos cerrado 
IA de Facebook

Facebook y Microsoft han concluido el Deepfake Detection Challenge, un concurso para desarrolladores que tiene como objetivo crear soluciones para combatir las tecnologías de intercambio de rostros en video. Los desarrolladores lograron alcanzar una precisión de reconocimiento de más del 82% en un conjunto de datos de prueba estándar y un poco más del 65% en un conjunto de datos sofisticado.

El riesgo

Las tecnologías “deepfake” se han desarrollado muy rápidamente en los últimos años y, a partir de entonces, existe la necesidad de crear soluciones que puedan ayudarnos a reconocerlas de manera efectiva.

Facebook y Microsoft decidieron intervenir y en septiembre pasado anunciaron el Deepfake Detection Challenge, una competencia para desarrolladores según la cual cualquiera podría ofrecer y crear su propio modelo que pueda determinar la sustitución de caras en un vídeo. Además, los organizadores prometieron crear un conjunto de datos para el cual contrataron actores profesionales: de esta manera, los datos del usuario no se utilizarán en él.

Los esfuerzos

En total, 2114 desarrolladores participaron en la competencia, quienes crearon más de 35 mil modelos. La efectividad de los algoritmos se evaluó de dos maneras: en el primero, se utilizó un conjunto de datos de prueba proporcionado a los desarrolladores, y en el segundo, se usó otro cerrado y complicado (utilizó videos con líneas de desplazamiento, filtros y actores que cubrían parcialmente su cara).

De acuerdo con la clasificación de Kaggle, el usuario con el apodo de Good At Curve Fitting ganó al evaluar el rendimiento utilizando un conjunto de datos de prueba estándar: la precisión en la determinación de las falsificaciones utilizando su algoritmo fue del 82.56%.

En el concurso que utilizó un conjunto de datos cerrado, ganó el desarrollador bielorruso Selim Seferbekov de Mapbox: su algoritmo fue capaz de determinar deepfakes con una precisión del 65,18% (también ocupó el cuarto lugar en la verificación estándar). Todos los ganadores aprovecharon la versión preentrenada de la red neuronal convolucional EfficientNet en sus algoritmos, que los desarrolladores de Google Research describieron recientemente.

Lo que se viene

Según la página del proyecto Kaggle, los desarrolladores que ocuparon los primeros 5 lugares en los dos torneos recibirán un millón de dólares por todos sus desarrollos posteriores. Los organizadores también publicaron en acceso abierto un conjunto de datos que fue utilizado por los desarrolladores para entrenar modelos: tiene alrededor de 470 gigabytes de video.

Si bien los algoritmos para determinar los deepfakes aún están lejos de ser perfectos, los gobiernos de varios países imponen restricciones en su uso: por ejemplo, en el otoño, California prohibió el uso de la sustitución de personas en los videos de la campaña, y un poco más tarde, China prometió criminalizar el uso de deepfakes sin el etiquetado adecuado.

 

Victor Román
Esta noticia ha sido publicada originalmente en N+1, ciencia que suma.

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, ciencia que sumawww.nmas1.org”.  

Suscríbete

Déjanos tu mail para recibir nuestro boletín de noticias

La confirmación ha sido enviada a tu correo.