¿Adiós memes ofensivos? Facebook está usando una IA para identificarlos

Meme popular de Bill Cosby

Es imposible para los moderadores de Facebook ver cada imagen que a minuto son subidas en esta gigantesca plataforma. Para solucionarlo, Facebook acaba de anunciar en una publicación oficial la creación de Rosetta, una inteligencia artificial que ayudará a identificar texto en imágenes y videos para luego transcribirlos a lenguaje de máquina.

En particular, Rosetta será útil para transcribir el texto en memes. A pesar de que existe una gran variedad de herramientas de transcripción de texto, Facebook dice necesitar una en especial que cubra todas las necesidades de su plataforma: número diverso de idiomas y variaciones en textos.

Actualmente Rosetta ya extrae texto de más de mil millones de imágenes y videos públicos de Facebook e Instagram en una amplia variedad de idiomas, todos los días y en tiempo real. Luego de eso, la IA ingresa lo extraído en un modelo de reconocimiento de texto que ha sido entrenado para clasificar y entender el contexto del texto y las imágenes, todo en conjunto.

Por el momento no ha quedado del todo claro qué está haciendo Facebook con la información que está ganando de aquí. Sí, es útil para funciones básicas como la búsqueda de fotografías y lectores de pantalla, pero ¿eso es todo?

Censura a la vista 

Según The Verge, Facebook podría empezar a ponerse objetivos mucho más grandes, como averiguar qué incluir en tu News Feed. Y tal vez, incluso mucho más importante, descubrir qué memes son simplemente divertidos y otros propagan un discurso de odio o comentarios ofensivos.

La red social de Mark Zuckerberg dice que la extracción de texto y Rosetta están siendo usados para “identificar automáticamente el contenido que infringe nuestra política de odio y lenguaje”.

Facebook tiene que hacer hasta lo imposible por seguir siendo la segunda web más popular del mundo. ¿Podrá? Por el momento parece improbable, y más aún con la galopante subida de YouTube que pone en riesgo este segundo lugar. Además, como dato curioso, la ONU le pidió explícitamente a Mark Zuckerberg ser más “proactivo” frente a los discursos de odio dentro de la plataforma.

 

Adrian Díaz
Esta noticia ha sido publicada originalmente en N+1, tecnología que suma

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, tecnología que suma:www.nmas1.org”.​​​​​​

Suscríbete

Déjanos tu mail para recibir nuestro boletín de noticias

La confirmación ha sido enviada a tu correo.