Un villano entre nosotros

^Flickr

Internet se ha inquietado porque una red neuronal aprendió a hacer pornografía por encargo. El algoritmo no requiere una gran cantidad de fotos y sustituye con éxito las caras de otras personas en los vídeos porno. Y claro, las primeras afectadas han sido actrices famosas convertidas sin consentimiento en estrellas de cine para adultos.

Y aunque en Internet se discute mucho si se puede o no confiar en los propios ojos, y cómo hemos llegado a vivir en un mundo donde cualquiera puede ser, de la noche a la mañana, protagonista de una cinta triple X sin ni siquiera saberlo, es preciso que la red neuronal viene comportándose como los villanos cinematográficos desde hace mucho tiempo. Por ahora, la red ha demostrado que puede usar sus poderes malignos para:

Atropellar o causar accidentes

^Pixabay

Teniendo en cuenta el futuro aumento del número de vehículos no tripulados en las carreteras, es solo una cuestión de tiempo. Tarde o temprano, la red neuronal se encontrará en una situación desesperada en la que será imposible que no acabe habiendo víctimas, y entonces el automóvil tendrá que decidir quién vive y quién muere. El clásico problema del tranvía, se ha vuelto ahora relevante como nunca antes.

Para entender cómo sería aceptable actuar en estas situaciones, el Instituto de Tecnología de Massachusetts (MIT) puso en marcha un portal especial, que ofrece toda persona a participar en la solución del problema y, por su parte, la empresa Tecnologías Cognitivas realizó una encuesta similar entre 80 mil rusos. Los resultados, por cierto, fueron alarmantes: un tercio de los participantes eligió que un camión sin tripulación aplastara peatones y perros.

Revelar secretos personales

^{Wang y Kasinski / PsyArXiv 2017}

No todas las personas tienden a contar los detalles de sus vidas a otros, muchos tienen secretos que preferirían no compartir incluso con personas cercanas. Y las redes neuronales pueden convertirse en un arma peligrosa en manos de un chantajista o simplemente un troll. Por ejemplo, existe una que dice poder determinar con precisión la orientación sexual de una persona en su rostro. Dado que en muchas partes del mundo la diversidad sexual sigue viéndose como algo problemático, este diagnóstico puede complicar enormemente sus vidas.

Pero si esta red neuronal aún no está disponible para el público en general, el servicio de reconocimiento de rostros de FindFace ya se ha convertido en una herramienta favorita para los trolls, que identifican a actrices porno en la red y hablan sobre sus actividades a amigos y conocidos.

Tener un comportamiento racista

^Twitter

La comunicación de redes neuronales con seres humanos resultó en que aprendieran muy pronto lo peor de nosotros. Por ejemplo, el chat-bot Tay, creado por Microsoft, en menos de un día de comunicación libre en Twitter comenzó a elogiar a Hitler, criticar a Trump y luego se convirtió en un racista por completo. Por supuesto, esto es solo un chat-bot, pero mucho de lo que dijo Tei sonaba, por decirlo suavemente, no muy amigable, o incluso ilegal.

Animar al suicidio

^Nplus1.ru

En este video filmado por nuestros colegas de la edición rusa de N+1 dos asistentes de voz de Yandex, cuyos nombres son Alice, hablan entre sí. Y sobre suicidio. De hecho, una de las Alice da consejos sobre cómo acabar con la propia vida saltando por una ventana.

Aunque el vídeo es una pieza de humor, y las personas perciben esto como una broma, uno puede imaginar fácilmente otro escenario: una persona con un trastorno depresivo en estado grave tratando de encontrar a su alrededor al menos alguna razón para continuar viviendo, por ejemplo. En este contexto, los consejos graciosos del teléfono para salir por la ventana pueden convertirse, literalmente, en las últimas palabras que escuchará el desesperado.

Atacar a los gatos

Por supuesto, a veces un villano de la red neuronal puede funcionar en beneficio del hombre. Por ejemplo, para sacar a los gatos del césped con un sistema de riego. Una red neuronal monitorea constantemente el terreno a través de la cámara y, si ve un animal allí, inmediatamente enciende el aspersor para asustar a los felinos indeseados.

Robar juguetes

Otro villano útil ayuda a los robots a mejorar. Un manipulador aprende a agarrar y levantar objetos, y el otro intenta arrebatárselos constantemente. No importa cuán ridículo pueda parecer, un sinvergüenza como este, robando juguetes, acelera significativamente el proceso de aprendizaje, ayudando al compañero a desarrollar un agarre más confiable para objetos de formas y rigidez muy diferentes.

Falsificar un discurso de Obama

Este verano, se presentó un programa que podría ajustar de manera plausible el video a un fonograma; gracias a esto, por ejemplo, los desarrolladores lograron reemplazar un discurso de Barack Obama por otro. Es cierto que igualmente era un discurso realmente pronunciado por el expresidente, pero dado que las tecnologías de síntesis de voz mejoran constantemente, esperar algo del nivel de "Kim Jong Un prometió mañana comenzar una guerra nuclear" no es una locura.

En este contexto, tal vez, la pornografía falsa no parece ser la principal amenaza para la humanidad. Quiero creer que con esto aprenderemos a tener un enfoque más crítico de lo que vemos en la pantalla; después de todo, hemos aprendido a vivir en un mundo donde existe Photoshop. Sí, y los pornógrafos, hablando francamente, no resultaron muy convincentes.

Nikolai Vorontsov 

Si te gustó esta noticia, entérate de más a través de nuestros canales de Facebook y Twitter.