Apple levanta su programa de control de calidad luego de revelarse que Siri escuchaba a sus usuarios teniendo sexo

Siri / Apple

Apple suspendió temporalmente un programa de control de calidad de su asistente de voz Siri, con el cual un equipo de empleados de Apple y contratistas externos tenían acceso a varias grabaciones privadas, incluídas a los propios usuarios teniendo sexo. Apple planea analizar estos datos de nuevo, pero permitirá que los usuarios renuncien a participar en este programa de análisis, de acuerdo con un artículo publicado por The Guardian.

Cómo funcionan los asistentes de voz

Siri es un asistente de voz que se ha incorporado en varios dispositivos Apple desde 2011, incluso a iPhone, iPad, Mac, Apple HomePod y otros. Siri opera en modo de espera, activándose con la frase "Hola, Siri" o "Hey Siri". Después de eso, el dispositivo comienza a grabar el discurso del usuario y envía los datos al servidor de Apple para su procesamiento. Luego formula una respuesta o realiza una acción.

Para reconocer la frase de activación, el dispositivo utiliza un algoritmo de alta precisión que está enfocado en una frase específica. Sin embargo, a veces el algoritmo no funciona correctamente y no reconoce la frase necesaria o la reconoce en otras palabras o sonidos, lo que sucede con mucha más frecuencia. Es decir, el asistente de voz comienza a grabarnos cuando no lo esperamos.

Debido a ese error, Apple tiene un programa de control de calidad, en el cual los empleados reciben una parte de las grabaciones transferidas al servidor. Luego las escuchan y determinan si el algoritmo reconoció la frase de activación correctamente y también si le respondió al usuario de una manera adecuada. 

El escándalo de las grabaciones eróticas 

A finales de julio de 2019 The Guardian reveló los detalles del programa de mejoramiento de Siri, citando a uno de sus empleados. Resultó que los empleados a menudo escuchan a las solicitudes y las grabaciones incorrectamente reconocidas que contienen conversaciones confidenciales, negocios de drogas, diagnósticos médicos y hasta los audios de ciertas parejas teniendo relaciones sexuales. Además, resultó que los audios van acompañados de otros datos, incluidos los contactos de los usuarios, la ubicación durante la grabación, el historial de búsquedas y otros.

Apple reconoció que ese recopilaron estos datos, pero aseguró que los contratistas no revelaron la información recibida. Además, no recibieron las grabaciones junto con un ID de Apple, que se asocia con un usuario específico.

A pesar de que otras empresas, como Amazon y Google, también tienen la práctica de escuchar ciertos fragmentos de voz, el caso de Apple generó un gran interés público.

Es muy probable que esta haya sido la razón por la que Apple suspendió temporalmente el programa de evaluación de calidad de Siri en todo el mundo. En el futuro, se planea seguir escuchando a los audios de los usuarios, pero el algoritmo será revisado.

La empresa no especifica qué cambiará después de la investigación. Pero se sabe que en el futuro los usuarios podrán negarse a participar en el programa y proporcionar sus grabaciones a los empleados de Apple y los contratistas de la compañía.

 

Yana Berman
Esta noticia ha sido publicada originalmente en 
N+1, ciencia que suma.

Sobre N+1: Es la primera revista online de divulgación científica y tecnológica que permite la reproducción total o parcial de sus contenidos por medios de comunicación, bloggers e influencers, realizando la mención del texto y el enlace a la web: “Esta noticia ha sido publicada originalmente en la revista N+1, ciencia que sumawww.nmas1.org”.

Suscríbete

Déjanos tu mail para recibir nuestro boletín de noticias

La confirmación ha sido enviada a tu correo.