¿Cómo es posible que trabajadores de Amazon escuchen los sonidos registrados por Alexa?

  12 Abril 2019    Leído: 701
¿Cómo es posible que trabajadores de Amazon escuchen los sonidos registrados por Alexa?

Un equipo de personas repartidos en todo el mundo revisan las conversaciones que el sistema no puede entender.

Los altavoces inteligentes son ya una realidad en muchos hogares. Se venden por millones cada mes, y los diferentes asistentes que conforman sus respectivos “cerebros” son constantemente actualizados con mejores respuestas y mayores dotes de inteligencia artificial. A pesar de la utilidad de sus funciones, para muchas personas sigue causando recelo instalar una serie de micrófonos avanzados en sus hogares.

El potencial de que escuchen todo lo que dicen está fuera de sus límites, y las dudas serán constantes: ¿quién escucha lo que ocurre en mi casa?, ¿dónde quedan registrados los audios? En el caso de Amazon, sabíamos que parte del entrenamiento constante de su asistente involucraba el etiquetado manual por parte de personas reales para mejorar el servicio, pero una investigación reciente ha revelado más detalles.

Cuando el asistente Alexa no entiende qué queremos decir, el audio queda etiquetado para una posible revisión por un trabajador de Amazon

Cuando el asistente de Amazon no entiende un comando, los audios quedan etiquetados bajo unos parámetros para revisión. Algunos de estos audios son posteriormente escuchados por un trabajador de Amazon para intentar averiguar dónde estaba el error. Este grupo de editores humanos, que trabaja en oficinas de todo el mundo para conseguir tener una variedad suficiente de idiomas, intenta corregir el error tras escuchar el audio.

Las soluciones más comunes son errores de activación (cuando alguien dice algo similar a “Alexa” que haga despertar a los micrófonos), o comandos mal especificados o que el sistema no ha podido interpretar. Este tipo de etiquetado permite al asistente aprender a interpretar mejor audios similares en el futuro. Esta es la teoría.

Los trabajadores de Amazon no pueden hacer nada si escuchan lo que piensan que es un delito, solo esperar a que la policía o un juez solicite los archivos

En la práctica las cosas se complican. Según las múltiples fuentes que comentaron este asunto con Bloomberg, su labor diaria les permite compartir los audios con otros trabajadores a través del sistema de chat interno, donde pueden evaluar qué ocurre en el audio. Algo que hacen “cuando se encuentran con una grabación complicada o entretenida”, e incluso desconcertante o incómoda. Dos de los mismos afirmaron que creen haber escuchado grabaciones de un acto sexual no consentido.

Si encuentran una grabación en el que potencialmente haya un delito, su labor es, según las fuentes que explican la política de Amazon, es no hacer nada ni avisar a las autoridades. Los datos quedarán almacenados en los servidores de Amazon hasta que el usuario decida borrarlos. Mientras tanto, jueces y peritos policiales pueden solicitar acceso a los mismos si hay una investigación.

Amazon insiste en que los empleados no pueden identificar el origen de los audios

Amazon España explica que sus empleados “no tienen acceso directo a la información que puede identificar a la persona o cuenta del cliente como parte de este flujo de trabajo. Aunque toda la información es tratada con alta confidencialidad y utilizamos la autenticación multifactorial para restringir el acceso, además de comunicaciones encriptadas en el servicio y las auditorías de nuestro entorno de control para proteger dicha confidencialidad, los clientes siempre pueden eliminar sus expresiones en cualquier momento.”

Alexa de Amazon es el sistema líder tanto a nivel mundial como en España. Su funcionamiento es sencillo, solo hace falta decir la palabra clave (”Alexa”) seguida del comando o pregunta. A partir de que sus micrófonos identifican la palabra clave o de invocación, comienzan a grabar y enviar los sonidos a los servidores de Amazon para examinarlo y responderlo. Otras empresas con servicios similares como Siri de Apple o el asistente de Google tienen mecanismos prácticamente idénticos. En su mayoría de ocasiones funciona, pero cuando no lo hace, todo este complejo puzzle decisiones entra en escena. ¿Merece la pena poner estos micrófonos en tu casa?

Lavanguardia


Etiquetas: Amazon