Des milliers d'employés d'Amazon sont chargés d'écouter ce que vous dites à Alexa, son assistant vocal

L'Amazon Echo Dot. Amazon

Les géants de la tech cherchent en permanence à améliorer leurs technologies de reconnaissance vocale. Dans une enquête publiée jeudi 11 avril, Bloomberg révèle ainsi que des milliers de salariés et prestataires sont employés par Amazon pour écouter les phrases enregistrées par ses enceintes intelligentes Echo, afin d'améliorer les capacités d'Alexa, l'assistant vocal de l'entreprise. Dans des locaux situés aussi bien à Boston qu'en Inde ou en Roumanie, ces équipes transcrivent les enregistrements des conversations et les annotent dans un logiciel, afin de comparer ce que les humains entendent avec ce qu'Alexa comprend.

Deux personnes travaillant dans les locaux d'Amazon à Bucarest, en Roumanie, racontent qu'ils écoutent jusqu'à 1 000 extraits audio par journée de neuf heures. Un employé à Boston donne un exemple de tâche effectuée : il devait écouter des séquences où les mots “Taylor Swift” étaient repérés, et les noter pour dire si l'utilisateur parlait vraiment de la chanteuse ou non. Néanmoins, ces petites mains tombent parfois sur des moments que les enceintes Echo ne sont pas censées enregistrer : une femme qui chante sous la douche, ou un enfant qui appelle à l'aide, rapporte Bloomberg. Les équipes peuvent alors utiliser des groupes de messagerie interne pour s'entraider lorsqu'ils ne comprennent pas certains mots, ou pour partager des enregistrements amusants.

Mais parfois, ils tombent sur des séquences bien plus perturbantes. Deux employés ont raconté à Bloomberg avoir entendu ce qu'ils pensent être une agression sexuelle. Ils auraient remonté cette information à leur hiérarchie, mais Amazon aurait répondu que son rôle n'était pas d'intervenir.

Découvrez notre étude : LES ASSISTANTS VOCAUX DANS LA DISTRIBUTION : Comment les marques peuvent tirer profit de la voix pour rationaliser la découverte de produits, stimuler les ventes et fidéliser leurs clients

Les employés ne peuvent pas identifier les personnes, selon Amazon

Les appareils qui embarquent Alexa sont conçus pour écouter tout ce qui se dit dans la pièce où ils sont installés afin de repérer le mot d'activation — “Alexa” ou un autre selon les préférences de l'utilisateur —, qui va alors déclencher un enregistrement qui sera envoyé aux serveurs d'Amazon, pour répondre à la commande de l'utilisateur.

Le bâtiment de Bucarest, en Roumanie, où des équipes d'Amazon écoutent les enregistrements d'Alexa. Google Maps

“Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients”, déclare un porte-parole d'Amazon dans un communiqué transmis à Bloomberg. “Nous n'annotons qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Par exemple, ces informations nous aident à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu'Alexa puisse mieux comprendre vos demandes et s'assurer que le service fonctionne bien pour tous.”

“Nous avons des garanties techniques et opérationnelles strictes et une politique de tolérance zéro pour les abus de notre système. Les employés n'ont pas d'accès direct à l'information permettant d'identifier la personne ou le compte dans le cadre de ce flux de travail. Toutes les informations sont traitées avec la plus grande confidentialité et nous utilisons l'authentification multifactorielle pour restreindre l'accès, le cryptage du service et des audits de notre environnement de contrôle pour le protéger”, poursuit Amazon.

Sur son site, Amazon ne précise pas explicitement que des humains écoutent les commandes enregistrées par Alexa. Voici ce que disent les FAQ du service : “nous utilisons également vos demandes pour améliorer nos services, ce qui inclut lentraînement des systèmes de reconnaissance vocale et de compréhension du langage naturel.”

Une capture d'écran obtenue par Bloomberg montre que les employés n'ont pas accès au nom complet des utilisateurs écoutés, mais qu'ils peuvent toujours consulter le numéro de compte, ainsi que le prénom de l'utilisateur et un numéro de série de l'appareil utilisé.

Bloomberg rappelle que les autres principaux assistants vocaux du marché — Siri d'Apple et l'Assistant Google — ont également recours à des humains pour écouter les enregistrements. D'après Apple et Google, ces personnes n'ont pas accès aux informations permettant d'identifier les utilisateurs.