Pour améliorer son assistant vocal Alexa, Amazon fait appel à des humains afin de repérer ses erreurs.
En intelligence artificielle, les données sont capitales. L'assistant vocal d'Amazon, Alexa, ne déroge pas à cette règle. Plus Alexa récolte d'informations sur un utilisateur, mieux il pourra lui être utile. Mais il a également besoin de ces données pour s'entraîner, notamment afin de mieux comprendre ce qu'on lui dit.
Jusqu'ici, tout est normal. Cependant, une enquête menée par Bloomberg a mis au jour une pratique bien cachée par Amazon. En effet, des milliers de leurs employés écouteraient des enregistrements audios des utilisateurs d'Alexa. Et Amazon reste dans la légalité puisque cette pratique est mentionnée dans ses conditions d'utilisation (que personne n'a le temps de lire). D'ailleurs, l'entreprise mentionne ouvertement dans cette offre d'emploi que son futur employé sera amené à retranscrire des fichiers audios pour aider la reconnaissance vocale.
Amazon n'est pas le seul concerné
Amazon n'aurait trouvé de meilleures alternatives pour améliorer son assistant vocal Alexa. Et dans le secteur du machine learning, l'entreprise n'est pas seule. Cette pratique est même de plus en plus commune. En effet, le langage est un concept extrêmement complexe que les intelligences artificielles actuelles peinent encore à saisir.
Le problème va bien au-delà de la simple reconnaissance d'un mot, mais de son sens. Dans une conversation, celui-ci dépend en effet du contexte. Malheureusement, les assistants vocaux ne sont pas toujours aptes à le comprendre. Ainsi, Google, Facebook et Apple font tout autant appel à des armées d'humains pour corriger leurs technologies respectives.
L'intelligence artificielle en question
Si elle est répandue, la pratique n'en reste pas moins douteuse, d'autant qu'elle se fait à l'abri du regard des utilisateurs. Et l'invasion progressive de notre vie quotidienne par les assistants vocaux ne fera que renforcer ces doutes. Dans le cas d'Amazon, le plus gros problème reste le manque total de transparence de l'entreprise. Combien des possesseurs d'enceintes Amazon Echo savent qu'ils ont un mouchard chez eux ? Certains ont sûrement des soupçons, mais l'écrasante majorité n'en a aucune idée.
Selon les journalistes de Bloomberg rapportent par exemple que des employés d'Amazon se sont partagé des passages audios qu'ils ont trouvés drôles. De plus, les enregistrements peuvent potentiellement contenir des informations sensibles révélant l'identité de l'utilisateur d'Alexa. Le risque est d'autant plus grand qu'on ne dispose d'aucune information sur le lieu où les enregistrements sont stockés. Un pirate pourrait y accéder…
Pour se défendre, Amazon soutient que ces pratiques ne concernent qu'une infime partie des données récoltées par Alexa. La firme affirme également avoir établi tous les protocoles de sécurité nécessaires pour garantir le respect de la vie privée de ses clients. Mais est-ce suffisant ?
- Partager l'article :
