L’assistant vocal d’Amazon pourra bientôt imiter la voix d’un proche décédé

Pour développer encore plus les fonctionnalités d’Alexa, Amazon va trop loin et exploite les malheurs émotionnels des autres. Explications.

Amazon s’est donné un objectif : faire en sorte qu’Alexa, son assistant vocal, falsifie la voix de n’importe qui, et ce, que la personne soit vivante ou morte, avec un court enregistrement. Rohit Prasad, vice-président et scientifique en chef d’Alexa IA chez Amazon, a présenté cette fonctionnalité lors de sa conférence re : MARS 2022, centrée sur l’intelligence artificielle, la robotique et autres technologies, et organisée à Las Vegas. Aussi choquant que cela puisse paraître, il a utilisé le traumatisme émotionnel de la pandémie et le malheur pour se vendre.

Lire aussi Ne demandez surtout pas à Sora, l’intelligence artificielle d’OpenAI, de créer des vidéos de gym

Après avoir fait remarquer à quel point la pandémie a tué, Rohit Prasad a diffusé une vidéo où un enfant demande à Alexa si sa grand-mère peut finir de lui lire un livre. Alexa a alors répondu positivement, d’une voix féminine et robotique. Toutefois, c’est la voix de sa grand-mère qui s’est mise à lire l’ouvrage en question.

« Cette invention nécessitait d’apprendre à produire une voix de haute qualité avec moins d’une minute d’enregistrement contre des heures d’enregistrement en studio », a expliqué Rohit Prasad. « La façon dont nous y sommes parvenus est de définir le problème comme une tâche de conversion vocale et non comme une tâche de génération de parole. » Le scientifique ajoutant : « Dans un rôle de compagnonnage, les attributs humains d’empathie et d’affect sont essentiels pour établir la confiance. Ces attributs sont devenus encore plus importants en ces temps de pandémie en cours, alors que tant d’entre nous ont perdu quelqu’un que nous aimons. Bien que l’IA ne puisse pas éliminer cette douleur de la perte, elle peut certainement faire durer leurs souvenirs. »

Toutefois, si ce deepfake audio peut sembler être un pas de géant, il peut surtout poser problème et paraître choquant. Certains internautes ont même fait un rapprochement avec la série Black Mirror. En effet, Alexa, ni aucune IA, ne peut remplacer les relations personnelles avec des personnes qui ne sont plus avec nous. Rien ni personne ne devrait remplacer le chagrin et la solitude d’une perte. Qu’en pensez-vous ?

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point