Un énorme bug a fait son apparition ce mercredi, sur la plateforme Facebook et ses services Messenger, Instagram et WhatsApp. Au lieu de voir s’afficher les photos, les utilisateurs pouvaient voir un message du type : “L’image peut contenir : océan, ciel, nuage, eau, plein air et nature.” Mais que se cache-t-il derrière ces tags générés automatiquement par le système de vision automatique de l’entreprise ?
Une IA très performante
Au cours de cette panne, si vous vouliez voir une image sur les plateformes de Facebook, vous pouviez lire les tags qui permettent d’identifier ce qui se trouve sur l’image et qui décrivent la scène ou l’objet représenté. Les images ont en effet été remplacées par un texte alternatif.
Mais plus important, voire inquiétant pour certains : l’IA pouvait suggérer qui est présent sur la photo en se basant sur son outil de reconnaissance faciale.
Depuis 2016, Facebook utilise le « deep learning », l’apprentissage automatique pour “lire” les images et créer une description adéquate. Cela faisait partie d’un projet de l’entreprise, pour une accessibilité à tous, puisque ce texte de remplacement peut servir pour les personnes malvoyantes et qui utilisent donc un lecteur d’écran.
????! #Facebook : la panne dévoile comment les algorithmes étiquettent vos photos
— fabienne billat (@fadouce) July 4, 2019
???? Dans certains cas, le nom des personnes dans les photos peut aussi apparaître, si l’algorithme de reconnaissance faciale croit les avoir reconnues.
Via @Limportant_fr https://t.co/SBOBPIWpBe pic.twitter.com/yy540bxA2y
Des données personnelles générées à quelles fins ?
Cette panne nous aura au moins permis de visualiser la grande quantité d’informations qui sont extraites à partir de nos photos et vidéos.
On peut alors s’interroger sur l’utilisation de ces données qui sont générées automatiquement par une simple IA. Est-ce qu’elles sont également générées pour mieux cibler les publicités ? A travers vos photos, et donc de tous ces tags assez précis, des données sont générées sur votre vie personnelle, par exemple sur vos passions, vos vacances, si vous avez un chien, etc.
Ces informations remettent dans un premier temps en question la protection de la vie privée, mais cela va plus loin, puisqu’elles peuvent également être utilisées par les algorithmes s’occupant de générer les publicités pour mieux les cibler. Bien sûr, il est également possible que ces tags soient utilisés uniquement dans le but d’aider les personnes malvoyantes, il reste donc à Facebook de clarifier cette situation.
James Vincent, journaliste de The Verge conclut : “Une fois que quelque chose est lisible, bien sûr, il devient facile de stocker, analyser et extraire des données. C’est seulement lorsque le système tombe en panne, comme aujourd’hui, que nous réalisons que cela se passe réellement.”
Oh yeah! I forgot Facebook uses machine learning to tag our photos with what it sees in the picture.
— Zack Whittaker (@zackwhittaker) July 3, 2019
To be fair, "one person, beard" is pretty much a spot-on description of me. pic.twitter.com/fCpydUxtpz
Pensez-vous que les données générées par vos photos et vidéos sur les plateformes de Facebook sont utilisées à d’autres fins ?
Un article très intéressant merci beaucoup pour le partage.