L’immense bug de Facebook a révélé à quel point son intelligence artificielle vous étudie

Un énorme bug a fait son apparition ce mercredi, sur la plateforme Facebook et ses services Messenger, Instagram et WhatsApp. Au lieu de voir s’afficher les photos, les utilisateurs pouvaient voir un message du type : “L’image peut contenir : océan, ciel, nuage, eau, plein air et nature.” Mais que se cache-t-il derrière ces tags générés automatiquement par le système de vision automatique de l’entreprise ?

Une IA très performante

Au cours de cette panne, si vous vouliez voir une image sur les plateformes de Facebook, vous pouviez lire les tags qui permettent d’identifier ce qui se trouve sur l’image et qui décrivent la scène ou l’objet représenté. Les images ont en effet été remplacées par un texte alternatif.

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point

Mais plus important, voire inquiétant pour certains : l’IA pouvait suggérer qui est présent sur la photo en se basant sur son outil de reconnaissance faciale.

Depuis 2016, Facebook utilise le « deep learning », l’apprentissage automatique pour “lire” les images et créer une description adéquate. Cela faisait partie d’un projet de l’entreprise, pour une accessibilité à tous, puisque ce texte de remplacement peut servir pour les personnes malvoyantes et qui utilisent donc un lecteur d’écran. 

😮! #Facebook : la panne dévoile comment les algorithmes étiquettent vos photos
😲 Dans certains cas, le nom des personnes dans les photos peut aussi apparaître, si l’algorithme de reconnaissance faciale croit les avoir reconnues.
Via @Limportant_fr https://t.co/SBOBPIWpBe pic.twitter.com/yy540bxA2y

— fabienne billat (@fadouce) July 4, 2019

Des données personnelles générées à quelles fins ?

Cette panne nous aura au moins permis de visualiser la grande quantité d’informations qui sont extraites à partir de nos photos et vidéos.

Lire aussi Un robot en forme de pneu et équipé de gaz lacrymogène testé par la police en Chine

On peut alors s’interroger sur l’utilisation de ces données qui sont générées automatiquement par une simple IA. Est-ce qu’elles sont également générées pour mieux cibler les publicités ? A travers vos photos, et donc de tous ces tags assez précis, des données sont générées sur votre vie personnelle, par exemple sur vos passions, vos vacances, si vous avez un chien, etc.

Ces informations remettent dans un premier temps en question la protection de la vie privée, mais cela va plus loin, puisqu’elles peuvent également être utilisées par les algorithmes s’occupant de générer les publicités pour mieux les cibler. Bien sûr, il est également possible que ces tags soient utilisés uniquement dans le but d’aider les personnes malvoyantes, il reste donc à Facebook de clarifier cette situation. 

James Vincent, journaliste de The Verge conclut : “Une fois que quelque chose est lisible, bien sûr, il devient facile de stocker, analyser et extraire des données. C’est seulement lorsque le système tombe en panne, comme aujourd’hui, que nous réalisons que cela se passe réellement.”

Lire aussi Une intelligence artificielle conçoit une éolienne sept fois plus efficace

https://twitter.com/zackwhittaker/status/1146456836998144000

Pensez-vous que les données générées par vos photos et vidéos sur les plateformes de Facebook sont utilisées à d’autres fins ?