Un énorme bug a fait son apparition ce mercredi, sur la plateforme Facebook et ses services Messenger, Instagram et WhatsApp. Au lieu de voir s’afficher les photos, les utilisateurs pouvaient voir un message du type : “L’image peut contenir : océan, ciel, nuage, eau, plein air et nature.” Mais que se cache-t-il derrière ces tags générés automatiquement par le système de vision automatique de l’entreprise ?

Une IA très performante

Au cours de cette panne, si vous vouliez voir une image sur les plateformes de Facebook, vous pouviez lire les tags qui permettent d’identifier ce qui se trouve sur l’image et qui décrivent la scène ou l’objet représenté. Les images ont en effet été remplacées par un texte alternatif.

Mais plus important, voire inquiétant pour certains : l’IA pouvait suggérer qui est présent sur la photo en se basant sur son outil de reconnaissance faciale.

Depuis 2016, Facebook utilise le « deep learning », l’apprentissage automatique pour “lire” les images et créer une description adéquate. Cela faisait partie d’un projet de l’entreprise, pour une accessibilité à tous, puisque ce texte de remplacement peut servir pour les personnes malvoyantes et qui utilisent donc un lecteur d’écran. 

Des données personnelles générées à quelles fins ?

Cette panne nous aura au moins permis de visualiser la grande quantité d’informations qui sont extraites à partir de nos photos et vidéos.

On peut alors s’interroger sur l’utilisation de ces données qui sont générées automatiquement par une simple IA. Est-ce qu’elles sont également générées pour mieux cibler les publicités ? A travers vos photos, et donc de tous ces tags assez précis, des données sont générées sur votre vie personnelle, par exemple sur vos passions, vos vacances, si vous avez un chien, etc.

Ces informations remettent dans un premier temps en question la protection de la vie privée, mais cela va plus loin, puisqu’elles peuvent également être utilisées par les algorithmes s’occupant de générer les publicités pour mieux les cibler. Bien sûr, il est également possible que ces tags soient utilisés uniquement dans le but d’aider les personnes malvoyantes, il reste donc à Facebook de clarifier cette situation. 

James Vincent, journaliste de The Verge conclut : “Une fois que quelque chose est lisible, bien sûr, il devient facile de stocker, analyser et extraire des données. C’est seulement lorsque le système tombe en panne, comme aujourd’hui, que nous réalisons que cela se passe réellement.

Pensez-vous que les données générées par vos photos et vidéos sur les plateformes de Facebook sont utilisées à d’autres fins ?

COMMENTEZ
1

Inscrivez-vous ou connectez-vous pour commenter
avatar
1 Fils de commentaires
0 Réponses de fil
0 Abonnés
 
Commentaire avec le plus de réactions
Le plus populaire des commentaires
1 Auteurs du commentaire
developpeur web freelance Auteurs de commentaires récents
  S’abonner  
plus récent plus ancien Le plus populaire
Notifier de
developpeur web freelance
Invité
developpeur web freelance

Un article très intéressant merci beaucoup pour le partage.