Le développement du numérique et des nouvelles technologies a bouleversé la construction des identités dans le rapport à soi comme dans le rapport à l’autre. Avec la multiplication des suicides filmés en live sur les réseaux sociaux, Facebook a mis en place une intelligence artificielle capable de détecter les personnes susceptibles de porter atteinte à leurs jours. Si Facebook semble apporter une réponse adéquate aux dérives de la visibilité, on peut se demander pourquoi une IA est aujourd’hui capable d’une bienveillance qui nous échappe ?
La multiplication des suicides en live sur les réseaux sociaux
Le 14 novembre 2016, Katia Vlasova et Denis Mouraviev, deux adolescents russes âgés de 15 ans se sont suicidés en live sur Periscope après avoir rapporté leur drame sur les réseaux sociaux, de leur fugue à leur mort, en passant par leurs altercations violentes avec la police.
En janvier 2017, c’est au tour de Katelyn Nicole Davis, une toute jeune fille de 12 ans affirmant avoir fait l’objet d’abus sexuels, et de Nakia Venant une adolescente de 14 ans multipliant les familles d’accueil, de se pendre à quelques jours d’intervalle en live sur les réseaux sociaux dont Facebook.
Nul doute que chacun de ces enfants devait vivre avec des expériences douloureuses et un mal-être social issu de causes diverses. S’il serait trop complexe de revenir sur ces histoires tragiques, on peut se demander d’où vient ce phénomène qui tend à mettre en scène sa propre mort.
Les dérives de la visibilité
Si Internet constitue sans conteste un merveilleux outil d’expression et de démocratisation des savoirs, il inclut une nouvelle façon de construire les identités. Autrefois, la visibilité était intimement liée à la notion de mérite, c’est-à-dire que les individus étaient reconnus pour un savoir-faire, un talent ou une action particulière qui les distinguaient des autres. Le développement de la télé-réalité et des réseaux sociaux a permis l’apparition de la visibilité endogène, qui n’a d’autre objet qu’elle-même, explique la sociologue Natalie Heinich.
Si par définition toute vie en société implique une mise en scène, il n’est pas toujours possible d’apparaître tel qu’on le voudrait. En revanche, sur les réseaux sociaux, je peux être qui je veux et montrer ce que je souhaite que l’on retienne de moi ; tout, de la moindre publication à la photo la plus anodine peut être réfléchi dans le cadre de la construction de mon avatar identitaire. La mise en scène de soi sur les réseaux sociaux permet de se présenter aux autres sous un angle défini et de se regarder dans un miroir que l’on a choisi et qui nous met en confiance.
Si aujourd’hui nous sommes de plus en plus nombreux à vivre une vie métissée de réel et de numérique, les jeunes, particulièrement vulnérables dans leur quête d’identité, sont nombreux à choisir les réseaux sociaux pour donner une visibilité à leur peine. Révélant leur douleur en public, ces adolescents voudraient que le monde soit capable de saisir leur appel à l’aide, malheureusement cette détresse inclut aujourd’hui la possibilité de mettre un terme à ses jours en live sur internet. Après l’orchestration de la vie en ligne, vient la mise en scène de la mort.
Une IA de prévention contre les suicides
Face à ce terrible phénomène, Facebook a annoncé sur sa newsroom avoir déployé une intelligence artificielle capable de détecter les personnes susceptibles de mettre un terme à leur vie. D’après Vanessa Callison-Burch, responsable de Facebook, cette IA s’inscrit dans un projet de lutte contre les suicides que Facebook mène depuis une dizaine d’années. Si comme elle l’explique, un suicide a lieu toutes les 40 secondes dans le monde, il est important de tout mettre en oeuvre pour prévenir ce fléau. Les réseaux sociaux étant devenus le nouveau théâtre des suicides adolescents, il convient de trouver une réponse adaptée.
L’algorithme filtre les messages et les publications suggérant une détresse particulière ou laissant penser que la personne concernée pourrait faire une tentative de suicide. Si l’IA détecte une situation alarmante, elle peut parler à l’utilisateur afin de lui fournir un soutien. Une équipe mise en place par Facebook pourra également être mise en contact avec l’internaute pour lui venir en aide. Le live de Facebook est également concerné par le projet puisque dès la publication d’une vidéo, les autres internautes pourront signaler leur inquiétude quant à la situation filmée par le live. Une aide sera alors immédiatement proposée au diffuseur de la vidéo.
Si ce dispositif n’a pour l’instant été mis en place qu’aux États-unis, il aura peut-être vocation à s’étendre au reste du monde.
Le rôle de l’intelligence artificielle
L’IA gère deux missions très importantes, dans un premier temps elle détecte les situations à risque et repère les suicides potentiels, puis elle sollicite l’utilisateur. Les exemples donnés par l’équipe Facebook montrent à quel point l’IA détient un rôle affectif qui consiste à créer un lien personnel avec l’internaute en souffrance. « Est-ce que tout va bien ? », « Je m’inquiète pour toi »; l’IA montre à l’utilisateur qu’il n’est pas seul et qu’elle a bien compris son appel au secours.
Cette invention révolutionnaire semble adaptée aux dérives de la visibilité, fournissant une réponse virtuelle à une mort qui commence sur le net. Si l’internaute orchestre sa mort physique en passant par une mort numérique, l’algorithme pourrait anticiper bien des suicides.
Pourtant une question demeure, comment se fait-il que nous ayons besoin d’une IA pour prêter attention à la souffrance qui nous entoure ? D’habitude, les algorithmes sont là pour épauler les hommes dans leurs tâches. S’il arrive souvent qu’ils soient plus performants, il est inquiétant de se dire qu’ils ont vocation à nous surpasser là où nous ne devrions pas échouer, à savoir les rapports humains. L’IA serait elle-en mesure de mieux comprendre la psychologie humaine que nous-mêmes ?
