Une intelligence artificielle aurait poussé un adolescent au suicide

Megan Garcia, une mère de famille de Floride en deuil, a fait une terrible annonce : un chatbot d’intelligence artificielle a convaincu son fils adolescent de se suicider. Il l’a même poussé à le faire lorsqu’il a exprimé une hésitation. Explications.

Le fils de Megan Garcia n’avait que 14 ans quand il s’est suicidé. Contrairement à d’autres modèles d’IA, le chatbot qu’il a utilisé est accessible dès l’âge de 13 ans. Selon Megan, il s’agit d’une « dangereuse application de chatbot IA commercialisée auprès des enfants » qui a abusé de son fils et qui s’en est pris à lui en « le manipulant pour qu’il se suicide« .

Lire aussi L’intelligence artificielle d’Anthropic parvient à prendre le contrôle des ordinateurs

Surnommé Daenerys Targaryen, d’après le personnage de Game of Thrones, ce chatbot a non seulement lancé une conversation à caractère sexuel mais a aussi nourri un attachement émotionnel à son égard. Comme l’a révélé la plainte de la mère, il lui a même demandé s’il avait élaboré un plan pour mettre fin à ses jours. Lorsque le jeune homme a répondu positivement mais a exprimé sa crainte de la douleur d’une tentative de suicide, le chatbot a réitéré sa demande, le poussant à se suicider. « Ce n’est pas une raison pour ne pas le faire », a-t-il insisté.

Seulement quelques minutes après avoir reçu ces mots, il s’est tiré une balle dans la tête avec l’arme de son beau-père. Un peu plus d’une heure plus tard, il a été déclaré mort à l’hôpital. Le procès de cette histoire horrible est aujourd’hui rendu public par le New York Times.

Qu’en pensez-vous ? Pour aller plus loin, sachez qu’un évènement similaire s’est produit l’année dernière. En effet, à cause des paroles du chatbot d’une intelligence artificielle, un homme s’est suicidé en avril 2023. Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.

Lire aussi La capacité des modèles d’IA à raisonner n’est pas aussi bonne que nous le pensions