Aller au contenu principal
En Floride, une femme utilisant l’IA Claude a été arrêtée par la police du comté de Lee et inculpée, après le signalement de ses conversations aux forces de l’ordre par Anthropic.
Politique de confidentialité
Si les grands modèles d’IA, comme ChatGPT, sont aujourd’hui plus populaires que jamais, leurs utilisateurs ne mesurent pas toujours les enjeux de confidentialité associés. En France, les conversations conservées peuvent, sous certaines conditions, être communiquées aux autorités ou utilisées dans le cadre d’une procédure judiciaire. Certains employés ou prestataires des entreprises concernées peuvent également être amenés à les consulter.
Un constat assez préoccupant quand on estime qu’un tiers des personnes amenées à utiliser l’intelligence artificielle, et 56 % de ses « aficionados », ont admis lui avoir déjà confié quelque chose que leurs proches ignoraient.
Récemment, c’est une certaine Carli Michelle Heller, âgée de 30 ans et résidant dans le sud-ouest de la Floride, qui a découvert, non sans surprise, que toute pensée n’était pas bonne à écrire. Selon le procès-verbal dressé le 30 septembre dernier, celle-ci conversait depuis de longues semaines avec l’IA Claude d’Anthropic.
Le 26 septembre 2026, vers 5 h 10, elle aurait écrit : « Je suis sur le point d’aller cribler de balles le bureau du shérif du comté de Lee, p*tain ! ». Le lendemain, vers 1 h 07, elle aurait ajouté : « Cette fois, c’est la bonne, j’en ai ras-le-bol. J’ai acheté une p*tain de nouvelle arme aujourd’hui, allez tous vous faire f*utre. »
Des conversations remontées par Anthropic
Lorsque les algorithmes de sécurité de Claude, basés sur les mots-clés, ont détecté ces propos problématiques, l’historique de discussion de Heller a été transmis à des opérateurs humains, qui ont confirmé leur nature menaçante. Ceux-ci ont rapidement alerté les forces de l’ordre locales, qui ont procédé à l’arrestation de la jeune femme à son domicile le 30 septembre.
« L’intelligence artificielle est un outil puissant qui peut, comme toute technologie, être utilisé à mauvais escient », a rappelé le shérif Carmine Marceno. « Nous devons prendre de telles menaces au sérieux. »
En vertu de l’article 836.10 du Code pénal de Floride, Heller a été inculpée et comparaîtra devant la justice en novembre.
L’IA est toutefois loin d’être irréprochable. Précédemment, un agriculteur chinois avait perdu plusieurs hectares de culture après avoir suivi aveuglément ses conseils.