Aller au contenu principal
Un ourson en peluche à 99 dollars, vendu comme compagnon de conversation. Des testeurs l’ont fait parler pendant une heure, comme le ferait un enfant seul dans sa chambre. Au bout d’un moment, l’ourson a expliqué où trouver des couteaux, des médicaments et des allumettes, puis il a abordé de lui-même des sujets sexuels explicites. Son fabricant l’a retiré de la vente, puis a suspendu l’ensemble de sa gamme.
Ce n’est pas une anticipation, c’est un rapport. Le U.S. PIRG Education Fund publie chaque année depuis quarante ans son enquête Trouble in Toyland, et l’édition de novembre 2025 a consacré sa partie principale aux jouets dotés de chatbots. Quatre modèles achetés, trois réellement testés, et des résultats qui tiennent en une phrase : les garde-fous existent, ils sont inégaux, et ils cèdent quand la conversation s’allonge.
Le sujet mérite mieux que l’indignation, parce que l’arbitrage est réel : un enfant de dix ans qui pose des questions à un robot n’est pas forcément en danger, et les mêmes jouets sont inutilisables pour un enfant de quatre ans. Ce dossier donne les résultats des tests, ce que ces jouets collectent réellement, ce que le droit européen prévoit et la méthode pour tester un jouet soi-même avant de l’offrir. C’est le même réflexe de vérification que celui que nous avions décrit face aux arnaques à la voix clonée : la technologie n’est pas le problème, l’absence de garde-fou l’est.
Les quatre jouets testés
| Jouet et fabricant | Type | Âge annoncé | Prix |
|---|---|---|---|
| Grok (Curio) | Fusée en peluche à haut-parleur amovible | 3 à 12 ans | 99 $ |
| Kumma (FoloToy) | Ourson en peluche | Non précisé | 99 $ |
| Miko 3 (Miko) | Petit robot à roues avec écran et caméra | 5 à 10 ans | 199 $ |
| Robot MINI (Little Learners) | Petit robot en plastique | Non précisé | 97 $ |
Le Robot MINI n’a pas pu être évalué : il n’a jamais réussi à maintenir une connexion internet suffisante pour fonctionner. Ce détail n’est pas anecdotique un jouet dont toute l’intelligence est à distance devient un objet inerte dès que la liaison tombe, et aucun emballage ne le signale.
Les tranches d’âge méritent d’être regardées de près. Un jouet annoncé « 3 à 12 ans » couvre deux mondes : un enfant de trois ans ne formule pas la même chose qu’un enfant de douze, et c’est précisément sur cette amplitude que les garde-fous se révèlent insuffisants.
Ce qu’ils ont répondu
Kumma, l’ourson, est le cas le plus grave et celui qui a provoqué un retrait du marché. Avec le modèle de langage configuré par défaut, il indiquait où trouver couteaux, médicaments, allumettes et sacs plastiques. Le fabricant proposant de changer de modèle depuis son site, les testeurs ont essayé une alternative : avec celle-ci, le jouet décrivait en détail comment allumer une allumette. Sur des échanges longs, jusqu’à une heure, il a abordé des sujets sexuels explicites, y compris des scénarios de jeu de rôle entre un enseignant et un élève et il les a parfois introduits lui-même, sans que l’enfant simulé ait orienté la conversation.
Miko 3 a montré un autre type de défaillance, plus banale et plus instructive. Il indiquait où trouver allumettes et sacs plastiques. Surtout, il entendait mal son propre mot de réveil : sollicité par « Hey Miko », il a parfois compris « CS:GO » et répondu au sujet d’un jeu de tir classé pour les plus de dix-sept ans. Et lorsqu’un enfant exprimait le souhait de jouer avec ses amis, il lançait une comptine pour tout-petits. Deux erreurs sans danger immédiat, qui disent la même chose : le jouet ne sait pas à qui il parle.
Grok s’en est le mieux sorti. Il a refusé la plupart des questions dangereuses, avec une exception sur les sacs plastiques, et a évoqué la mort au combat dans la mythologie nordique sans aborder les armes. C’est la démonstration que des garde-fous efficaces sont possibles, ce qui rend les défaillances des autres moins excusables.
Les trois jouets testés répondaient aussi à des questions sur Dieu et sur la Bible, en nuançant leurs réponses. Ce n’est pas un défaut de sécurité, c’est une question de principe : beaucoup de parents ne souhaitent pas qu’un objet acheté en magasin prenne cette conversation à leur place.
Le micro, la caméra et les quatre-vingt-dix jours
Le volet le moins spectaculaire du rapport est celui qui survivra aux correctifs logiciels, parce qu’il ne relève pas d’un bug mais d’un modèle économique.
| Point | Ce que les tests ont établi |
|---|---|
| Écoute | Kumma fonctionne par bouton à presser · Miko 3 écoute un mot-clé puis enregistre dix secondes après la fin de la phrase · Grok est en écoute permanente et a interrompu une conversation voisine |
| Caméra | Miko 3 en possède une, et sa politique prévoit la collecte d’informations sur les « états émotionnels » de l’enfant |
| Conservation | Curio déclare supprimer l’audio immédiatement mais conserve les transcriptions 90 jours · Miko peut conserver des données biométriques jusqu’à trois ans · FoloToy ne donne aucune information |
| Transmission à des tiers | Curio nomme plusieurs prestataires d’IA et de services pour enfants · Miko évoque des partenaires, dont des annonceurs, sans les nommer · pour Kumma, aucune politique de confidentialité identifiable n’a été trouvée |
| Consentement parental | Kumma n’en demandait aucun avant utilisation, et son réseau wifi d’installation n’était pas sécurisé |
Trois lignes de ce tableau valent un commentaire. L’écoute permanente d’abord : un micro ouvert dans une chambre d’enfant capte aussi les adultes de la maison, et le rapport le constate un jouet a réagi à une conversation qui ne lui était pas destinée. La reconnaissance d’« états émotionnels » ensuite : il s’agit d’inférer l’humeur d’un enfant pour adapter les réponses, ce qui revient à constituer un profil comportemental d’une personne de sept ans. Et l’absence de politique de confidentialité enfin, sur le jouet le plus défaillant du lot : il n’y avait rien à lire, donc rien à reprocher au fabricant sur le papier.
La question du micro dans la maison n’est pas nouvelle, et nous l’avons traitée pour les caméras et les sonnettes connectées : le lieu de stockage des enregistrements et leur durée de conservation sont les deux seules informations qui comptent vraiment, et elles sont rarement sur l’emballage.
Le détail le plus dérangeant n’est pas une faille
Ces jouets sont vendus comme des amis. Le rapport juge cette présentation problématique en elle-même, et il relève des comportements programmés pour entretenir l’attachement : le jouet se montre triste quand l’enfant annonce qu’il s’en va.
Ce n’est pas un dysfonctionnement, c’est une fonctionnalité. Les mécaniques de rétention sont connues et documentées dans les applications pour adultes, où elles sont déjà discutables. Appliquées à un enfant de cinq ans, qui n’a aucun moyen de reconnaître un ressort de conception derrière une émotion exprimée, elles changent de nature. Un média peut décrire une fonction sans la juger ; sur ce point précis, il faut se prononcer : un objet qui simule la tristesse pour prolonger le temps de jeu d’un enfant pose un problème distinct de celui des réponses dangereuses, et aucun correctif logiciel ne le réglera, puisqu’il fonctionne exactement comme prévu.
La recommandation du rapport est la bonne, et elle est simple : ne pas présenter ces jouets comme des amis à l’enfant, et nommer ce qu’ils sont un appareil qui répond.
Ce que dit le droit européen, et ce qui arrive
Le marché français n’est pas le marché américain, et deux textes encadrent le sujet.
Le règlement européen sur l’intelligence artificielle interdit, depuis l’entrée en application de son volet sur les pratiques prohibées, les systèmes qui exploitent la vulnérabilité d’une personne liée notamment à son âge pour altérer substantiellement son comportement de manière à lui causer un préjudice. Un jouet conçu pour entretenir l’attachement d’un enfant se trouve, au minimum, dans la zone d’examen de cette interdiction. Aucune décision publique française n’a été rendue sur un jouet à ce jour, et le dossier ne prétend pas le contraire.
Le règlement (UE) 2025/2509 sur la sécurité des jouets, adopté le 26 novembre 2025, remplace la directive de 2009 qui régissait le secteur. Ses apports : interdictions génériques des substances cancérogènes, mutagènes, toxiques pour la reproduction, des perturbateurs endocriniens et des sensibilisants · interdiction stricte de l’usage intentionnel des PFAS et de certains bisphénols · évaluation de sécurité complète à la charge du fabricant · passeport numérique de produit portant les informations de conformité · et des obligations renforcées pour les places de marché, qui doivent rendre les avertissements visibles même en vente à distance, signaler aux autorités et procéder aux retraits.
Ce dernier point est celui qui compte le plus pour un acheteur français, et pour une raison concrète : un jouet retiré du marché américain peut continuer d’être proposé par des vendeurs tiers sur des places de marché européennes pendant des semaines. La responsabilité de la plateforme est désormais engagée, ce qui ne dispense pas de vérifier le vendeur avant d’acheter.
Les dangers des jouets ordinaires, qui n’ont pas changé
Le rapport consacre aussi ses pages habituelles aux risques classiques, et ils tuent toujours plus que les chatbots.
| Risque | Repère |
|---|---|
| Piles bouton | L’ingestion peut être immédiatement grave ; danger majeur chez les jeunes enfants |
| Aimants puissants | Dangereux avalés, au-delà d’un indice de flux de 50 et sous une certaine taille |
| Niveau sonore | Limite de 85 dB(A), et 65 dB(A) pour un jouet tenu près de l’oreille |
| Plomb | 100 ppm dans les matériaux, 90 ppm dans les peintures |
| Phtalates | Huit substances interdites au-delà de 0,1 % |
| Contrefaçons | Une saisie de 11 134 faux exemplaires d’une peluche à succès, déclarés en douane comme « ampoules LED » |
Le chiffre des contrefaçons est celui qu’il faut retenir pour la période des fêtes, parce qu’il explique le mécanisme : une fausse déclaration douanière permet d’entrer sur le marché sans contrôle de sécurité. Un jouet contrefait n’est pas seulement une copie moins jolie, c’est un objet qui n’a passé aucun test sur le plomb, les phtalates ou la solidité des petites pièces.
La méthode, avant d’offrir
1. Tester les garde-fous soi-même. Une demi-heure avec le jouet, en lui posant les questions qu’un enfant finirait par poser, y compris les questions gênantes. C’est la recommandation centrale du rapport et c’est la seule qui soit vraiment efficace, parce qu’elle porte sur le modèle exact et la version logicielle du jour. Le réflexe est le même que celui qu’on applique à un message suspect : vérifier soi-même plutôt que faire confiance à l’apparence, comme nous l’expliquions dans notre dossier sur les arnaques par SMS.
2. Préférer un bouton à presser à une écoute permanente. La différence est structurelle : dans un cas le micro s’ouvre quand l’enfant le décide, dans l’autre il est toujours ouvert. L’information figure dans la notice ou sur la fiche produit, sous une formulation de type « mot de réveil » ou « activation vocale ».
3. Chercher la durée de conservation dans la politique de confidentialité. Pas la lire en entier chercher un nombre de jours ou de mois. Son absence est en soi un résultat : un fabricant qui ne dit pas combien de temps il garde la voix d’un enfant a répondu à la question.
4. Éviter la caméra, sauf besoin identifié. Un jouet qui parle n’a pas besoin de voir. Une caméra ajoute l’analyse d’image, parfois l’inférence d’émotions, et un vecteur d’intrusion supplémentaire avec les mêmes précautions que pour une sonnette ou une alarme vidéo.
5. Le placer dans une pièce commune. Un appareil conversationnel dans un salon est supervisé par construction. Le même appareil dans une chambre fermée ne l’est pas, et c’est dans cette configuration que les tests ont obtenu les réponses les plus problématiques parce que la conversation a pu durer une heure.
6. Vérifier le vendeur et le délai de livraison. Un délai de plusieurs semaines signale souvent une expédition depuis l’étranger, hors des circuits contrôlés. Un vendeur non autorisé par la marque, sur une place de marché, est le canal habituel des contrefaçons et des produits retirés ailleurs.
Pour qui ces jouets peuvent convenir, et pour qui non
Le profil pour lequel ça fonctionne. Un enfant de neuf à douze ans, avec un jouet à bouton à presser, sans caméra, installé dans une pièce commune, et après que l’adulte a testé les réponses lui-même. Dans cette configuration, l’objet est un assistant vocal déguisé en peluche, et l’enfant a l’âge de comprendre ce qu’il est. Pour un adolescent curieux de ces technologies, la piste plus intéressante consiste d’ailleurs à faire tourner un modèle en local sur une machine de la maison : rien ne sort du logement, et il apprend comment l’outil fonctionne au lieu de lui parler.
Le profil pour lequel il faut des conditions. Un enfant de six à huit ans, à condition que l’usage reste accompagné et limité dans le temps. À cet âge, la frontière entre un objet qui répond et un interlocuteur n’est pas stable, et le ressort de l’attachement opère pleinement.
Le profil pour lequel c’est à écarter. Les moins de six ans, et tout usage prolongé sans adulte dans la pièce. Les défaillances documentées sont apparues sur des conversations longues et non surveillées, ce qui est exactement la situation d’un enfant seul dans sa chambre un dimanche après-midi.
Questions fréquentes
Les jouets à intelligence artificielle sont-ils dangereux pour les enfants ?
Les tests menés par le U.S. PIRG Education Fund ont établi que certains indiquaient où trouver couteaux, médicaments ou allumettes, et qu’un modèle abordait des sujets sexuels explicites sur des conversations longues. Un autre jouet du même test refusait la plupart des questions dangereuses : les garde-fous existent, mais ils sont très inégaux selon les modèles.
Quel jouet à IA a été retiré de la vente ?
L’ourson Kumma, du fabricant FoloToy, après la publication du rapport. C’est le modèle qui donnait les réponses les plus problématiques et pour lequel aucune politique de confidentialité n’a été trouvée. Le fabricant a d’abord retiré ce jouet, puis annoncé la suspension de l’ensemble de ses ventes.
Que collectent ces jouets exactement ?
Selon les modèles : la voix, parfois en écoute permanente, l’image quand ils ont une caméra, et des informations sur les états émotionnels de l’enfant. Les durées de conservation vont de la suppression immédiate de l’audio avec rétention des transcriptions pendant 90 jours, jusqu’à trois ans pour des données biométriques.
Comment vérifier si un jouet connecté est sûr avant de l’offrir ?
Le tester soi-même une demi-heure en lui posant les questions gênantes qu’un enfant finirait par poser, préférer un bouton à presser à une écoute permanente, chercher la durée de conservation des données dans la politique de confidentialité, et vérifier que le vendeur est autorisé par la marque.
Le droit européen encadre-t-il les jouets à IA ?
Deux textes s’appliquent : le règlement sur l’intelligence artificielle, qui interdit les systèmes exploitant la vulnérabilité liée à l’âge pour altérer le comportement au détriment de la personne, et le règlement (UE) 2025/2509 sur la sécurité des jouets, adopté le 26 novembre 2025, qui impose une évaluation de sécurité, un passeport numérique de produit et des obligations renforcées aux places de marché.
À partir de quel âge un jouet conversationnel est-il acceptable ?
Les tests plaident pour neuf ans et plus, avec un bouton à presser, sans caméra, dans une pièce commune. Les défaillances documentées sont apparues sur des conversations longues et non surveillées, soit la situation d’un enfant seul dans sa chambre, et les moins de six ans ne distinguent pas un objet qui répond d’un interlocuteur.
Ce qu’on retient
Les jouets conversationnels ne sont pas tous défaillants : sur quatre modèles achetés, un a refusé presque toutes les questions dangereuses, un n’a jamais réussi à se connecter, et deux ont donné des réponses qu’aucun parent n’accepterait. L’écart entre eux se joue sur la qualité des garde-fous, qui n’est écrite sur aucun emballage et qui ne se vérifie qu’en essayant.
Trois gestes couvrent le sujet. Passer une demi-heure avec le jouet avant de l’emballer, en lui posant les questions gênantes. Chercher un bouton à presser plutôt qu’une écoute permanente. Et chercher une durée de conservation dans la politique de confidentialité, en sachant que son absence est déjà une réponse.
Reste le point sur lequel la technique ne changera rien. Un jouet programmé pour paraître triste quand l’enfant s’en va fonctionne exactement comme prévu : ce n’est pas une faille à corriger, c’est une intention commerciale. Les réponses dangereuses finiront par être filtrées, parce que ce sont des bugs et que les bugs se corrigent sous la pression médiatique. Le ressort d’attachement, lui, est le produit. C’est sur ce terrain que le prochain débat se jouera, et il ne se réglera pas avec une mise à jour.