Aller au contenu principal
Depuis le 2 août 2026, le règlement européen sur l’intelligence artificielle impose d’étiqueter les contenus générés par IA, deepfakes compris, sous peine d’amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial. C’est une avancée réelle. Elle ne vous protégera pas de l’appel que vous recevrez peut-être un soir, avec la voix de votre fils, votre mère ou votre banquier. Trente secondes d’enregistrement suffisent aujourd’hui à cloner une voix, le volume de faux audio a été multiplié par dix en deux ans, et aucun escroc n’a jamais étiqueté sa production. Voici comment fonctionne réellement cette arnaque, pourquoi la loi passe à côté, et la seule parade qui tienne.
Commençons par ce qui a changé. L’article 50 du règlement européen sur l’IA est applicable depuis le 2 août 2026. Il impose quatre obligations distinctes : informer l’utilisateur qu’il parle à une machine, marquer dans un format lisible par machine les images, vidéos, sons et textes générés par IA, signaler explicitement les contenus manipulés lorsqu’ils sont diffusés, et informer sur les systèmes de reconnaissance des émotions.
Un délai de grâce court jusqu’au 2 décembre 2026, mais uniquement pour le marquage technique des systèmes génératifs déjà commercialisés. Les obligations d’information et de divulgation, elles, s’appliquent depuis le 2 août sans exception. En France, le contrôle est partagé entre la CNIL, la DGCCRF et l’Arcom selon les domaines. Nous avions décrit le volet SMS de cette économie dans notre dossier sur l’arnaque au colis dopée à l’IA : celui-ci en est la suite logique, côté voix.
Le problème tient en une phrase. Ce texte encadre l’économie légale de l’IA les éditeurs de modèles, les plateformes, les entreprises qui déploient ces outils. Il n’a aucune prise sur celui qui télécharge un modèle open source, le fait tourner sur sa machine et vous appelle avec la voix d’un proche.
Ce que l’article 50 impose vraiment
| Obligation | Qui est concerné | À partir de quand |
|---|---|---|
| Informer que l’interlocuteur est une machine | Fournisseurs de chatbots et assistants vocaux | 2 août 2026 |
| Marquer les contenus synthétiques dans un format lisible par machine | Fournisseurs de systèmes génératifs | 2 août 2026, sursis au 2 décembre pour les systèmes déjà commercialisés |
| Signaler les deepfakes lors de la diffusion | Déployeurs — celui qui publie le contenu | 2 août 2026 |
| Informer sur la reconnaissance des émotions et la catégorisation biométrique | Fournisseurs et déployeurs | 2 août 2026 |
Une exception mérite d’être signalée, parce qu’elle sera discutée pendant des années : l’obligation de divulgation ne s’applique pas aux contenus « manifestement artistiques, créatifs, satiriques ou fictionnels ». La frontière entre la parodie et la manipulation n’est écrite nulle part, et c’est là que se jouera le contentieux.
Les sanctions sont dissuasives sur le papier : jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé s’appliquant. Ce plafond n’a de sens que pour une entreprise identifiable ayant un chiffre d’affaires et un siège social. Il n’en a aucun pour un réseau criminel opérant depuis un pays tiers.
Pourquoi la loi ne protégera personne contre l’arnaque
C’est le point que les articles sur l’AI Act ne posent pas, et il vaut la peine d’être posé clairement. Trois raisons, cumulatives.
La première est juridique. Le règlement s’adresse aux fournisseurs et aux déployeurs opérant dans le marché européen. Un escroc n’est ni l’un ni l’autre au sens du texte : il commet déjà des infractions autrement plus lourdes que le défaut d’étiquetage. Lui ajouter une obligation de marquage revient à interdire le stationnement gênant à un braqueur en fuite.
La deuxième est technique. Les modèles de synthèse vocale les plus courants sont librement téléchargeables et tournent sur une machine personnelle, sans connexion à un service commercial. Aucun marquage n’y est appliqué, et quand il l’est, il s’agit d’une métadonnée ou d’un filigrane audio que rien n’empêche de retirer avant diffusion. Le marquage lisible par machine sert à tracer les contenus produits de bonne foi ; il ne résiste pas à quelqu’un qui cherche à le supprimer.
La troisième est structurelle. L’arnaque à la voix clonée ne passe par aucune plateforme. Elle passe par un appel téléphonique. Il n’y a pas d’interface où afficher un bandeau « contenu généré par IA », pas de modérateur, pas de signalement possible avant les faits. Le canal est celui qui échappe le plus complètement à la régulation des contenus à la différence du smishing par SMS, où opérateurs et plateformes disposent au moins de leviers de filtrage.
Cela ne rend pas le texte inutile il assainit l’usage légitime, il crée un cadre de responsabilité pour les plateformes, il aidera dans les affaires de diffamation et de fausse publicité. Il ne faut simplement pas en attendre ce qu’il ne peut pas faire.
Trente secondes de voix, et n’importe qui peut être imité
La barrière technique a disparu. Trente secondes d’audio suffisent aujourd’hui à produire un clone convaincant d’une voix. Pas trente secondes de studio : un message vocal envoyé sur une messagerie, une story publiée sur un réseau social, le message d’accueil d’un répondeur, une prise de parole filmée lors d’un événement associatif ou professionnel.
C’est ce qui rend la protection difficile. Vous ne contrôlez pas l’audio de vous-même qui circule, et vous contrôlez encore moins celui de vos proches. Un adolescent qui publie des vidéos, un dirigeant qui intervient en conférence, un parent qui laisse un message sur un répondeur professionnel : la matière première est déjà disponible.
Le volume, lui, a été multiplié par dix entre 2023 et 2025. À l’échelle des entreprises, 49 % déclarent avoir subi une tentative d’escroquerie impliquant un deepfake. Pour les particuliers, le préjudice constaté se situe couramment entre 2 000 et 12 000 euros par victime, avec des montants supérieurs dès qu’une entreprise est visée.
Les cinq scénarios qui circulent en France
Le proche en détresse. Un appel en fin de journée, une voix reconnaissable, un accident ou une garde à vue, une demande de virement immédiat, et une consigne de n’en parler à personne. C’est le scénario le plus ancien, il fonctionnait déjà avant l’IA ; le clonage vocal a simplement supprimé le principal doute de la victime.
Le faux conseiller bancaire. Le plus coûteux de tous, et le seul qui progresse à trois chiffres. L’appelant connaît vos dernières opérations, vous annonce une fraude en cours et vous demande de valider une opération pour la bloquer un mécanisme qui repose entièrement sur la faiblesse du code de validation par SMS. Le clonage vocal y sert à imiter un interlocuteur déjà connu de la victime lors d’un second appel.
Le faux dirigeant. Version entreprise du même mécanisme. Un appel du directeur financier, une opération confidentielle, un virement urgent vers un compte inhabituel. La voix clonée a remplacé le courriel maladroit qui trahissait autrefois l’arnaque.
Le faux placement avec caution officielle. Une vidéo synthétique met en scène une personnalité connue, souvent une autorité financière, qui recommande un placement. La victime s’inscrit, puis reçoit un appel d’un faux conseiller. C’est le scénario visé par l’alerte de la Banque de France.
Le faux service technique. Un appel annonçant un problème sur votre box, votre compte ou votre ordinateur, suivi d’une prise de contrôle à distance. Le clonage vocal y sert surtout à rappeler la victime avec la voix du « technicien » avec qui elle a déjà parlé, pour lever ses défenses au second contact.
L’alerte du 27 avril 2026
Le 27 avril 2026, la Banque de France et l’Autorité de contrôle prudentiel et de résolution ont publié une alerte conjointe. Des vidéos synthétiques circulaient sur les réseaux sociaux, mettant en scène le gouverneur de la Banque de France et la secrétaire générale de l’ACPR recommandant des placements financiers.
Le mécanisme est toujours le même. La vidéo est diffusée sur Facebook, Instagram ou TikTok. L’internaute clique, s’inscrit pour « accéder au placement », puis reçoit l’appel d’un faux conseiller qui réclame des frais de dossier ou un premier virement.
La phrase à retenir de cette alerte est courte et vaut pour tous les cas de ce type : les responsables de la Banque de France ne recommandent jamais aucun placement. Aucune autorité publique ne le fait, aucune ne le fera. Une personnalité institutionnelle qui vous conseille un investissement dans une vidéo est, par construction, un faux.
Cette alerte est venue après un flash d’ingérence de la DGSI publié en janvier 2026 sur le même sujet. Autrement dit, l’État avait identifié le phénomène plusieurs mois avant que le règlement européen ne devienne applicable et l’un n’a pas empêché l’autre.
Ce qui trahit encore une voix synthétique
Soyons honnêtes sur ce point, parce que beaucoup d’articles promettent une détection à l’oreille qui n’existe plus vraiment. Les défauts acoustiques classiques intonation plate, absence de respiration, coupures nettes entre les mots se sont largement estompés sur les outils récents. Compter sur son oreille est aujourd’hui une mauvaise stratégie.
Ce qui reste fiable, en revanche, ce n’est pas le son : c’est la conversation. Un clone reproduit un timbre, pas une mémoire. Posez une question précise dont seule la vraie personne connaît la réponse pas une date d’anniversaire trouvable en ligne, mais un détail partagé, un souvenir, le nom d’un objet dans une pièce. L’appel se met à tourner, à éluder, à revenir sur l’urgence.
Le second signal est structurel et il n’a pas changé depuis vingt ans : l’urgence combinée au secret. Toute demande qui exige une action immédiate et vous interdit d’en parler à un tiers est une arnaque, quelle que soit la voix qui la formule. Aucune banque, aucune administration, aucun proche réellement en difficulté ne demande le silence.
Le troisième est le canal. Un appel entrant ne prouve rien : le numéro affiché est falsifiable depuis longtemps. Raccrocher et rappeler soi-même, sur un numéro que l’on connaît déjà et qu’on ne récupère pas dans l’historique d’appel, casse la totalité de ces scénarios. C’est le geste le plus efficace du dossier, et il ne coûte rien.
Le mot de passe familial, et pourquoi il fonctionne
La parade la plus solide est aussi la plus artisanale : convenir en famille d’un mot ou d’une phrase, connu de tous et jamais écrit nulle part, à demander en cas d’appel inhabituel réclamant de l’argent ou une information sensible.
Son efficacité tient à ce qu’il n’est pas dans les données. Un escroc peut reconstituer votre voix, votre entourage, vos habitudes bancaires à partir de fuites de données et de réseaux sociaux. Il ne peut pas deviner une convention orale qui n’a jamais transité par un support numérique.
Trois conditions pour que cela marche. Le mot ne doit avoir aucun rapport avec des informations publiques pas un prénom, pas une date, pas le nom du chien. Il doit être connu des personnes les plus exposées, en particulier les parents âgés et les adolescents. Et il doit être demandé sans culpabilité : la gêne à poser la question est précisément ce sur quoi l’escroc compte.
Un complément utile pour les personnes âgées isolées, souvent ciblées : convenir qu’aucune demande d’argent ne se traite par téléphone, jamais, sans exception, et qu’un rappel sur un numéro connu est systématique. Une règle absolue est plus facile à tenir qu’une évaluation au cas par cas dans un moment de panique.
Ce qu’il faut faire dans l’heure qui suit
Si le virement est parti, le temps est la seule variable qui compte. Appelez immédiatement votre banque pour demander le blocage de l’opération : selon le mode de transfert et le délai, une annulation reste parfois possible dans les premières heures.
Signalez ensuite la fraude à la carte ou au compte sur la plateforme Perceval, accessible via FranceConnect, qui centralise ces signalements. Déposez plainte au commissariat ou à la gendarmerie, en apportant tous les éléments : horodatage de l’appel, numéro affiché, coordonnées bancaires transmises, captures d’écran.
Le contenu lui-même se signale sur la plateforme Pharos pour une vidéo ou un message frauduleux en ligne, et au 33700 pour un SMS. Cybermalveillance.gouv.fr oriente vers les bons dispositifs et fournit un accompagnement gratuit. Nous détaillons ces réflexes et les méthodes employées pour accéder aux données personnelles dans nos dossiers cybersécurité.
Un dernier point, qui n’est pas une formalité. La honte retarde les signalements, et les heures perdues sont celles pendant lesquelles une opposition était encore possible. Se faire piéger par un dispositif conçu pour tromper des directeurs financiers n’est pas une faiblesse. Le dire à un proche vaut mieux que de le taire.
Questions fréquentes
Combien de temps d’audio faut-il pour cloner une voix ?
Environ trente secondes suffisent avec les outils actuels. La matière première est prise sur un message vocal, une story, un répondeur ou une prise de parole publique. Aucune compétence technique particulière n’est nécessaire, les outils étant largement accessibles.
La loi européenne oblige-t-elle à signaler les deepfakes ?
Oui, depuis le 2 août 2026, au titre de l’article 50 du règlement européen sur l’IA, avec des sanctions jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires mondial. Cette obligation vise les fournisseurs et déployeurs légitimes, pas les escrocs, qui ne s’y conforment évidemment pas.
Comment reconnaître une voix générée par IA au téléphone ?
Difficilement à l’oreille : les défauts acoustiques ont largement disparu. La vérification fiable est conversationnelle poser une question dont seule la vraie personne connaît la réponse et comportementale : toute demande urgente exigeant le secret est suspecte, quelle que soit la voix.
Qu’est-ce qu’un mot de passe familial et comment le choisir ?
Un mot ou une phrase convenu oralement en famille, jamais écrit ni transmis par voie numérique, à demander lors de tout appel réclamant de l’argent ou une information sensible. Il ne doit reprendre aucune information trouvable en ligne : ni prénom, ni date, ni nom d’animal.
Que faire si j’ai déjà envoyé de l’argent ?
Contactez votre banque immédiatement pour tenter le blocage, l’annulation restant parfois possible dans les premières heures. Signalez ensuite la fraude sur la plateforme Perceval, déposez plainte, et conservez tous les éléments : horodatage, numéro affiché, coordonnées transmises.
Une vidéo d’une personnalité qui recommande un placement peut-elle être authentique ?
Non, s’il s’agit d’une autorité publique ou financière. Les responsables de la Banque de France ne recommandent jamais aucun placement, et l’institution l’a rappelé dans une alerte conjointe avec l’ACPR le 27 avril 2026, après la circulation de vidéos synthétiques les mettant en scène.
Verdict
Le règlement européen sur l’IA est entré en application au bon moment sur le bon sujet, et il produira des effets réels sur les plateformes, la publicité et les usages professionnels. Il ne réduira pas d’un euro le préjudice des arnaques à la voix clonée, parce que ces arnaques se déroulent hors de tout espace régulé, sur un canal le téléphone que personne ne modère.
La protection ne viendra donc pas du droit, en tout cas pas à court terme. Elle viendra d’un changement d’habitude, et il est simple : une voix ne prouve plus rien. C’est une phrase désagréable, elle est exacte, et l’accepter est ce qui distingue une victime potentielle d’une personne qui raccroche et rappelle.
Convenez d’un mot avec vos proches ce week-end. Cela prend deux minutes, cela ne coûte rien, et c’est la seule mesure de ce dossier qui reste efficace quelle que soit la qualité du clone. On aurait aimé pouvoir recommander un logiciel ou un service : il n’y en a pas qui tienne la promesse.
Par Antoine - Daily Geek Show, le
Étiquettes: voix, arnaque téléphonique
Catégories: Technologie, Dossiers, Cybersécurité, Société