L’intelligence artificielle bouleverse profondément les stratégies de manipulation de l’information, en particulier dans les
contextes électoraux. Si les
deepfakes constituent la menace la plus visible, ils ne représentent qu’une partie d’un écosystème beaucoup plus vaste et plus complexe. Dans un contexte électoral ou préélectoral, les menaces que fait peser cette malveillance digitale se décuplent et les enjeux sont autrement plus graves. Car elle peut servir d'arme de déstabilisation, de manipulation de l'opinion publique, et même d'ingérence étrangère. À l’approche des législatives, le Maroc est concerné au premier chef. Des exemples récents de campagnes numériques de dénigrement et de désinformation sont là pour rappeler la nécessité d’observer la plus grande vigilance. Le premier risque est celui des deepfakes audio et vidéo. Les faux enregistrements vocaux, désormais faciles à produire grâce au clonage de voix à partir de quelques secondes d’audio, sont particulièrement préoccupants. Plus difficiles à détecter que les vidéos truquées, ils peuvent diffuser de fausses déclarations attribuées à des personnalités publiques et semer le doute en quelques heures.
Mais la menace la plus sous-estimée réside dans la
désinformation automatisée à grande échelle.
L’IA générative permet aujourd’hui de produire, à un coût dérisoire, des milliers de faux articles, commentaires, témoignages ou profils crédibles. L’objectif n’est plus seulement de diffuser un mensonge, mais de saturer l’espace informationnel afin de rendre le vrai indistinguable du faux. À cela s’ajoutent l’
astroturfing, qui simule artificiellement un mouvement d’opinion populaire grâce à des réseaux de comptes coordonnés, le microciblage persuasif, qui personnalise les messages pour influencer ou démobiliser certains électeurs, ainsi que les campagnes d’ingérence étrangères, capables de combiner manipulation de l’information, piratage et diffusion organisée de contenus.
Toutefois, la principale faiblesse demeure souvent l’absence de veille. Les opérations d’influence les plus efficaces restent invisibles tant qu’elles ne sont pas analysées dans leur ensemble. Seule une observation continue permet d’identifier les schémas de coordination, les synchronisations suspectes ou les amplifications artificielles avant qu’elles ne produisent leurs effets, souligne
Hicham El Amrani, spécialiste en OSINT et expert en cybersécurité.
Dans cette première partie de l’entretien que «Le Matin» publie en deux temps, M. El Amrani revient sur les plus grandes menaces que l'IA fait peser sur les élections et comment l’exploitation de cette technologie de pointe pourrait altérer le débat démocratique et, par conséquent, fausser le jeu de la concurrence loyale.
Le Matin : Peut-on dresser une liste des plus grandes menaces que l'IA fait peser sur les élections ?
Hicham El Amrani : Oui. Je distinguerais cinq grandes familles, que je classe par gravité opérationnelle plutôt que par visibilité médiatique, car les deux ne coïncident pas, et confondre l'une avec l'autre est déjà une première vulnérabilité.
• La première famille, la plus spectaculaire et donc la plus médiatisée, ce sont les deepfakes audio et vidéo : la fabrication d'un clip où un candidat tient des propos qu'il n'a jamais tenus, ou apparaît dans une situation qui n'a jamais existé. Mais je tiens à nuancer d'emblée, car la peur mal calibrée est elle-même un risque. Un deepfake vidéo de haute qualité reste relativement coûteux à produire et, surtout, détectable par un œil exercé et par l'analyse forensique. Le véritable point de bascule, ce sont les deepfakes audio : beaucoup plus faciles et rapides à fabriquer, plus difficiles à authentifier – l'oreille humaine étant bien moins entraînée que l'œil à repérer une falsification – et redoutablement efficaces lorsqu'ils imitent une voix connue dans un faux message vocal «fuité» ou un faux appel téléphonique. Le clonage vocal ne requiert plus que quelques secondes d'enregistrement authentique, disponibles pour tout responsable public qui s'exprime en ligne.
• La deuxième famille, et c'est selon moi la plus sous-estimée, c'est la désinformation automatisée à grande échelle. L'IA générative a fait s'effondrer le coût marginal de production d'un contenu crédible. On peut désormais générer des milliers d'articles, de commentaires, de faux témoignages, mais surtout de fausses identités cohérentes avec photo de profil synthétique, biographie plausible, historique de publication construit sur des mois. Ce n'est plus la qualité d'un faux isolé qui fait la différence, mais le volume et la vitesse : saturer l'espace informationnel, noyer le signal vrai sous le bruit faux, fabriquer une impression de masse là où il n'y a qu'une poignée d'opérateurs. On parle parfois de pollution informationnelle, et c'est exactement cela : non pas un mensonge, mais un déluge qui rend le tri impossible au citoyen ordinaire.
• La troisième famille, c'est l'astroturfing : la fabrication d'un faux mouvement populaire, par opposition au grassroots, le vrai mouvement de terrain. Des réseaux de comptes coordonnés simulent un consensus spontané, font monter artificiellement un sujet dans les tendances, harcèlent une cible pour la faire taire, ou donnent l'illusion qu'une opinion marginale est en réalité majoritaire. Le terme technique consacré est le coordinated inauthentic behavior, le comportement coordonné inauthentique. C'est une menace particulièrement insidieuse parce qu'elle ne ment pas frontalement : elle déforme la perception du réel en truquant non pas les faits, mais leur apparente popularité.
• La quatrième, c'est le micro-ciblage persuasif : croiser des données comportementales avec des messages générés et personnalisés à l'échelle industrielle, pour adresser à chaque segment d'électeurs, voire, à terme, à chaque individu, l'argument, ou la peur, le plus susceptible de le faire basculer ou, plus souvent, de le démobiliser. Car il faut le dire clairement : la désinformation électorale ne cherche pas toujours à convaincre. Très souvent, elle cherche à décourager, à persuader un électeur que son vote ne sert à rien, que tous les candidats se valent, que le système est joué d'avance. La démobilisation ciblée est plus discrète qu'une fausse rumeur, et souvent plus efficace.
• La cinquième, enfin, c'est l'ingérence numérique étrangère, qui n'est pas une menace distincte, mais un orchestrateur : un acteur étatique ou para-étatique qui combine tous les outils précédents avec des opérations de piratage et de fuite organisée le hack-and-leak dans une campagne coordonnée, financée et inscrite dans la durée. C'est le niveau de menace le plus élevé, car il dispose de ressources, de patience et d'objectifs stratégiques qui dépassent largement le cycle d'une seule élection.
Mais permettez-moi d'ajouter une sixième menace, plus fondamentale, que ma pratique m'a enseignée et qui les sous-tend toutes : l'angle mort. La plupart de ces menaces sont, par construction, invisibles à l'œil nu. Un deepfake viral, on finit toujours par le voir et par en parler ; un réseau d'astroturfing, lui, demeure furtif par nature, et c'est précisément sa force. Il ne se révèle qu'à travers des schémas : création de comptes en grappes sur une même période, synchronisation des horaires de publication, réplication de messages quasi identiques avec de légères variations, amplification artificielle d'un mot-clé par des comptes sans aucun historique organique, convergence soudaine de profils sans lien apparent. Ces signatures n'apparaissent jamais à la lecture d'un message isolé : elles ne se révèlent qu'à travers une veille structurée et une analyse de réseaux menée dans la durée. Autrement dit, la menace première n'est ni le deepfake ni la rumeur : c'est de ne pas regarder. C'est de découvrir une opération d'influence le jour où elle a déjà produit ses effets, faute d'avoir installé, des mois plus tôt, le dispositif de veille qui l'aurait repérée à l'état naissant, quand elle était encore neutralisable.
Comment ces menaces peuvent-elles concrètement fausser le jeu et déstabiliser le débat démocratique ?
L'impact n'est ni théorique ni futur : il est documenté, daté, localisable. Le cas le plus instructif reste celui de la Slovaquie en 2023. Un faux enregistrement audio d'un responsable politique, l'entendant évoquer une manipulation du scrutin, a circulé juste avant les élections, diffusant de fausses informations sur la fraude électorale. Ce qui rend ce cas exemplaire et fait qu'il mérite d'être disséqué, c'est le timing : la diffusion est intervenue durant la période de silence électoral, ce moment précis où les candidats et les médias ne peuvent plus s'exprimer ni réagir librement, et où un démenti devient quasiment impossible à faire entendre. La fenêtre de vulnérabilité avait été choisie chirurgicalement c'est la signature d'un acteur qui connaît le calendrier et les règles du jeu. En Turquie, autre illustration parlante, un candidat s'est retiré de la course présidentielle après la diffusion d'une prétendue sextape truquée. Et ici le point est crucial : que la vidéo ait été authentique ou non n'a, au fond, plus aucune importance pour l'effet produit. Le doute seul a suffi. Le dommage politique était irréversible bien avant qu'une quelconque vérification ait pu aboutir.
Ce qui m'intéresse en tant que praticien, c'est de comprendre comment, mécaniquement, un contenu produit son effet, car c'est exactement là que l'OSINT (Open Source Intelligence, ou Renseignement d'origine sources ouvertes) devient irremplaçable pour disséquer une opération et, surtout, la prévenir la prochaine fois. Une campagne d'influence réussie suit une trajectoire reconstituable, que l'on appelle parfois, par analogie avec la cybersécurité, la kill chain de la désinformation. Elle commence souvent par l'exploitation d'un vide informationnel, un data void : un sujet sur lequel il existe peu d'information fiable disponible, de sorte que le faux n'a pas de concurrent légitime pour le contredire. Le contenu est ensuite «semé» sur une plateforme périphérique ou un canal fermé, peu surveillé, où il peut mûrir à l'abri des regards. Il est alors repris par un premier cercle de comptes amplificateurs souvent les mêmes d'une opération à l'autre, et c'est leur faille, car la récurrence trahit la coordination. Il est ensuite «blanchi» par des relais d'apparence authentique, un compte qui ressemble à un citoyen ordinaire, parfois un faux média local au nom crédible qui lui confèrent un vernis de légitimité. Et ce n'est qu'à ce stade qu'il atteint sa cible réelle : un média grand public ou un influenceur de premier plan qui, de bonne foi, le relaie et lui offre enfin la portée recherchée.
L'enseignement décisif est le suivant : l'analyse de cette diffusion qui partage, dans quel ordre, à quelle vitesse, depuis quels fuseaux horaires, avec quels comptes créés à quelles dates, révèle l'artificialité d'une campagne bien mieux que l'examen du seul contenu. On démasque le plus souvent une opération non pas en prouvant que le message est faux, ce qui peut prendre des jours, mais en prouvant que sa propagation est inauthentique, ce qui peut se voir en quelques heures de veille bien menée. C'est un renversement fondamental de perspective : on n'attaque pas le mensonge par son contenu, on l'attaque par sa structure de diffusion.
Concrètement, ces menaces opèrent par plusieurs canaux convergents qu'il faut nommer précisément. Elles démobilisent : de fausses informations sur les bureaux de vote, les horaires, les pièces à fournir, les files d'attente, découragent une frange précisément ciblée d'électeurs. Elles discréditent un candidat au moment exact de sa plus grande vulnérabilité, sans lui laisser le temps du démenti. Elles polarisent artificiellement, en faisant remonter mécaniquement les contenus les plus clivants, car les algorithmes des plateformes récompensent l'engagement, et rien n'engage autant que l'indignation. Et surtout, par accumulation et par usure, elles érodent le bien le plus précieux et le plus lent à reconstruire d'une démocratie : la confiance dans les institutions, dans les médias, dans le processus électoral lui-même, et finalement dans la possibilité même de distinguer le vrai du faux.
Pour donner l'échelle du phénomène, le nombre d'incidents liés aux deepfakes est passé de 500.000 à 8 millions de cas entre 2023 et 2025. Cela dit – et c'est une exigence de rigueur intellectuelle que je m'impose, car un expert qui exagère se discrédite –, il faut se garder du catastrophisme, qui est lui-même une forme de désinformation. Toutes les études sérieuses ne concluent pas à un raz-de-marée électoral. Une analyse de l'élection canadienne de 2025 a ainsi montré que si près de 6% des images liées au scrutin étaient des deepfakes, les contenus réellement nuisibles, eux, ont eu une portée modeste, ne représentant qu'une fraction infime des vues. La leçon que j'en tire, en veilleur, est précieuse et contre-intuitive : le danger ne se mesure pas au volume brut de contenus synthétiques en circulation, mais à la capacité d'un seul bon contenu, placé au bon endroit, au bon moment, à produire un effet disproportionné dans une fenêtre critique. Repérer cette aiguille dans la meule de foin du bruit informationnel, distinguer le faux anodin qui passera inaperçu du faux dangereux qui va percer et basculer un récit, c'est précisément ce que seule une veille fine, hiérarchisée et contextualisée permet de faire. Sans elle, on oscille en permanence entre la panique, qui voit des deepfakes partout, et l'aveuglement, qui n'en voit aucun jusqu'au jour fatal. La veille, c'est ce qui permet de garder la bonne échelle d'alarme.
En parlant justement des deepfakes, on entend souvent le terme de «dividende du menteur» (liar's dividend). De quoi s'agit-il exactement ?
C'est, à mon sens, la conséquence la plus insidieuse et la plus durable de l'ère des deepfakes, bien plus préoccupante, sur le long terme, que tel ou tel faux viral qui défraie la chronique une semaine puis s'oublie. Le concept a été théorisé par les juristes américains Robert Chesney et Danielle Citron, et il mérite d'être expliqué dans toute sa subtilité, car il fonctionne à contre-intuition et c'est cette contre-intuition même qui le rend si dangereux et si difficile à combattre. L'intuition spontanée, celle que partage le grand public, c'est que le danger des deepfakes serait de faire croire au faux : on fabriquerait de fausses preuves pour tromper les gens. C'est vrai, mais ce n'est que la moitié du problème, et peut-être la moins grave. L'autre moitié, le «dividende du menteur», c'est le mouvement exactement inverse : à mesure que le public intègre que tout peut désormais être falsifié, les menteurs en retirent un bénéfice paradoxal et automatique. Car si une vidéo authentique et compromettante refait surface, un propos réellement tenu, un acte réellement commis, une preuve réelle de corruption, de violence ou de mensonge, la personne mise en cause dispose désormais d'une parade imparable : «C'est un deepfake. C'est une fabrication de l'IA. C'est un montage de mes adversaires pour me nuire.»
Le danger se retourne donc complètement : ce n'est plus seulement le faux qui menace la vérité, c'est le doute généralisé qui devient un bouclier pour les coupables. La preuve authentique perd sa force probante non pas parce qu'on a démontré qu'elle était fausse, on n'a rien démontré du tout, mais simplement parce que le déni est devenu socialement plausible. Et c'est ici qu'intervient le mécanisme le plus pervers, celui que je trouve le plus important à porter à la connaissance du public : ce dividende croît avec la sensibilisation. Plus on alerte les citoyens sur l'existence et la sophistication des deepfakes, plus on rend crédible et recevable l'excuse du «c'est truqué». Autrement dit, la pédagogie sur les deepfakes, si elle est mal conçue, peut nourrir le mal qu'elle prétend combattre. C'est un paradoxe redoutable, et un piège réel pour quiconque travaille, comme moi, à la sensibilisation : il faut apprendre au public à douter du faux sans lui apprendre à douter de tout.
L'effet ultime de cette dynamique n'est pas un monde où l'on croit aux mensonges. C'est pire : un monde où l'on ne croit plus à rien, où chaque preuve est contestable par principe, où chaque fait devient une simple affaire d'opinion ou de camp, où la reddition des comptes, qui suppose pourtant qu'on puisse établir collectivement ce qui s'est réellement passé, devient structurellement impossible. C'est la dissolution lente du socle factuel commun sans lequel il n'y a tout simplement pas de débat démocratique possible, car on ne délibère pas entre gens qui ne partagent même plus la réalité des faits.
Et c'est très précisément là que l'OSINT cesse d'être un outil parmi d'autres pour devenir la seule réponse structurellement adaptée. Car face à la stratégie du déni, on ne peut opposer ni l'intuition, ni l'indignation, ni même l'autorité d'une institution, toutes immédiatement suspectes de partialité. On ne peut opposer qu'une seule chose : la preuve établie par une méthode transparente et reproductible. Authentifier un enregistrement par l'analyse de ses métadonnées et de ses caractéristiques techniques. Géolocaliser une scène par le recoupement patient de ses indices visuels : un bâtiment reconnaissable, l'orientation d'une ombre, un panneau de signalisation, une ligne d'horizon, un détail d'architecture. Chronolocaliser un événement par la position du soleil, la météo archivée, des éléments datables présents dans l'image. Recouper une captation avec d'autres sources indépendantes qui n'ont matériellement pas pu se concerter. Établir une chaîne de traçabilité, une chain of custody, qui documente le parcours d'un document depuis son origine. Le «dividende du menteur» prospère dans l'obscurité, le flou et l'argument d'autorité ; l'enquête en sources ouvertes, parce qu'elle montre son travail, expose chacune de ses étapes et permet à n'importe qui de refaire le chemin et de vérifier, est exactement ce qui permet de reconstituer un socle de faits que le simple déni ne suffit plus à balayer. C'est même là, je crois, la vertu démocratique profonde de l'OSINT : sa preuve n'est pas «croyez-moi sur parole», elle est «voici comment vérifier vous-même». Contre l'arme du doute, la seule réponse est la méthode rendue publique.
Existe-t-il des moyens de contrer ces risques ? De quelles capacités de détection disposons-nous ?
Oui, mais je serai franc, car l'honnêteté est ici une condition de l'efficacité : il n'existe aucune solution miracle, et surtout aucune solution purement technique. Quiconque vous vend un logiciel qui «détecte les deepfakes» à coup sûr vous vend une illusion confortable et dangereuse. La réponse efficace est nécessairement construite en couches superposées, et je vais volontairement remettre l'humain, la veille et la méthode au centre du dispositif, car c'est là que se joue l'essentiel et c'est précisément ce qu'on oublie le plus souvent.
La première couche est la détection forensique automatisée des modèles entraînés à repérer les artefacts d'un contenu synthétique : incohérences dans le clignement des yeux ou les reflets cornéens, anomalies de compression, irrégularités dans la fréquence et les harmoniques d'une voix, défauts de raccord aux frontières d'un visage incrusté. C'est utile en première intention, mais il faut en connaître et en assumer la limite fondamentale. Les recherches les plus récentes sont sans appel : les détecteurs les plus performants en conditions de laboratoire voient leur efficacité s'effondrer face aux deepfakes réels qui circulent sur les réseaux, avec une chute de performance de l'ordre de 45 à 50% selon qu'il s'agit de vidéo, d'audio ou d'image. La raison est structurelle, et il faut la comprendre pour ne pas se bercer d'illusions : c'est une course à l'armement où la détection court par nature derrière la génération, puisque chaque nouveau détecteur publié sert immédiatement à entraîner la génération suivante capable de le déjouer. Miser l'essentiel de sa défense sur la seule détection automatique, c'est se condamner à avoir structurellement un train de retard.
La deuxième couche inverse intelligemment la logique, et c'est pour moi la plus prometteuse à moyen terme : plutôt que de courir après le faux, certifier le vrai. C'est tout l'objet du standard C2PA et des Content Credentials, qui intègrent dans le fichier lui-même un manifeste cryptographiquement signé indiquant qui a créé le contenu, quand, et avec quels outils. Des acteurs structurants, Adobe, Microsoft, la BBC, le «New York Times» l’ont déjà adopté, et la version stable 2.2 du standard a été publiée en mai 2025. L'idée directrice est qu'à terme, un contenu non signé deviendrait suspect par défaut, comme un médicament sans notice ou un produit sans étiquette de traçabilité. La limite est connue : c'est l'adoption. Tant que les fabricants d'appareils, les plateformes de diffusion et les rédactions n'auront pas généralisé ce marquage, la provenance restera une promesse d'avenir plus qu'une protection présente. Mais c'est, je crois, la direction juste.
Le cœur du dispositif cependant, et je pèse chaque mot quand je l'affirme, ce sont la veille et l'OSINT. Et je précise : aucune des deux couches techniques précédentes ne fonctionne réellement sans elles. La détection signale, la provenance certifie, mais ni l'une ni l'autre ne décide, ne contextualise, ni n'agit. Commençons par la veille, qu'il faut comprendre comme un système d'alerte précoce doté d'une architecture précise. Dans la pratique, un dispositif de veille électorale sérieux se construit en plusieurs étages. Il y a d'abord la collecte : une surveillance continue et automatisée des plateformes, des canaux et des sources pertinentes, organisée autour de listes de surveillance, comptes à suivre, mots-clés et hashtags sensibles, noms de candidats, thématiques inflammables propres au contexte local. Il y a ensuite le filtrage et la déduplication : car la matière première de la veille est un déluge, et sans tri intelligent on se noie. Il y a la détection d'anomalies : identifier les pics d'activité anormaux, les schémas de coordination, l'apparition soudaine de narratifs nouveaux. Puis l'alerte en temps réel vers un analyste humain. Et enfin la qualification humaine, qui est l'étape irremplaçable : un algorithme signale un signal faible, mais c'est l'analyste qui décide s'il s'agit d'un bruit, d'un emballement organique légitime, ou d'une opération à investiguer. L'objectif de toute cette chaîne est un seul : détecter une opération dans son émergence, avant qu'elle ne franchisse le seuil de viralité, car une fois ce seuil franchi, aucune correction ne rattrapera jamais le faux en portée. La fenêtre d'action utile se compte en heures, parfois en minutes, et elle est entièrement conditionnée par la qualité de la veille en amont.