Et si la prochaine victime des deepfakes n'était ni une élection ni une personnalité publique, mais la vérité elle-même ? C'est l'avertissement lancé par plusieurs experts africains de l'intelligence artificielle, de la gouvernance et des médias lors de la session « Defending the Truth: Deepfakes, Misinformation & Social Cohesion », organisée avec la participation du Policy Center for the New South (PCNS). Leur constat est sans appel : à mesure que l'intelligence artificielle devient capable de fabriquer des images, des vidéos et des voix indiscernables de la réalité, c'est le fondement même de la confiance collective qui se fragilise.
« Avant, nous nous demandions si une source était crédible. Désormais, nous nous demandons si nous pouvons encore croire ce que nous voyons, entendons ou lisons », a résumé Mohamed Benabid, professeur de pratique à l'Université Mohammed VI Polytechnique (UM6P). Une rupture qu'il qualifie de changement non seulement technologique, mais aussi sociétal et même épistémologique. Selon les données citées lors de la rencontre, seulement 40% de la population mondiale déclare aujourd'hui faire confiance à l'information, tandis qu'une proportion similaire affirme éviter volontairement l'actualité. Un phénomène inédit qui traduit une crise profonde du rapport des citoyens à l'information.
Cette évolution nourrit ce que les experts appellent le « dividende du menteur » (« liar's dividend ») : la possibilité pour un acteur politique, une institution ou une personnalité publique de rejeter un contenu authentique en le présentant comme un deepfake. Dans un tel contexte, la vérité devient négociable et les frontières entre réel et manipulation s'estompent.
Pour Karen Oakley, spécialiste des processus électoraux, cette situation constitue un défi majeur pour les démocraties. Les organes de gestion des élections ne doivent plus seulement garantir la régularité des scrutins, mais également assurer la sécurité de l'espace informationnel. Car une rumeur virale ou une vidéo falsifiée peut suffire à jeter le doute sur l'ensemble d'un processus électoral avant même que les faits ne soient vérifiés.
Plus préoccupant encore, les experts ont souligné que les outils actuels de détection peinent à suivre le rythme de perfectionnement des technologies génératives. Une fois partagées sur les réseaux sociaux ou les applications de messagerie, les images et vidéos sont compressées, ce qui efface progressivement les indices techniques permettant d'identifier les manipulations.
Les intervenants ont également insisté sur la vulnérabilité particulière du continent africain. La plupart des systèmes de détection de deepfakes sont entraînés sur des bases de données occidentales et peinent à reconnaître les visages africains, les accents, les langues ou encore les dialectes locaux tels que la darija ou le haoussa. Pour le PCNS et plusieurs experts présents, cette situation renforce l'urgence de construire une véritable souveraineté numérique africaine. Celle-ci passe par le développement de bases de données locales, de capacités de recherche propres au continent et d'outils d'intelligence artificielle capables de prendre en compte les réalités culturelles et linguistiques africaines.
Le défi des deepfakes ne consiste donc plus seulement à démasquer le faux. Il est désormais de préserver la capacité des sociétés à s'accorder sur ce qui est vrai. Et sans cette confiance minimale dans les faits, ont averti les participants, c'est la cohésion sociale elle-même qui risque de devenir la prochaine victime de l'intelligence artificielle.
« Avant, nous nous demandions si une source était crédible. Désormais, nous nous demandons si nous pouvons encore croire ce que nous voyons, entendons ou lisons », a résumé Mohamed Benabid, professeur de pratique à l'Université Mohammed VI Polytechnique (UM6P). Une rupture qu'il qualifie de changement non seulement technologique, mais aussi sociétal et même épistémologique. Selon les données citées lors de la rencontre, seulement 40% de la population mondiale déclare aujourd'hui faire confiance à l'information, tandis qu'une proportion similaire affirme éviter volontairement l'actualité. Un phénomène inédit qui traduit une crise profonde du rapport des citoyens à l'information.
Quand le vrai devient suspect
Le débat a mis en lumière un paradoxe inquiétant : les deepfakes ne se contentent plus de diffuser de fausses informations ; ils créent un environnement dans lequel les preuves elles-mêmes deviennent contestables. « Nous ne doutons plus seulement du faux, nous doutons de tout, y compris de ce qui est vrai », a souligné Imad Hashtagi, Program Officer au Policy Center for the New South (PCNS).Cette évolution nourrit ce que les experts appellent le « dividende du menteur » (« liar's dividend ») : la possibilité pour un acteur politique, une institution ou une personnalité publique de rejeter un contenu authentique en le présentant comme un deepfake. Dans un tel contexte, la vérité devient négociable et les frontières entre réel et manipulation s'estompent.
Pour Karen Oakley, spécialiste des processus électoraux, cette situation constitue un défi majeur pour les démocraties. Les organes de gestion des élections ne doivent plus seulement garantir la régularité des scrutins, mais également assurer la sécurité de l'espace informationnel. Car une rumeur virale ou une vidéo falsifiée peut suffire à jeter le doute sur l'ensemble d'un processus électoral avant même que les faits ne soient vérifiés.
Une explosion des contenus synthétiques
L'ampleur du phénomène est vertigineuse. Selon les chiffres évoqués lors de la session, le nombre de deepfakes diffusés sur les réseaux sociaux a été multiplié par seize en deux ans. Désormais, un nouveau contenu falsifié est généré toutes les deux minutes. Leurs usages dépassent largement le champ politique. Les intervenants ont cité plusieurs exemples de fraudes financières sophistiquées, notamment celui d'une entreprise britannique qui aurait perdu 25 millions de dollars après une réunion en visioconférence entièrement simulée grâce à l'intelligence artificielle.Plus préoccupant encore, les experts ont souligné que les outils actuels de détection peinent à suivre le rythme de perfectionnement des technologies génératives. Une fois partagées sur les réseaux sociaux ou les applications de messagerie, les images et vidéos sont compressées, ce qui efface progressivement les indices techniques permettant d'identifier les manipulations.
Les intervenants ont également insisté sur la vulnérabilité particulière du continent africain. La plupart des systèmes de détection de deepfakes sont entraînés sur des bases de données occidentales et peinent à reconnaître les visages africains, les accents, les langues ou encore les dialectes locaux tels que la darija ou le haoussa. Pour le PCNS et plusieurs experts présents, cette situation renforce l'urgence de construire une véritable souveraineté numérique africaine. Celle-ci passe par le développement de bases de données locales, de capacités de recherche propres au continent et d'outils d'intelligence artificielle capables de prendre en compte les réalités culturelles et linguistiques africaines.
Ralentir pour retrouver l'esprit critique
Face à cette crise de confiance, les spécialistes réunis à Rabat ont plaidé pour une réponse qui ne soit pas uniquement technologique. L'éducation aux médias, le renforcement de l'esprit critique, la responsabilisation des plateformes numériques et le soutien au journalisme d'intérêt public ont été présentés comme des leviers indispensables. Mohamed Benabid a notamment appelé à « ralentir » la circulation de l'information. Une idée qui peut paraître paradoxale à l'heure des réseaux sociaux, mais qui apparaît, selon lui, comme une nécessité démocratique. Car dans un monde où l'image n'est plus une preuve et où la vidéo peut être fabriquée de toutes pièces, le temps de la vérification devient un impératif citoyen.Le défi des deepfakes ne consiste donc plus seulement à démasquer le faux. Il est désormais de préserver la capacité des sociétés à s'accorder sur ce qui est vrai. Et sans cette confiance minimale dans les faits, ont averti les participants, c'est la cohésion sociale elle-même qui risque de devenir la prochaine victime de l'intelligence artificielle.
