Une
entreprise marocaine développe un
logiciel d’IA et le commercialise en
France. Un média produit depuis Casablanca un contenu destiné au
public européen. Dans ces cas, être établi au
Maroc ne suffit plus nécessairement à tenir le
droit européen à distance. Depuis le 2 août 2026, les obligations de transparence prévues par l’article 50 de
l’AI Act sont applicables. Elles imposent notamment d’informer les utilisateurs lorsqu’ils interagissent avec certains
systèmes d’IA, de permettre l’identification de contenus synthétiques et, dans plusieurs cas, de signaler les
deepfakes ou certains textes générés artificiellement. Pour
Me Nadège Martin et
Me Alain Malek, avocats au sein de
Norton Rose Fulbright, le premier point à retenir est la «portée extraterritoriale explicite» du règlement. À l’image du RGPD ou du Data Act,
l’AI Act ne s’intéresse pas uniquement au lieu d’établissement d’une entreprise. «L’article 2 de ce règlement étend expressément son applicabilité à des entreprises étrangères dès lors que le marché ciblé ou le lieu d’utilisation des résultats est l’UE», expliquent-ils au «Matin»
Une entreprise marocaine peut être directement concernéeLe cas le plus évident est celui d’une société marocaine qui développe un
système d’IA et le fournit à des clients européens. Si elle commercialise, par exemple, un logiciel de scoring auprès d’entreprises françaises, elle peut être qualifiée de «fournisseur» au sens de l’AI Act. Le raisonnement vaut aussi pour certains utilisateurs professionnels. Une entreprise établie au Maroc qui utilise un système de scoring portant sur des personnes situées en France peut, selon la configuration, être considérée comme «déployeur» lorsque les résultats produits par le système sont utilisés dans l’Union.
Les
médias et créateurs de contenus ne sont pas à l’écart. Selon l’analyse transmise au «Matin», ceux qui utilisent
l’IA générative pour produire et diffuser volontairement des contenus à destination d’un ou plusieurs pays de l’Union peuvent être soumis aux obligations de transparence de l’article 50. Cela concerne notamment certains deepfakes ou textes générés par IA sur des sujets d’intérêt public. Une nuance demeure : le simple fait qu’un
contenu marocain soit accessible depuis Paris ou Bruxelles ne suffit pas. Les lignes directrices européennes distinguent une diffusion réellement prévue vers l’Union d’une circulation «incidente ou imprévisible». Les particuliers utilisant une IA à titre strictement privé restent hors du champ du règlement. La situation change lorsque l’activité devient professionnelle ou commerciale.
Deepfakes : empêcher l’artificiel de se faire passer pour le réelL’AI Act ne cherche pas à bannir les contenus générés par intelligence artificielle. «L’AI Act n’a pas pour objectif de faire disparaître les contenus IA», insistent Me Nadège Martin et Me Alain Malek. L’enjeu est de faire en sorte qu’ils ne puissent plus «se faire passer» pour des contenus humains sans que le public en soit averti. Le règlement organise pour cela un double niveau de transparence. Les fournisseurs de systèmes capables de produire du texte, des images, de l’audio ou de la vidéo synthétiques doivent, lorsque cela est techniquement faisable, rendre leurs sorties détectables comme artificiellement générées ou manipulées.
Les
utilisateurs professionnels ont, de leur côté, l’obligation de signaler certains deepfakes. Une exigence comparable existe pour certains
textes générés par IA lorsqu’ils sont publiés afin d’informer le public sur une question d’intérêt général. La notion européenne d’«
hypertrucage» est large. Elle ne se limite pas à la reproduction du visage ou de la voix d’une personne réelle. D’après l’analyse du cabinet, des personnes, objets, lieux ou événements entièrement simulés peuvent également entrer dans cette catégorie lorsqu’ils paraissent suffisamment plausibles pour être perçus comme authentiques.
Le contexte reste déterminant. Les œuvres artistiques, satiriques ou fictionnelles bénéficient d’un régime aménagé. Pour certains textes d’intérêt public, l’obligation peut aussi ne pas s’appliquer lorsqu’un véritable contrôle éditorial a eu lieu et qu’une personne assume la responsabilité de la publication. Une simple validation de façade ne suffit toutefois pas. Les lignes directrices, rappellent les deux avocats, excluent une vérification seulement «superficielle, formelle ou procédurale».
Une responsabilité répartie entre plusieurs acteurs
Un même contenu peut faire intervenir le développeur du modèle, l’entreprise qui l’intègre, l’utilisateur qui génère le contenu et la plateforme qui le diffuse. L’AI Act distingue donc plusieurs rôles : fournisseur, déployeur, importateur, distributeur... et rattache à chacun des obligations propres. «Les acteurs étrangers n’échappent pas à cette responsabilité», soulignent Me Nadège Martin et Me Alain Malek.
Pour certains fournisseurs établis hors de l’Union, le règlement prévoit même la désignation d’un mandataire dans l’UE. L’application effective de sanctions peut néanmoins être plus délicate lorsque l’acteur étranger n’y dispose ni d’entreprise ni d’actifs. Surtout, préviennent les deux avocats, l’AI Act ne fonctionne pas en vase clos. «L’AI Act n’est pas une réglementation "standalone”», rappellent-ils. Selon les usages, peuvent également entrer en jeu les règles relatives aux données personnelles, au droit du travail, à la propriété intellectuelle, à la consommation ou les législations sectorielles. La détermination des responsabilités devra donc se faire «au cas par cas», selon l’acteur concerné, le manquement reproché et les textes applicables. Pour les entreprises et professionnels marocains travaillant avec l’Europe, l’AI Act ne peut dès lors plus être considéré comme une réglementation lointaine. Le principe posé est simple : lorsque l’intelligence artificielle produit ou transforme ce que le public voit, lit ou entend, le droit européen entend rendre cette intervention visible.
Entretien avec la professeure de l’enseignement supérieur en informatique et intelligence artificielle à l’Université Cadi Ayyad
Hajar Mousannif : «Le vrai défi n’est pas seulement de détecter l’IA. C’est de préserver la confiance dans l’information»
Le Matin : L’Europe mise notamment sur le watermarking et la traçabilité des contenus générés par IA. Ces technologies permettent-elles aujourd’hui de déterminer de manière fiable si une image, une vidéo ou un son est artificiel ?
Hajar Mousannif : Elles peuvent nous aider, mais il faut éviter de leur attribuer une fiabilité qu’elles n’ont pas encore. La technologie permet de réduire le problème, pas de garantir qu’un contenu est authentique. Le watermarking est un bon exemple. Le principe est intéressant : on ajoute au contenu une sorte de signature, généralement invisible pour l’utilisateur, qui permet d’indiquer qu’il a été généré ou modifié par une intelligence artificielle. Tant que cette signature est préservée, elle peut constituer un indice très utile. Mais il ne faut pas considérer le watermark comme une preuve absolue ou indestructible. Un contenu peut être recadré, recompressé, monté, converti dans un autre format ou simplement capturé à nouveau. Chacune de ces opérations peut altérer les informations utilisées pour l’identifier.
Il faut surtout distinguer deux notions qui sont souvent mélangées : la provenance et la détection. La provenance consiste à conserver l’histoire du contenu : savoir d’où il vient, avec quel outil il a été créé et quelles modifications lui ont ensuite été apportées. Lorsque cette chaîne est correctement maintenue, nous disposons d’une information beaucoup plus robuste. La détection intervient généralement après coup. On récupère un fichier final et l’on demande à un système : «Est-ce que cette image ou cette vidéo a été produite par une IA ?» Là, nous entrons dans une logique probabiliste, beaucoup plus incertaine et beaucoup plus sujette aux erreurs. C’est pourquoi je préfère dire qu’il vaut mieux savoir d’où vient un contenu que simplement essayer de deviner s’il a été créé par une IA.
Il existe déjà des solutions concrètes. On peut citer SynthID de Google ou encore les systèmes de Content Credentials reposant sur le standard C2PA, qui permettent de conserver ou de retrouver certaines informations sur l’origine d’un contenu. Mais ces dispositifs sont surtout efficaces lorsqu’une signature ou une trace de provenance existe. Si cette trace n’a jamais été créée ou qu’elle a disparu, aucun outil ne peut simplement regarder une vidéo et affirmer avec une certitude absolue qu’elle est issue d’une IA.
Cette limite devient-elle encore plus importante lorsque le contenu commence à circuler sur WhatsApp, Facebook ou TikTok ? Peut-on encore identifier un deepfake après plusieurs compressions et modifications ? C’est précisément là que les choses deviennent beaucoup plus compliquées. Il faut imaginer le parcours réel d’un contenu sur Internet. Une vidéo peut être créée avec un outil d’IA, puis montée, compressée, envoyée sur WhatsApp, téléchargée sur un autre téléphone, recadrée, publiée sur Facebook ou TikTok, puis enregistrée à nouveau avant d’être repartagée ailleurs. À chaque étape, une partie des informations techniques originales peut disparaître. Un fichier qui sort directement d’un outil d’intelligence artificielle peut parfois être relativement facile à identifier, notamment lorsque cet outil intègre un mécanisme de watermarking ou de provenance. Mais nous ne travaillons presque jamais uniquement sur les fichiers originaux. Internet transforme les contenus. Les plateformes recompressent les vidéos. Les utilisateurs changent les formats. Ils ajoutent du texte, effectuent des montages, prennent une capture d’écran ou filment même un écran avec un autre téléphone. Tous ces gestes peuvent supprimer ou dégrader les indices utilisés par les systèmes de détection. En résumé, plus un contenu circule, plus il peut perdre les traces permettant de déterminer son origine.
Et même avec des technologies très performantes, certains cas resteront particulièrement difficiles : un contenu généré par IA sans aucun watermark, un contenu authentique légèrement modifié, un deepfake extrêmement réaliste, un fichier dont la provenance a été perdue ou encore un contenu produit par un outil qui ne respecte aucun standard de traçabilité. C’est pour cette raison qu’il faut être prudent avec l’idée d’un outil qui serait capable de «détecter tous les deepfakes». Un tel détecteur universel n’existe pas aujourd’hui. Il faut plutôt raisonner en couches successives de protection : provenance, marquage, détection automatique et vérification humaine. Aucune de ces solutions n’est suffisante isolément, mais leur combinaison peut rendre la manipulation beaucoup plus difficile et, surtout, accélérer la vérification.
Le Maroc entre dans une période électorale où une fausse vidéo ou une voix clonée pourrait se diffuser très rapidement. Quelles mesures seraient, selon vous, réalistes à mettre en œuvre ? Il faut partir d’un principe : l’objectif ne peut pas être de supprimer tous les contenus générés par IA. L’intelligence artificielle peut parfaitement être utilisée de manière légitime, y compris dans la communication politique, les médias ou la création. Le problème apparaît lorsqu’un contenu artificiel est utilisé pour tromper le public. Créer une vidéo avec l’IA n’est pas nécessairement problématique. Faire croire qu’une personne réelle a prononcé des propos ou accompli des actes qui n’ont jamais existé l’est beaucoup plus. Pour le Maroc, je vois quatre mesures très concrètes.
• La première serait d’instaurer une obligation de transparence pour certains contenus politiques générés ou fortement modifiés par intelligence artificielle. Lorsqu’une image, une vidéo ou une voix artificielle représente une personnalité politique comme si la scène était authentique, le public devrait pouvoir savoir qu’il s’agit d’un contenu synthétique.
• Deuxième piste : encourager les médias et les plateformes à adopter davantage de standards de provenance. L’objectif doit être de pouvoir répondre à quelques questions simples : qui a créé ce contenu ? Avec quel outil ? Quelles modifications ont été effectuées ?
Cela me paraît beaucoup plus pertinent que de s’en remettre exclusivement à un logiciel qui regarderait le produit final pour tenter de décider s’il est vrai ou faux.
• La troisième mesure concerne directement les périodes électorales : il faudrait disposer de mécanismes de vérification rapide. Imaginons qu’une vidéo devienne virale deux jours avant une élection. Le problème n’est pas seulement de savoir si elle est fausse. Il faut pouvoir le savoir suffisamment vite pour éviter qu’elle ne produise ses effets avant même que la vérification ne soit publiée. Des mécanismes associant médias, experts techniques et plateformes pourraient permettre d’accélérer l’examen de certains contenus particulièrement sensibles.
• Enfin, la quatrième priorité est la sensibilisation du public. Les outils d’intelligence artificielle vont continuer à progresser et les contenus synthétiques deviendront probablement de plus en plus réalistes. Nous devons donc intégrer une nouvelle réalité : une vidéo très réaliste n’est plus nécessairement une preuve.
Cela signifie-t-il que nous allons devoir apprendre à douter de tout ce que nous voyons en ligne ? Il ne faut pas tomber dans l’excès inverse. L’objectif n’est pas de considérer chaque image ou chaque vidéo comme suspecte. Si nous arrivons à ce stade, nous aurons créé un autre problème : celui d’une défiance généralisée envers l’information. Le véritable enjeu est de reconstruire des mécanismes de confiance adaptés à l’ère de l’intelligence artificielle. La technologie peut nous aider à mieux tracer l’origine d’un contenu, à signaler ce qui a été artificiellement généré et à rendre les vérifications plus rapides. Mais elle ne pourra probablement pas nous fournir un outil magique capable de trancher automatiquement et avec certitude entre le vrai et le faux. C’est pour cela que l’humain reste indispensable. Une analyse technique doit pouvoir être complétée par la recherche de la source originale, la contextualisation, la confrontation avec d’autres éléments et, dans le travail journalistique, la vérification auprès des personnes concernées.
Il y a également un risque moins visible : les deepfakes ne permettent pas seulement de fabriquer du faux. Leur existence permet aussi de jeter le doute sur du vrai. Quelqu’un peut désormais être confronté à une vidéo authentique et répondre simplement : «C’est de l’IA». Nous devons donc éviter que la généralisation des contenus synthétiques n’aboutisse à une situation dans laquelle plus aucune image, aucun son ou aucun document ne pourrait être considéré comme crédible. Le vrai défi n’est pas seulement de détecter l’IA. C’est de préserver la confiance dans l’information.