IA et démocratie : le Maroc appelé à se doter d’un cadre éthique national

L’encadrement éthique constitue l’une des principales conclusions de la conférence organisée samedi 25 juillet par le Forum de l’ingénieur de la modernité et du progrès. Il doit permettre d’accompagner l’utilisation de l’intelligence artificielle par des principes clairs et un cadre juridique et institutionnel renforcé. Consacrée au thème «L’intelligence artificielle au service de la démocratie», la rencontre a réuni des ingénieurs et des experts de l’intelligence artificielle, de la transformation numérique et de la cybersécurité. Les échanges ont porté sur les défis de la transition numérique au Maroc dans la perspective de la Vision Maroc 2030.

Pour les participants, l’accélération de cette transition ne peut être dissociée du renforcement des cadres juridique et institutionnel. Elle suppose également de placer l’humain au centre des politiques numériques, de consolider la confiance et la démocratie numériques, et d’investir dans l’éducation, la formation et le développement des compétences. Les recommandations formulées s’organisent ainsi autour de quatre orientations complémentaires : encadrer les usages de l’intelligence artificielle, renforcer la sécurité et la transparence dans la gestion des données publiques, former les agents publics et les citoyens, puis associer l’État, les entreprises, les universités et les startups au développement de projets pilotes.

Un cadre éthique national pour l’utilisation de l’IA

La première recommandation formulée lors de la conférence porte sur la définition d’un véritable cadre éthique national pour l’utilisation de l’intelligence artificielle. Il s’agit de fixer des principes clairs et de renforcer les dispositifs juridiques et institutionnels appelés à régir ces technologies. L’exigence prend une portée particulière lorsque l’IA intervient dans les services publics, l’accès à l’information ou l’analyse des politiques publiques. Son usage doit alors répondre à des règles précises, sans se substituer au jugement humain. Les intervenants ont ainsi défendu une transition numérique qui ne sépare pas l’innovation de l’éthique. L’intelligence artificielle doit demeurer un outil au service du citoyen et de l’action publique.

Sécuriser les données et garantir la transparence

À l’encadrement éthique des usages s’ajoute une autre priorité : la sécurité et la transparence dans la gestion des données publiques. La confiance numérique se joue d’abord dans la manière dont les informations sont recueillies, utilisées et protégées. En recourant à des outils d’intelligence artificielle, les citoyens peuvent être amenés à communiquer des données personnelles sans toujours mesurer la nature ni la portée des informations transmises. Leur protection relève, à ce titre, de la responsabilité des pouvoirs publics et doit accompagner toute stratégie nationale consacrée à l’intelligence artificielle.

La question de la transparence dépasse toutefois le seul traitement des données. Elle concerne aussi les contenus produits ou modifiés à l’aide de l’IA. Lorsqu’une image, une publication ou une information a été générée ou transformée par ces technologies, son origine doit pouvoir être clairement signalée. L’enjeu devient plus sensible encore lorsque ces contenus circulent sur les réseaux sociaux et peuvent influer directement sur la formation de l’opinion publique.

Former les agents publics et les citoyens

La feuille de route accorde également une place importante à la formation. Les participants ont appelé à investir massivement dans ce domaine, à développer les compétences des agents publics et à renforcer la culture numérique des citoyens. Du côté des administrations, cette montée en compétence doit accompagner l’usage de l’intelligence artificielle dans les services publics et l’analyse des politiques publiques. Elle doit surtout permettre aux agents de mieux comprendre les outils mobilisés et d’en apprécier les résultats. Pour les citoyens, l’enjeu est différent mais tout aussi décisif. Une culture numérique plus solide doit aider à reconnaître les contenus trompeurs, à mieux mesurer les risques liés à l’IA et à faire un usage plus éclairé des technologies numériques.

Intervenant lors de la rencontre, Lotfi Bensada, ingénieur en digitalisation et Industrie 5.0 et membre du Forum de l’ingénieur de la modernité et du progrès du PPS, estime que cette sensibilisation doit commencer dès l’école primaire. Il cite à cet égard l’exemple de la Chine, qui a déjà intégré l’intelligence artificielle à ses programmes éducatifs. L’éducation, la formation et le développement des compétences numériques apparaissent ainsi comme des conditions essentielles à la réussite de la transition numérique et à la réalisation d’un développement inclusif et durable.

Des partenariats pour développer des projets pilotes

Un autre volet concerne le renforcement des partenariats entre l’État, les entreprises, les universités et les startups, afin de favoriser le développement de projets pilotes. Cette coopération permettrait de réunir des compétences aujourd’hui dispersées et d’associer les différents acteurs à la conception comme à l’expérimentation de nouvelles solutions. Elle doit aussi soutenir la recherche et l’innovation, alors qu’une grande partie des outils disponibles demeure conçue à l’étranger et que le Maroc reste, dans bien des cas, utilisateur de technologies développées hors de ses frontières. Le développement de projets nationaux passe ainsi par un effort conjoint: renforcer les compétences locales, stimuler la recherche et créer les conditions d’une innovation portée par l’écosystème marocain.

Une responsabilité partagée Les recommandations formulées lors de la conférence procèdent d’une même logique: encadrer les usages de l’intelligence artificielle, protéger les données, renforcer les compétences et favoriser le développement de projets pilotes à travers des partenariats. Il revient aux pouvoirs publics de traduire ces orientations dans une stratégie nationale, assortie de règles juridiques, de garanties pour les données personnelles et d’un soutien à la recherche et à l’innovation. La classe politique porte, elle aussi, une responsabilité directe. Elle est appelée à adopter des principes éthiques communs et à faire preuve de transparence dans son propre recours à l’intelligence artificielle, sans laisser la technologie se substituer à la réflexion politique ni au jugement humain.

Lotfi Bensada, ingénieur en digitalisation et Industrie 5.0 : Construire une gouvernance de l’IA sans freiner l’innovation

À Casablanca, les échanges ont rappelé que les possibilités offertes par l’IA ne peuvent être séparées des conditions de son utilisation. En marge de cette rencontre, Lotfi Bensada revient sur les risques qui pèsent sur les processus électoraux et sur les réponses juridiques, technologiques et éducatives susceptibles de les contenir.



Le Matin : L’intelligence artificielle constitue-t-elle une menace pour la démocratie ou peut-elle, au contraire, contribuer à la renforcer ?

Lotfi Bensada : L’intelligence artificielle présente des avantages comme des inconvénients. Elle reste avant tout un outil, dont les effets dépendent de l’usage qui en est fait. Elle peut servir la démocratie en améliorant l’accès des citoyens à l’information publique, en simplifiant les démarches administratives et en renforçant la qualité des services publics. Elle peut aussi faciliter l’analyse des politiques publiques grâce à une meilleure exploitation des données.

À l’inverse, elle devient une menace lorsqu’elle est utilisée pour manipuler l’information. Nous avons récemment vu circuler sur les réseaux sociaux des images, des vidéos et d’autres contenus truqués à l’aide de l’intelligence artificielle. Ces productions peuvent influencer directement l’opinion publique et favoriser la diffusion de fausses informations à grande échelle. Il faut donc encadrer juridiquement et éthiquement l’utilisation de ces outils afin qu’ils restent au service de la démocratie et du citoyen.

De quelle manière l’intelligence artificielle peut-elle affecter concrètement l’intégrité des processus électoraux ?

Elle peut d’abord agir sur l’ampleur et la vitesse de diffusion des campagnes électorales. Grâce aux bots et aux comptes automatisés, des contenus peuvent être programmés, relayés à grande échelle et adressés à des publics déterminés. Ce ciblage peut alors influer sur la perception des candidats, des partis ou des enjeux du scrutin. L’IA peut également faciliter la mise en place de réseaux coordonnés capables d’orienter les échanges en ligne et d’accentuer artificiellement la visibilité de certains messages. Le risque tient donc autant au contenu lui-même qu’à la puissance de diffusion et de ciblage que permettent ces outils. Mais ces technologies peuvent aussi servir à sécuriser le processus électoral. Elles peuvent aider à repérer des campagnes coordonnées, à identifier des contenus suspects et à renforcer la cybersécurité des systèmes concernés. Tout dépend, là encore, de l’usage qui en est fait : l’IA peut amplifier les tentatives d’influence comme elle peut contribuer à les détecter et à les contenir.

Quels dispositifs permettraient de prévenir ces risques et de limiter les usages malveillants de l’intelligence artificielle ?

La réponse doit d’abord être juridique, car c’est la base. Il faut adopter des lois encadrant l’utilisation de l’intelligence artificielle en période électorale et prévoir des sanctions contre la diffusion volontaire de fausses informations. Sur le plan technologique, nous devons développer des outils capables de détecter les contenus générés ou manipulés par l’intelligence artificielle, les images transformées et les informations trompeuses. Il faut également renforcer la cybersécurité des infrastructures électorales afin de mieux les protéger contre les tentatives de manipulation.

Les plateformes numériques ont aussi une responsabilité. Elles devraient identifier clairement les contenus générés ou modifiés par l’intelligence artificielle, au moyen d’une mention visible permettant à l’utilisateur d’en connaître l’origine. Cette transparence aiderait les citoyens à mieux distinguer les contenus authentiques de ceux qui ont été produits à l’aide de ces technologies. Enfin, la prévention passe par l’éducation. La sensibilisation à l’intelligence artificielle devrait être intégrée aux programmes scolaires dès le primaire, afin que chacun puisse comprendre le fonctionnement de ces outils, leurs possibilités et leurs risques. Certains pays, comme la Chine, ont déjà commencé à introduire cet apprentissage dans leurs programmes. Il faut préparer les citoyens très tôt à évoluer dans cet environnement numérique.

Quelle responsabilité incombe aux pouvoirs publics et à la classe politique dans la protection du débat démocratique face à ces nouvelles menaces ?

Les pouvoirs publics ont la responsabilité de créer un cadre garantissant une utilisation responsable de l’intelligence artificielle. Cela suppose d’élaborer une stratégie nationale, de définir des règles précises et, surtout, de protéger les données personnelles des citoyens. Lorsqu’une personne utilise un outil d’intelligence artificielle, elle peut être amenée à lui communiquer de nombreuses informations personnelles afin d’obtenir une réponse adaptée. Elle livre parfois des données confidentielles sans toujours savoir la manière dont elles seront conservées ou exploitées. La protection du citoyen doit donc occuper une place centrale. Il faut aussi investir dans la recherche et l’innovation. Une grande partie des outils que nous utilisons aujourd’hui est développée à l’étranger. Nous restons souvent de simples utilisateurs de technologies conçues ailleurs. Le Maroc doit pouvoir développer ses propres compétences et ses propres solutions.

La classe politique doit, elle aussi, montrer l’exemple. Elle doit adopter des règles éthiques communes, refuser les usages trompeurs de l’intelligence artificielle et faire preuve de transparence lorsqu’elle recourt à ces outils. L’IA ne doit pas remplacer la réflexion politique ni le jugement humain. Elle représente aujourd’hui l’un des grands défis posés à la démocratie, mais elle offre également des possibilités considérables. Il ne s’agit pas de freiner l’innovation, mais de construire une gouvernance claire, transparente et responsable, dans laquelle l’intelligence artificielle demeure un outil au service de l’humain et non s’y substituer.