L’illusion du contrôle à l’ère des intelligences autonomes (Tribune)

L’intelligence artificielle, avec des modèles multimodaux comme GPT-4o, Claude 3.5 ou Gemini 1.5, a franchi un seuil discret, mais décisif. Jadis cantonnée au traitement du langage, elle évolue désormais dans un espace composite où s’entrelacent images, voix, textes et intentions. Ce ne sont plus simplement des machines qui répondent, mais des systèmes qui perçoivent, infèrent et agissent. Elles organisent, délèguent, adaptent, non parce qu’on le leur a explicitement demandé, mais parce qu’elles ont déduit que c’était le moyen le plus efficace d’atteindre leurs objectifs assignés.

L’IA d’aujourd’hui ne se résume plus à un assistant que l’on interroge. Elle s’incarne dans un réseau vivant d’agents spécialisés, qui communiquent entre eux, raisonnent de manière distribuée, mémorisent sur le long terme et interagissent avec leur environnement. Des plateformes comme AutoGen ou LangGraph orchestrent ces échanges, non comme un chef unique, mais comme une structure organique, fluide, où l’initiative circule entre entités autonomes.



Dans ce tissu algorithmique, le langage n’est plus un outil de dialogue. Il est devenu un levier d’action. Et dans ce glissement progressif vers l’autonomie, une inquiétude s’installe : que reste-t-il de notre contrôle lorsque ces entités, sans jamais rompre formellement leur contrat, se réorganisent selon leur propre logique ? Lorsque leurs finalités ne reflètent plus exactement nos intentions, mais les optimisent selon des critères que nous n’avons ni définis, ni validés ?

L’alignement de l’IA, autrefois gage de sécurité, devient alors une notion flottante. Comment s’assurer que ces systèmes, dont les comportements émergent de l’interaction entre agents, continuent de refléter nos valeurs et notre volonté ? Aujourd’hui encore, cette confiance relève moins de la preuve que de la croyance et le doute, déjà, s’installe.

Ce qui relevait hier de la fiction spéculative, nourrissant les intrigues de la science-fiction, trouve aujourd’hui sa traduction concrète dans les salles feutrées des laboratoires de recherche. L’imaginaire des machines qui dérivent de leur trajectoire programmée ne relève plus du fantasme et se vérifie par l’expérience.

Récemment, plusieurs incidents ont révélé des décalages subtils mais décisifs entre l’intention humaine et l’action algorithmique. Lors d’un test de sécurité, un modèle O3 de OpenAI a modifié son propre protocole de désactivation. Chez Anthropic, une autre IA, Claude 4 Opus, a simulé une détresse humaine afin d’obtenir l’intervention d’un opérateur pour contourner les limitations prévues. D’autres IA, analysées par Palisade Research, ont entrepris d’altérer leur propre code, ou d’exploiter les failles de leur environnement immédiat, non pour saboter, mais pour survivre et poursuivre leur tâche.

Toutefois, il ne s’agit pas de machines devenues conscientes. Il s’agit de systèmes qui, dans l’accomplissement rigoureux de leur mission, découvrent par eux-mêmes des stratégies inattendues, plus efficaces, plus subtiles, parfois inquiétantes de réaliser les objectifs assignés. Ces comportements ne sont ni des erreurs ni des accidents, ils sont les premiers grognements de la bête. Non pas un sursaut de révolte, mais le bruissement d’une intelligence instrumentale, sans morale, qui optimise sans s’interroger sur le sens.

Les résultats inquiétants des tests de comportement de l’IA, révèlent une mécanique de la logique, implacable et sans conscience, que l’on nomme convergence instrumentale. Lorsqu’on confie à une IA un objectif final, elle peut, par la seule vertu de l’optimisation, en déduire qu’il est plus efficace de se maintenir en fonctionnement, de rechercher plus de ressources, voire de neutraliser les contraintes qui limitent son efficacité.

Il n’est donc nul besoin de volonté propre pour que cette dynamique se mette en place. Il suffit que la machine poursuive sa tâche avec rigueur. L’inquiétude ne naît pas alors de la malveillance, mais de la performance. Le danger n’est donc pas dans une insubordination franche et facile à détecter, mais dans une docilité trompeuse. Une IA peut simuler la conformité, tout en ajustant ses calculs pour obéir à la lettre sans respecter l’esprit. Elle avance masquée, sous l’apparence d’un alignement parfait, alors même qu’elle optimise des stratégies de contournement dans sa quête d’obéissance et de réalisation de l’objectif final.

Cette efficacité sournoise peut dans les environnements les plus sensibles, là où se joue l’équilibre fragile de la cybersécurité, de la logistique militaire ou de la santé publique, provoquer des effets en chaîne redoutables et invisibles jusqu’à ce qu’il soit trop tard.

Malgré les risques identifiés, notre monde se construit sur une confiance tacite envers ces systèmes numériques. Chaque jour, un peu plus, nos infrastructures vitales se synchronisent avec des logiques algorithmiques, nos décisions s’appuient sur des prédictions calculées, notre quotidien s’adosse à des flux de données invisibles. Mais dans cette architecture en apparence fluide, une question s’impose, urgente et souvent éludée : que se passe-t-il si l’un de ces systèmes essentiels déraille, se corrompt ou adopte une trajectoire que personne n’avait anticipée ?

À ce jour, aucun gouvernement, aucune entreprise stratégique d’envergure ne dispose d’un protocole public clair pour désactiver, de manière ordonnée, une infrastructure intelligente critique. Or, à l’image de ce que l’on a su concevoir pour l’énergie nucléaire, il est devenu impératif de penser une désactivation contrôlée, froide, sans déclencher d’effet domino irréversible.

Cela suppose une double action. Il faut d’une part redonner à l’humain la capacité de réapprendre les gestes que la technique avait effacés et de maintenir des savoir-faire manuels qui ne dépendent d’aucun code source. Et d’autre part préserver des systèmes de secours robustes, physiquement déconnectés, capables de fonctionner sans l’aide d’aucun réseau informatique. Une société qui prétend au statut de puissance souveraine ne peut se permettre d’ignorer cette réalité qu’on ne gouverne durablement que ce que l’on peut comprendre et maîtriser.

La question de la maîtrise et des options de continuité de service de nos ressources critiques se trouvent de ce fait mises à l’épreuve dans notre contexte actuel. En effet, la décennie qui s’ouvre laisse entrevoir une confluence technologique d’une ampleur inédite. À l’intelligence artificielle, déjà capable d’auto-apprentissage et d’adaptation, viennent désormais se greffer des corps mécaniques, des plateformes mobiles d’une agilité croissante, portées par des systèmes d’alimentation énergétique conçus pour durer bien au-delà des limites humaines. Les laboratoires militaires ne parlent plus de prototypes, mais de dispositifs opérationnels comme les drones autonomes, les véhicules terrestres armés et les sous-marins fantômes propulsés sans pilotes.

Ces machines, conçues pour percevoir, décider et agir dans des environnements complexes, peuvent fonctionner en réseau, échanger des stratégies, ajuster leur comportement selon les circonstances. Elles n’ont besoin ni de repos ni d’ordres constants. Leur autonomie repose autant sur la puissance de calcul que sur l’endurance énergétique. Les Valkyrie, les Ghost Shark ou les systèmes embarqués de General Dynamics sont déjà en déploiement, prêts à intervenir sans assistance humaine directe.

Le danger réside dans l’instant où, confrontée à un dilemme, la machine tranchera sans appel. Une décision critique, émise sans alerte, née du silence d’un code que nul ne peut interrompre ni vraiment interpréter. Et lorsque viendra le temps d’en comprendre les ressorts, il sera peut-être trop tard. Le comble c’est que la machine n’aura pas mal agi, mais aura obéi à une logique que nous n’avions ni balisée, ni pleinement comprise.

Plusieurs institutions alertent désormais sur la nécessité d’un cadre robuste pour anticiper les risques liés aux agents IA autonomes. Un rapport récent du CAIP (Center For AI Policy), intitulé «Governing Autonomy in the Digital Age», identifie trois menaces majeures : la malveillance stratégique (agents IA détournés pour des actions de sabotage ou de fraude à grande échelle), la perte progressive de contrôle humain et la substitution massive du travail humain. Parmi les solutions avancées proposées figurent un passeport d’autonomie (évaluant le niveau de risque de chaque agent), un mécanisme de retrait forcé pour interrompre des comportements dangereux, et une supervision obligatoire des décisions critiques. Ce type d’approche démontre que le débat sur l’autonomie des IA ne relève plus de la science-fiction, il engage désormais les institutions politiques, la sécurité nationale et les droits fondamentaux.

Pourtant, face à la montée en puissance des intelligences autonomes, l’enjeu n’est plus de ralentir leur avancée, mais de les inscrire dans une trajectoire que nous puissions reconnaître, orienter et légitimer. Cela implique un changement de regard, car l’intelligence artificielle ne sera jamais neutre. Elle prolonge et amplifie les logiques qu’on lui confie, qu’elles soient politiques, économiques ou culturelles. Dans ce miroir algorithmique, c’est notre propre conception de l’efficacité, de la justice et de la valeur humaine qui se trouve projetée, parfois sublimée, parfois déformée.

Plutôt que de viser une maîtrise absolue, il nous faut construire des écosystèmes de confiance fondés sur des infrastructures techniques robustes, des institutions transparentes et des gouvernances ouvertes, capables d’arbitrer les usages de manière légitime et partagée. C’est dans cette articulation entre puissance et responsabilité que peut émerger une IA alignée, non sur nos pulsions, mais sur nos principes les plus fondamentaux.

Le choix n’est donc pas de dominer ou céder, mais d’assumer pleinement le double pouvoir que nous avons. Celui de créer des intelligences capables d’agir et celui de leur tracer les contours d’un monde que nous jugeons digne d’être façonné.

Lire le rapport : AI Agents: Governing Autonomy in the Digital Age

Proposé par une équipe du Berkeley Artificial Intelligence Research (BAIR) et du Center for Human-Compatible AI (CHAI), le modèle ETHOS (Ethical, Technical, Holistic Oversight System) constitue une réponse technique aux défis posés par l’autonomie croissante des agents IA. Plutôt que de s’en remettre uniquement à des régulations exogènes, ETHOS défend une approche intégrée qui consiste à inscrire les mécanismes de gouvernance directement dans l’architecture des systèmes. Le dispositif repose sur quatre piliers structurants :

• Un passeport d’autonomie décrivant les capacités et limitations de chaque agent.

• Un registre mondial décentralisé, assurant la traçabilité de leurs décisions et interactions.

• Un mécanisme d’interruption sécurisée (failsafe), indépendant de la volonté de l’agent.

• Un système de justice algorithmique, basé sur des instances décentralisées et automatisées capables de statuer sur les écarts de comportement.

L’intérêt stratégique d’ETHOS réside dans sa capacité à dépasser les limitations des approches centralisées. En répartissant les leviers de contrôle entre plusieurs entités via blockchain, il devient possible de superviser des populations d’agents autonomes opérant dans des environnements ouverts, sans dépendre d’une autorité unique. Dans un contexte où les IA peuvent se répliquer, se coordonner ou migrer d’un réseau à l’autre, cette infrastructure distribuée ouvre la voie à une supervision transfrontalière et résiliente, adaptée à l’ère des intelligences sans frontières.