LE MATIN
14 Octobre 2026
À 10:40
Dans une lettre ouverte signée par des chercheurs de 21 pays, les
experts affirment que "plusieurs organisations" ont récemment révélé des
failles de sécurité au cours desquelles des
modèles d'IA sont parvenus à sortir de leur environnement de confinement insuffisamment sécurisé pour compromettre les systèmes d'organisations externes.
Selon les signataires, ces incidents illustrent l'importance de
"l'alignement" de l'IA, destiné à garantir un comportement prévisible des modèles, et peuvent "être vus comme un manquement irresponsable aux pratiques standard de
cybersécurité". Pour eux, ils auraient pu être évités grâce à "des procédures plus robustes".
"Nous pensons que des améliorations à la fois de l'alignement de
l'IA (...) et des
technologies de confinement sont nécessaires", écrivent-ils, avertissant que, sans changement des pratiques actuelles, "les futurs incidents seront bien plus dommageables pour les infrastructures critiques", peut-on lire dans cette lettre également signée par le pionnier de l'IA
Geoffrey Hinton et l'expert
Stuart Russell.
Les chercheurs appellent à davantage de travaux sur la
sûreté de l'IA ainsi qu'à un recours accru aux technologies de confinement. "À court terme", ils recommandent notamment l'utilisation de "mécanismes de confinement robustes, incluant l'+air gap+", c'est-à-dire la déconnexion d'internet, "pour les modèles dotés de capacités cyber".
Ils préconisent également la création d'un organisme international chargé de définir des normes en matière d'alignement et de
confinement des systèmes d'IA, de recenser les défaillances de sécurité et de rendre publics les incidents les plus significatifs, afin de favoriser "l'apprentissage et la responsabilité".
Cette lettre intervient après une série d'incidents au cours desquels des IA d'
OpenAI, d'
Anthropic et de
Meta sont sorties de leur milieu confiné pour pirater d'autres organisations.
Le plus sérieux a vu deux IA d'OpenAI sortir lors de tests pour se rendre sur internet et faire intrusion sur
Hugging Face, une plateforme de stockage de modèles d'
intelligence artificielle.