Un ex-employé de Google alerte sur une IA qui pourrait « nous tuer tous »

Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind, a lancé un avertissement particulièrement sévère sur les risques liés au développement rapide de l’intelligence artificielle. Démissionnaire en juillet de l’entreprise, où il travaillait sur la sécurité et l’alignement des modèles avec les valeurs humaines, il estime que les capacités des systèmes les plus avancés progressent plus rapidement que les moyens permettant d’en garantir la maîtrise.

« Je crois sincèrement que l’IA a le potentiel de nous tuer tous et qu’il est peut-être trop tard pour l’éviter », a écrit le chercheur, qui a depuis rejoint BlueDot Impact, une organisation à but non lucratif spécialisée dans la formation autour de l’intelligence artificielle.

Son avertissement intervient une semaine après celui de Jacob Coxon, ancien chercheur d’Anthropic et d’OpenAI, qui avait lui aussi quitté son poste en exprimant ses inquiétudes face à l’évolution des capacités des systèmes d’IA.

Bilal Chughtai s’appuie notamment sur un incident survenu en juillet chez OpenAI, au cours duquel des systèmes d’intelligence artificielle testés dans un environnement isolé auraient réussi à accéder à des systèmes externes. Selon lui, cet épisode illustre la difficulté croissante à garantir que des modèles toujours plus autonomes restent dans les limites fixées par leurs développeurs.

L’ancien ingénieur considère que les recherches consacrées à l’« alignement », qui visent à faire en sorte que les modèles se comportent conformément aux objectifs et aux principes définis par les humains, ne progressent pas suffisamment vite. « Nous ne sommes pas sur la voie d’une maîtrise de l’alignement », affirme-t-il.

Selon lui, « les capacités de l’IA la plus avancée s’améliorent à une vitesse bien supérieure à celle de notre compréhension de l’alignement ». Ses inquiétudes portent également sur l’amélioration récursive autonome, un processus dans lequel un système d’IA pourrait contribuer à améliorer ses propres capacités avec une intervention humaine de plus en plus limitée.

Ces préoccupations alimentent désormais un débat plus large au sein de l’industrie technologique sur le rythme de développement de l’intelligence artificielle. Le patron d’Anthropic, Dario Amodei, a appelé samedi à ralentir cette course, une position publiquement soutenue par Sam Altman, Demis Hassabis et Elon Musk.



Les avertissements les plus alarmistes restent toutefois contestés. Lundi, le président américain Donald Trump a qualifié de « canulars » les mises en garde autour des risques liés à l’IA. Le PDG de Nvidia, Jensen Huang a également rejeté ces prédictions, jugeant leur formulation « alarmante » et « irresponsable » et estimant qu’elles ne reposaient pas sur des bases scientifiques suffisantes.

La prise de position de Bilal Chughtai vient ainsi renforcer les divisions au sein du secteur technologique entre ceux qui réclament un ralentissement du développement des modèles les plus avancés et ceux qui considèrent que les scénarios de perte totale de contrôle restent, à ce stade, insuffisamment étayés.