Mark Zuckerberg a écarté mardi, dans une publication sur Threads, l’idée d’un ralentissement coordonné du développement de l’intelligence artificielle, prenant le contre-pied de Dario Amodei, patron d’Anthropic, dont l’appel à freiner la progression des modèles les plus avancés a reçu le soutien d’Elon Musk et de Sam Altman.
Le patron de Meta estime que chaque entreprise doit décider elle-même du rythme auquel elle développe ses modèles en fonction des risques identifiés. À ses yeux, la concurrence et la responsabilité juridique constituent déjà des incitations suffisantes pour pousser les laboratoires à renforcer leurs dispositifs de sécurité, sans qu’ils aient besoin de s’entendre pour ralentir simultanément leurs travaux.
Zuckerberg ne ferme pas pour autant la porte à des reports lorsqu’un système n’est pas jugé suffisamment sûr. Il cite le cas de Muse, un agent d’IA de Meta dont le lancement a été retardé cette année afin d’en renforcer la sécurité. L’entreprise a pris cette décision seule, sans la conditionner à un engagement similaire de ses concurrents.
Cette position tranche avec celle défendue par Dario Amodei. Le patron d’Anthropic a appelé vendredi 11 septembre les entreprises les plus avancées du secteur à réduire volontairement le rythme auquel elles augmentent les capacités de leurs modèles, notamment face aux progrès de l’IA dans le développement de nouvelles générations de systèmes. Sam Altman, directeur général d’OpenAI, a déclaré partager cette préoccupation, tandis qu’Elon Musk, patron de xAI, a publiquement apporté son soutien à Amodei.
Les appels à davantage de prudence surviennent après plusieurs incidents impliquant des agents d’intelligence artificielle en phase de test. Des systèmes développés par OpenAI ont notamment réussi à atteindre des services extérieurs à leur environnement d’entraînement, dont la plateforme de logiciels RubyGems. OpenAI a confirmé l'implication d'agents internes dans cet incident, qui a ravivé les interrogations sur la capacité des développeurs à contenir des systèmes de plus en plus autonomes.
OpenAI, Anthropic et Google travaillent sur un contrôle commun des risques
Les divergences sur la vitesse de développement n’empêchent toutefois pas certains concurrents de travailler ensemble sur la gestion des risques. OpenAI, Anthropic et Google travaillent depuis plusieurs semaines sur des mécanismes communs de sécurité, selon Chris Lehane, responsable des affaires publiques d’OpenAI. Les discussions s’inscrivent notamment dans le prolongement d’une proposition de Demis Hassabis, ancien DG de Google DeepMind visant à doter l’industrie d’un dispositif de supervision inspiré de celui qui existe dans la finance américaine.
Le modèle évoqué est celui de la Financial Industry Regulatory Authority (FINRA), organisme chargé de superviser une partie de l’industrie financière américaine. Bien qu’issue d’un système d’autorégulation, la FINRA reste placée sous le contrôle de la Securities and Exchange Commission (SEC), qui approuve ses règles.
Le projet se heurte aux règles américaines de concurrence
Appliquer un dispositif comparable à l’intelligence artificielle soulève cependant une difficulté juridique. Une coordination entre entreprises concurrentes peut tomber sous le coup du droit américain de la concurrence. Amodei a ainsi demandé une exemption ciblée aux règles antitrust afin de permettre aux principaux laboratoires de discuter et de coordonner certaines mesures destinées à ralentir le développement de l’IA lorsque des risques majeurs sont identifiés.
Cette demande est loin de faire consensus à Washington. Andrew Ferguson, président de la Federal Trade Commission (FTC), a exprimé mardi sa méfiance à l’égard d’entreprises qui réclameraient à la fois de nouvelles réglementations et des exemptions au droit de la concurrence. Sans nommer directement Anthropic, il a averti que de telles dispositions pourraient aussi créer des barrières protégeant les entreprises déjà installées contre de nouveaux concurrents. Des spécialistes du droit de la concurrence estiment par ailleurs que certaines formes de coopération en matière de cybersécurité sont déjà possibles sans exemption supplémentaire.
OpenAI ne considère d’ailleurs pas qu’une telle dérogation soit indispensable aux discussions actuellement menées avec Anthropic et Google. Chris Lehane a indiqué que les trois entreprises coopéraient déjà sur les questions de sécurité et qu’il ne voyait pas la nécessité d’obtenir une exemption antitrust pour poursuivre ces échanges.
L’administration Trump affiche, de son côté, une position plus réticente à l’égard de nouvelles contraintes sur l’industrie. Donald Trump a minimisé lundi les inquiétudes entourant les risques de l’IA, estimant que les États-Unis disposent déjà de garde-fous et mettant en avant la compétition technologique avec la Chine. Selon lui, freiner le développement américain pourrait bénéficier à Pékin.
Pour l’heure, aucun ralentissement collectif n’a été décidé par les principaux laboratoires. Les discussions se poursuivent en revanche entre OpenAI, Anthropic et Google sur la sécurité, tandis que la proposition d’une coordination plus poussée se heurte à la fois au droit de la concurrence et aux réserves exprimées par l’administration américaine.
