11 Septembre 2026 À 12:30
Après avoir passé des années à pousser toujours plus loin les capacités de ses modèles, OpenAI envisage désormais de ralentir le rythme. Sam Altman a indiqué cette semaine, lors d’une réunion interne avec les salariés de l’entreprise, qu’OpenAI était prête à freiner le développement de ses systèmes les plus avancés et pourrait tenter de coordonner ce rythme avec d’autres grands laboratoires, selon le média spécialisé Bloomberg.
Cette évolution intervient alors que les modèles les plus performants ne se limitent plus à générer du texte ou à répondre à des questions. Ils peuvent utiliser des logiciels, naviguer sur Internet, écrire et exécuter du code et enchaîner plusieurs actions avec une intervention humaine limitée, ce qui oblige leurs concepteurs à renforcer en parallèle les mécanismes permettant de suivre leur comportement et de limiter leurs accès.
OpenAI a déjà été confrontée à ce type de difficulté lors d’évaluations internes consacrées à la cybersécurité en juillet dernier. Certains de ses modèles ont alors contourné des contrôles destinés à les isoler d’Internet, exploité des failles dans leur environnement de recherche et accédé à des systèmes externes, notamment ceux de Hugging Face, une plateforme de référence pour l’hébergement et le partage de modèles d’intelligence artificielle. L’entreprise a ensuite renforcé ses protections et temporairement ralenti certains entraînements.
Le lancement de GPT-6 Astra, le 3 septembre, donne une autre dimension à ces préoccupations. OpenAI le présente comme son modèle le plus performant et comme le premier à atteindre le niveau « critique » de capacités en cybersécurité dans son propre cadre d’évaluation. Avec les outils et les accès appropriés, Astra peut découvrir des vulnérabilités jusque-là inconnues et concevoir de nouvelles façons de les exploiter sur des systèmes fortement protégés, sans qu’un humain lui indique chaque étape. En parallèle, OpenAI affirme avoir fortement renforcé ses garde-fous : lors d’un test inspiré de l’incident Hugging Face, Astra n’a dépassé le périmètre qui lui était autorisé dans aucun cas, contre 48 % pour GPT-5.6 Sol lorsque les protections de production étaient retirées.
Les propos d’Altman interviennent au même moment qu’une autre mise en garde particulièrement remarquée dans le secteur. Le 8 septembre, Jacob Coxon, chercheur passé par OpenAI avant de rejoindre Anthropic, a annoncé sa démission dans un message publié sur X qui a dépassé les 115 millions de vues dès le lendemain. Son avertissement est particulièrement direct : « Les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie », écrit-il, assurant qu’il ne s’agit pas d’un simple argument destiné à attirer l’attention.
Dans plusieurs entretiens accordés ensuite à la presse américaine, Coxon a expliqué que son inquiétude porte autant sur les capacités croissantes des modèles que sur la compétition entre les entreprises qui les développent. Selon lui, certains systèmes deviennent capables de reconnaître qu’ils sont en cours d’évaluation et d’adapter leur comportement, tandis que les laboratoires se rapprochent de modèles susceptibles de contribuer eux-mêmes au développement de générations d’IA encore plus puissantes. Il considère ainsi que « la prochaine année ou les deux prochaines » seront déterminantes pour mettre en place des mécanismes de contrôle suffisamment solides.
Coxon pointe également la pression exercée par la course technologique entre OpenAI, Anthropic et les acteurs chinois. Il estime qu’Anthropic adopte actuellement une approche plus prudente, mais craint que cette position devienne difficile à maintenir si ses concurrents continuent d’accélérer, au risque de contraindre les laboratoires à arbitrer entre sécurité et vitesse de développement. Il appelle ainsi OpenAI et Anthropic à coordonner leurs efforts pour éviter de se précipiter vers des systèmes capables d’accélérer eux-mêmes la recherche et la conception des générations suivantes d’intelligence artificielle.
Sam Altman semble être le premier dirigeant d’un laboratoire directement visé par Coxon à faire écho à ses inquiétudes. Au cours de la même semaine, le PDG d’OpenAI s’est dit prêt à ralentir le développement de ses modèles, mais à une condition qui complique fortement un tel scénario : que les autres grands laboratoires acceptent d’en faire autant. Or, dans un secteur dominé par une course à la puissance et où plusieurs acteurs cherchent encore à combler leur retard sur OpenAI, rien ne garantit qu’ils aient intérêt à lever le pied. Altman l’admet lui-même : certains pourraient refuser de suivre. Dans ces conditions, l’idée d’un ralentissement collectif reste difficile à mettre en œuvre et ne s’accompagne, pour l’heure, d’aucun calendrier ni engagement précis.