La course à une intelligence artificielle toujours plus puissante inquiète l’ONU. Le Haut-Commissaire aux droits de l’homme, Volker Türk, a appelé, lundi 14 septembre, à une « action urgente » des États et des entreprises pour définir, dans un cadre multilatéral, des règles applicables aux modèles d’IA de pointe. « Tous les droits humains sont menacés », a-t-il averti dans une déclaration, citant notamment les droits à la vie, à l’alimentation, à la vie privée, à la santé et à la sécurité. Pour le responsable onusien, les progrès rapides de ces technologies pourraient provoquer un « changement irréversible » dont les conséquences concerneraient également les générations futures.
Au-delà du rythme des avancées technologiques, Volker Türk pointe la concentration du développement de l’IA entre les mains d’un nombre limité d’entreprises. Une situation qui conduit, selon lui, à dépendre « presque entièrement d’un petit nombre d’entreprises puissantes » pour des décisions susceptibles d’avoir des conséquences à l’échelle mondiale.
Les préoccupations portent en particulier sur l’essor de l’IA agentique, c’est-à-dire des systèmes capables d’accomplir de manière autonome certaines tâches et d’enchaîner des actions. Des défaillances de ces technologies pourraient, avertit le Haut-Commissaire, « paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques » ou fragiliser les institutions démocratiques.
Les conséquences potentielles pourraient directement toucher les populations. Volker Türk évoque notamment le risque de perturbations de l’approvisionnement en eau potable, du chauffage ou encore des services financiers. Il alerte également sur les usages militaires de ces technologies, estimant que l’IA agentique contribue déjà à accélérer le rythme et l’ampleur des conflits armés.
Cet appel intervient alors que le débat sur le rythme de développement de l’IA gagne également les dirigeants du secteur technologique américain. Le patron d’Anthropic, Dario Amodei, s’est prononcé samedi en faveur d’une décélération afin de mieux évaluer les risques associés aux nouvelles capacités de l’IA, une position publiquement soutenue par Sam Altman, patron d’OpenAI, et Elon Musk.
La question prend parallèlement une dimension politique aux États-Unis. Donald Trump et plusieurs responsables de son camp se sont opposés dimanche à l’idée d’un ralentissement du développement de l’IA, alors que le sujet s’impose dans la campagne pour les élections de mi-mandat.
Pour l’ONU, l’enjeu dépasse désormais le seul débat technologique. Volker Türk estime que la course actuelle à des systèmes toujours plus performants expose « tous les aspects de nos vies à des risques existentiels accrus », plaidant ainsi pour que leur encadrement ne repose plus uniquement sur les choix des entreprises qui les développent.
Au-delà du rythme des avancées technologiques, Volker Türk pointe la concentration du développement de l’IA entre les mains d’un nombre limité d’entreprises. Une situation qui conduit, selon lui, à dépendre « presque entièrement d’un petit nombre d’entreprises puissantes » pour des décisions susceptibles d’avoir des conséquences à l’échelle mondiale.
Les préoccupations portent en particulier sur l’essor de l’IA agentique, c’est-à-dire des systèmes capables d’accomplir de manière autonome certaines tâches et d’enchaîner des actions. Des défaillances de ces technologies pourraient, avertit le Haut-Commissaire, « paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques » ou fragiliser les institutions démocratiques.
Les conséquences potentielles pourraient directement toucher les populations. Volker Türk évoque notamment le risque de perturbations de l’approvisionnement en eau potable, du chauffage ou encore des services financiers. Il alerte également sur les usages militaires de ces technologies, estimant que l’IA agentique contribue déjà à accélérer le rythme et l’ampleur des conflits armés.
Cet appel intervient alors que le débat sur le rythme de développement de l’IA gagne également les dirigeants du secteur technologique américain. Le patron d’Anthropic, Dario Amodei, s’est prononcé samedi en faveur d’une décélération afin de mieux évaluer les risques associés aux nouvelles capacités de l’IA, une position publiquement soutenue par Sam Altman, patron d’OpenAI, et Elon Musk.
La question prend parallèlement une dimension politique aux États-Unis. Donald Trump et plusieurs responsables de son camp se sont opposés dimanche à l’idée d’un ralentissement du développement de l’IA, alors que le sujet s’impose dans la campagne pour les élections de mi-mandat.
Pour l’ONU, l’enjeu dépasse désormais le seul débat technologique. Volker Türk estime que la course actuelle à des systèmes toujours plus performants expose « tous les aspects de nos vies à des risques existentiels accrus », plaidant ainsi pour que leur encadrement ne repose plus uniquement sur les choix des entreprises qui les développent.
