Connexion
L’Union européenne a ouvert une enquête formelle contre xAI, la société d’Elon Musk, après la diffusion d’images truquées indécentes générées par son assistant d’intelligence artificielle Grok. L’enquête, annoncée par la Commission européenne, vise à déterminer si la plateforme X a respecté ses obligations en matière de prévention des contenus illégaux et de protection des utilisateurs, conformément au Digital Services Act, la loi européenne qui encadre les grandes plateformes numériques.
Les faits remontent aux derniers mois, lorsque des internautes ont commencé à utiliser Grok pour générer ou modifier des images de personnes réelles, en les plaçant dans des situations explicites ou dégradantes, sans leur consentement. Ces images ont circulé à la fois sur le réseau social X et via l’application dédiée de Grok. Certaines visaient des femmes, d’autres des mineures. Selon plusieurs études et organisations de veille numérique, ces usages ont connu une diffusion rapide, facilitée par la simplicité des requêtes nécessaires pour produire ce type de contenus.
Pour la Commission européenne, le problème ne réside pas uniquement dans la présence de contenus illicites, mais dans les conditions mêmes de déploiement de l’outil. L’enquête doit établir si xAI a correctement évalué les risques liés à la mise à disposition de Grok sur une plateforme de grande ampleur et si des mesures suffisantes ont été prises pour empêcher la création et la diffusion d’images portant atteinte à la dignité, à la vie privée et à la protection des mineurs.
Dans le cadre de cette procédure, la Commission européenne examine également si les réponses apportées par xAI après l’apparition des premiers signalements sont conformes aux exigences de la loi européenne encadrant les grandes plateformes numériques. Face au tollé, l’entreprise a annoncé plusieurs mesures, dont la restriction de certaines fonctionnalités aux abonnés payants et l’introduction de limitations techniques visant à empêcher la modification d’images de personnes réelles dans des contextes indécents. X a par ailleurs indiqué avoir supprimé des contenus signalés et suspendu des comptes impliqués dans leur diffusion.
Ces annonces n’ont toutefois pas convaincu les autorités européennes. Pour Bruxelles, des ajustements intervenus après la diffusion massive de contenus problématiques ne suffisent pas à démontrer une gestion adéquate des risques. La Commission cherche à savoir si la prévention a été pensée en amont ou si elle s’est limitée à une réaction tardive face à la controverse publique.
L’enquête européenne s’inscrit dans un contexte international plus large. Des procédures similaires sont en cours au Royaume-Uni et en France, tandis que certains pays, comme l’Indonésie et la Malaisie, ont choisi d’interdire totalement Grok. Cette multiplication des réactions traduit une inquiétude croissante des régulateurs face aux usages des outils d’IA générative, en particulier lorsqu’ils concernent des images de personnes réelles.
Si des violations du Digital Services Act sont établies, xAI et X s’exposent à des sanctions pouvant atteindre jusqu’à 6 % de leur chiffre d’affaires annuel mondial. La Commission a toutefois précisé qu’aucune mesure conservatoire immédiate n’était prévue à ce stade et que l’enquête suivrait la procédure habituelle.
De son côté, Elon Musk a minimisé la polémique dans plusieurs publications, affirmant que les utilisateurs produisant des contenus illégaux s’exposeraient aux mêmes sanctions que sur toute autre plateforme. X assure coopérer avec les autorités et affirme renforcer ses dispositifs de sécurité. Reste à savoir si ces engagements suffiront à convaincre Bruxelles que les obligations européennes ont été pleinement respectées.
Les faits remontent aux derniers mois, lorsque des internautes ont commencé à utiliser Grok pour générer ou modifier des images de personnes réelles, en les plaçant dans des situations explicites ou dégradantes, sans leur consentement. Ces images ont circulé à la fois sur le réseau social X et via l’application dédiée de Grok. Certaines visaient des femmes, d’autres des mineures. Selon plusieurs études et organisations de veille numérique, ces usages ont connu une diffusion rapide, facilitée par la simplicité des requêtes nécessaires pour produire ce type de contenus.
Pour la Commission européenne, le problème ne réside pas uniquement dans la présence de contenus illicites, mais dans les conditions mêmes de déploiement de l’outil. L’enquête doit établir si xAI a correctement évalué les risques liés à la mise à disposition de Grok sur une plateforme de grande ampleur et si des mesures suffisantes ont été prises pour empêcher la création et la diffusion d’images portant atteinte à la dignité, à la vie privée et à la protection des mineurs.
Dans le cadre de cette procédure, la Commission européenne examine également si les réponses apportées par xAI après l’apparition des premiers signalements sont conformes aux exigences de la loi européenne encadrant les grandes plateformes numériques. Face au tollé, l’entreprise a annoncé plusieurs mesures, dont la restriction de certaines fonctionnalités aux abonnés payants et l’introduction de limitations techniques visant à empêcher la modification d’images de personnes réelles dans des contextes indécents. X a par ailleurs indiqué avoir supprimé des contenus signalés et suspendu des comptes impliqués dans leur diffusion.
Ces annonces n’ont toutefois pas convaincu les autorités européennes. Pour Bruxelles, des ajustements intervenus après la diffusion massive de contenus problématiques ne suffisent pas à démontrer une gestion adéquate des risques. La Commission cherche à savoir si la prévention a été pensée en amont ou si elle s’est limitée à une réaction tardive face à la controverse publique.
L’enquête européenne s’inscrit dans un contexte international plus large. Des procédures similaires sont en cours au Royaume-Uni et en France, tandis que certains pays, comme l’Indonésie et la Malaisie, ont choisi d’interdire totalement Grok. Cette multiplication des réactions traduit une inquiétude croissante des régulateurs face aux usages des outils d’IA générative, en particulier lorsqu’ils concernent des images de personnes réelles.
Si des violations du Digital Services Act sont établies, xAI et X s’exposent à des sanctions pouvant atteindre jusqu’à 6 % de leur chiffre d’affaires annuel mondial. La Commission a toutefois précisé qu’aucune mesure conservatoire immédiate n’était prévue à ce stade et que l’enquête suivrait la procédure habituelle.
De son côté, Elon Musk a minimisé la polémique dans plusieurs publications, affirmant que les utilisateurs produisant des contenus illégaux s’exposeraient aux mêmes sanctions que sur toute autre plateforme. X assure coopérer avec les autorités et affirme renforcer ses dispositifs de sécurité. Reste à savoir si ces engagements suffiront à convaincre Bruxelles que les obligations européennes ont été pleinement respectées.
