L'évolution annoncée sur Instagram intervient alors que les contenus générés par l’intelligence artificielle prennent une place croissante sur les réseaux sociaux. Meta explique avoir tiré les enseignements de la phase de test de la mention « Creator avec IA », lancée plus tôt cette année. L’objectif est notamment de répondre à une attente exprimée par les utilisateurs : savoir si un profil qui semble représenter une personne réelle correspond en réalité à un personnage généré par l’IA.
Dans le premier cas, aucune mention spécifique de profil n’est nécessaire. Un créateur qui utilise, par exemple, des outils d’IA pour modifier une image ou faciliter son processus créatif n’est donc pas concerné par cette nouvelle obligation.
En revanche, lorsqu’un compte représente une personne générée par l’intelligence artificielle, son créateur doit activer la mention « Profil généré par l’IA ». Celle-ci apparaîtra sur le profil et pourra également être affichée à côté des contenus lorsque ces derniers ne disposent pas déjà d’une indication signalant leur création ou leur modification à l’aide de l’IA.
Cette approche s’inscrit dans la continuité des mesures prises par Meta pour améliorer l’identification des contenus générés ou modifiés par l’intelligence artificielle. Le groupe avait déjà mis en place des mentions « AI info » afin d’informer les utilisateurs lorsque certains contenus comportent des éléments générés par l’IA.
Les comptes concernés recevront une notification et pourront consulter la rubrique « Statut du compte » afin de vérifier s’ils ne sont plus éligibles aux recommandations. Cette mesure pourrait donc avoir un impact direct sur la visibilité des créateurs concernés dans les espaces de découverte de la plateforme.
Pour retrouver leur éligibilité aux recommandations, deux possibilités sont prévues : ajouter la mention « Profil généré par l’IA » ou contester la décision lorsque le créateur estime que son compte a été identifié à tort.
Instagram reconnaît en effet que ses systèmes de détection ne sont pas infaillibles et prévoit ainsi une procédure d’appel.
À travers ce changement, Instagram cherche ainsi à répondre à une problématique appelée à prendre de l’ampleur : comment préserver la confiance des utilisateurs dans un environnement numérique où il devient de plus en plus difficile de distinguer une personne réelle d’un personnage entièrement créé par l’intelligence artificielle ?
La question dépasse d’ailleurs le simple cadre des réseaux sociaux. En 2022 déjà, Meta indiquait avoir observé une utilisation croissante de photos de profil générées par l’IA dans certains réseaux de comptes impliqués dans des opérations coordonnées et inauthentiques.
Avec la généralisation des outils capables de produire des visages, des vidéos et des personnalités virtuelles très réalistes, la transparence sur l’identité des profils devient donc un nouvel enjeu pour les plateformes. Pour Instagram, la nouvelle mention constitue une manière de donner aux utilisateurs une information supplémentaire avant qu’ils n’interagissent avec un compte qui pourrait, en apparence, être celui d’une personne réelle.
Une distinction entre profil et contenu généré par l’IA
Avec cette nouvelle appellation, Instagram cherche à établir une distinction plus claire entre deux situations. D’une part, les créateurs qui utilisent ponctuellement des outils d’intelligence artificielle dans leur processus de création. D’autre part, les profils représentant une personne elle-même générée par l’IA.Dans le premier cas, aucune mention spécifique de profil n’est nécessaire. Un créateur qui utilise, par exemple, des outils d’IA pour modifier une image ou faciliter son processus créatif n’est donc pas concerné par cette nouvelle obligation.
En revanche, lorsqu’un compte représente une personne générée par l’intelligence artificielle, son créateur doit activer la mention « Profil généré par l’IA ». Celle-ci apparaîtra sur le profil et pourra également être affichée à côté des contenus lorsque ces derniers ne disposent pas déjà d’une indication signalant leur création ou leur modification à l’aide de l’IA.
Cette approche s’inscrit dans la continuité des mesures prises par Meta pour améliorer l’identification des contenus générés ou modifiés par l’intelligence artificielle. Le groupe avait déjà mis en place des mentions « AI info » afin d’informer les utilisateurs lorsque certains contenus comportent des éléments générés par l’IA.
Une portée potentiellement réduite pour les profils non étiquetés
Instagram ne se limite toutefois pas à une simple recommandation. La plateforme indique qu’elle pourra limiter la portée des profils représentant des personnes générées par l’IA lorsqu’ils ne sont pas correctement étiquetés.Les comptes concernés recevront une notification et pourront consulter la rubrique « Statut du compte » afin de vérifier s’ils ne sont plus éligibles aux recommandations. Cette mesure pourrait donc avoir un impact direct sur la visibilité des créateurs concernés dans les espaces de découverte de la plateforme.
Pour retrouver leur éligibilité aux recommandations, deux possibilités sont prévues : ajouter la mention « Profil généré par l’IA » ou contester la décision lorsque le créateur estime que son compte a été identifié à tort.
Instagram reconnaît en effet que ses systèmes de détection ne sont pas infaillibles et prévoit ainsi une procédure d’appel.
Les créateurs déjà concernés pourront revoir leur statut
Les créateurs qui avaient déjà activé la mention « Creator avec IA » verront automatiquement l’appellation évoluer vers « Profil généré par l’IA ». Ils pourront ensuite vérifier si cette mention reste pertinente, la confirmer ou la supprimer lorsqu’elle ne correspond plus à leur situation.À travers ce changement, Instagram cherche ainsi à répondre à une problématique appelée à prendre de l’ampleur : comment préserver la confiance des utilisateurs dans un environnement numérique où il devient de plus en plus difficile de distinguer une personne réelle d’un personnage entièrement créé par l’intelligence artificielle ?
La question dépasse d’ailleurs le simple cadre des réseaux sociaux. En 2022 déjà, Meta indiquait avoir observé une utilisation croissante de photos de profil générées par l’IA dans certains réseaux de comptes impliqués dans des opérations coordonnées et inauthentiques.
Avec la généralisation des outils capables de produire des visages, des vidéos et des personnalités virtuelles très réalistes, la transparence sur l’identité des profils devient donc un nouvel enjeu pour les plateformes. Pour Instagram, la nouvelle mention constitue une manière de donner aux utilisateurs une information supplémentaire avant qu’ils n’interagissent avec un compte qui pourrait, en apparence, être celui d’une personne réelle.
