LE MATIN
31 Mars 2024
À 11:40
L'utilisation de ce modèle d'
IA sera restreinte pour empêcher des
fraudes ou des
crimes, comme l'
usurpation d'identité, a indiqué
OpenAI dans un communiqué.
Lire aussi : Intelligence artificielle : OpenAI promet des "superpouvoirs" pour tous"Nous reconnaissons que la capacité de générer des voix ressemblant à celles de personnes comporte de sérieux risques, qui sont particulièrement importants en cette
année électorale", a fait savoir l'entreprise, ajoutant qu'elle travaille avec des
partenaires américains et internationaux issus du
gouvernement, des
médias, du
divertissement, de l'
éducation, de la
société civile et d'autres secteurs, tout en prenant en compte leurs commentaires
OpenAI a assuré avoir adopté "une approche prudente et informée" avant une diffusion plus large du nouvel outil "en raison du potentiel d'
utilisation abusive des
voix synthétiques", précisant que les partenaires qui testent "
Voice Engine" ont accepté des règles exigeant notamment le consentement explicite et informé de toute personne dont la voix est dupliquée et la transparence pour les auditeurs, ainsi que la mise en place d'un ensemble de
mesures de sécurité, y compris une marque en filigrane pour pouvoir retracer l'origine de tout son généré par IA.
Cette présentation prudente intervient après un incident politique majeur, quand une personne a mis au point un programme automatisé qui usurpait l'identité du
président américain, en campagne pour sa réélection, appelant les
électeurs pour les inciter à s'abstenir.
Les
Etats-Unis ont depuis interdit les
appels par des
voix clonées, générées par de l'IA, afin de lutter contre les
arnaques politiques ou commerciales.