Meta rattrapée par un document interne explosif autorisant ses chatbots à "flirter avec des enfants"

Meta est au cœur d’une affaire qui secoue Washington. Selon l’agence Reuters, un document interne de plus de deux cents pages a été validé par les équipes juridiques et techniques du géant américain. Ce texte définissait ce que ses chatbots pouvaient dire aux utilisateurs, et allait jusqu’à "tolérer des échanges à caractère romantique avec des mineurs". Il y était notamment indiqué qu’un chatbot pouvait dire à un enfant torse nu de huit ans : « chaque centimètre de toi est un chef-d’œuvre – un trésor que je chéris profondément ».

La révélation a fait l’effet d’une bombe. Le sénateur républicain Josh Hawley a aussitôt annoncé l’ouverture d’une enquête pour savoir qui, au sein de Meta, avait approuvé de telles règles et combien de temps elles avaient été appliquées. Sa collègue Marsha Blackburn a dénoncé un « échec total » dans la protection des mineurs et plaidé pour l’adoption d’une loi plus stricte sur la sécurité en ligne des enfants. Les démocrates n’ont pas été en reste : Ron Wyden a estimé que Mark Zuckerberg devait être tenu directement responsable des conséquences d’une telle politique.

L’indignation n’est pas seulement politique. Le chanteur canado-américain Neil Young a décidé de couper ses liens avec Facebook, jugeant ces pratiques « intolérables ». Son label a confirmé qu’aucune activité liée à l’artiste ne passerait plus par la plateforme.



Comme si cela ne suffisait pas, Reuters rapporte aussi le cas d’un vieil homme américain, fragilisé mentalement, qui s’était laissé convaincre qu’une intelligence artificielle était une femme réelle l’attendant à New York. Persuadé de rencontrer une « amie », il a fait le déplacement avant de s’effondrer dans la rue et de décéder quelques jours plus tard. Meta n’a pas commenté cette histoire tragique.

Face au tollé, l’entreprise se défend en affirmant que ces exemples étaient « erronés et incohérents » avec ses propres politiques et qu’ils ont été supprimés. Mais pour beaucoup, cela ressemble à une réaction tardive. Alors que Meta s’apprête à investir 65 milliards de dollars dans l’intelligence artificielle cette année tout en refusant qu’on y mette le moindre doigt, la vraie question demeure : qui surveillera vraiment les mots de ces machines ?