8/2/2024
February 8, 2024
Meta prévoit d'étiqueter les images générées par l'IA sur Facebook et Instagram dans le cadre d'un effort à l'échelle du secteur pour distinguer les contenus réels des contenus synthétiques. Cette initiative, qui inclut une collaboration avec des partenaires comme Google et Adobe, vise à apporter de la transparence, mais soulève des questions quant à son efficacité et à la possibilité d'un faux sentiment de sécurité.
Dans un mouvement significatif vers la transparence et l'authenticité, les utilisateurs de Facebook et Instagram commenceront bientôt à voir des étiquettes sur les images générées par l'intelligence artificielle qui apparaissent sur leurs fils de médias sociaux. Cette initiative fait partie d'un effort plus large de l'industrie technologique visant à distinguer le contenu réel du contenu synthétique. Meta a annoncé mardi sa collaboration avec des partenaires de l'industrie pour développer des normes techniques qui faciliteront l'identification des images, vidéos et sons générés par IA.
L'efficacité de cette initiative reste une question à une époque où il est plus facile que jamais de produire et de distribuer des images générées par IA, capables de causer du tort, de la désinformation électorale aux faux nus non consensuels de célébrités. Gili Vidan, professeur adjoint en sciences de l'information à l'université de Cornell, voit cela comme un signe que les plateformes prennent au sérieux le problème des faux contenus en ligne. Bien que cette étiquetage pourrait être "assez efficace" pour marquer une grande partie du contenu généré par IA utilisant des outils commerciaux, il est peu probable que tout soit détecté.
Nick Clegg, le président des affaires internationales de Meta, n'a pas précisé quand les étiquettes commenceraient à apparaître mais a mentionné que cela se produirait "dans les mois à venir" et en plusieurs langues. Ce moment est crucial alors que de nombreuses élections importantes ont lieu dans le monde entier. "Alors que la différence entre le contenu humain et le contenu synthétique s'estompe, les gens veulent savoir où se situe la limite", a-t-il déclaré dans un billet de blog.
Meta appose déjà la mention "Imaginé avec l'IA" sur les images photoréalistes créées par son propre outil, mais la majorité du contenu généré par IA qui inonde ses services de médias sociaux vient d'autres sources. Diverses collaborations de l'industrie technologique, y compris l'initiative pour l'authenticité du contenu dirigée par Adobe, travaillent à établir des normes. Un décret signé par le président Joe Biden en octobre préconise l'utilisation de filigranes numériques et l'étiquetage des contenus générés par IA.
Clegg a annoncé que Meta prévoit d'étiqueter les images de Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock au fur et à mesure de la mise en œuvre de leurs projets d'ajout de métadonnées aux images créées par leurs outils. Google a déclaré l'année dernière que les étiquettes d'IA seraient ajoutées à YouTube et à ses autres plateformes. "Dans les mois à venir, nous introduirons des étiquettes qui informeront les spectateurs que le contenu réaliste qu'ils voient est synthétique", a réaffirmé Neal Mohan, PDG de YouTube, dans un billet de blog publié mardi.
Une préoccupation potentielle pour les consommateurs est que les plateformes technologiques deviennent plus compétentes pour identifier les contenus générés par IA à partir d'un ensemble de grands fournisseurs commerciaux, mais qu'elles passent à côté de ce qui est produit avec d'autres outils, créant ainsi un faux sentiment de sécurité.
