San Francisco Frontiers - YouTube propose à Hollywood un outil de détection de deepfakes

Le mois dernier, la plateforme vidéo de Google a lancé son outil de protection de l'image, qui aide à identifier les contenus dans lesquels un visage apparaît modifié, ou généré, à l'aide de technologies d'IA. Le projet visait d'abord responsables gouvernementaux, journalistes et autres personnels politiques.

La plateforme étend désormais son accès aux acteurs et musiciens, via les agences de talents, sociétés de management et les stars qu'elles représentent.

L'outil permet de "rechercher des contenus générés par l'IA reprenant l'apparence d'un participant, comme un deepfake de son visage, et lui donne le pouvoir de les dénicher et d'en demander la suppression".

Célébrités et artistes peuvent y accéder même sans disposer de chaîne sur la plateforme.

"Le fait que YouTube ouvre ses capacités de détection de deepfakes aux personnalités publiques marque un tournant dans la manière dont les plateformes abordent la protection de l'identité à l'ère de l'IA générative", estime Alon Yamin, directeur général et cofondateur de Copyleaks, une plateforme de détection de contenus générés par l'IA.

"La technologie permettant de reproduire le visage, la voix et les mimiques d'une personne a avancé plus vite que les garde-fous qui l'entourent, créant un fossé que des acteurs malveillants exploitent déjà".

- Enjeux majeurs -

L'initiative intervient alors que se multiplient les vidéos hyperréalistes de célébrités disparues, créées avec des applications grand public comme Sora, l'outil d'OpenAI.

L'application a déclenché un flot de vidéos de Michael Jackson ou d'Elvis Presley. Et le mois dernier, OpenAI a fermé son application Sora.

En février dernier, le réalisateur irlandais Ruairí Robinson avait déjà créé un clip d'un réalisme saisissant montrant Brad Pitt se battant avec Tom Cruise sur un toit, à partir d'un prompt de deux phrases.

Largement diffusé et provoquant de vives inquiétudes à Hollywood, il a été généré avec Seedance 2.0, un outil appartenant au groupe chinois ByteDance. L'Irlandais a également créé d'autres vidéos. L'une montre Brad Pitt affrontant un ninja zombie armé d'un sabre, une autre le met en scène en train de combattre un robot, flanqué de l'incontournable Tom Cruise.

Charles Rivkin, patron de la Motion Picture Association, l'association des grandes sociétés de production américaines, a appelé ByteDance à "cesser immédiatement ses activités de contrefaçons", l'accusant de bafouer le droit d'auteur.

YouTube explique pour sa part travailler avec les principales agences de talents pour améliorer la détection des images problématiques et mieux protéger les artistes.

- "Leur patrimoine" -

La plateforme "fait ce qu'il faut en fournissant ces outils gratuitement aux talents, afin qu'ils puissent protéger leur patrimoine", se réjouit Jason Newman, de la société de management et de production Untitled Entertainment.

"Leur patrimoine, c'est leur visage, leur corps, qui ils sont, ce qu'ils font, leur façon de s'exprimer", ajoute-t-il dans un entretien avec le magazine Hollywood Reporter.

Le développement de l'outil fait suite à des plaintes de personnalités américaines de premier plan dénonçant les lourdeurs de la procédure sur YouTube pour signaler et retirer un deepfake.

"Les enjeux sont particulièrement élevés car les deepfakes peuvent être utilisés pour diffuser de la désinformation, manipuler les marchés, nuire à des réputations ou laisser croire à un soutien trompeur. Une détection robuste n'est plus optionnelle", explique Alon Yamin.

"Les systèmes de détection doivent être extrêmement précis, continuellement mis à jour et associés à des règles claires et à des procédures de retrait rapides pour être efficaces", poursuit-il.

"Cela n'éliminera pas totalement les deepfakes, mais peut réduire considérablement leur portée et leur impact, en rendant plus difficile la circulation de contenus manipulés sans être détectés ou contestés", fait valoir le responsable de Copyleaks.

ac-sla/dla/sla

D.Robinson--SFF