Depuis plusieurs années, des rapports font état de personnes transformées involontairement en acteurs pornographiques à l’aide de deepfakes. Le nouvel épisode de la série de reportages MDR « exactement » examine désormais de plus près les dangers de la technologie de l’IA.
À quel point les deepfakes sont-ils dangereux ? Le rapport MDR fournit des informations
Qu’il s’agisse de Scarlett Johansson, Gal Gadot ou Tom Cruise, les trois acteurs américains ont été victimes de ce qu’on appelle les deepfakes. Une cyberarnaque perfide dans laquelle le visage d’une personne, y compris ses expressions faciales, est scanné puis transféré sur un autre corps.
Les deepfakes pornographiques de célébrités et de non-célébrités en particulier sont récemment devenus de plus en plus répandus, car les faux enregistrements vidéo peuvent désormais être facilement créés à l’aide d’une application pour smartphone. Le MDR profite désormais de l’actualité croissante du sujet pour consacrer « précisément » un épisode de sa série de reportages à la perfide technologie de l’IA et pour mettre en lumière le danger réel des deepfakes pour la société.
Sophie, la personne directement concernée, a également son mot à dire dans l’émission, qui a été victime de chantage avec de tels contenus faux. Elle raconte : « À un moment donné, je n’avais plus la force de lutter contre cela. J’ai ensuite supprimé tous mes profils de réseaux sociaux.
Streamer signale un manque de soutien de la part du pouvoir judiciaire
La célèbre streameuse Twitch Shurjoka (de son vrai nom Pia Scholz) a vécu une expérience similaire à Sophie. Elle décrit : « Les gens prennent le pouvoir sur moi en tant que personne, sur mon corps, contre ma volonté et m’imposent leurs fantasmes. » La grande quantité de matériel la rendrait impuissante.
Shurjoka souligne également qu’elle se sent abandonnée par la justice. Et ce n’est pas un hasard, comme le sait Joséphine Ballon. L’avocat qui examine l’aspect juridique des deepfakes dans le rapport déclare : « Il est suggéré que l’État ne s’intéresse pas au fait que des photos soi-disant nues de vous circulent en public. Vous pouvez le signaler, et d’une manière ou d’une autre, cela est reflété dans la loi, mais il ne fait presque jamais l’objet de poursuites.
En Allemagne, seules des lois peuvent être appliquées indirectement aux deepfakes pornographiques, par exemple le droit à l’image. Cependant, aucune loi n’interdit explicitement la création et la distribution de deepfakes. Ballon pense qu’il s’agit d’une faille dans la loi.
Le rapport deepfake de « exactement » est disponible depuis le 18 septembre 2023 Médiathèque ARD disponible. Le film est également visible sur la chaîne YouTube « MDR investigation ».
