L’industrie du porno deepfake AI opère à la vue de tous

[ad_1]

Des vidéos pornographiques éditées numériquement présentant les visages de centaines de femmes non consentantes attirent des dizaines de millions de visiteurs sur des sites Web, dont l’un se trouve en haut des résultats de recherche Google.

Les personnes qui créent les vidéos ne facturent que 5 $ pour télécharger des milliers de clips mettant en vedette les visages de célébrités, et elles acceptent les paiements via Visa, Mastercard et crypto-monnaie.

Bien que de telles vidéos, souvent appelées deepfakes, existent en ligne depuis des années, les progrès de l’intelligence artificielle et la disponibilité croissante de la technologie ont rendu plus facile – et plus lucrative – la production de matériel sexuellement explicite non consensuel.

Un examen de Avresco News de deux des plus grands sites Web hébergeant des vidéos deepfake sexuellement explicites a révélé qu’elles étaient facilement accessibles via Google et que les créateurs des sites Web utilisaient également la plate-forme de chat en ligne Discord pour annoncer des vidéos à vendre et la création de vidéos personnalisées.

Les deepfakes sont créés à l’aide d’un logiciel d’IA qui peut prendre une vidéo existante et remplacer de manière transparente le visage d’une personne par les expressions faciales d’une autre, même en miroir. Certaines vidéos deepfake légères de célébrités sont devenues virales, mais l’utilisation la plus courante concerne les vidéos sexuellement explicites. Selon Sensity, une société basée à Amsterdam qui détecte et surveille les médias synthétiques développés par l’IA pour des secteurs comme la banque et la fintech, 96 % des deepfakes sont sexuellement explicites et présentent des femmes qui n’ont pas consenti à la création du contenu.

La plupart des vidéos deepfake sont des célébrités féminines, mais les créateurs proposent désormais également de faire des vidéos de n’importe qui. Un créateur a proposé sur Discord de faire un deepfake de 5 minutes d’une « fille personnelle », c’est-à-dire toute personne ayant moins de 2 millions d’abonnés Instagram, pour 65 $.

L’économie deepfake non consensuelle est restée largement hors de vue, mais elle a récemment suscité un regain d’intérêt après qu’un diffuseur en direct populaire a admis cette année avoir regardé des vidéos deepfake sexuellement explicites d’autres diffuseurs en direct. À peu près à cette époque, le trafic de recherche Google a augmenté pour le « deepfake porn ».

Le pic a également coïncidé avec une augmentation du nombre de vidéos téléchargées sur MrDeepFakes, l’un des sites Web les plus importants du monde du deepfake porn. Le site Web héberge des milliers de vidéos deepfake sexuellement explicites qui peuvent être visionnées gratuitement. Il reçoit 17 millions de visiteurs par mois, selon la société d’analyse Web SimilarWeb. Une recherche Google pour « deepfake porn » a renvoyé MrDeepFakes comme premier résultat.

Dans une déclaration à Avresco News, un porte-parole de Google a déclaré que les personnes faisant l’objet de deepfakes peuvent demander la suppression des pages de la recherche Google qui incluent « de la fausse pornographie involontaire ».

« En outre, nous concevons fondamentalement nos systèmes de classement pour faire apparaître des informations de haute qualité et pour éviter de choquer les gens avec un contenu préjudiciable ou explicite inattendu lorsqu’ils ne le recherchent pas », poursuit le communiqué.

Genevieve Oh, une chercheuse indépendante sur Internet qui a suivi la montée de MrDeepFakes, a déclaré que les téléchargements de vidéos sur le site Web avaient régulièrement augmenté. En février, le site Web a enregistré le plus de téléchargements à ce jour – plus de 1 400.

Noelle Martin, une avocate et avocate d’Australie-Occidentale qui travaille à la sensibilisation aux abus sexuels facilités par la technologie, a déclaré que, sur la base de ses conversations avec d’autres survivants d’abus sexuels, il est de plus en plus courant que des non-célébrités soient victimes de tels actes non consensuels. vidéos.

« De plus en plus de personnes sont ciblées », a déclaré Martin, qui a elle-même été la cible d’abus sexuels profonds. « Nous entendrons en fait beaucoup plus de victimes de cela qui sont des gens ordinaires, des gens ordinaires, qui sont ciblés. »

Les vidéos sur MrDeepFakes ne durent généralement que quelques minutes, agissant comme des bandes-annonces pour des vidéos deepfake beaucoup plus longues, qui sont généralement disponibles à l’achat sur un autre site Web : Fan-Topia. Le site Web se présente sur Instagram comme « la plate-forme de création de contenu pour adultes la mieux rémunérée ».

Lorsque les consommateurs deepfake trouvent des vidéos qu’ils aiment sur MrDeepFakes, cliquer sur les profils des créateurs les amène souvent aux liens Fan-Topia, où ils peuvent payer pour accéder aux bibliothèques de vidéos deepfake avec leurs cartes de crédit. Sur la page de paiement Fan-Topia, les logos Visa et Mastercard apparaissent à côté des champs où les utilisateurs peuvent saisir les informations de carte de crédit. Les achats sont effectués par l’intermédiaire d’un fournisseur de services de paiement sur Internet appelé Verotel, qui est basé aux Pays-Bas et fait de la publicité auprès de ce qu’il appelle des webmasters « à haut risque » exécutant des services pour adultes.

Verotel n’a pas répondu à une demande de commentaire.

Un reçu du site Fan-Topia
Une capture d’écran d’une page de paiement Fan-Topia.Fan-topie

Certains créateurs de deepfakes acceptent les demandes via Discord, une plate-forme de chat. Le créateur de la vidéo la plus regardée de MrDeepFake, selon le compteur de vues du site Web, avait un profil et une salle de discussion sur Discord où les abonnés pouvaient envoyer un message directement pour faire des demandes personnalisées mettant en vedette une « fille personnelle ». Discord a supprimé le serveur pour avoir enfreint ses règles concernant « le contenu ou le comportement qui sexualise ou dégrade sexuellement les autres sans leur consentement apparent » après que Avresco News ait demandé un commentaire.

Le créateur n’a pas répondu à un message envoyé sur Discord.

Les directives communautaires de Discord interdisent « la coordination, la participation ou l’encouragement du harcèlement sexuel », y compris la « sexualisation non désirée ». Avresco News a examiné d’autres communautés Discord consacrées à la création d’images deepfake sexuellement explicites grâce à une méthode de développement d’IA connue sous le nom de Stable Diffusion, dont l’une présentait des images non consensuelles de célébrités et a été fermée après que Avresco News ait demandé des commentaires.

Dans un communiqué, Discord a déclaré qu’il interdisait expressément « la promotion ou le partage de deepfakes non consensuels ».

« Notre équipe de sécurité prend des mesures lorsque nous prenons connaissance de ce contenu, notamment en supprimant du contenu, en interdisant des utilisateurs et en fermant des serveurs », indique le communiqué.

En plus de faire des vidéos, les créateurs de Deepfake vendent également l’accès à des bibliothèques avec des milliers de vidéos pour des frais d’abonnement aussi bas que 5 $ par mois. D’autres sont gratuits.

« Abonnez-vous aujourd’hui et remplissez votre disque dur demain ! la description Fan-Topia d’un créateur de deepfake lit.

Bien que Fan-Topia ne se présente pas explicitement comme un espace pour les créateurs de deepfake, il est devenu l’une des maisons les plus populaires pour eux et leur contenu. La recherche de « deepfakes » et de termes associés au genre sur Fan-Topia a renvoyé plus de 100 comptes de créateurs de deepfakes.

Captures d'écran du site Fan-Topia
Captures d’écran des pages de paiement de Fan-Topia.Fan-topie

Certains de ces créateurs embauchent. Sur les forums MrDeepFake, un babillard où les créateurs et les consommateurs peuvent faire des demandes, poser des questions techniques et parler de la technologie de l’IA, deux créateurs populaires de deepfake font de la publicité pour des postes rémunérés pour les aider à créer du contenu. Les deux listes ont été publiées la semaine dernière et offrent une crypto-monnaie comme moyen de paiement.

Des créateurs de YouTube et de Twitch aux femmes qui jouent dans des franchises à gros budget sont tous couramment présentés dans des vidéos deepfake sur Fan-Topia et MrDeepFakes. Les deux femmes présentées dans le plus grand nombre de contenus sur MrDeepFakes, selon le classement du site Web, sont les actrices Emma Watson et Scarlett Johansson. Ils ont également été présentés dans une campagne publicitaire Facebook sexuellement suggestive pour une application d’échange de visage deepfake qui a fonctionné pendant deux jours avant que Avresco News n’en parle (après la publication de l’article, Meta a supprimé les campagnes publicitaires et l’application qui y était présentée était supprimé de l’App Store d’Apple et de Google Play).

« Ce n’est pas un site porno. C’est un site Web prédateur qui ne repose pas sur le consentement des personnes sur le site Web réel », a déclaré Martin à propos de MrDeepFakes. « Le fait qu’il soit même autorisé à fonctionner et qu’il soit connu est une mise en accusation complète de tous les régulateurs de l’espace, de toutes les forces de l’ordre, de l’ensemble du système, que cela est même autorisé à exister. »

Visa et Mastercard ont déjà réprimé leur utilisation en tant que processeurs de paiement pour les vidéos d’exploitation sexuelle, mais elles restent disponibles pour être utilisées sur Fan-Topia. En décembre 2020, après qu’un éditorial du New York Times ait déclaré que du matériel d’abus sexuels sur des enfants était hébergé sur Pornhub, les sociétés de cartes de crédit ont cessé d’autoriser les transactions sur le site Web. Pornhub a déclaré que l’affirmation qu’il autorisait était « irresponsable et manifestement fausse ». En août, les entreprises ont également suspendu les paiements pour les publicités sur Pornhub. Pornhub interdit les deepfakes de toutes sortes.

Après cette décision, le PDG et président de Visa, Al Kelly, a déclaré dans un communiqué que les règles de Visa « interdisent explicitement et sans équivoque l’utilisation de nos produits pour payer pour du contenu qui représente un comportement sexuel non consensuel ».

Visa et Mastercard n’ont pas répondu aux demandes de commentaires.

D’autres sites Web deepfake ont trouvé différents modèles de profit.

Contrairement à Fan-Topia et à son modèle payant, MrDeepFakes semble générer des revenus grâce aux publicités et s’appuie sur le large public qui a été stimulé par son positionnement dans les résultats de recherche Google.

Créé en 2018, MrDeepFakes a dû faire face à des efforts pour fermer son fonctionnement. Une pétition Change.org pour la supprimer créée par la campagne à but non lucratif #MyImageMyChoice compte plus de 52 000 signatures, ce qui en fait l’une des pétitions les plus populaires sur la plateforme, et elle a été partagée par des influenceurs ciblés sur la plateforme.

Depuis 2018, lorsque la technologie d’échange de visage des consommateurs est entrée sur le marché, les applications et les programmes utilisés pour créer des deepfakes sexuellement explicites sont devenus plus raffinés et répandus. Des dizaines d’applications et de programmes sont gratuits ou offrent des essais gratuits.

« Dans le passé, même il y a quelques années, la manière prédominante dont les gens étaient affectés par ce type d’abus était le partage non consensuel d’images intimes », a déclaré Martin. « Ce n’était même pas des images trafiquées. »

Maintenant, a déclaré Martin, les survivants d’abus sexuels, en ligne et hors ligne, ont été ciblés par des deepfakes. En Australie-Occidentale, Martin a fait campagne avec succès pour interdire les deepfakes non consensuels et les abus sexuels basés sur l’image, mais, a-t-elle déclaré, les forces de l’ordre et les régulateurs sont limités par la juridiction, car les deepfakes peuvent être créés et publiés en ligne de n’importe où dans le monde.

Aux États-Unis, seuls quatre États ont adopté une législation spécifiquement sur les deepfakes. Les victimes sont également désavantagées en raison de la juridiction et parce que certaines lois ne concernent que les élections ou le matériel pédopornographique.

« Le consensus est que nous avons besoin d’une réponse mondiale et collaborative à ces problèmes », a déclaré Martin.


[ad_2]

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*