Des escrocs ont utilisé des visages générés par l’IA pour se faire passer pour un cabinet d’avocats de Boston

Nicole Palmer est une avocate diplômée de l’Université de Columbia. Son profil indique qu’elle “se spécialise dans l’application et la protection des dessins et modèles industriels” et qu’elle “construit sa carrière avec succès depuis 30 ans”.

Le seul problème c’est qu’elle n’existe pas. Et elle m’a aidé à découvrir une opération d’escroquerie en ligne impliquée dans des activités louches, notamment l’extorsion de liens de retour de blogueurs et de propriétaires de sites Web.

J’ai passé une bonne partie de la semaine dernière à enquêter sur Arthur Davidson, le soi-disant « cabinet d’avocats » pour lequel travaille Nicole. Ce que j’ai trouvé était troublant, un témoignage de la façon dont les progrès de la technologie ont permis aux escrocs de créer facilement des tenues d’apparence légitime pour s’attaquer à leurs victimes.

J’espère que mes découvertes aideront les autres à devenir plus conscients et à se protéger contre des escroqueries similaires.

Violation du droit d’auteur DMCA

Le 13 avril, Nicole m’a envoyé un « avis de violation du droit d’auteur DMCA », se présentant comme une « avocate des marques de commerce d’Arthur Davidson Legal Services » et affirmant qu’une image que j’avais utilisée dans TechTalks appartenait à l’un de ses clients.

« Notre client est heureux que son image soit utilisée et partagée sur Internet. Cependant, un crédit d’image approprié est dû pour une utilisation passée ou en cours », a-t-elle écrit.

J’avais sept jours pour ajouter le crédit d’image à la “page incriminée” avec un lien vers la page d’accueil du site Web de son client, a-t-elle ajouté. “Sinon, nous sommes obligés d’engager une action en justice.”

(J’ai intentionnellement masqué le nom et le site Web du client ci-dessus pour des raisons que j’expliquerai bientôt.)

L’e-mail se terminait par des références à l’article 512 (c) du DMCA et une signature professionnelle. Ça avait l’air légitime. La seule chose qui semblait un peu décalée était un lien vers Imgur, un site Web de partage d’images où n’importe qui peut télécharger des images sans même créer de profil. (Il était donc parfaitement possible qu’ils aient téléchargé l’image de mon site Web, l’aient téléchargée sur Imgur, puis aient prétendu que leur image était là avant la mienne.)

Je garde généralement une trace des sources des images que j’utilise sur mon site Web et j’essaie de m’assurer que je n’utilise pas la propriété intellectuelle de quiconque sans autorisation. Mais des erreurs se produisent, et j’étais plus qu’heureux de revérifier ma source et de fournir une attribution au client si je lui avais fait du tort.

Comme je l’avais deviné, l’image provenait de Pexels, une bibliothèque de photos en ligne sans licence. J’ai renvoyé un e-mail à Nicole avec un lien vers l’image et la licence Creative Commons indiquant qu’aucune attribution n’est requise. J’ai demandé des éclaircissements sur la raison pour laquelle elle pensait que l’image appartenait à son client.

Et puis j’ai attendu.

Un site Web décent avec peu de profondeur

N’ayant rien entendu, je suis revenu le lendemain, lui demandant si elle abandonnait l’affaire. À ce stade, je commençais à soupçonner qu’il s’agissait d’une tactique d’intimidation pour me forcer à insérer un lien vers le site Web de son client.

L’une des méthodes pour améliorer la position de votre site dans les pages de résultats des moteurs de recherche est d’avoir des liens vers des sites Web de haute autorité vers vos pages Web. J’ai eu des rencontres précédentes avec des entreprises ou des individus qui avaient essayé de se faufiler des liens dans mon site Web. Mais le faire avec une façade légale était nouveau pour moi.

J’ai décidé de regarder de plus près le site Web d’Arthur Davidson Legal Services. De toute évidence, celui qui avait créé le site Web avait fait du bon travail. Premièrement, le nom de domaine (arthurdavidson.com) a été bien choisi, suggérant que le site Web et l’entreprise existent depuis longtemps, peut-être depuis les premiers jours des dot-com.

Selon le site Web, Arthur Davidson travaille depuis 2009, a été impliqué dans 420 cas et a obtenu 380 victoires (taux de réussite d’environ 90%).

Le site Web répertorie également un numéro de téléphone de Boston et une adresse au 177 Huntington Ave, un bâtiment qui abrite plusieurs autres cabinets d’avocats.

Le site Web a un blog avec plusieurs articles, dont un qui dit commodément que la violation du droit d’auteur peut entraîner une amende de 10 000 $.

La page à propos présente les profils de 18 avocats, diplômés de Northeastern, Brown, Princeton, Harvard et d’autres universités renommées. Mais contrairement à d’autres sites Web professionnels, aucun des avocats ne répertorie son profil LinkedIn sur le site Web.

Un domaine parqué

Une enquête plus approfondie a révélé de nombreux autres drapeaux rouges. Tout d’abord, j’ai recherché l’enregistrement du domaine sur le site Web de l’ICANN (Internet Corporation for Assigned Names and Numbers). Apparemment, Arthur Davidson travaillait depuis 13 ans mais vient de décider de créer son domaine en février 2022.

Et puis j’ai recherché l’enregistrement du site Web sur la Wayback Machine (archive.org). Apparemment, le domaine avait été garé entre 2005 et 2022.

(Pour être juste, il pourrait y avoir une explication logique à cela : le cabinet d’avocats a peut-être utilisé un autre nom de domaine et a récemment acheté arthurdavidson.com à son ancien propriétaire.)

Et puis j’ai recherché le nom de l’entreprise sur Google et j’ai consulté la section des actualités. Logiquement, un cabinet qui abrite tant d’avocats de renom et qui prétend avoir remporté des procès de « plusieurs millions de dollars » au nom de ses clients aurait dû au moins être mentionné dans les nouvelles à quelques reprises.

Aucun résultat.

Visages du GAN

Presque sûr qu’il s’agissait d’une arnaque, j’ai regardé de plus près la page “À propos de nous”. Les photos des avocats semblaient un peu déplacées. J’ai ouvert la photo de Nicole en taille réelle sur un onglet séparé.

Ce que j’ai vu était une image créée par un réseau contradictoire génératifun modèle d’apprentissage en profondeur qui peut être formé pour créer des visages, de l’art ou toute autre chose.

Les GAN ont parcouru un long chemin depuis leur invention en 2014. Aujourd’hui, ils produisent une résolution plus élevée et des images plus naturelles que leurs versions précédentes. Il existe un site qui s’appelle Cette personne n’existe pas qui génère des visages GAN. Certains d’entre eux sont étrangement convaincants.

Mais les GAN créent toujours des artefacts non naturels qui peuvent être facilement détectés si vous êtes familier avec la technologie. Vous pouvez facilement repérer des irrégularités dans des endroits tels que les boucles d’oreilles, les nuances sur le côté du visage, le bord des cheveux et de la barbe, les rides, les bordures des sourcils et les côtés des lunettes.

Avec des preuves claires qu’il s’agissait bien d’une opération d’escroquerie, j’ai décidé d’enquêter sur Arthur Davidson et de rapporter mes découvertes. J’ai contacté le client au nom duquel Nicole m’avait contacté le 16 avril, lui demandant de clarifier sa relation avec Arthur Davidson. Le 18 avril, un agent de soutien a répondu qu’il n’avait aucun lien avec le cabinet d’avocats.

Peu de temps après, le site Web d’Arthur Davidson a été fermé. (Vous pouvez toujours en voir une version sur le Machine de retour.)

Même si je soupçonne que le client était en fait en contact avec le soi-disant cabinet d’avocats, puisque je n’ai aucune preuve concrète, j’ai décidé de ne pas les mentionner.

Réflexions finales
Je soupçonne qu’Arthur Davidson était dirigé par une équipe SEO grise. Pour l’instant, ils sont à terre. Mais je suis sûr qu’ils apparaîtront bientôt sous un nom différent. Avec le recul, ce qu’ils ont fait n’était pas très difficile. Tout ce dont ils avaient besoin était une copie Web pour les cabinets d’avocats (facile à obtenir sur le Web et à reformuler), quelques modèles d’e-mails DCMA (disponibles gratuitement), quelques visages générés par GAN (il existe un site Web pour cela), des connaissances en conception Web , et un peu d’argent pour acheter un numéro de téléphone et un domaine. Et ils utilisaient une tactique d’ingénierie sociale pour provoquer un sentiment d’urgence (délai de sept jours, action en justice, etc.) chez leurs victimes pour qu’elles agissent sans réfléchir.

J’espère que ces résultats aideront d’autres propriétaires de sites Web à éviter d’être victimes d’escroqueries similaires. Tous les outils que j’ai utilisés pour enquêter sur Arthur Davidson sont gratuits et faciles à utiliser et vous pouvez le faire vous-même. Ne pas paniquer. Faites vos recherches et tout ira bien.

Une note sur l’anonymat : je n’ai aucun problème avec les personnes qui souhaitent cacher leur identité en ligne. Il existe des dizaines de raisons légitimes de le faire, mais arnaquer d’autres personnes n’en fait pas partie.

Quant aux entreprises qui envisagent d’utiliser les services de tels escrocs, mon conseil est le suivant : ne le faites pas. La personne suivante pourrait ne pas être aussi indulgente que moi. D’après ma propre expérience, il n’y a pas de raccourci pour gagner en autorité sur Internet. Créez un excellent contenu, développez votre réseau et trouvez des moyens légitimes de distribuer votre contenu, et les gens vous donneront des backlinks. Les raccourcis louches pourraient finir par faire plus de dégâts que de bien à votre site Web et à votre entreprise.

Cet article a été écrit à l’origine par Ben Dickson et publié par Ben Dickson sur TechTalks, une publication qui examine les tendances technologiques, leur impact sur notre façon de vivre et de faire des affaires, et les problèmes qu’elles résolvent. Mais nous discutons également du côté pervers de la technologie, des implications les plus sombres des nouvelles technologies et de ce que nous devons surveiller. Vous pouvez lire l’article original ici.