Un nouveau système d’intelligence artificielle génère de faux documents pour tromper les adversaires –

La technique du «piège canari» dans l’espionnage répand de multiples versions de faux documents pour dissimuler un secret. Les pièges Canary peuvent être utilisés pour détecter les fuites d’informations ou, comme dans la Seconde Guerre mondiale, pour créer des distractions qui cachent des informations précieuses.

WE-FORGE, un nouveau système de protection des données conçu au département d’informatique de Dartmouth, utilise l’intelligence artificielle pour s’appuyer sur le concept du piège canari. Le système crée automatiquement de faux documents pour protéger la propriété intellectuelle comme la conception de médicaments et la technologie militaire.

“Le système produit des documents suffisamment similaires à l’original pour être plausibles, mais suffisamment différents pour être incorrects”, a déclaré VS Subrahmanian, professeur émérite en cybersécurité, technologie et société, et directeur de l’Institut pour la sécurité, la technologie et Société.

Les experts en cybersécurité utilisent déjà des pièges à canaris, des «fichiers de miel» et des traducteurs de langues étrangères pour créer des leurres qui trompent les attaquants potentiels. WE-FORGE améliore ces techniques en utilisant le traitement du langage naturel pour générer automatiquement plusieurs faux fichiers qui sont à la fois crédibles et incorrects. Le système insère également un élément de caractère aléatoire pour empêcher les adversaires d’identifier facilement le document réel.

WE-FORGE peut être utilisé pour créer de nombreuses fausses versions de tout document de conception technique. Lorsque des adversaires piratent un système, ils sont confrontés à la tâche ardue de déterminer lequel des nombreux documents similaires est réel.

“En utilisant cette technique, nous forçons un adversaire à perdre du temps et des efforts pour identifier le bon document. Même s’ils le font, ils peuvent ne pas être sûrs d’avoir bien fait”, a déclaré Subrahmanian.

La création de faux documents techniques n’est pas moins intimidante. Selon l’équipe de recherche, un seul brevet peut inclure plus de 1 000 concepts avec jusqu’à 20 remplacements possibles. WE-FORGE peut finir par envisager des millions de possibilités pour tous les concepts qui pourraient devoir être remplacés dans un seul document technique.

«Des acteurs malveillants volent la propriété intellectuelle en ce moment et s’en tirent gratuitement», a déclaré Subrahmanian. “Ce système augmente le coût que les voleurs encourent lorsqu’ils volent des secrets gouvernementaux ou industriels.”

L’algorithme WE-FORGE fonctionne en calculant les similitudes entre les concepts d’un document, puis en analysant la pertinence de chaque mot pour le document. Le système trie ensuite les concepts en «bacs» et calcule le candidat réalisable pour chaque groupe.

“WE-FORGE peut également recueillir les contributions de l’auteur du document original”, a déclaré Dongkai Chen, un étudiant diplômé à Dartmouth qui a travaillé sur le projet. “La combinaison de l’ingéniosité humaine et de la machine peut augmenter encore plus les coûts des voleurs de propriété intellectuelle.”

Dans le cadre de la recherche, l’équipe a falsifié une série de brevets en informatique et en chimie et a demandé à un panel de sujets bien informés de décider lesquels des documents étaient réels.

Selon la recherche, publiée dans Transactions ACM sur les systèmes d’information de gestion, le système WE-FORGE était capable de «générer de manière cohérente de faux documents hautement crédibles pour chaque tâche».

Contrairement à d’autres outils, WE-FORGE se spécialise dans la falsification d’informations techniques plutôt que dans la simple dissimulation d’informations simples, telles que les mots de passe.

WE-FORGE améliore une version antérieure du système – connue sous le nom de FORGE – en supprimant le besoin chronophage de créer des guides de concepts associés à des technologies spécifiques. WE-FORGE assure également une plus grande diversité parmi les contrefaçons, et suit une technique améliorée pour sélectionner les concepts à remplacer et leurs remplacements.

Almas Abdibayev, Deepti Poluru Guarini et Haipeng Chen ont tous contribué à cette recherche au sein du département d’informatique de Dartmouth.

Source de l’histoire:

Matériaux fourni par Collège Dartmouth. Original écrit par David Hirsch. Remarque: le contenu peut être modifié pour le style et la longueur.