La pente glissante de l’utilisation de l’IA et des deepfakes pour donner vie à l’histoire


  • FrançaisFrançais


  •  


    Pour marquer le Memorial Day d’Israël en 2021, les ensembles musicaux des Forces de défense israéliennes ont collaboré avec une société spécialisée dans les vidéos synthétiques, également connues sous le nom de technologie « deepfake », pour donner vie à des photos de la guerre israélo-arabe de 1948.

    Ils ont produit une vidéo dans lequel de jeunes chanteurs vêtus d’uniformes de l’époque et portant des armes d’époque ont chanté « Hareut », une chanson emblématique commémorant les soldats tués au combat. Pendant qu’ils chantent, les musiciens regardent fané noir et blanc photographies qu’ils détiennent. Les jeunes soldats des vieilles images clignent des yeux et leur sourient grâce à l’intelligence artificielle.

    Le résultat est troublant. Le passé prend vie, A la manière d’Harry Potter.

    Depuis quelques années, mes collègues et moi à Centre d’éthique appliquée de UMass Boston ont étudié comment engagement quotidien avec l’IA remet en question la façon dont les gens pensent d’eux-mêmes et de la politique. Nous avons découvert que l’IA a le potentiel d’affaiblir capacité de porter des jugements ordinaires. Nous avons également constaté qu’il sape le rôle de la sérendipité dans leur vie et peut les conduire à remettre en question ce qu’ils savent ou pensent des droits de l’homme.

    Désormais, l’IA facilite plus que jamais la réanimation du passé. Cela changera-t-il notre compréhension de l’histoire et, par conséquent, nous-mêmes ?

    Faible risque financier, coût moral élevé

    Le désir de faire revivre le passé de manière vivante n’est pas nouveau. Les reconstitutions de guerre civile ou de guerre révolutionnaire sont monnaie courante. En 2018, Peter Jackson a minutieusement restauré et colorisé des images de la Première Guerre mondiale pour créer «Ils ne vieilliront pas», un film qui a permis aux spectateurs du XXIe siècle de vivre la Grande Guerre plus immédiatement que jamais auparavant.

    Les reconstitutions en direct et les séquences historiques soigneusement traitées sont des entreprises coûteuses et chronophages. La technologie Deepfake démocratise ces efforts, offrant un outil bon marché et largement disponible pour animer de vieilles photos ou créer de fausses vidéos convaincantes à partir de zéro.

    Mais comme pour toutes les nouvelles technologies, à côté des possibilités passionnantes se posent de sérieuses questions morales. Et les questions deviennent encore plus délicates lorsque ces nouveaux outils sont utilisés pour améliorer la compréhension du passé et réanimer des épisodes historiques.

    L’écrivain et homme d’État du XVIIIe siècle Edmund Burke célèbre argumenté que la société est un « partenariat non seulement entre ceux qui vivent, mais entre ceux qui vivent, ceux qui sont morts et ceux qui doivent naître ». L’identité politique, selon lui, n’est pas simplement ce que les gens en font. Ce n’est pas simplement un produit de notre propre fabrication. Au contraire, faire partie d’une communauté, c’est faire partie d’un pacte entre les générations – une partie d’une entreprise commune reliant les vivants, les morts et ceux qui vivront dans le futur.

    Si Burke a raison de comprendre l’appartenance politique de cette façon, la technologie deepfake offre un moyen puissant de connecter les gens au passé, de forger ce contrat intergénérationnel. En donnant vie au passé de manière vivante et convaincante, la technologie anime le passé «mort» et le rend plus vivant et plus vivant. Si ces images stimulent l’empathie et l’inquiétude pour les ancêtres, les deepfakes peuvent rendre le passé beaucoup plus important.

    Mais cette capacité comporte des risques. Un danger évident est la création de faux épisodes historiques. Des événements imaginaires, mythifiés et faux peuvent précipiter des guerres : une défaite historique du XIVe siècle lors de la bataille du Kosovo enflamme toujours les sentiments antimusulmans serbes, même si personne ne sait si la coalition serbe perdait réellement cette bataille contre les Ottomans.

    De même, la deuxième attaque du golfe du Tonkin contre des navires de guerre américains le 4 août 1964 a été utilisée pour intensifier l’implication américaine au Vietnam. Il s’est avéré plus tard que l’attaque n’est jamais arrivé.

    Une atrophie de l’imaginaire

    Auparavant, il était difficile et coûteux d’organiser de faux événements. Plus maintenant.

    Imaginez, par exemple, ce que des images deepfake stratégiquement trafiquées des événements du 6 janvier aux États-Unis pourraient faire pour enflammer les tensions politiques ou quelle fausse vidéo d’une réunion des Centers for Disease Control and Prevention semblant dénigrer les vaccins COVID-19 ferait au public efforts de santé.

    Le résultat, bien sûr, est que les deepfakes peuvent progressivement déstabiliser l’idée même d’un “événement” historique. Peut-être qu’avec le temps, à mesure que cette technologie progresse et devient omniprésente, les gens se demanderont automatiquement si ce qu’ils voient est réel.

    Que cela conduira à plus d’instabilité politique ou – paradoxalement, à plus de stabilité en raison de l’hésitation à agir sur la base de ce qui sont peut-être des événements fabriqués – est ouvert à la question.

    Mais au-delà des inquiétudes sur la fabrication en masse de l’histoire, il y a des conséquences plus subtiles qui m’inquiètent.

    Oui, les deepfakes nous permettent de vivre le passé comme plus vivant et, par conséquent, peuvent augmenter notre sens de l’engagement envers l’histoire. Mais cette utilisation de la technologie comporte-t-elle le risque d’atrophier notre imagination – en nous fournissant des images toutes faites et limitées du passé qui serviront d’associations standard pour les événements historiques ? Un effort d’imagination peut rendre les horreurs de la Seconde Guerre mondiale, le tremblement de terre de 1906 à San Francisco ou la Conférence de paix de Paris de 1919 dans des variations infinies.

    Mais les gens continueront-ils à exercer leur imagination de cette façon ? Ou les deepfakes, avec leurs représentations réalistes et émouvantes, deviendront-ils les remplaçants pratiques de l’histoire ? Je crains que les versions animées du passé puissent donner aux téléspectateurs l’impression qu’ils savent exactement ce qui s’est passé – que le passé leur est pleinement présent – ​​ce qui évitera alors le besoin d’en savoir plus sur l’événement historique.

    Les gens ont tendance à penser que la technologie rend la vie plus facile. Mais ils ne se rendent pas compte que leurs outils technologiques refaçonnent toujours les outilleurs – provoquant la détérioration des compétences existantes alors même qu’ils ouvrent des possibilités inimaginables et passionnantes.

    L’avènement des smartphones a permis de publier facilement des photos en ligne. Mais cela veut aussi dire que certaines personnes n’ont plus de vues à couper le souffle comme avant, car ils sont tellement obsédés par la capture d’un moment « instagrammable ». La perte n’est pas non plus vécue de la même manière depuis l’omniprésence du GPS. De même, les deepfakes générés par l’IA ne sont pas seulement des outils qui amélioreront automatiquement notre compréhension du passé.

    Néanmoins, cette technologie va bientôt révolutionner le lien de la société avec l’histoire, pour le meilleur et pour le pire.

    Les gens ont toujours été meilleurs pour inventer des choses que pour penser à ce que les choses qu’ils inventent leur font – “toujours plus adroits avec les objets que les vies”, comme le dit le poète WH Auden. Cette incapacité à imaginer les dessous des prouesses techniques n’est pas le destin. Il est encore possible de ralentir et de réfléchir à la meilleure façon de vivre le passé.

    Cet article de Nir Eisikovits, professeur agrégé de philosophie et directeur, Centre d’éthique appliquée, Université du Massachusetts Boston est réédité à partir de La conversation sous licence Creative Commons. Lis le article original.

    Source

    N'oubliez pas de voter pour cet article !
    1 Star2 Stars3 Stars4 Stars5 Stars (No Ratings Yet)
    Loading...

    La Rédaction

    L'équipe rédactionnnelle du site

    Pour contacter personnellement le taulier :

    Laisser un commentaire

    Votre adresse e-mail ne sera pas publiée.