5 véritables menaces d’IA qui font que The Terminator ressemble à un flic de la maternelle

Ce. Jamais. Échoue. Chaque fois qu’un article d’IA parvient sur les réseaux sociaux, des centaines de personnes invoquent le spectre terrifiant de « SKYNET ».

SKYNET est une intelligence générale artificielle fictive qui est responsable de la création des robots tueurs du Terminateur franchise de cinéma. C’était une vision effrayante de l’avenir de l’IA jusqu’à ce que l’apprentissage en profondeur arrive et que la grande technologie décide de retirer sa ceinture métaphorique et nous donne vraiment de quoi pleurer.

Au moins les gens qui combattent les robots dans Le Terminateur les franchises de films doivent faire face à un méchant qu’elles peuvent voir et sur lesquelles elles peuvent tirer. Dans la vraie vie, vous ne pouvez pas frapper un algorithme.

Et cela rend difficile d’expliquer pourquoi, sur la base de ce qui se passe actuellement, le réel l’avenir pourrait être encore plus effrayant que celui de ces films de robots tueurs.

Heureusement, nous avons des experts tels que Kai Fu Lee et Chen Qiufan, dont le nouveau livre, AI 2041 : Dix visions de notre avenir, tente de prédire ce que les machines feront au cours des deux prochaines décennies. Et, sur la base de cet entretien, il y a de la merde effrayante qui se dirige vers nous.

Selon Lee et Qiufan, les plus grandes menaces auxquelles les humains sont confrontés en matière d’IA impliquent son influence, son manque de responsabilité ou d’explicabilité, son parti pris inhérent et explicite, son utilisation comme matraque contre la vie privée et, oui, les robots tueurs – mais pas le genre auquel vous pensez.

Les Facebook

Si nous voulons donner la priorité à une liste de menaces existentielles pour la race humaine, nous devrions probablement commencer par la pire de toutes : les médias sociaux.

L’existence même de Facebook est un danger pour l’humanité. Il représente une entité commerciale avec plus de pouvoir que l’organe directeur de la nation dans laquelle il est incorporé.

Le gouvernement américain n’a pris aucune mesure significative pour réglementer l’utilisation de l’IA par Facebook. Et, pour cette raison, des milliards d’humains à travers la planète sont exposés chaque jour à des algorithmes de recommandation manifestement nocifs.

L’IA de Facebook a plus d’influence sur l’humanité que toute autre force de l’histoire. Le réseau social a utilisateurs mensuels plus actifs que le christianisme.

Il serait myope de penser à des décennies d’exposition aux réseaux sociaux, malgré des centaines de milliers d’études nous avertissent sur les véritables méfaits, n’aura pas d’impact majeur sur notre espèce.

Que ce soit dans 10, 20 ou 50 ans, la preuve semble indiquer que nous vivrons pour regretter d’avoir tourné notre attention vers une entité mathématique qui est plus bête qu’un escargot.

Les Amazones

La prochaine menace sur notre tour-de-IA-horreurs est le monde fascinant de la technologie anti-vie privée et la dystopie cauchemardesque vers laquelle nous nous dirigeons en tant qu’espèce.

L’Anneau d’Amazon est le rappel parfait que, pour une raison quelconque, l’humanité est profondément investi à se tirer une balle dans le pied à chaque occasion possible.

S’il y a une chose sur laquelle presque toutes les nations libres de la planète sont d’accord, c’est que les êtres humains méritent un minimum d’intimité.

Les caméras de sonnette Ring détruisent cette intimité et donner efficacement à la fois au gouvernement et à une entreprise d’un billion de dollars un point de vue de voisin sur tout ce qui se passe dans chaque quartier du pays.

La seule chose qui empêche Amazon ou le gouvernement américain d’exploiter les données dans les compartiments où toutes ces séquences vidéo Ring sont stockées est leur parole.

Si jamais il devient lucratif d’utiliser nos données ou de les vendre. Ou un changement politique donne au gouvernement américain le pouvoir d’envahir notre vie privée qu’il n’avait pas auparavant, nos données ne sont plus en sécurité.

Mais il n’y a pas qu’Amazon. Nos voitures seront bientôt équipées de caméras connectées au cloud censées surveiller les conducteurs pour des raisons de sécurité. Nous avons déjà des microphones actifs à l’écoute dans tous nos appareils intelligents.

Et nous sommes sur le point de intégration des interfaces cerveau-ordinateur. Le chemin vers les appareils portables qui envoient des données directement de votre cerveau aux serveurs des grandes technologies est pavé de bonnes intentions et d’une IA horrible.

La prochaine génération de technologies de surveillance, d’appareils portables et de compagnons d’IA pourrait éradiquer l’idée de confidentialité personnelle.

Les Google

La différence entre être le premier résultat d’une recherche Google ou se retrouver en bas de la page peut coûtent des millions de dollars aux entreprises. Les moteurs de recherche et les agrégateurs de flux de médias sociaux peuvent tuer une entreprise ou couler une actualité.

Et personne n’a voté pour donner à Google ou aux algorithmes de recherche de toute autre entreprise ce genre de pouvoir, c’est juste arrivé.

Maintenant, Le parti pris de Google est notre parti pris. Le parti pris d’Amazon détermine les produits que nous achetons. Le parti pris de Microsoft et d’Apple détermine les nouvelles que nous lisons.

Nos médecins, politiciens, juges et enseignants utilisent les moteurs de recherche Google, Apple et Microsoft pour mener leurs activités personnelles et professionnelles. Et les préjugés inhérents à chaque produit dictent ce qu’ils font et ne voient pas.

Les flux de médias sociaux déterminent souvent non seulement les articles d’actualité que nous lisons, mais aussi les éditeurs d’actualités auxquels nous sommes exposés. Presque toutes les facettes de la vie moderne sont promulguées d’une manière ou d’une autre via un biais algorithmique.

Dans 20 ans, l’information pourrait devenir si stratifiée que les « faits alternatifs » ne se réfèrent plus à ceux qui divergent de la réalité, mais à ceux qui ne reflètent pas la vérité collective que nos algorithmes ont décidée pour nous.

Blâmer les algorithmes

L’IA n’a pas à faire quoi que ce soit pour nuire aux humains. Tout ce qu’il a à faire est d’exister et de continuer à être déroutant pour le grand public. Tant que les développeurs peuvent s’en tirer faire passer l’IA boîte noire comme moyen d’automatiser la prise de décision humaine, le sectarisme et la discrimination auront un foyer dans lequel s’épanouir.

Il y a certaines situations où nous n’avons pas besoin de l’IA pour s’expliquer.Mais lorsqu’une IA est chargée de prendre une décision subjective, en particulier celle qui affecte les humains, il est important que nous puissions savoir pourquoi elle fait les choix qu’elle fait.

C’est un gros problème quand, par exemple, L’algorithme de YouTube diffuse le contenu pour adultes sur les comptes des enfants parce que les développeurs responsables de la création et de la maintenance de ces algorithmes n’ont aucune idée de pourquoi cela se produit.

Mais que se passe-t-il s’il n’y a pas de meilleure façon d’utiliser l’IA de la boîte noire ? Nous nous sommes peints dans un coin – presque toutes les grandes entreprises technologiques ouvertes au public sont alimentées par une IA de type boîte noire, et presque toutes sont nocives. Mais s’en débarrasser peut s’avérer encore plus difficile que de sortir l’humanité de sa dépendance aux combustibles fossiles – et pour les mêmes raisons.

Au cours des 20 prochaines années, nous pouvons nous attendre à ce que le manque d’explicabilité intrinsèque à l’IA boîte noire soit au centre d’un certain nombre de catastrophes potentielles impliquant l’intelligence artificielle et la perte de vies humaines.

Assassinats

La menace finale et peut-être la moins dangereuse (mais la plus évidente) pour notre espèce dans son ensemble est celle de drones tueurs. Notez que ce n’est pas la même chose que les robots tueurs.

Il y a une raison pour laquelle même l’armée américaine, avec son énorme budget, n’a pas de robots tueurs. Et c’est parce qu’ils sont inutiles quand vous pouvez simplement automatiser un char ou monter un fusil sur un drone.

Le vrai robot tueur La menace est celle des terroristes ayant accès à des algorithmes simples, à des drones simples, à des armes simples et à une technologie avancée de contrôle des essaims de drones.

La meilleure perspective vient peut-être de Lee qui, en une récente interview avec Andy Serwer, mentionné:

Cela change l’avenir de la guerre car, entre pays et pays, cela peut créer des ravages et des dommages, mais peut-être, de manière anonyme et les gens ne savent pas qui a commis l’attaque.

C’est donc aussi assez différent de la course aux armements nucléaires, où [the] la course aux armements nucléaires a au moins une fonction de dissuasion intégrée. Que vous n’attaquez pas quelqu’un par peur de représailles et d’anéantissement.

Mais les armes autonomes pourraient être faisables comme une attaque surprise. Et les gens pourraient même ne pas savoir qui l’a fait. Donc, je pense que c’est, de mon point de vue, le plus grand danger ultime dont je peux faire partie. Et nous devons être prudents et trouver comment l’interdire ou le réglementer.