Suite au succès phénoménal de quelques algorithmes génératifs, l’année 2023 devrait être l’année des révélations mensongères, contre-vérités et emballements journalistiques sur le sujet de l’intelligence artificielle. Un des traitements les plus alléchants concernant évidemment “la méchante IA qui veut du mal aux humains”.
La science-fiction aborde cette thématique de la méchante machine avec 3 prismes différents :
- Les machines qui nous veulent du mal parce qu’on les a programmé pour ça
- Les machines qui nous veulent du mal à cause de leur conscience quasi-humaine. On y trouve notamment Frankenstein, initiateur de tous les cyborgs, robots et IA qui se prennent pour des humains.
- Les machines qui nous veulent du mal pour les autres raisons
Pour cause de place, ce numéro de NovFut s’intéressera à la première catégorie mais je vous promets d’autres NovFut sur ce sujet (alors abonnez-vous !). Car la science fiction n’a pas attendu 2023 pour se poser de (bonnes) questions.
Bonne lecture.
Les machines qui font (simplement) leur travail
Soyons honnêtes : la première cause de mortalité dues aux machines dans les œuvres de fiction, c’est parce qu’on les a conçues et programmées pour ça. Et le robot de combat (militaire, policier, garde du corps) en est l’illustration immédiate, la science-fiction le considérant comme un élément de crédibilisation de toute atmosphère cyberpunk, hard-scientifique ou même space-opéra.
En y réfléchissant, le premier robot à m’avoir foutu la trouille était d’ailleurs Maximilian dans le magnifique Le trou noir (Gary Nelson,1979). Ce robot garde du corps écarlate, aux lames circulaires mortelles incarne encore aujourd’hui pour moi le pire de ce que la technologie peut fournir : une arme irrépressible, surpuissante, sans compassion, programmée pour tuer.
Dans la Science-Fiction des années 70-80, les robots-policiers sont la norme. Dans l’Incal (Moebius, Jodorowsky, 1980) des policiers mécaniques (Roboflics) sauvent John Difool d’un mort certaine, en parodiant les flics blasés américains. On les retrouve en tant que Polibots dans Leo Roa (du regretté Juan Gimenez, 1988), ou sous une autre forme dans Exterminateur 17 de (Bilal, Dionnet, 1976), où robots militaires, ils deviennent une arme de domination impitoyable et sans scrupule pour des autocraties qui le sont tout autant.
L’un des robots policier les plus marquant des années 80 est d’ailleurs ED-209, qui dans Robocop (Paul Verhoeven, 1987), nous fait une illustration parfaite du problème de base d’un robot armé : son incapacité à mettre la vie humaine au dessus de sa programmation.
Alors qu’il est vrai qu’un vrai humain ne mettrait évidemment jamais la vie d’un civil en danger (à part peut-être le gars en costard cravate qui créé des robots armés)…
Death Machine (Stephen Norrington, 1994) raconte comme Jack Dante, un nerd qui s’est fait virer d’une corporation travaillant sur des robots militaires, se venge en lâchant dans les locaux un robot géant programmer pour tuer en fonction de la peur du sujet. Voilà qui devrait normalement encourager les chercheurs à travailler plutôt sur des simulations d’IA d’escargots.
En 2013, le talentueux Neill Blomkamp remet au goût du jour des robots policiers extremement crédibles dans Chappie (2015) et Elysium (2013). Deux films qui illustrent une technologie au service des riches et des puissants uniquement. Le techno-solutionnisme ne serait donc applicable que pour les riches ? Je vous laisse méditer là-dessus.
Les jeux vidéo aussi utilisent ce lieu commun. Comme dans la série post-apocalyptique Fallout (1997 à 2018) où les robots de sécurité Protectrons, et Mister Gutsy (très Matrixiens), les robots militaires Sentry Bot et le Liberty Prime infestent les différents épisodes. Idem dans les Halo où les Sentinels et Super Sentinels sont des cibles de choix.
Car Le jeu vidéo aime les robots de combat que l’on peut dessouder sans crainte de se faire haper par les fourches caudines de la censure.
Les machines qui font leur travail longtemps après
Une autre façon pour la science-fiction d’aborder le sujet des robots-militaires est de raconter les conséquences de leur utilisation souvent incontrôlable. Ainsi, très souvent dans des futurs post-apocalyptiques, des survivants retrouvent des restes de ces robots-armes de destructions massives, les réactivent et … Alors il se passe des chose.
C’est l’un des thèmes de prédilection du magazine anglais 2000 AD (Judge Dread, Robot Hunter, …) qui dans les années 80 publie de nombreuses séries où des armes de guerre oubliées vont se réveiller pour, au choix, tenter d’exterminer la population humaine ou devenir plus intelligentes que les humains (et les exterminer).
Dans le mésestimé et très rock, Hardware (Richard Stanley, 1990), la tête d’un robot militaire datant de la dernière guerre atomique se réactive au sein d’un appartement d’une artiste et va évidemment réactiver sa programmation. La suite sera un jeu du chat et de la souris dans l’appartement de la dame qui ne se laissera pas faire.
On retrouve la même idée dans un style beaucoup plus poétique mais non moins impactant avec Nausicäa, l’un des chefs d’œuvre de Miyazaki, où dans un futur post-apocalyptique, des humains assoiffés de puissance réactivent un gigantesque robot géant, pourtant responsable de l’effondrement de la civilisation, pour dominer la planète. Ils le font pour de très bonnes raisons : avant que les ennemis ne le fassent à leur place.
Les machines qui font trop bien leur travail
A force de leur donner la capacité d’évoluer ou de s’auto-programmer, les machines s’améliorent jusqu’à dépasser leur programmation et devenir bien trop efficace.
Dans la nouvelle Nouveau Modèle (Second Variety, 1953), Philip K. Dick imagine une terre post-apocalyptique où des robots autonomes chargés de tuer les russes évoluent et prennent l’apparence humaine pour exterminer l’humanité. La nouvelle sera adaptée avec Planète hurlante (Screamers, Christian Duguay, 1995) où des militaires vont être envoyés sur une planète face à des robots évolutifs qui n’ont qu’une seule programmation : tuer les humains.
Qui dit auto-évolution dit intelligence artificielle. Et l’on arrive à toute une série d’œuvres de SF racontant comment des IA militaires se retrouvent – par erreur ou non – dans le domaine public.
On peut évoquer l’oubliable Evolver (Mark Rosman, 1995), film un peu ridicule, voir gênant, où un robot de jeu de tir (type lasergame) a été programmé à partir d’une IA militaire.
Exactement la même idée pour le beaucoup plus réussi Small Soldiers (Joe Dante, 1998) où une puce d’intelligence artificielle est placée dans des jouets robotiques. Les figurines militaires patriotiques du Commando Elite vont donc s’équiper en véritables armes pour détruire les figurines des soit-disant méchants Gorgonites qui sont en réalité pacifistes. Un film qui n’a pas bien marché aux États-Unis, peut-être parce qu’il mettait un peu trop en évidence la part du manichéisme dans la communication de guerre (et que les méchants ressemblaient à des GI).
Dans Class of 1990 (Mark L. Lester, 1990), ce sont 3 anciens robots militaires qui sont reprogrammés pour devenir profs dans une école remplie de gangs de jeunes. Forcément, ça va mal se passer…
Les machines virtuelles qui nous veulent du mal
Souvent ce sont de purs logiciels d’Intelligence Artificielle vivant dans la cyber-matrice de l’internet qui deviennent méchants en évoluant par elles-mêmes. On pourrait croire qu’elles voudraient faire un gâteau ou aller sur la lune, mais non, ces IA veulent éradiquer les humains.
Dans Tron (Steven Lisberger, 1982), le MCP (Master Control Program) est une intelligence artificielle issue d’un jeu d’échec. Cette IA veut prendre le pouvoir sur les programmes en éradiquant la notion même de l’existence des programmeurs (oui, un peu comme du NoCode généré par ChatGPT). Heureusement, Flynn, un programmeur de génie, va aider Tron, un programme intelligent à le combattre.
Parfois à Hollywood ils dépensent des sommes folles pour recruter des stars et faire des films nuls. C’est le cas du ridicule Programmé pour tuer (Virtuosity, Brett Leonard, 1995) où Russel Crowe incarne une intelligence artificielle nommée SID (Sadique, Intelligent, Dangereux), qui est la somme ds pires terroristes et tueurs en série de l’histoire (mais quelle idée débile). Denzel Washington va devoir mettre en œuvre ses compétences physiques et mentales pour démontrer que l’humain est plus fort que la machine, tout ça plongé dans un environnement de réalité virtuelle mélangé à des nanomachines parce qu’il faut bien que le spectateur en ait pour son argent.
Le seul intérêt du film est qu’il permet d’illustrer cette maxime : « si il existe une chance de faire n’importe quoi avec une technologie, il y aura forcément un crétin pour le faire« . Maxime valable à la fois pour l’IA à base de serial killers mais aussi pour ce film débile qui multiplie des sfx datés.
Conclusion : on n’aura que ce qu’on mérite
En 2015, dans une lettre ouverte, des scientifiques et intellectuels, dont Stephen Hawking et Noam Chomsky, demandent l’interdiction « des armes autonomes offensives sans contrôle significatif d’un être humain« .
En 2020 : un rapport alarmant de l’ONG Human Rights Watch (la campagne Stop Killer Robots) demande l’interdiction des robots tueurs, des armes capables de prises de décisions autonomes, notamment l’élimination d’une cible humaine. Je vous conseille ce petit reportage d’Arte d’époque Les robots tueurs, armes de précision redoutables toujours d’actualité.
Ce qui a changé depuis 2020, ce sont les campagnes d’accoutumance que l’on voit poindre ça et là. Des articles qui semblent être neutres et réfléchis mais qui en réalité banalisent l’utilisation des robots autonomes dans un cadre de sécurité. Un exemple sur la robotisation de la police (Are Police Robots the Future of Law Enforcement?) qui fait du robot policier une technologie comme les autres avec ses avantages et ses défauts.
Car le problème, on le sait, n’est pas la technologie (IA ou robotique), mais ceux qui s’en servent. En France, il peut y avoir bavure sans avoir de robot. Vous imaginez avec ? Des machines qui appliqueraient implacablement, au mot près, ce qu’un dirigeant dirait. Ca fait froid dans le dos.
Et c’est pourtant vers là que se dirigent beaucoup d’autocraties, ravies de pouvoir posséder des forces armées qui ne risquent pas de se rebeller. Chine, Emirates, Inde, et même Etats-Unis se battent pour être les premiers sur la photo à côté de policiers robots.
Évidemment, ce sont des robots sympathiques conçus pour ne surtout pas ressembler aux robots des films de SF. Gageons que d’ici quelques années, leur apparence changera. A ce moment ce sera peut-être trop tard…
C’est en tous les cas ce que nous raconte la science-fiction.
Cyroul
Le mois de février en Science-Fiction
A lire
- chez Belial, Eversion de Alastair Reynolds. J’ai très envie de le lire.
- Un recueil inédit de Ursula K. Le Guin, Unlocking the air, chez ActuSF
A voir
- Arte nous propose un entretien avec le courageux auteur Dmitry Glukhovsky (dont j’ai déjà parlé) à propos de la menace nucléaire russe.
- Presque de la SF. Le cycle Utopie.s sur France TV nous raconte à travers 6 documentaires des utopistes du réel. Ca vous redonnera la banane.
- La meilleure explication de l’algo de diffusion de Midjourney et des autres IA qui font l’actualité par David Louapre de Science étonnante. Du bien bon travail qui permet de bien comprendre la techno. qui va changer beaucoup de choses.
Et enfin, le truc du mois qui m’a fait plaisir ce mois-ci
C’est une (vieille) photo du cratère Victoria prise par le rover Opportunity de la NASA. Je la trouve imposante et magnifique. Photo envoyée par le SETI. Credit Image:@NASA @NASAJPL @Caltech @JPMajor (ils en peuvent plus des copyright).
Voilà, le NovFut pour février est terminé. N’hésitez pas à vous abonner, à abonner vos amis ou à me rajouter sur Mastodon, Twitter ou autre. Et nous, on se retrouve le mois prochain, pour nouveau numéro de NovFut. Et n’oubliez pas de lire de la SF pour penser le futur !
2 thoughts on “Ces machines programmées pour nous faire du mal [NovFut #15]”