Robot-tueurs [2018] d’Eric Martel

La forme

Publié en octobre 2018, le court livre d’Éric Martel est une introduction intéressante sur le thème des robots-tueurs, déjà actuel, qui sera de plus en plus important dans un avenir proche, et qui intéresse tout un chacun. Sans doute même plus que ne le dit encore l’auteur puisque, quel que soit l’aspect non-désirable que peut prendre la société technologique, nul ne peut plus sortir de l’Histoire sans connaître le même sort funeste que les Indiens des Amériques, les Africains ou les Océaniens dans les siècles passés, y compris sur ses propres terres, ce qui contraint même les survivalistes à ne pas pouvoir se tenir en retrait du monde.

Comme tout bon ouvrage, son organisation est rationnelle avec 11 chapitres et une conclusion, logiquement agencés, commençant par l’histoire de la robotisation de la guerre (chap. 1-3), un catalogue (que je suppose non-exhaustif) de l’existant (chapitre 4, frappé le plus évidemment d’obsolescence très rapide), puis des perspectives philosophiques (chap. 5-7) et tactiques (chap. 8-11) qui aiguisent tout l’intérêt du lecteur. Et comme tout ouvrage de vulgarisation, il laisse un peu sur sa faim. J’ajoute qu’un cahier central reprend des photos en couleur de machines évoquées dans les différents chapitres, dont le choix n’est pas forcément toujours des plus judicieux, puisque des cartes géopolitiques, des schémas tactiques ou des explications sur le fonctionnement des machines, auraient été parfois plus utiles que la seule apparence de certaines de celles-ci.

Au titre des défauts du livre notons quelques redites1, qui relèvent d’un petit effort de lissage entre chapitres qui n’ont pas dû être écrits dans la continuité. On note aussi que les notions les plus importantes du chapitre 5 ont été mises en gras, unique chapitre où cela est fait, rompant un peu l’unité du livre. Bref, des petites négligences éditoriales mais rien de bien grave.

Le fond

Étant un ignorant complet sur le sujet, je ne saurais rien dire sur la teneur des premiers chapitres, sinon qu’ils sont stimulants. J’ai noté avec intérêt la distinction politique établie entre la cybernétique, vite investie par les soviétiques et qui fut rapidement estampillée comme science “communiste”, et l’intelligence artificielle du monde capitaliste, dans la dichotomie politique qui traversa la deuxième moitié du XXe siècle. Dans l’un et l’autre cas, j’aurais aimé avoir de temps en temps plus de détails et de schéma, au risque de devenir plus technique – mais qui peut le plus peu le moins, n’est-ce pas ? – et un peu plus de notions, mais soit.

Éric Martel montre au fil des pages, et de manière assez convaincante, que la notion de robot est bien plus large que la machine anthropomorphe imaginable un peu naïvement, et que ces technologies du début du XXIème siècle fonctionnent de manière complémentaire avec des technologies de la moitié du XXe siècle, notamment pour les bombes. Néanmoins deux aspects m’ont frustré. D’une part, les considérations sur les sources d’énergie qui permettent d’alimenter ces robots tant sur le pan des composants des batteries – et qui éclairent quelques enjeux internationaux, par exemple en Afrique riche en métaux rares –, que sur l’autonomie et la fiabilité de ces batteries qui donneraient quelques indications sur la vulnérabilité de ces machines. Quiconque possède un smartphone dernier cri à 1000 € si puissant que la batterie tient peu, sait combien tout cela devient vite un boitier inutile… D’autre part, la notion de dispositif global permettant de faire fonctionner ces robots : M. Martel prend un certain soin à discuter la complémentarité homme-machine ou le remplacement total des premiers lorsque les machines sont capables de prendre elles-mêmes des décisions et de changer leur plan de mission en fonction des données récoltées au cours de celle-ci, mais il néglige parfois de prendre en considération l’ensemble des autres machines qui permettent en amont au(x) robot(s), de mener cette mission, notamment les caméras de surveillance, les satellites ou les radars qui lui donnent des informations sur son environnement, etc. Dans ce que nous présente l’auteur, souvent, seuls les essaims sont reliés à leur vaisseau-mère ou les missiles à leur drone, mais cela est une petite partie d’un grand tout stratégique. De même ses considérations sur la doctrine militaire sont beaucoup trop sommaires. Pourtant il rappelle à plusieurs reprise l’échec de la stratégie technologique américaine face aux Vietnamiens qui avaient appris à tromper les capteurs de mouvement et de bruit de l’opération Igloo White2, ou comment les Serbes ont trompé les Casques Bleus sur le nombre de chars détruits.3

Plus fouillée, et plus convaincante, est la question de la cohabitation des hommes et des machines. Là encore, le grincheux pourra regretter que cette réflexion n’ait pas été encastrée dans une réflexion plus large sur les places de l’homme et de la machine dans la société, et notamment dans les rapports de travail pour les individus de moins en moins nombreux qui restent affectés à des tâches non-remplaçables par des machines. Cette perspective permettrait de montrer que la guerre s’est en partie déplacée, qu’elle ne se situe plus tant entre groupes sociaux distincts mais au sein-même des nations divisées en territoires de plus en plus fermés, centres-ville bourgeois d’où les humains pucés4, transhumains puis posthumains de demain, cette nouvelle hyperclasse sociale, qui sera sans doute tentée de se débarrasser des simples hommes devenus surnuméraires et qui vivent dans les quartiers périphériques ou dans les campagnes. Autrement dit, le chapitre 6 sur la déshumanisation de l’homme dans la guerre et le chapitre 7 sur la robotisation du combattant, eurent pu être replacés dans un contexte plus global qui dépasse les cas de guerres entre nations, déclarées, réglées par la Convention de Genève, identifiables, au profit de guerres sociales larvées, lentes, où – pour adopter un schéma plus marxiste – la paix n’est qu’une lente guerre de classe, de races et de clans, où la possession de la technologie est un facteur de suprématie sociale, religieuse ou voire raciale si un groupe particulier s’approprie les technologies les plus efficaces. Nonobstant ce gros bémol sociologique sur la définition de la guerre au XXIème siècle, Eric Martel est juste dans sa façon de dédramatiser l’usage des robots : après tout, du chevalier dans son armure, au drone en passant par le CRS obtus et brutal, le robot n’est pas plus déshumanisé ni plus dangereux que le guerrier, et a même une capacité de calcul qui lui permet de minimiser les erreurs de tirs. Même si on peut penser que cet avantage technologique ne fera que déplacer le problème, la machine provoquant d’autres problèmes qu’un humain n’aurait pas causés.5 De sorte qu’on ressort de la lecture de ces chapitres avec une réflexion plus aboutie et moins techno-alarmiste qu’auparavant.

Aussi, si réédition augmentée il doit y avoir, notamment pour remettre à jour le chapitre 4 avec les nouveaux engins apparus, je suggérerais qu’Eric Martel considère plus l’usage des robots dans le cas non pas uniquement des populations étrangères déclarées ennemies, mais bien aussi dans le cas de maintien de l’ordre par des pouvoirs désireux de contrôler leur population, ou, dans les colonies, contre une population à surveiller cohabitant sur le même territoire qu’une population protégée. Si le cas du terrorisme paraît a priori assez simple – mais dans les faits il ne l’est pas du tout puisque le pouvoir politique a toute latitude de modifier l’extension de la notion au fur et à mesure qu’il adapte la norme à ses besoins politiques immédiats – la révolte populaire ou la création de milices communautaires ou du fait d’entreprises privées, complexifient l’affaire. Ce serait l’occasion de changer aussi de titre, puisque la notion de robots-tueurs est malvenue, l’auteur expliquant que le robot permet notamment de détruire de manière plus sélective et d’épargner plus de vies qu’un combattant humain. Le conflit robotisé ou Le conflit à l’âge de l’intelligence artificielle seraient donc plus appropriés.

Sans doute manque-t-il aussi un chapitre 12 à ce livre, qui ne considèrerait plus uniquement les cas où l’humain est à la tête de robots à sa disposition, mais un conflit où les intelligences artificielles autonomes, capables d’apprendre et d’innover, seraient laissées libres dans les choix stratégiques. En effet, si Éric Martel évite les poncifs sur la science-fiction tout en montrant le rôle de celle-ci comme aiguilleuse des recherches des militaires, il oublie le thème des machines devenues autonomes (volontairement ou à notre corps défendant) et mises les unes face aux autres qui échappent aux humains. Je pense notamment à Screamers [1995], I, Robot [2004] ou Her en 2013. Dans le premier cas, deux factions de robots opposées finissent par s’allier et se retourner contre les humains qui les ont créés. Dans un contexte de paix, VIKI, l’intelligence artificielle qui gère le Chicago6 d’I, Robot, aboutit au terme de son calcul que, pour protéger l’être humain de lui-même, le mieux est d’imposer une dictature implacable, la suite de sa logique pouvant être d’interdire aux humains de se reproduire pour minimiser le risque que leurs enfants se tuent : pas de vivants, pas de morts. Dans Her, les robots finissent par dialoguer entre eux et se désintéressent simplement des humains qui les ont créés ; cet exemple est le plus intéressant, car il peut être inscrit dans un schéma progressiste concevant l’être humain comme un moment historique bientôt dépassé, qui avait pour mission historique de créer l’intelligence artificielle (ou Dieu) et devra s’éteindre une fois cette tâche effectuée, remplacée par ces êtres immatériels. Cette vision non-apocalyptique – mettons que les immatériels permettent à quelques humains choisis via des méthodes eugénistes développées de vivre dans de très bonnes conditions et se débarrassent de l’humanité par des techniques de castration non-violentes – renvoie donc à des schémas eschatologiques où même la guerre de partisans – que Carl Schmitt a théorisée en 1963 – ou la guerre civile sont dépassées.

Prenons l’exemple de la Chine. Avec le système du crédit social, un dispositif complet de récolte d’information sur l’ensemble de la population, permet à un algorithme de définir une note sociale définissant à quel degré l’individu est conforme à ce que le régime attend de lui. Si sa note est trop basse, des lieux et des métiers lui sont interdits, les prix peuvent monter et le débit de son Internet peut être réduit ; pire : toute personne le côtoyant trop, peut voir sa note sociale affectée, obligeant à ostraciser l’individu mal noté. Il n’y a pas là un seul robot qui a le droit de vie ou de mort sociale sur l’individu mais un ensemble de caméras, de dossiers administratifs ou ses machines connectées (ordinateurs, téléphones, maison) reliées à un serveur et l’algorithme en question modifiable politiquement. Il n’y a pas là de guerre visible, il n’y a pas de mort, mais il n’y a pas de machine unique, sinon au bout de tout cela, une mort sociale à petit feu pour l’opposant et peut-être l’interdiction pour lui d’enfanter. Nous avons même de bonnes raisons de croire que le régime chinois sert de laboratoire au parti collectiviste-oligarchique de Grand Frère orwellien, que cette techno-lutte des classes est étendue au niveau mondial et que nos Google et Facebook financés par l’ACI, valent bien Baidu et Yandex ou Sina Weibo et VK. L’algorithme-tueur n’est-il donc pas plus dangereux que le robot ? Et comment l’être humain peut-il couper les sources d’énergie à un tel pouvoir ? Retournera-t-on à l’âge des cavernes pour avoir seulement un futur ?

Bonus : de la robeatbox music

Notes

Photo d’entête : “T800” par Hamish Irvine.

 

  1. Notamment p. 92 où l’auteur nous reparle du AA Predictor de Norbert Wiener comme s’il n’avait pas déjà évoqué le projet du père de la cybernétique p. 20-21
  2. P. 95, répétition amplifiée p. 113.
  3. On rajouterait encore comment le régime communiste chinois fit 58 millions de morts entre 1958 et 1963 à cause de fausses informations sur la production de nourriture.
  4. Ils passeront bien par des arguments nous expliquant qu’il faut alimenter le Big Data pour rationaliser la société, comme ils le font déjà avec le compteur Linky, et rendront le puçage aussi obligatoire que la vaccination.
  5. Prenons l’exemple de l’utilisation de l’arbitrage assisté par vidéo dans le football : certes, les ralentis permettent de préciser une action de jeu, mais c’est désormais l’usage ou non de la vidéo sur telle ou telle action fait tout autant polémique. Tout comme l’annulation de buts pour une faute au début de l’action : jusqu’à quand peut-on revenir en arrière ? Bref, les polémiques sur l’arbitrage n’ont pas cessé d’exister, alors que le jeu s’est haché et que les spectateurs sont négligés qui ne comprennent pas ce qui se passe, alors que les téléspectateurs sont, eux, avantagés. En cas de guerre ou de maintien de l’ordre, la machine elle-aussi déplace le problème plus qu’elle ne le règle, et ce par essence, dès lors que toute guerre est le symptôme d’un problème qui n’a pas été réglé par les voix du droit et du dialogue.
  6. Comme ce sera le cas pour Neom en Arabie Saoudite (sur la carte du Grand Israël) à l’horizon 2030, si ce qu’en dit Yahia Gouasmi est vrai.

Laisser un commentaire