Aleteia logoAleteia logoAleteia
Jeudi 28 mars |
Aleteia logo
Tribunes
separateurCreated with Sketch.

La France refuse de s’en remettre aux robots tueurs

SALA-shutterstock_649198981.jpg

Denis Starostin / Shutterstock

Henri Quantin - publié le 05/05/21

Le mal n’est pas dans les machines, disait Bernanos, il est dans l’homme que la civilisation des machines est en train de former. Aujourd’hui, les machines sont capables de tuer sans contrôle.

Réjouissez-vous ! L’article que vous allez lire est entièrement gratuit. Pour qu’il le demeure et soit accessible au plus grand nombre, soutenez Aleteia !

Je fais un don*

*avec réduction fiscale

Il faut distinguer « Sala » et « Salia » ! Tel est l’avis du Comité éthique de la Défense, rendu public le 29 avril, à propos de ces machines de guerre qu’on appelle plus communément les « robots tueurs ». Depuis une bonne dizaine d’années, les scènes de Terminator opposant des humains à des machines tirant sur tout ce qui bouge ne relèvent plus guère de l’anticipation. Les « sala » sont, littéralement, des « systèmes d’armes létaux autonomes ». Par le moyen de l’Intelligence artificielle, ils tirent sans que personne ne commande le tir. Ils peuvent prendre la forme de drones, de tanks ou même de quadrupèdes, mais le résultat est le même : eux seuls décident s’ils peuvent éliminer la cible, quelle que soit la situation. Les « salia », eux, sont des « systèmes d’armes létaux intégrant de l’autonomie ». Il n’est pas sûr que l’ajout du « i » suffise à nous rassurer ; il signifie concrètement que ces machines de guerre laissent l’homme en ultime recours reprendre le contrôle, même si, « dans un espace-temps limité et sous conditions », elles possèdent « une autonomie décisionnelle, dans certaines fonctions critiques, telles que l’identification, la classification, l’interception, l’engagement ». Immoralité des « sala », donc, mais légitimité des « salia ».

Hors de tout contrôle

Le Comité a rendu son avis à la demande de Florence Parly, ministre de la Défense. En 2019, celle-ci avait déclaré : « La France refuse de confier la décision de vie ou de mort à une machine qui échapperait à tout contrôle humain. » C’était déjà ce que Mgr Tomasi déclarait à Genève en 2014. En tant qu’observateur permanent du Saint-Siège auprès des Nations-unies, il s’inquiétait qu’on puisse « placer une machine dans la position de décider de la vie ou de la mort » et pointait du doigt une « déshumanisation de la guerre ». La formule fera sans doute sourire les pacifistes — comme si une guerre pouvait être humaine, diront-ils —, mais l’enjeu est extrêmement grave. 

Un robot est incapable de distinguer un civil d’un militaire, un bien-portant d’un blessé, un homme qui se rend d’un kamikaze.

Jusqu’ici, parler d’une guerre inhumaine désignait a priori un degré de cruauté inacceptable, mais toujours dirigé par des êtres humains. Les « sala » sont en train de faire basculer le monde dans ce que certains considèrent comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires. Le fait que deux de ces trois « révolutions » aient eu lieu en moins de cent ans devrait faire réfléchir, une fois de plus, sur l’accélération de toute chose qu’impose l’emprise technologique : de plus en plus d’anonymat, de moins en moins de place pour l’homme, une absence de plus en plus grande de responsabilité claire en cas de massacre. Un robot est incapable de distinguer un civil d’un militaire, un bien-portant d’un blessé, un homme qui se rend d’un kamikaze. La personne humaine disparaît derrière la machine, même quand elle n’en est pas la cible directe.

« La Technique ne peut être discutée » 

Il est heureux qu’un garde-fou, même fort mince, soit maintenu en France. Durera-t-il longtemps, face à des ennemis dont il y a fort à parier qu’ils n’auront aucun scrupule à recourir à cette efficacité meurtrière, par ailleurs beaucoup plus facile d’accès — économiquement et scientifiquement — que l’arme nucléaire ? Certaines voix favorables aux « sala » évoquent déjà le risque de « décrochage » de la France, vis-à-vis d’ennemis — groupes terroristes ou États — qui n’hésiteront pas à utiliser les « robots tueurs ». L’argument est étonnamment le même que pour l’euthanasie : il ne faudrait pas prendre du retard sur les autres pays. Face à cette intimidation mensongère qui confond avancée technologique et progrès de l’humanité, il est bon de rappeler que ne pas s’aligner sur la barbarie des autres n’est pas un « retard », mais une victoire.

La valeur d’une civilisation se mesure notamment dans sa capacité à ne pas utiliser jusqu’au bout les méthodes des barbares qui l’attaquent. Cette apparente faiblesse demeure sa grandeur paradoxale : celui qui lutte contre le terrorisme avec des méthodes terroristes a déjà perdu sa lutte, même s’il est vainqueur sur le terrain. Celui qui aurait cru vaincre Hitler en construisant des fours crématoires plus performants pour brûler les nazis aurait fait allégeance, sans même s’en rendre compte, à la logique du national-socialisme. C’est pourquoi le seul argument de l’efficacité est irrecevable, car il consiste déjà à reconnaître à la machine le droit de décider à notre place : « La Technique ne peut être discutée, notait Bernanos, les solutions qu’elle impose étant par définition les plus pratiques. » 

L’homme déspiritualisé

En 1947, quand les débats portaient sur la deuxième révolution des techniques de guerre, l’arme atomique, le même Bernanos mettait déjà en garde contre les effets inaperçus de la logique techniciste sur les consciences : 

« Je dis que vous posez le problème de travers, parce que le mal n’est pas dans les machines, il est ou sera dans l’homme que la civilisation des machines est en train de former. La machine déspiritualise l’homme, en même temps qu’elle accroît monstrueusement son pouvoir. Il y a là une contradiction qui fait frémir. C’est à l’homme déchristianisé, plus que jamais enclin à se croire un animal irresponsable, que vient d’être donné le secret de la fission du plutonium et le moyen de détruire son espèce tout entière. »

Autrement dit, la civilisation des machines amenuise les consciences, alors même que les avancées technologiques exigeraient une conscience accrue. L’emprise technologique hypnotise les esprits, au moment même où ils ont le plus besoin d’être éveillés. « La France refuse de confier la décision de vie ou de mort à une machine qui échapperait à tout contrôle humain », disait Florence Parly. C’est certainement une bonne chose. Toutefois, si l’humain qui contrôle n’a pas beaucoup plus de conscience morale qu’une machine, il y a peu de chance que le garde-fou soit très utile. 

Tags:
Intelligence artificielleRobot
Soutenez l’aventure missionnaire qu’est Aleteia !

Vous n’avez jamais fait un don à Aleteia ?  De grâce, faites-le, maintenant.
Aleteia se doit d’être gratuit : les missionnaires ne font pas payer l’évangélisation qu’ils apportent. Grâce à cette gratuité, chaque mois 10 à 20 millions d’hommes et de femmes - majoritairement des jeunes -, visitent la cathédrale virtuelle qu’est Aleteia. Mais vous le savez, si l’entrée de nos églises n’est pas payante, c’est parce que les fidèles y donnent à la quête.

Vous aimez Aleteia ? Vous voulez être de l’aventure missionnaire qu’est Aleteia ?

Alors, sans attendre, aujourd’hui même, donnez !

*avec déduction fiscale
FR_Donation_banner.gif
Top 10
Afficher La Suite
Newsletter
Recevez Aleteia chaque jour. Abonnez-vous gratuitement