Armes létales autonomes : faut-il interdire les robots tueurs ?
Aux Nations Unies, quelques pays viennent de bloquer la mise en place d'un traité d'interdiction des Systèmes d'armes létaux autonomes, ou SALA. Les robots tueurs peuvent donc poursuivre leur développement avant d'arriver sur le champ de bataille. La communauté scientifique est inquiète et les ONG multiplient les appels pour imposer ce traité. Et si la solution consistait à donner une morale aux robots ?
Après une semaine de réunion au bureau des Nations Unies à Genève (Suisse), la mise en place d'un nouveau traité international interdisant l'usage d'armes létale autonomes a été bloquée par une minorité de pays (Australie, Corée du Sud, États-Unis, Israël et Russie). Au final, sur ce sujet, seules une vingtaine de recommandations, non contraignantes, ont été adoptées à l'issue de la réunion, dans la nuit de vendredi à samedi derniers. Elle s'est surtout consacrée à reconduire le mandat actuel du groupe d'experts gouvernementaux.
L'Allemagne et la France ont simplement proposé de maintenir le principe de contrôle humain sur l'usage de la force, alors que le président Emmanuel Macron s'était déjà « catégoriquement opposé »aux armes létales entièrement autonomes.
Mais seul un traité peut protéger l'humanité contre ces robots tueurs, et celui-ci est loin d'être sur les rails. D'ailleurs, l'Australie, la Corée du Sud, les États-Unis, Israël et la Russie s'opposent à toute proposition de traité pour le moment.
Faut-il un code éthique chez les robots tueurs ?
Les SALA, ou robots tueurs, sont déjà expérimentés depuis des années. Futura évoque régulièrement les prototypes de Boston Dynamics. La firme développe depuis plus de vingt ans des robots dédiés à la guerre. Des robots qui se déclinent en machines bipèdes, quadrupèdes aux capacités impressionnantes. Qu'il s'agisse de ces robots particuliers, de drones autonomes ou de véhicules armés sans occupants, l'arrivée d'un « Terminator » programmé pour tuer de façon autonome et froide des cibles prédéfinies n'est désormais plus du domaine de la science-fiction. Ce genre de robot de combat pourrait débarquer sur les champs de bataille d'ici quelques années aux côtés des troupes, ou à leur place. Et surtout, l'absence de réglementation en la matière va fatalement engendrer une course aux armements une fois que les premiers modèles de robots de combat seront véritablement opérationnels.
Pour l'ONG Human Rights Watch, à l'origine de la campagne Stop Killer Robots, l'arrivée de ces armes est dramatique. Selon elle, des dictateurs ou des terroristes pourraient en disposer assez facilement et à bon prix pour contrôler ou exterminer des populations. Ils pourraient également ordonner aux machines des assassinats ciblés. L'ONG n'est pas la seule à mobiliser les consciences sur ces robots tueurs. Le 18 juillet dernier, des ténors de l'univers du high-tech, dont Elon Musk, ont mis en garde les pays membres des Nations Unies contre ces armements. Les signataires craignent que leur utilisation dans les conflits vienne dépasser l'échelle de la compréhension humaine.
Ces réactions sont loin d'être les premières. Chaque année, depuis 2014, ce genre de message est adressé aux Nations Unies. En vain. Dès les prémices de ces évolutions techniques, des personnalités notoires des sciences, à commencer par Stephen Hawking, Max Tegmark, Stuart Russell ou Frank Wilczek, y ont exposé leurs craintes contre le potentiel danger de l’IA.
Si aucun accord ne peut les interdire, une des solutions pourrait consister à les humaniser, pour qu'elles se comportent de façon « morale » sur les champs de bataille. Il s'agirait de les doter d'un code de valeurs propre aux combattants. C'est d'ailleurs ce que préconise le lieutenant-colonel de l'armée française Brice Erbland dans son ouvrage Robots tueurs, aux éditions Armand Colin. Il montre ce que pourrait être un SALA doué d'une IA pouvant faire preuve de suffisamment de discernement pour se comporter comme des soldats. Autrement dit, ces robots autonomes de combat devraient intégrer une éthique artificielle. On ne parlerait alors plus de SALA, mais plutôt de SALMA (Systèmes d'armes létaux, moralement autonomes).
Cependant, pour que cela soit le cas, il faudrait que tous les États jouent le jeu. En attendant, ils restent majoritairement d'accord sur la nécessité de maintenir un contrôle humain sur les systèmes d'armes létaux autonomes. C'est pourquoi la grande majorité des 88 États membres souhaitent qu'un nouveau traité soit proposé en 2019.
Publier Le 5 septembre 2018
Source web par: futura-sciences
Les tags en relation
Les articles en relation
La mort de la civilisation européenne est en marche…
Manuel Valls avait dit en son temps que les Français devraient apprendre à vivre avec le terrorisme islamique. Emmanuel Macron, pendant la campagne électo...
Sommet sur la biodiversité : "En un demi-siècle, l’humanité a détruit ce que la planète Terre
La 7e conférence de l'Ipbes, surnommée le Giec de la biodiversité, s'ouvre lundi à Paris. Les scientifiques et représentants de 132 pays vont négo...
France : Le nombre des visas délivrés aux Marocains toujours loin de ceux avant la crise
Même si la France a octroyé 142 921 visas aux Marocains en 2022, soit +105,9% par rapport à 2021, les chiffres restent loin de ceux enregistrés avant la cri...
Islam en France. Macron en lutte contre les "influences étrangères": quid des imams marocains?
Emmanuel Macron a annoncé mardi une série de mesures contre les "influences étrangères" sur l'islam en France, allant des imams étrangers, aux premiers...
Écoles françaises au Maroc : voici pourquoi les frais de scolarité vont baisser
La France a décidé d'octroyer 25 millions d’euros à l’Agence pour l’enseignement français à l’étranger (AEFE). Les frais de scolarité vont do...
Vent glacial entre le Maroc et la France
CHRONIQUE. Pour l’écrivain Tahar Ben Jelloun, la France a commis une grave erreur en réduisant la délivrance des visas pour entrer sur son territoire. A...
#MAROC_INTERNATIONAL_GEOPOLITIQUE
Le monde sera-t-il "zéro polaire" (pour reprendre la formule de Laurent Fabius), un monde sans gendarmes où les puissances se montreraient impuissantes à pes...
Les dessous méconnus de l'entrepreneuriat : témoignages de jeunes start-uppers ayant dû liquider
Au milieu des discours de succès et de liberté largement promus par le monde de l'entrepreneuriat, les échecs restent une réalité. Challenges donne la ...
Mohammed VI fait briller le Maroc de mille feux
Ce fut un mois de novembre d’une particulière intensité pour le Maroc et les Marocains. Trois clichés, trois instantanés ont considérablement mis en avan...
Sahara marocain : La grande hésitation française !
A voir le flou artistique qui règne sur les raisons qui empêchent la France de reconnaître la marocanité du Sahara, les circonvolutions diplomatiques pour j...
Il faut revoir les états généraux du tourisme au Maroc
Dans exactement un mois, la communauté internationale célébrera la Journée Mondiale du Tourisme qui aura lieu le 27 septembre 2021, marqué par plus de dix-...
COP25 : "Les Etats essaient de se donner bonne conscience"
Le sommet international sur le climat s'ouvre lundi à Madrid, alors que ces derniers mois les jeunes Européens se sont fortement mobilisés, multipliant l...