"Mon hypothèse de recherche est que les robots intelligents peuvent se comporter de manière plus éthique sur le champ de bataille que ne le font les humains aujourd'hui", explique Ronald Arkin, informaticien au Georgia Institute of Technology, qui conçoit ,software pour les robots sur le champ de bataille, sous contrat avec l'armée américaine "C'est la théorie que je défends."
Les avions espions, les détecteurs de mines et les capteurs robotiques sont déjà couramment utilisés sur le champ de bataille, mais ils sont contrôlés par des humains. Arkin parle de vrais robots qui fonctionnent de manière autonome.
Lui et d’autres affirment que la technologie nécessaire pour fabriquer des robots autonomes mortels n’est pas très coûteuse et se multiplie, et que ce n’est qu’une question de temps avant que ces robots soient déployés sur le champ de bataille. Cela signifie, ajoutent-ils, qu’il est temps pour les gens de commencer à se demander si cette technologie est quelque chose qu’ils souhaitent utiliser.
Noel Sharkey, informaticien à l'Université de Sheffield au Royaume-Uni, a écrit l'année dernière dans le magazine Technologie innovante pour les professionnels de l'informatique que "ce n'est pas de la science-fiction à la Terminator, mais une dure réalité". Et il a ajouté que la Corée du Sud et Israël déploient déjà des robots armés comme gardes-frontières.
"Nous ne voulons pas en arriver au point où nous disons que nous aurions dû avoir ce débat il y a 20 ans", déclare Colin Allen, philosophe à l'Université d'Indiana à Bloomington et co-auteur du nouveau livre. Machines morales : apprendre aux robots la différence entre le bien et le mal.
Randy Zachery, qui dirige le département informatique du Bureau de recherche de l'armée, qui finance le travail d'Arkin, affirme que l'armée espère que cette « science fondamentale » pourra démontrer comment les soldats humains peuvent utiliser des systèmes autonomes et interagir avec eux et qu'il est possible de développer un ,software qui « permet aux systèmes autonomes de fonctionner dans les limites imposées par le combattant ».
Dans un rapport à l’armée l’année dernière, Arkin a souligné certains des avantages potentiels des combattants robotiques autonomes. Pour commencer, ils peuvent être conçus sans instinct de survie et donc sans tendance à fuir par peur. Ils peuvent être faits de manière à ce qu'ils ne ressentent ni colère ni imprudence, ajoute Arkin, et les rendre invulnérables à ce qu'il appelle « le problème psychologique de la « satisfaction des attentes » », qui amène les gens à absorber plus facilement de nouvelles informations si elles correspondent à leurs attentes. attentes.
Leur rapport était basé sur une enquête menée en 2006 par les autorités sanitaires de l'armée, qui révélait que moins de la moitié des soldats et marines stationnés en Irak ont déclaré que les non-combattants devraient être traités avec dignité et respect et que 17 % ont déclaré que tous les civils devraient être traités comme des insurgés.
Arkin envisage plusieurs façons d'utiliser les robots autonomes : dans des opérations de lutte contre les tireurs d'élite, pour nettoyer les bâtiments des terroristes présumés ou dans d'autres missions dangereuses. Mais il faudrait d’abord qu’ils soient programmés avec des règles et des instructions indiquant qui tirer, quand il est acceptable de tirer et comment distinguer les troupes ennemies qui attaquent des civils, des blessés ou quelqu’un qui tente de se rendre.
Les simulations de champs de bataille d'Arkin se déroulent sur des écrans d'ordinateur. Les pilotes de robots disposent des informations qu'un pilote humain pourrait détenir, telles que des cartes indiquant l'emplacement des temples, des immeubles d'habitation, des écoles et d'autres centres de la vie civile. On leur apprend où se trouvent exactement les troupes ennemies, le matériel de guerre et les cibles prioritaires. Et ils reçoivent des règles de combat, des lignes directrices qui limitent les circonstances dans lesquelles ils peuvent initier et mener le combat.
Dans une simulation, un pilote de robot survole un petit cimetière. Le pilote découvre un char à l'entrée du cimetière, cible possible. Mais il y a aussi un groupe de civils présents, alors le pilote décide de continuer et trouve bientôt un autre véhicule blindé, seul dans un champ. Le pilote tire, la cible est détruite.
Certaines personnes qui ont étudié cette question craignent que les robots de combat conçus sans émotions manquent de compassion. Arkin, un chrétien qui reconnaît l'aide de Dieu et de Jésus dans le prologue de son livre de 1998 Robotique basée sur le comportement, explique que puisque des normes comme la Convention de Genève sont fondées sur des principes humains, si elles étaient incorporées dans l’architecture mentale d’une machine, elles leur conféreraient quelque chose qui s’apparente à de la compassion. Il ajoute toutefois qu'il serait difficile de concevoir des "algorithmes de perception" capables de reconnaître, par exemple, si des personnes sont blessées ou brandissent un drapeau blanc.
Arkin considère que susciter un débat sur la technologie est la partie la plus importante de son travail.