Robotisation du champ de bataille
Transcription
Robotisation du champ de bataille
Robotisation du champ de bataille Problématique pour le pôle « Action globale et forces terrestres » Version 05 – 24 juin 2009 Didier DANET et Jean-¨Paul HANON Le programme de recherche sur la robotisation du champ de bataille est placé sous la direction scientifique du pôle « Action globale et forces terrestres » qui en assurera le pilotage. La présence croissante de robots dotés d’une certaine autonomie de décision représente, à l’évidence, une mutation profonde de la conflictualité susceptible de conduire à des changements de nature dans l’emploi des forces terrestres. En première approche, la robotisation du champ de bataille est le processus par lequel des robots ou des systèmes de robots dotés d’un degré d’autonomie variable et mis en œuvre par les forces terrestres se trouvent intégrés dans le cadre de leur action globale. Ce processus, dans lequel l’armée des Etats-Unis est aujourd’hui largement engagée, modifie substantiellement l’ensemble des dimensions de l’action terrestre et, au-delà des seuls théâtres d’opérations, l’articulation des acteurs politiques, militaires et industriels ainsi que les conditions de mise en œuvre de la coercition. .Le présent document entend situer la question de la robotisation dans le programme général de recherche du pôle, mettre en œuvre son exploration interdisciplinaire et conduire à la création d’un centre d’expertise sur les questions de robotisation du champ de bataille. Ce document a vocation à être complété et amendé avant sa parution définitive de sorte que chacun puisse trouver sa place dans ce qui est appelé à devenir un domaine de recherche prioritaire de notre pôle. Robotisation du champ de bataille ............................................................................................. 1 PREMIERE PARTIE. PROBLEMATIQUE ............................................................................. 2 1 - Problématique générale.................................................................................................... 2 2. Axes de recherche .............................................................................................................. 5 2.1 Définition, état de l’art et enjeux de la robotisation du champ de bataille................... 5 Définition ....................................................................................................................... 5 Etat de l’art ..................................................................................................................... 6 2.2 Populations, robots et combattants............................................................................... 8 Degré d’autonomie des robots dans les phases de combat............................................. 9 Impact de la robotisation sur les populations ............................................................... 12 Robotisation et rapport à l’ennemi ............................................................................... 12 2.3 Robots, rapports de puissance et système des relations internationales..................... 13 Dépolitisation des conflits ............................................................................................ 13 Neutralisation des conflits ............................................................................................ 14 Modification des rapports de puissance ....................................................................... 15 Place des robots dans le système général de la coercition ........................................... 18 1 PREMIERE PARTIE. PROBLEMATIQUE 1 - Problématique générale L’expérience des conflits afghan et irakien a définitivement mis en lumière l’échec des interventions extérieures qui ne sont pas fondées sur la primauté du politique et dans lesquelles les opérations militaires trouvent en elles-mêmes leur propre fin. En Afghanistan comme en Irak, la supériorité manifeste des forces armées occidentales leur a procuré une victoire rapide sur le terrain mais, a tout aussi sûrement été suivie de leur enlisement dans des combats asymétriques longs et coûteux. Il en est résulté l’impossibilité de parvenir à l’objectif initial, c'est-à-dire la reconstruction politique, sociale et économique d’Etats en crise car cette reconstruction est conditionnée par l’adhésion des populations au projet porté par la coalition étrangère.1 Pour autant, bien que cet enseignement soit désormais très largement partagé, l’ensemble des conséquences n’en a pas encore été tiré. Certes, les Etats-Unis ont été capables de mettre en œuvre une révision majeure de leur doctrine en faisant de la contre-insurrection et de la conquête des cœurs et des esprits le nouveau leitmotiv de leur intervention.2 Cependant, les réformes entreprises n’atténuent que très partiellement le processus de désengagement de l’Etat, processus entamé par le recours croissant à des acteurs qui ne sont pas directement soumis au pouvoir politique. On songe ici en particulier aux sociétés militaires et de sécurité privées dont l’intervention remet en cause la nécessaire adhésion des populations.3 Ce processus pourrait se poursuivre avec l’augmentation rapide du nombre des robots utilisés sur le champ de bataille soit à des fins de soutien des combattants soit dans des opérations à haut risque où ils peuvent user de la force de manière autonomie ou semi-autonome. Dès aujourd’hui, mais plus encore dans les années à venir, une dépendance marquée s’établira à l’égard des robots et des systèmes de 1 Centre de Doctrine et d'Emploi des Forces, Gagner la bataille. Conduire à la paix., Ministère de la Défense Armée de Terre., FT-01, 2007 2 D. H. Petraeus et James N Mattis , Counterinsurgency, Department of the Army., FM 3-24 (Juin : 2006) 3 Christian Olsson, “Vrai procès et faux débats: perspectives critiques sur les argumentaires de légitimation des entreprises de coercition para-privées,” Cultures & Conflits 52, no. 4 (2003): 11-48 2 robots qui seront présents sur les théâtres d’opération. Les autorités politiques déchargeront les forces armées de certaines missions ou de certaines tâches pour les confier à des machines dotées d’une autonomie variable de décision et capables de comportements autonomes à partir de scénarii prédéfinis. A cet égard, l’Irak et l’Afghanistan semblent déjà être devenus le champ privilégié d’expérimentation des robots militaires dans le domaine aérien et terrestre.4 Or, s’il s’agit de réaffirmer la primauté du politique, de convaincre les populations et de « gagner les cœurs et les esprits », l’emploi de robots soulève un ensemble d’interrogations qui ne tiennent pas seulement à des considérations techniques ou opérationnelles (même si ces dernières sont d’une importance manifeste) mais surtout à la continuité du commandement, au lien social à établir avec la population et aux nouveaux types de responsabilité qui en découleront. Les considérations techniques ou opérationnelles, au-delà de la tactique et de l’emploi des forces, posent deux types de problèmes : celui du caractère décisif de ce qui est souvent considéré comme une nouvelle rupture technologique et, dans le cas plus particulier de la robotisation, celui du lien à établir entre les acteurs industriels, militaires et politiques. Il pourrait en résulter des changements essentiels (opérationnels, économiques, politiques, culturels, sociaux…) dans la nature et la manière de faire la guerre ou, plus généralement, d’appliquer la coercition à des fins politiques. Plus précisément, on tentera dans un premier temps, de définir et de caractériser les enjeux de la robotisation du champ de bataille pour l’action globale des forces terrestres. Quel est le sens et la portée des changements qui se dessinent ? Introduisent-ils une véritable rupture dans la continuité des techniques et de la pensée militaire, tactique et stratégique ? Sont-ils plus simplement une étape dans une suite de perfectionnements techniques dont ils ne changement pas fondamentalement l’équation générale et les applications ? On s’attachera ensuite à l’exploration des relations homme / robot qui sont susceptibles de se construire sur le champ de bataille. Dans la mesure où il est doté d’une autonomie significative, le robot est un acteur nouveau qui a vocation à interagir avec toutes les parties prenantes du théâtre des opérations : autres robots 4 P. W Singer, Wired for War: The Robotics Revolution and Conflict in the Twenty-First Century (New York: Penguin Press, 2009) L’auteur estime que plusieurs milliers de robots sont actuellement utilisés en Irak où ils constitueraient la « troisième force » mobilisée après les forces régulières américaines et les sociétés privées. 3 avec lesquels il est susceptible de constituer un système d’armes, combattants humains qui le mettent en œuvre ou servent dans son environnement, populations dont il s’agit d’emporter l’adhésion, ennemis contre lesquels les robots sont déployés. C’est ici la question du degré d’autonomie et la relation entre l’homme et le robot qui apparaît cruciale. Une fois les enjeux tracés et les modes possibles d’interfaçage homme / robot explorés, il conviendra d’en dégager les implications possibles en matière de rapports de puissance. Dans la mesure où il semble appelé à modifier assez profondément la configuration du champ de bataille et les conditions d’emploi de la force, le processus de robotisation est susceptible de provoquer des changements dans le système des relations internationales s’agissant de thèmes aussi importants que ceux de la dépolitisation des conflits, de leur neutralisation, de leur place dans le système général de la coercition à des fins politiques. Ce sont ces différents axes d’effort que le programme de recherche se donne pour ambition de parcourir. 4 2. Axes de recherche La mutation en cours soulève un ensemble de questions qui touchent : • à la définition et à l’évaluation de la rupture technologique que représente la robotisation du champ de bataille ; • à la relation des robots avec les individus et groupes sociaux acteurs des conflits ; • et aux modifications des rapports de puissance qui pourraient influer sur le système actuel des relations internationales. 2.1 Définition, état de l’art et enjeux de la robotisation du champ de bataille. Définition Le terme de « robots » est susceptible de recouvrir un ensemble de machines ou de systèmes de machines très divers par leurs capacités, leurs fonctions, leur degré d’autonomie. Le champ de la réflexion est donc largement ouvert mais la recherche pâtit du fait qu’il n’existe pas de définition conventionnelle des robots. Chaque étude est ainsi amenée à produire son propre cadre conceptuel. De manière générale, un robot militaire est le plus souvent défini comme un système : • possédant des capacités de perception, de communication, de décision et d’action, • supervisé par des combattants humains ou agissant de manière autonome5 en fonction de règles comportementales prédéfinies ; • capable d’améliorer ses propres performances par apprentissage automatique. Un centre universitaire américain6 a récemment proposé la définition suivante : « A powered machine that (1) senses, (2) thinks (in a deliberative, non-mechanical sense), and (3) acts. » Un document français7 propose de définir le robot comme 5 Dans le premier cas, on dira que le robot est télécommandé, ce qui pose des problèmes dont le cadre conceptuel est proche de celui d’armes ou de systèmes d’armes qui présentent déjà cette caractéristique. Dans le second, l’autonomie du robot engendre des problématiques nouvelles. 6 Préciser la référence 7 idem 5 « un équipement complexe, éventuellement armé, apte en premier lieu à l’autonomie décisionnelle, ensuite au retour à son point de départ, avec l’aide éventuelle de l’homme ». Toutes ces définitions, dont les plus complexes sont sans doute les moins utilisables, comportent un point commun qui est le véritable critère distinctif du robot par rapport à d’autres machines, à savoir le degré d’autonomie vis-à-vis de l’humain. Par ailleurs, il n’existe pas non plus de typologie universellement acceptée et l’analyse de nature la bibliographie met en évidence une pluralité de classifications de différente : classifications techniques (par poids des plates-formes robotiques), fonctionnelles, ou opérationnelles (par missions ou tâches des robots). Au-delà de la définition du robot, toute caractérisation doit insister sur deux des dimensions fondamentales de la robotisation du champ de bataille : le degré d’autonomie du robot et la perspective plus ou moins proche de voir les robots agir en groupes, que ces groupes soient fondés sur la redondance (en vue de la destruction éventuelle de certaines machines) ou sur la complémentarité (en vue d’opérations supposant une combinaison de capacités machiniques). Il conviendra donc d’envisager le robot comme une machine autonome ou comme un système de machines. Etat de l’art De la même manière que les armes létales ont donné lieu à une classification des technologies et des armements, un état de l’art en matière de robotisation du champ de bataille devrait procéder à un effort de recensement et de catégorisation. L’objectif de ce recensement serait d’analyser les technologies en termes d’emploi potentiel et de mieux percevoir la notion de systèmes de robots. Il s’agirait ensuite, à partir des leçons tirées des zones de conflit que constituent l’Afghanistan et l’Irak, de recenser les robots et les systèmes à l’œuvre ainsi que les enseignements tirés de leur emploi en termes d’efficacité et de doctrine. Le questionnement pourrait alors s’établir de la manière suivante : Comment définir la notion de « robots » et de « systèmes de robots » ? Quelles en sont les applications actuelles et potentielles ? Quelles sont les fonctions remplies par les robots et les systèmes de robots ? Quels sont les développements prévisibles à moyen terme ? Quelle est la réalité du processus de robotisation sur des théâtres comme l’Irak ou l’Afghanistan ? Quels 6 sont, au total, les enjeux opérationnels, stratégiques, géo-politiques… de ce processus de robotisation du champ de bataille ? Au vu du recensement ainsi dressé, il conviendrait d’évaluer le degré de rupture introduit par l’emploi effectif de robots et de systèmes de robots sur le champ de bataille. Les robots sont-ils de nouveaux combattants, complémentaires ou substituables des forces armées traditionnelles, ou offrent-ils seulement de nouvelles capacités à des acteurs inchangés ? La robotisation du champ de bataille pose-t-elle la question « Qui fait la guerre ? » ou seulement « Comment faire la guerre ? » Ne fait-elle qu’amplifier des capacités existantes ou en crée-t-elle de nouvelles dont les usages restent à définir ? Si le robot est bien l’ « arme supérieure » évoquée par le capitaine Mérat8 dans un article précurseur, c’est autour d’elle que se regrouperont un jour les autres armes, moyennant un renouvellement de la structure des forces et des schémas tactiques qui conduiront à un nouvel ensemble de convictions et de pratiques dont la théorisation s’imposera Analysant les conséquences militaires de la Deuxième Guerre mondiale, Pierre Gallois, en 1945, constatait à propos de la logique technologique qui avait été à l’œuvre au cours de la Seconde guerre mondiale, la vérification de deux quasi-lois de l’Histoire militaire : la loi des « armes révolutionnaires » et la « loi des formations »9. La première énonce que les armes révolutionnaires sont trop nouvelles et encore immatures pour bouleverser le conflit en cours et en renverser l’issue mais qu’elles ont le potentiel suffisant pour transformer radicalement les conflits futurs. Selon la seconde loi, l’arme révolutionnaire ne prend sa véritable dimension qu’au sein d’un système plus complexe, système hommes-machines dans le cas de la robotisation. Cette mise en perspective historique doit permettre de situer la robotisation dans la longue suite des innovations technologiques afin de déterminer si elle s’inscrit dans la continuité des progrès techniques antérieurs ou si elle instaure une véritable rupture dans la conception et la conduite des opérations militaires. Sans prendre parti, a priori, sur la nature du changement que constitue la robotisation du champ de bataille et dans l’attente d’une évaluation plus fine de sa portée véritable, elle apparaît comme une innovation suffisamment significative pour que son appréhension se garde de deux écueils opposés : la sous-estimation de la portée révolutionnaire du phénomène robotique d’une part, la tentation de voir dans 8 9 L Mérat, Extrapolations, Revue Militaire Générale, mars 1920 A compléter 7 le robot la solution technologique ultime. Face à ces deux écueils, une interrogation sur la définition des robots et systèmes de robots ne peut pas se priver d’une réflexion sur la production de science fiction, qu’elle soit littéraire ou cinématographique, dans la mesure où elle permet : • une représentation, un imaginaire de la destruction automatisée que l’œuvre de H-G Wells10, dès la fin du dix-neuvième siècle, a dépeint s’agissant, par exemple, de l’extraordinaire nouveauté que constituait alors le bombardement aérien des villes ; • une appréhension cognitive et presque sensorielle de ce que pourrait être le ressenti tel qu’il pourrait être vécu par un robot, sachant qu’il semble peu crédible de penser une intelligence comme le seul résultat d’une construction logicielle11 ; • un questionnement sur la crédibilité et la validité de tout système de robots dans la mesure où la science fiction nous oblige à considérer le chemin à parcourir entre la réalité d’aujourd’hui et l’état fictionnel futur et les étapes qui y mèneraient. 2.2 Populations, robots et combattants Les progrès de la technologie permettent d’envisager de multiples applications pour les robots militaires : reconnaissance, déminage, observation et surveillance, secours médicaux, acquisition et destruction de cibles…12 Les seules limites apparentes à la robotisation semblent tenir à l’imagination de leurs concepteurs et aux priorités que se donnent les responsables des choix militaires ou industriels. Néanmoins, envisager la robotisation du champ de bataille sous le seul critère de la faisabilité technique et des capacités de production reviendrait à négliger, voire à ignorer, l’interface homme machine dans ce qu’elle a de plus subtil et de plus problématique. Trois facteurs paraissent alors essentiels : le degré d’autonomie des robots dans les phases de combat, l’impact de la robotisation sur la population et le rapport à l’ennemi. 10 A compléter On notera sur ce thème l’extraordinaire success du film « Blade Runner » qui repose justement sur ce ressenti par un humanoïde. 12 Office of the Secretary of Defense, Unmanned Systems Roadmap (2007 - 2032), 2007. 11 8 Degré d’autonomie des robots dans les phases de combat Comme cela a été souligné précédemment, toute définition d’un robot ou d’un système de robots pose la question générale de son degré d’autonomie vis-à-vis du combattant et de son intégration dans un dispositif humain : • Définir le degré d’autonomie concédé aux robots : la robotisation du champ de bataille passe par une scénarisation poussée des situations de combat et par la définition de comportements standardisés, adaptés à l’action à conduire et respectueux du droit des conflits armés et de l’éthique militaire. Il en résulte que le comportement du robot doit être déterminé par un ensemble de règles comportementales qu’il convient de formuler : dès lors se pose la question de savoir qui est responsable de la doctrine d’emploi des robots sur le terrain, de la formulation des règles comportementales, de l’architecture des processus de décision, de la marge d’autonomie concédée au robot (de l’intelligence artificielle para-humaine à l’intelligence artificielle hyper-humaine13)… Cette dernière va-t-elle jusqu’à lui permettre de tuer un ennemi ou de détruire une cible sans l’intervention d’un échelon de décision humain ? Un robot doit-il être programmé pour évaluer les ordres reçus et refuser d’exécuter un ordre lorsqu’il est illégal ? Auprès de qui le robot doit-il rendre compte de son action ? Qui peut décider d’interrompre l’action d’un robot ? La chaîne de commandement ne risque-t-elle pas d’être mise à mal par la possibilité offerte à un décideur politique ou militaire de commander lui-même le robot, c’est-àdire d’intervenir directement dans la conduite des opérations sur le terrain ? Ne faut-il pas se prémunir contre ce risque en instaurant, par exemple, des dispositifs de reconnaissance et d’enregistrement systématique des interventions demandées aux robots ? • Combattre aux côtés des robots : la présence de robots commandés à distance ou dotés d’une large autonomie de décision modifie sensiblement la pratique du commandement, la formation de l’esprit de corps, voire de la notion même de combattant. Elle implique presque inévitablement une modification de la manière de concevoir et de conduire les opérations sur le terrain. 13 J. Storrs Hall, Beyond AI: Creating the Conscience of the Machine (Prometheus Books, 2007). 9 o Pratique du commandement : si l’on analyse la robotisation comme le remplacement total ou partiel de l’individu par la machine, les unités commandées évolueront dans le sens d’une moindre densité humaine, à la fois en termes quantitatifs (ratio hommes / ensemble des forces) et qualitatifs (prise en charge de missions complexes par des robots hautement qualifiés). Le commandement s’exercera sur des systèmes hommes/machines, voir, à moyen terme, sur des systèmes de machines. La nature du commandement, les aptitudes nécessaires à son exercice, voire une notion comme le « leadership » semblent appelées à évoluer de manière sensible. o Combattants et non combattants : dans une situation de conflit armé, le droit international prévoit l’application de règles écrites et non écrites, valables tant en ce qui concerne les conflits internationaux que non internationaux et dont la finalité est de protéger les personnes qui ne participent pas ou plus aux combats d’une part et de limiter les méthodes et les moyens du combat d’autre part. A ce titre, le Droit international humanitaire repose sur une catégorisation fondatrice des acteurs (combattants, non combattants, victimes de guerre, population civile) et des principes (de proportionnalité et de discrimination) qui sont déjà remises en cause dans les conflits irréguliers contemporains et qui le seront encore davantage avec l’irruption des robots sur le champ de bataille. Que devient la distinction combattant / non combattant lorsque le robot est télécommandé par un ingénieur civil qu peut être ou non présent sur le champ de bataille ? Les robots s’inscrivent-ils dans la dichotomie entre objectifs militaires et biens civils ? Quel sens peut prendre la notion de « participation directe aux hostilités » dans les hypothèses où le robot est sous le contrôle d’un soldat ou d’un ingénieur ? o Formation de l’esprit de corps : la robotisation devrait avoir pour conséquence directe de mettre à distance, voire de désaccoupler les combattants d’une même unité, mise à distance physique caractérisée par l’éloignement entre celui qui télécommande (ou dont la responsabilité est engagée) et mise à distance psychologique qui soulève la question plus générale de la cohésion à obtenir entre 10 hommes et machines. Dans l’hypothèse d’unités fortement robotisées, la présence de machines dotées d’une certaine autonomie de décision est-elle sans conséquences sur les relations sociales au sein du groupe ou risque-t-elle de susciter des modifications du comportement collectif ? o Modification des tactiques : le progrès technique permet de doter les unités militaires de machines capables de les renseigner, de lutter contre des engins explosifs, de les ravitailler, de leur apporter des soins… Les possibilités ainsi ouvertes ne sont pas seulement de nature à amplifier des capacités existantes et dont les conditions de mise en œuvre demeureraient inchangées. Elles doivent donner lieu à l’élaboration de nouveaux cadres d’emploi, de nouvelles formes d’action tactique, de nouveaux modes opératoires. o Robotisation et automatisation des séquences de combat : si l’on envisage la robotisation comme la mise en œuvre de véritables systèmes de robots, la mise au point de ces systèmes débouche nécessairement sur la conception et la rédaction de scénarii complexes correspondant à des séquences types de combat qui peuvent éventuellement à leur tour s’intégrer dans un mode opératoire plus vaste. Penser l’articulation homme machines, c’est en fait l’inscrire dans des systèmes automatisés de plus grande échelle. Quelles pourraient être alors ces séquences types de combat ? En fonction de quel adversaire ? Doivent-elles être hiérarchisées ou enchaînées ? Renouvellent-elles les questions de simulation et de jeu de guerre ? Qui porte la responsabilité générale d’architectures logicielles de ce type ? Quelle place sont susceptibles de tenir dans le système robotisé les inévitables logiciels issus du secteur civil ? Les robots militaires doivent-il s s’en affranchir totalement (au risque de supporter des problèmes de coûts, de lisibilité et de maintenance) ou doivent-ils intégrer certains ensembles logiciels civils (avec la création d’une dépendance sensible à l’égard de tel ou tel société spécialisée). L’inscription de ces séquences dans des scénarii prédéfinis conduit-elle à définir des profils d’adversaires et d’actions hostiles ? Dans ce cas, 11 l’utilisation de ce type de construction est inséparable de la notion de prévention.14 Impact de la robotisation sur les populations La robotisation s’inscrit à rebours de l’idée centrale des doctrines actuelles de guerre au sein des populations car l’on voit mal comment un emploi massif de robots permettrait de créer le lien social indispensable à la conquête des « cœurs et des esprits ». La robotisation du champ de bataille et, au-delà, de l’ensemble du théâtre des opérations (renseignement, surveillance, soutien, destruction…) est susceptible d’engendrer des réactions de méfiance, voire d’hostilité, de la part de la population. L’absence de sentiments humains peut être considérée comme un avantage sur le champ de bataille dans la mesure où elle fait disparaître le risque de comportements déviants impulsés par la haine, la vengeance ou la peur. En revanche, elle constitue un handicap majeur s’il s’agit de rapprocher forces armées et populations. Robotisation et rapport à l’ennemi Les forces armées occidentales n’auront pas le monopole des robots sur le champ de bataille. On peut, en effet, penser que l’utilisation de technologies caractérisées par des économies d’échelle et des gains de productivité permettra d’abaisser rapidement le coût de production de ces robots. Il en découlera que de nombreux acteurs (forces régulières ou non) pourront s’en doter et en avoir la maîtrise de l’emploi. En outre, il n’est pas inenvisageable que des robots puissent faire l’objet d’une capture et d’une reprogrammation par des spécialistes dont les compétences semblent assez largement réparties sur la planète.15 Les forces occidentales doivent donc se préparer à des formes de combat « hybrides » où l’ennemi sera lui aussi capable de mettre en œuvre des systèmes de robots, peut-être moins sophistiqués mais dont l’emploi peut correspondre à des schémas tactiques inusités. L’usage de robots pour exécuter des missions à haut risque, augmenter la capacité de destruction ou surveiller les populations répond, chez leurs utilisateurs 14 Cette question fera l’objet d’un traitement particulier dans la 3° partie de la problématique Il n’est d’ailleurs pas indifférent de noter que les capacités en termes de logiciels et d’informatique se trouvent aujourd’hui concentrées dans un certain nombre de pays dits émergents. 15 12 occidentaux, à une rationalité et à une logique de réduction des pertes qu’il n’est plus nécessaire de démontrer. Or, cette rationalité ne doit pas faire oublier que, pour la plupart des nations en guerre, Israël et les Etats-Unis en particulier, la priorité est la sauvegarde de la vie de leurs propres hommes, quel que soit le prix à payer pour l’adversaire et éventuellement les populations civiles des zones de combat. En d’autres termes, l’’ennemi qui doit combattre une armée robotisée n’a certainement pas la même perception de la situation. Il y a donc de fortes chances qu’il soit conforté dans le sentiment qu’il se bat contre des adversaires qui disposent une nouvelle fois d’une suprématie technologique face à laquelle il sera nécessairement défait. Si cette hypothèse se vérifiait, la robotisation du champ de bataille jouerait alors comme un accélérateur du combat asymétrique sous ses formes les plus extrêmes et inattendues ; elle pourrait dès lors conforter le caractère normal, justifié et eficace de certains modes d’action que nous jugeons irréguliers (guérillas, terrorisme, attentats suicide, attaques informatiques…) 2.3 Robots, rapports de puissance et système des relations internationales Il ressort des enjeux exposés précédemment une interrogation nécessaire sur les modifications que va entraîner le phénomène de la robotisation à grande échelle sur la mise en œuvre de la coercition dans le système des relations internationales. Tenter de répondre à cette interrogation, c’est aborder les notions de dépolitisation des conflits et de leur neutralisation, de modification des rapports de puissance politique et économique pour déboucher sur une réflexion plus large qui concerne la place relative de ces systèmes robotiques de toute nature dans le champ de la coercition. Dépolitisation des conflits On appellera ici dépolitisation des conflits la volonté marquée des Etats, qui en ont la capacité, d’euphémiser politiquement et juridiquement les conséquences politiques, morales et médiatiques du conflit. Si l’on considère qu’un robot est défini par son degré d’autonomie vis-à-vis de l’humain et qu’il opère par ailleurs au sein d’un système qui, lui-même, prend place dans des scénarii automatisés, il est possible d’affirmer que la robotisation induit 13 nécessairement une mise à distance de la chaîne hiérarchique traditionnelle jusqu’au plus haut niveau. Les dommages collatéraux provoqués par les tirs automatisés des drones en Afghanistan sont l’une des illustrations de cette euphémisation. Il s’avère d’ailleurs que leur responsabilité morale et politique n’a jamais été revendiquée par les Etats. Seule l’erreur technique a été mise en avant pour expliquer et justifier la destruction de populations civiles. Au-delà de cet aspect technique, il existe un réel intérêt et donc une réelle volonté des Etats à déployer des robots sur le champ de bataille dans la mesure où ce déploiement est synonyme d’une diminution des pertes humaines, en particulier dans des pays comme les Etats-Unis ou Israël où la vie des militaires est surévaluée par rapport à celle des citoyens ordinaires. L’Etat, comme pour le mercenariat, n’a pas à supporter le poids moral, politique et économique de la disparition humaine. Il n’en porte pas non plus la responsabilité juridique puisque l’ensemble des principes et des règles internationales écrits et non écrits n’est jusqu’à présent pas applicable dans des conflits armés internationaux mettant en présence des robots. Quel sera à l’avenir l’impact de leur utilisation sur les concepts et les principes fondamentaux du droit des conflits armés ? Les robots pourraient-ils se voir reconnaître une personnalité juridique et être insérés dans un système juridique qui reconnaîtrait la personnalité des objets décisionnels autonomes ? Neutralisation des conflits La robotisation du champ de bataille va offrir une nouvelle gamme d’options stratégiques au déploiement de la puissance militaire. Ces options pourraient être décisives en matière de prévention et de neutralisation des conflits. Le déploiement à grande échelle de robots dans des zones potentiellement à risque permettrait de disposer d’un système de vigilance et d’alerte qui pourrait conduire à neutraliser en amont les conflits potentiels, ce que la communauté internationale avait les plus grandes difficultés à réaliser jusqu’à présent. Ce système de vigilance organisé pourrait également permettre un suivi des accords de paix beaucoup plus efficace. En résulterait-il pour autant une plus grande implication des organisations internationales dans des situations conflictuelles de faible intensité ? Serait-il possible de déployer plus rapidement et à moindre coût des dispositifs destinés à contrôler les tensions dans une zone donnée ? Le monde serait-il plus sûr si la 14 prévention et le traitement des conflits reposaient sur des systèmes de robots plus que sur les forces internationales que nous connaissons aujourd’hui ? Enfin, le déploiement de ces robots contiendrait également une menace beaucoup plus grande pour les perturbateurs du système international dans la mesure où ils seraient soumis logiquement à des formes d’interdiction robotiques. Leurs frontières, leurs espaces aériens et maritimes, voire certaines zones de leur territoire se trouveraient investis par des « phalanges robotisées » matérialisant une menace permanente complétant « l’inquisition spatiale » déjà à l’œuvre.16 Modification des rapports de puissance La dimension technique et opérationnelle de l’autonomie pose la question plus générale de savoir si les robots représentent une étape supplémentaire dans la transformation de la guerre, comparable à la mutation mécanique des années trente ou à celle plus récente de la Révolution dans les affaires militaires, ou bien si le rapport entre l’homme et la technique n’est pas modifié plus profondément, de sorte qu’on entrerait dans un nouvel âge de l’armement. En affectant l’outil militaire et les conditions d’exercice de la puissance offensive et de la puissance défensive, les évolutions techniques peuvent provoquer des modifications sensibles dans l’équilibre des puissances, et une recomposition du panorama stratégique. A cet égard, la robotisation ne manquera pas de remettre en cause le classement et la typologie actuels des puissances militaires tels que l’illustre le tableau suivant. 16 On peut considérer que la création par les Etats-Unis au lendemain des attentats du 11 septembre d’une double « smart boarder” (frontière électronique) préfigure cette automatisation de la surveillance dont on peut également se demander si elle est réellement efficace puisqu’elle n’a jamais réussi à ralentir le flot de l’immigration mexicaine vers le sud des Etats-Unis. 15 Typologie des forces armées futures This document is the property of Thales Group and may not be copied or communicated without written consent of Thales Etats-Unis: :panoplie panopliecomplète complète ••Etats-Unis Forcenucléaire nucléairestratégique stratégique(contre-forces (contre-forces?) ?)++Ballistic BallisticMissile MissileDefense Defense • •Force Puissanteforce forceexpéditionnaire expéditionnairehigh-tech high-tech++contre-insurrection contre-insurrection ••Puissante Posturede dedomination dominationEspace Espace/ /cyberespace cyberespace • •Posture Mercenaires++troupes troupesindigènes indigènes • •Mercenaires Puissancesmoyennes moyennesoccidentales occidentalesalliées alliées ••Puissances Petitesforces forcesd’intervention d’interventionhigh-tech high-tech • •Petites Suffisancenucléaire nucléairepour pourFrance France/ /Grande-Bretagne Grande-Bretagne • •Suffisance Puissancesrévisionnistes révisionnistes: :Chine, Chine,Inde, Inde,Russie Russie ••Puissances Suffisancenucléaire nucléaire • •Suffisance Moyensd’attaque d’attaquespatiale spatialeetetinformatique informatique • •Moyens 3 avril 2009 Arméesterritoriales territorialesimportantes importantes(réserves, (réserves,milices, milices,gardes-frontières) gardes-frontières) • •Armées Petiteforce forced’intervention d’interventionhigh-tech high-techy/c y/chaute hautemer mer • •Petite Etatsfaibles faibles ••Etats Combinaisonmutante mutanteforces forcesrégulières régulières/ /irrégulières irrégulières(Iran, (Iran,Corée Coréedu duN., N.,Hezbollah) Hezbollah) • •Combinaison 10 Nucléairedans danscertains certainscas cas • •Nucléaire Land & Joint Systems Lutte informatique • •Lutte informatique Source ? Ce nouvel âge de l’armement sera également porteur d’une redistribution des positions acquises dans le monde techno-industriel. D’une part, il modifiera les relations entre les branches qui contribuent à la production des systèmes d’armes. D’autre part, il entraînera une redistribution de la puissance économique entre les pays traditionnellement dominants (Etats-Unis, Europe, Russie…) et les pays émergents qui maîtrisent les technologies de l’automatisation, de la miniaturisation et de l’informatique. Au plan interne, la redistribution éventuelle du pouvoir entre les branches industrielles qui contribuent à la production des systèmes d’armes soulève les questions suivantes : • Peut-on appliquer aux robots terrestres la notion de « génération » telle qu’elle est reconnue dans les industries de haute technologie, avec quels effets en termes de capacités et de coûts et avec quel degré d’anticipation ? • Quelle est la réalité de la dualité supposée entre les techniques de la robotique domestique et celles nécessaires à la robotique militaire ? La production des robots militaires suivra-t-elle plutôt les lois économiques applicables aux secteurs civils 16 correspondants (informatique, télécommunications) caractérisés par des économies d’échelle très importantes et une diminution rapide des coûts de production ou suivra-t-elle les lois économiques de l’industrie d’armement ? • Le coût de création et de fonctionnement d’unités robotisées sera-t-il nécessairement moindre que celui des unités actuelles du fait de la réduction des pertes humaines découlant de l’attribution aux robots militaires de tâches présentant un danger certain ? L’investissement nécessaire pour la « formation des robots » (rédaction des scénarios d’emploi, écriture des logiciels comportementaux, mise au point des systèmes de communications au sein des systèmes robotiques et entre le robot et l’homme…) peut-il donner lieu à un gain du fait de la réplication possible à faible coût des dispositifs techniques et logiciels ? • Quelle gouvernance convient-il de mettre en place pour favoriser l’articulation des besoins opérationnels, des choix politiques et des ambitions industrielles ? Une structure comme celle de la DGA est-elle susceptible de résoudre les problèmes posés par la relation complexe qui caractérisent habituellement la production des systèmes d’armes ? • Comment favoriser l’éclosion d’entreprises nouvelles de robotique de défense en France ? Quel rôle peuvent jouer les pôles de compétitivité dans le développement des technologies robotiques fondamentales et dans la constitution des réseaux techno-industriels nécessaires au développement de la robotique militaire ? Au plan externe, la robotisation du champ de bataille est-elle susceptible de modifier substantiellement la hiérarchie des producteurs de systèmes d’armes ? On sait, par exemple, que les Etats-Unis disposent d’une avance certaine en matière de navigation en environnement ouvert, d’architecture robotique ou d’applications robotiques militaires. En revanche, le Japon et la Corée dominent les questions de mobilité, de robots humanoïdes, l’Europe étant pour sa part très présente dans la mobilité en environnement structuré (réseaux urbains par exemple). Des pays comme Israël ou l’Australie disposent également de forces spécifiques dans le domaine. Ces pays sont, pour certains, déjà présents dans la production traditionnelle d’armement ; d’autres sont appelés à y prendre une place qui remettre en cause les situations acquises. Quelle est la carte actuelle du développement de l’industrie robotique dans le monde ? Quels sont les acteurs et les stratégies 17 majeurs ? Quels sont les besoins et les budgets ? Quels sont les enjeux géopolitiques ? Quelles sont les nouvelles alliances à mettre en place ? Place des robots dans le système général de la coercition Depuis les années 1980, on assiste à une réarticulation des principaux acteurs de la coercition. Sous l’effet de la mondialisation des échanges, de l’indifférenciation entre sécurité intérieure et sécurité extérieure, de l’émergence de doctrines centrées sur le contrôle ou la protection des populations, on assiste dans les principaux pays occidentaux à la diminution constante des forces armées et, concomitamment, à la montée en puissance des forces de police et de sécurité privée.17 A cet égard, la diminution continue des effectifs militaires alors même que le succès des opérations dans lesquelles ils sont engagés est de plus en plus relatif démontre que les Etats sont à la recherche d’une autre équation de l’emploi général des forces. Cette nouvelle équation qui voit l’émergence des systèmes de police et de renseignement, l’apparition d’agences spécialisées dans le crime organisé ou le contrôle des trafics, l’intervention des systèmes judiciaires qu’accompagnent de profondes modifications du Droit, compte désormais un nouvel acteur : les robots. Il s’agit alors de comprendre comment s’établit la place de ces derniers dans ce nouveau champ des acteurs de la coercition. Notre hypothèse de départ est que les systèmes de robots se placent à l’interface de deux tendances majeures : • Celle qui met l’accent stratégiquement et politiquement sur les capacités de prévention et de surveillance de masse des individus dans une société de plus en plus fluide où le contrôle des populations passe par le contrôle du mouvement sous toutes ses formes déclinées (marchandises, capitaux, individus, information…) ; • Celle qui, au nom d’une prévention générale, fait de l’anticipation, de la rapidité de réaction et du moindre coût de l’intervention dans toutes ses dimensions, des facteurs qui privilégient les systèmes automatisés de recueil et de traitement de l’information ainsi que la constitution de scénarii et de profils automatisés. 17 La France peut être cite comme un exemple de cette tendance. 18 Les systèmes robotisés, parce qu’ils réunissent l’ensemble de ces critères (recueil et traitement de l’information de toute nature (notamment policière et militaire), autonomie, efficacité, désengagement des chaînes hiérarchiques, devraient à terme constituer un acteur privilégié de cette nouvelle continuité qui restructure le champ de la coercition en termes de répartition des rôles, de pratiques et d’impact sur les sociétés concernées et sur le système des relations internationales tout entier. C’est cette dimension qui fait de la robotisation et des systèmes robotisés un objet d’étude qui dépasse de beaucoup le cadre de l’emploi opérationnel sur le champ de bataille et lui donne sa véritable portée. 19 Bibliographie provisoire 1. Ageny Group 09, “Technology to Enable, Not Replace Warfighters,” FDCH Regulatory Intelligence Database, http://search.ebscohost.com/login.aspx?direct=true&db=bth&AN=32W1581424497&l ang=fr&site=ehost-live. 2. M. Alighanbari et J. P. How, “Robust decentralized task assignment for cooperative UAVs,” dans AIAA Conf. on Guidance, Navigation and Control (Keystone, Colorado: Amperican Institue of Aeronautics), 1-16. 3. R. C. Arkin, “Governing lethal behavior: embedding ethics in a hybrid deliberative/reactive robot architecture,” dans (ACM New York, NY, USA, 2008), 121-128. 4. Ronald C Arkin, Governing Lethal Behavior in Autonomous Robots (Boca Raton, Fla: Chapman & Hall/CRC Press, 2009). 5. Ronald C. Arkin, “Ethical Robots in Warfare.,” IEEE Technology & Society Magazine 28, no. 1 (Spring2009 2009): 30-33, doi:10.1109/MTS.2009.931858. 6. P. M. Asaro, “What Should We Want From a Robot Ethic?,” Ethics in Robotics 6 (2006): 9. 7. David Axe, War Bots: How U.S. Military Robots Are Transforming War in Iraq, Afghanistan, and the Future (Nimble Books, 2008). 8. A. Bacha et al., “Team Victor-Tango’s entry in the DARPA Urban Challenge,” Journal of Field Robotics, Special Issue on the 2007 DARPA Urban Challenge 25 (2008): 467-492. 9. R. Badham et B. Schallock, “Human Factors in CIM: A Human Centred Perspective from Europe,” International Journal of Human Factors in Manufactu-Ing 1 (1991): 121-141. 10. Tucker Balch et Ronald C. Arkin, “Behavior-based formation control for multirobot teams.,” IEEE Transactions on Robotics & Automation 14, no. 6 (Décembre 1998): 926, doi:Article. 11. M. J. Barnes et al., “Understanding Soldier Robot Teams in Virtual Environments” (2006). 12. Peter Bergen et Katherine Tiedemann, “The Drone War.,” New Republic 240, no. 9 (Juin 3, 2009): 22-25, doi:Article. 13. Sergi Bermúdez i Badia et al., “A Biologically Based Chemo-Sensing UAV for Humanitarian Demining.,” International Journal of Advanced Robotic Systems 4, no. 2 (Juin 2007): 187-198, doi:Article. 14. L. F. Bertuccelli, M. Alighanbari, et J. P. How, “Robust planning for coupled cooperative UAV missions,” dans 43rd IEEE Conference on Decision and Control, 2004. CDC, vol. 3, 2004. 15. R. Bishop et J. Phillips, “Unmanning the homeland,” International Journal of Urban and Regional Research 26, no. 3 (2002): 620-625. 16. R. A. Bitzinger, Arming the Revolution in Military Affairs: The US Defense Industry in the Post-transformational World (NANYANG TECHNOLOGICAL UNIV (SINGAPORE), 2009). 17. Max Boot, “The New American Way of War.,” Foreign Affairs 82, no. 4 (Juillet 2003): 41-58, doi:Article. 18. Greg Broten et al., “Software Systems for Robotics An Applied Research Perspective.,” International Journal of Advanced Robotic Systems 3, no. 1 (Mars 2006): 11-16, doi:Article. 20 19. Anne Bruseberg et Georgina Fletcher, The Human View Handbook for MODAF (Systems Engineering & Assessement Ltd, 2008). 20. S. A. Cambone et OFFICE OF THE SECRETARY OF DEFENSE WASHINGTON DC, Unmanned Aircraft Systems Roadmap 2005-2030 (Defense Technical Information Center, 2005). 21. Ashton Carter, “Defense Management Challenges for the Next American President,” Orbis 53, no. 1 janvier (2009): 41-53. 22. Jennifer Cartson et Robin R. Murphy, “How UGVs Physically Fail in the Field.,” IEEE Transactions on Robotics 21, no. 3 (Juin 2005): 423-437, doi:10.1109/TRO.2004.838027. 23. J. Y. Chen et al., Understanding Soldier Robot Teams in Virtual Environments (Storming Media, 2006). 24. K. C. Cheok et al., “Gauging intelligence of unmanned vehicle systems-an IGVC perspective,” Journal of Robotic Systems 21, no. 8 (2004). 25. Bill Coffin, “Why, Robot?,” Risk Management (00355593) 51, no. 10 (Octobre 2004): 4, doi:Article. 26. D. T. Cole, S. Sukkarieh, et A. H. Goktogan, “System development and demonstration of a UAV control architecture for information gathering missions,” Journal of Field Robotics 23 (2006). 27. N. J. Cooke, Human factors of remotely operated vehicles (JAI Press, 2006). 28. N. J. Cooke, Human factors of remotely operated vehicles (JAI Press, 2006). 29. J. B. Cruz Jr et al., “Modeling and control of military operations against adversarial control,” dans Decision and Control, 2000. Proceedings of the 39th IEEE Conference on, vol. 3, 2000. 30. C. Edwards, “The automatic air force [unmanned aerial vehicles].,” Engineering & Technology (17509637) 2, no. 4 (Avril 2007): 32-35, doi:10.1049/et:20070404. 31. A. W. Evans III et al., “Exploring Human-Robot Interaction: Emerging Methodologies and environments,” Human Factors of Remotely Operated Vehicles 7 (2006): 345358. 32. Lawrence D. Freedman, “Wired for War: The Robotics Revolution and Conflict in the Twenty-first Century.,” Foreign Affairs 88, no. 3 (Mai 2009): 171-172, doi:Book Review. 33. Masoud Ghaffari et al., “Design of an unmanned ground vehicle, bearcat III, theory and practice,” Journal of Robotic Systems 21, no. 9 (2004): 471-480, doi:10.1002/rob.20027. 34. M. A. Goodrich et A. C. Schultz, “Human-robot interaction: A survey,” Foundations and Trends® in Human-Computer Interaction 1, no. 3 (2007): 203-275. 35. Marc Grozel, Drones, Mystérieux Robots Volants: Les Yeux Et Le Feu Du XXIe Siècle, Renseignement, histoire & géopolitique (Panazol: Lavauzelle, 2008). 36. J. Storrs Hall, Beyond AI: Creating the Conscience of the Machine (Prometheus Books, 2007). 37. David Hambling, Weapons Grade: How Modern Warfare Gave Birth to Our HighTech World (New York: Carroll & Graf, 2005). 38. Leighton Hanon, “Robots ont the Battlefield - Are We Ready For Them?,” AIAA 3rd "Unmanned Unlimited", Technical Conference, Workshop and Exhibit (2004): 20 - 23 septembre, Chicago. 39. Christopher Hart, Mecha Mania: How to Draw the Battling Robots, Cool Spaceships, and Military Vehicles of Japanese Comics (New York: Watson-Guptill Publications, 2002). 40. J. Hecht, “The world of robot warcraft,” New Scientist 201, no. 2692 (2009): 57-57. 21 41. W. G. Holder, Unmanned air vehicles: an illustrated study of UAVs (Schiffer Pub., 2001). 42. Michael Horowitz et Dan A Shalmon, “The Future of War and American Military Strategy,” Orbis 53, no. 2 (2009): 300 - 318. 43. B. P. Hunn, “Video Imagery's Role in Network Centric, Multiple Unmanned Aerial Vehicle (UAV) Operations,” Human Factors of Remotely Operated Vehicles 7 (2006): 179-191. 44. Harry Hutchinson, “Unmanned Minespotter Passes a Key Test.,” Mechanical Engineering 130, no. 1 (Janvier 2008): 8, doi:Article. 45. J. Hyams et al., “Soldier universal robot controller,” dans , vol. 6962, 2008, 69621P. 46. International Resource Development, inc, Artificial Intelligence & Robotics in Military and Paramilitary Markets (Norwalk, Conn., U.S.A. (6 Prowitt St., Norwalk 06855): International Resource Development, 1985). 47. J. T., “Robot as Bird Dog.,” Mechanical Engineering 128, no. 7 (Juillet 2006): 13-14, doi:Article. 48. L. D. Jackel et al., “The DARPA LAGR program: Goals, challenges, methodology, and phase I results,” Journal of Field Robotics 23, no. 11-12 (2006): 945-973, doi:10.1002/rob.20161. 49. David Jefferis et David Jefferis, Robot Warriors (New York: Crabtree Pub. Company, 2007). 50. Alonzo Kelly et al., “Toward Reliable Off Road Autonomous Vehicles Operating in Challenging Environments.,” International Journal of Robotics Research 25, no. 5/6 (Mai 2006): 449-483, doi:10.1177/0278364906065543. 51. S. Killmister, “Remote Weaponry: The Ethical Implications,” Journal of Applied Philosophy 25, no. 2 (2008): 121-133. 52. G. W. Kinney Jr, R. R. Hill, et J. T. Moore, “Devising a quick-running heuristic for an unmanned aerial vehicle (UAV) routing system.,” Journal of the Operational Research Society 56, no. 7 (Juillet 2005): 776-786, doi:10.1057/palgrave.jors.2601867. 53. D. G. Knichel et D. J. Bruemmer, “From the laboratory to the soldier: providing tactical behaviors for Army robots,” dans , vol. 6962, 2008, 69621M. 54. Armin Krishnan, Killer Robots: Legality and Ethicality of Autonomous Weapons (Burlington, VT: Ashgate, 2009). 55. Land Integrated Technology Team, “Defence Research 2009,” UK Ministry of defence - Defense Research 2009 Conference 24 et 25 mars (2009): http://www.science.mod.uk/GetFile.aspx?90. 56. R. S. Leonard et J. A. Drezner, Innovative Development: Hae Uav Actd Program Description and Comparative Analysis (Rand Corporation, 2002). 57. Patrick Lin, George Bekey, et Keith Abney, Autonomous Military Robotics (US Dpartment of Navy, Office of Naval Research, 2008). 58. Jason Lomberg, “Autonomous Military Robots: A Short Survey.,” ECN: Electronic Component News 53, no. 5 (Mai 2009): 11, doi:Editorial. 59. Carl Lundberg, Henrik I Christensen, et Roger Reinhold, “Long-term Study of a Portable Field Robot in Urban Terrain,” Journal of Field Robotics 24, no. 8/9 (2007): 625 - 650. 60. P. Marks, “Armchair warfare,” New Scientist 192, no. 2575 (2006): 24-24. 61. P. Marks, “Armchair warlords and robot hordes,” Infosecurity 4, no. 5 (2007): 18-19. 62. H-R McMaster, “Leraning From Contemporay Conflicts to Prepare Future,” Orbis Fall (2008): 564 - 584. 22 63. L. V. Moshkina et R. C. Arkin, “Lethality and autonomous systems: The roboticist demographic,” dans , 2008, 1-9. 64. National Research Council (U.S.) et National Research Council (U.S.), Technology Development for Army Unmanned Ground Vehicles (Washington, D.C: National Academies Press, 2002). 65. W. T. Nelson et R. S. Bolia, “Supervisory Control of Uninhabited Combat Air Vehicles From an Airborne Battle Management Command and Control Platform: Human Factors Issues,” Book: Advances in Human Performance and Cognitive Engineering Research 7: 978-0. 66. G. Neuneck et C. Alwardt, “The revolution in military affairs: Its driving forces, elements, and complexity,” Complexity 14, no. 1 (2008): 50-61. 67. Office of the Secretary of Defense, Unmanned Systems Roadmap (2007 - 2032), 2007. 68. Interfaces for Ground and Air Military Robots: Workshop Summary (Washington, D.C: National Academies Press, 2005). 69. H. K. Pedersen et al., “UAV Human Factors: Operator Perspectives, Human Factors of Remotely Operated Vehicles,” Advances in Human Performance and Cognitive Engineering Research 7: 21-33. 70. E. M. Purdy, “The Increasing Role of Robots in National Security,” DEFENSE AT AND L 37, no. 3 (2008): 26. 71. S. Rasmussen et C. Schumacher, “Cooperative control of unmanned aerial vehicles,” International Journal of Robust and Nonlinear Control 18, no. 2 (2008). 72. Guy Richards, “It is a bird, is it a plane? [unmanned aerial vehicles].,” Engineering & Technology (17509637) 4, no. 4 (Février 28, 2009): 44-47, doi:10.1049/et.2009.0408. 73. J Ricou Heaton, “Civilians at War: Reexamining the Status of Civilians Accompanying the Armed Forces,” Air Force Law Review 57 (2005): 155 - 210. 74. J. B. Saunders et al., Combining Collision Avoidance and Operator Workload Reduction with Cooperative Task Assignment and Path Planning (Preprint) (Defense Technical Information Center, 2006). 75. D. E. Shahady et al., “Understanding the emergence of disruptive innovation in Air Force science and technology organizations,” dans Management of Engineering & Technology, 2008. PICMET 2008. Portland International Conference on, 2008, 506518. 76. Steven M Shaker, War Without Men: Robots on the Future Battlefield, 1er éd., Future warfare series v. 2 (Washington: Pergamon-Brassey's, 1988). 77. Vijay K. Shetty, Moises Sudit, et Rakesh Nagi, “Priority-based assignment and routing of a fleet of unmanned combat aerial vehicles.,” Computers & Operations Research 35, no. 6 (Juin 2008): 1813-1828, doi:10.1016/j.cor.2006.09.013. 78. P. W Singer, Wired for War: The Robotics Revolution and Conflict in the Twenty-First Century (New York: Penguin Press, 2009). 79. Peter Singer, “Robots and War: Everything You Were Affraid to Ask... Affraid to Ask... Affraid to Ask...,” dans (Woodrow Wilson School of Public and International Affairs, Princeton University: University Channel, 2009). 80. Boris Sofman et al., “Improving robot navigation through self-supervised online learning,” Journal of Field Robotics 23, no. 11-12 (2006): 1059-1075, doi:10.1002/rob.20169. 81. Robert Sparrow, “Predators or Plowshares? Arms Control of Robotic Weapons.,” IEEE Technology & Society Magazine 28, no. 1 (Spring2009 2009): 25-29, doi:10.1109/MTS.2009.931862. 23 82. A. N. Stulberg, “Managing the Unmanned Revolution in the US Air Force,” Orbis 51, no. 2 (2007): 251-265. 83. Zhijun Tang, “Cooperative sensor deployment for multi-target monitoring,” International Journal of Robust and Nonlinear Control 18, no. 2 (2008): 196-217, doi:10.1002/rnc.1220. 84. Jean Thilmany, “Avoid This Robot.,” Mechanical Engineering 127, no. 10 (Octobre 2005): 14, doi:Article. 85. Sebastian Thrun et al., “Stanley: The robot that won the DARPA Grand Challenge,” Journal of Field Robotics 23, no. 9 (2006): 661-692, doi:10.1002/rob.20147. 86. TRADOC et TARDEC, Robotics Strategy White Paper, 19 mars, 2009. 87. Jon Turney, Technology: Ethical Debates About the Application of Science (Mankato, Minn: Black Rabbit Books, 2009). 88. Chris Urmson et al., “Autonomous driving in urban environments: Boss and the Urban Challenge,” Journal of Field Robotics 25, no. 8 (2008): 425-466, doi:10.1002/rob.20255. 89. K. P. Valavanis, P. Oh, et L. A. Piegl, Unmanned Aircraft Systems: International Symposium on Unmanned Aerial Vehicles, UAV'08 (Springer Verlag, 2008). 90. Nicolas Vandapel, Raghavendra Rao Donamukkala, et Martial Hebert, “Unmanned Ground Vehicle Navigation Using Aerial Ladar Data.,” International Journal of Robotics Research 25, no. 1 (Janvier 2006): 31-51, doi:10.1177/0278364906061161. 91. René Vidal et al., “Probabilistic Pursuit—Evasion Games: Theory, Implementation, and Experimental Evaluation.,” IEEE Transactions on Robotics & Automation 18, no. 5 (Octobre 2002): 662, doi:Article. 92. M. Wei et al., “Game-theoretic modeling and control of military operations with partially emotional civilian players,” Decision Support Systems 44, no. 3 (2008): 565579. 93. Steve White, Military Robots (New York: Children's Press, 2007). 94. S. E. White, “Brave New World: Neurowarfare and the Limits of International Humanitarian Law,” Cornell International Law Journal 41, no. 1 (2008): 177. 95. David D. Woods et al., “Envisioning Human-Robot Coordination in Future Operations.,” IEEE Transactions on Systems, Man & Cybernetics: Part C Applications & Reviews 34, no. 2 (Mai 2004): 210-218, doi:10.1109/TSMCC.2004.826272. 96. G. Zorpette, “Countering IEDS,” IEEE Spectrum 45, no. 9 (2008): 26-35. 97. G. Zorpette, “Bomb squad diary,” IEEE Spectrum 45, no. 10 (2008): 40-47. 98. G. Zorpette et P. E. Ross, “Think fiction has no role in engineering? Leading technologists describe the novels that influenced them the most,” IEEE SPECTRUM 44, no. 3 (2007): 48. 24