Untitled - Les écoles de Saint

« Robots et létalité »
Problématique :
Les progrès spectaculaires réalisés dans les différents domaines qui contribuent à la mécanisation,
l’automatisation ou à la robotisation des activités humaines conduit à s’interroger sur les opportunités et les
menaces inhérentes à tout processus de ce type. Dans le domaine particulier des technologies militaires, ces
questions sont plus prégnantes encore puisqu’elles touchent à la capacité dont, dans un futur plus ou moins
lointain, des machines pourraient être dotées de capacités autonomes de destruction, introduisant ainsi sur le
champ de bataille un nouveau type d’équipement : les systèmes d’armes létaux autonomes (SALA). Opposés à cette
évolution possible de la guerre, certaines associations issues de la société civile entendent obtenir l’interdiction
de ce qu’ils appellent les « killer robots ». !
La première question posée est celle de la définition même de l’objet étudié. Dans le domaine des « robots militaires
», la confusion règne souvent entre des systèmes très différents, notamment les équipements téléopérés, les
systèmes d’armes automatiques et les SALA. Ces distinctions ne procèdent pas que des querelles sémantiques.
Elles induisent des équilibres homme-machine substantiellement différents au sein du système de décision et, par
conséquent, des questionnements spécifiques relatifs aux mécanismes de décision et de contrôle, au partage de
responsabilité entre les différents acteurs.
Une fois cette question sémantique traitée, intervient celle du degré réel d’innovation introduit par les possibles
SALA. Ceux-ci constituent-ils véritablement une révolution dans l’art de la guerre, révolution que le Droit
international humanitaire positif ne serait pas en mesure de réguler et pour laquelle il serait nécessaire de mettre
sur pied une réglementation spécifique ?
Les problèmes soulevés par les adversaires des SALA ne sont-ils pas
ceux déjà posés tout au long de l’histoire des équipements militaires par les évolutions techniques majeures
qui, toutes, tendent à produire des effets sur l’adversaire en se mettant hors de portée de ses équipements ?
problème est-il lié à la nature des armes considérées ou à l’usage qui en est fait ?
Le
Ayant ainsi été circonscrit le périmètre du débat et mis en évidence les véritables enjeux, la question du cadre
juridique peut être envisagée. L’apparition possible dans un avenir plus ou moins lointain de SALA justifie-t-elle
de prendre aujourd’hui des mesures coercitives visant à en bannir le développement et, a fortiori, l’utilisation ?
Le cadre actuel du Droit international humanitaire ne suffit-il pas ? S’il doit être aménagé, quel type de mesures
serait le plus pertinent : une interdiction absolue du développement et de l’emploi de tels systèmes d’armes, un
contrôle des recherches effectuées, une limitation de leur diffusion, ou tout simplement une limitation de leur
utilisation dans l’espace et dans le temps… ?
Enfin, au-delà du questionnement juridique proprement dit, il est indispensable d’évoquer les problématiques
éthiques associées aux SALA. La conception et la mise en oeuvre de l’action militaire suppose par définition
le recours à la force. La délivrance du feu par des systèmes d’armes plus ou moins sophistiqués appelle à une
réflexion personnelle et collective qui dépasse la seule application des règles existantes pour s’inscrire dans un
ensemble plus vaste impliquant une dimension morale qui ne recouvre pas nécessairement et intégralement les
seules règles de Droit.
Conception graphique : DIRCOM / Cellule Infographie / Guillaume ROGER
--Impression : Atelier de reprographie de Coëtquidan
Journée d’études « Robots et létalité ».
9 h 00
Introduction.
11 h 55
Éric GHÉRARDI, directeur général de l’enseignement et de la recherche aux écoles de
Saint-Cyr Coëtquidan.
1 - Systèmes téléopérés et létalité.
Gérard de BOISBOISSEL, CREC Saint-Cyr.
12 h 15
Les systèmes d’armes létaux autonomes : point de vue de l’État-major des armées.
Lieutenant-colonel Olivier Madiot, officier traitant maîtrise des armements conventionnels, EMA.
12 h 35
Questions-réponses
12 h 50
Déjeuner
Modérateur : Stéphane Baudens, CREC.
9 h 10
Approche historique de la létalité.
Capitaine Océane Zubeldia, Armée de l’Air.
9 h 30
9 h 50
10 H 10
De l’intérêt de doter des robots d’armes létales.
Officiers-élèves Florian BANIZETTE, Éric REINBERGER et Antoine PHILIPPE, 2e bataillon
de l’école spéciale militaire de Saint-Cyr.
Drones et robots létaux autonomes : des enjeux différents.
Jean-Baptiste Jeangène Vilmer, chargé de mission « Affaires transversales et sécurité »,
Centre d’analyse, de prévision et de stratégie, ministère des affaires étrangères.
Restitution EPS 2012-10 : les enjeux juridiques internationaux.
Chantal Cordier-Vasseur, Cabinet Latournerie-Wolfrom.
Éric Pomès, CREC Saint-Cyr.
10 h 40
Questions-réponses
10 h 55
Pause café
2.1 - Systèmes autonomes et létalité: concepts et scénarios
Modérateur : Lieutenant-colonel Christophe de Vicq, DFE, ESCC.
11 h 15
Autonomie : enjeux techniques et perspectives.
Catherine Tessier, maître de recherche, membre de la CERNA,
membre du projet ANR ETHICAA (Ethics and Autonomous Agents),
ONERA.
11 h 35
A survey of US Army autonomous weapons systems.
Colonel Kevin Huggins et Cadet Allyson Hauptman,
US Military Academy, West Point (NY).
Proposition de scénarios prospectifs mettant en œuvre des systèmes d’armes létaux
autonomes (SALA)
2.2 - Systèmes autonomes et létalité : mise en œuvre technologique.
Modérateur : Lieutenant-colonel Christophe de Vicq, DFE, ESCC.
14 h 10
Quelle faisabilité d’une autonomie capable d’appliquer les lois de la guerre ? : analyse
technique.
Joël Morillon, Directeur Général Délégué, Nexter Robotics.
14 h 30
Les futurs systèmes de drones : miniaturisation, coopération, hybridation.
Jean-Marc Moschetta, Professeur d’Aérodynamique, responsable cursus Ingénieurs de
l’Armement Drones, ISAE.
14 h 50
Questions-réponses
3 - Cadre juridique d’emploi des systèmes autonomes.
Modérateur : Ronan DOARE, directeur du CREC.
15 h 00
Autonomie : concept juridique et perspectives pour le débat sur les SALA.
Didier Danet, Directeur du pôle AGFT, Centre de Recherche des écoles de Saint-Cyr Coëtquidan.
15 h 20
Killer robots – the need for new international law.
Jean-Marie Fardeau, directeur France, Human Rights Watch.
15 h 40
The US Perspective on Autonomous Weapons and the Law of War.
Colonel David WALLACE et Cadet Allyson Hauptman, US Military Academy, West Point
(NY).
16 h 00
Doit-on tuer les « robots tueurs » ? Étude sur la licéité des systèmes létaux autonomes.
Éric Pomès, chercheur associé, Centre de Recherche des écoles de Saint-Cyr Coëtquidan.
16 h 20
Questions-réponses
16 h 35
Pause café
Mardi 8 avril 2014 - 9 h 00 / 18 h 30.
Amphithéâtre Austerlitz - musée de l’Armée - Hôtel des Invalides - 75007 Paris
Café d’accueil de 8 h 45 à 9 h 00.
Les interventions en anglais seront traduites en français / interventions in French
English.
HÔTEL NATIONAL DES INVALIDES
4. Questions éthiques de l’emploi de la létalité par des robots autonomes.
Modérateur : Éric Germain, délégation aux affaires statégiques.
16 h 55
Look Beyond International Humanitarian Law (IHL) : Autonomous Weapon Systems and
Ethics
Jürgen Altmann, PhD, physicist and peace researcher, Technische Universität Dortmund,
member of the International Committee for Robot Arms Control (ICRAC).
17 h 15
Face à des robots autonomes : une autre perspective.
St François-Xavier
Ligne 13
Latour-Maubourg
Ligne 8
Amphithéâtre Austerlitz
Thierry Pichevin, chercheur, Centre de Recherche des écoles de Saint-Cyr Coëtquidan.
17 h 35
17 H 55
La question des systèmes d’armes létaux autonomes (SALA) comme opportunité d’ouvrir
une réflexion éthique et démocratique sur le droit international humanitaire (DIH).
Jacek Kowalewski, président, Central and Eastern European Initiative for International
Criminal law and Human Rights (ICLHR Initiative), Warsaw, Poland.
Varenne
Ligne 13
Precepts for use of Autonomous Lethal Systems.
Entrée
George Lucas (représenté par M. Éric Germain), Professor of Ethics and Public Policy,
US Naval Academy, Annapolis.
18 h 10
will be translated into
Invalides
Questions-réponses
RER
5. Conclusion du colloque.
18 h 25
Conclusions et perspectives.
18 h 30
Fin de la journée d’études.
Participation aux frais : 30 euros ou 15 euros personnels de la Défense et étudiants.
Déjeuner libre.
Tenue pour les militaires : T 22 vareuse.
Pièce d’identité obligatoire.
Organisateurs :
CREC Saint-Cyr / DAS.
Informations - Réservation :
Gérard de Boisboissel,
+33 (0)2 90 40 40 04
[email protected]
Ligne C
Lignes 13 & 8
Centre de Recherche
des Écoles de Saint-Cyr Coëtquidan
56 381 GUER Cedex
Tél. : 02 90 40 40 40