Institut Moore, think-tank de l`intelligence artificielle

Thibaut BOTTON
Matthieu DJOURABTCHI
François MORTIER
Delphine ROTH
Cédric TURNACO
Sandy VETILLART
Cyrille VIGORIE
INSTITUT MOORE
Les externalités de l’intelligence artificielle
INTRODUCTION

Souvenez-vous : 2001, A Space Odyssey
https://www.youtube.com/watch?v=HwBmPiOmEGQ
La Loi de Moore
 Pourquoi l’Intelligence Artificielle est le plus
grand défi du XXIe siècle

« Les intelligences artificielles sont potentiellement plus
dangereuses que les armes nucléaires. J’espère que nous ne
sommes pas juste le disque de démarrage biologique pour
une superintelligence numérique »
Elon MUSK, fondateur de TESLA Motors
FONCTIONNEMENT DU THINK TANK
Objectif:
= Devenir la structure de référence en matière de
réflexion sur l’intelligence artificielle

Division en plusieurs pôles d’experts
Mission: lanceur d’alerte, conseil et expertise aux
décideurs publics et privés, production scientifique à terme
Activités de démarrage:
 Organisation de cycles de conférence-débats avec les
grands penseurs de l’IA (utilisation des nouvelles
technologies: livestream, débat online)
 Newsletter mensuelle sous forme de reportage 3D
Faire grandir notre réputation et e-réputation

LANCEMENT DU THINK TANK –
UN SUPPORT TANGIBLE EN LIGNE

Un site internet 4D (reportage sur les robots –
recensement d’articles sur l’IA et des opinions des grands
penseurs….)
Un rapport général interactif sur l’IA qui se conclut
par notre « Charte »:
 Nécessité de continuer le progrès technologique
tout en restant vigilant
 Réclamer un encadrement législatif et
réglementaire strict au niveau européen et
international.
Devenir les garde-fous des citoyens
Participer au management des risques et
externalités
Opérations de lobbying et d’alertes médiatiques

LANCEMENT DU THINK TANK –
CRÉATION DE VISIBILITÉ
Un lieu pour s’introduire: Institute for the
Future
 Une personnalité phare acquise à notre cause
(philanthropes/sages):


Yves DEMAZEAU (Président de l’Association
Française de l’Intelligence Artificielle, expert IA auprès
de la Commission Européenne)
Une institution qui nous soutient: département
science et technologie à l’OCDE - être à la tête
d’une Commission sur l’IA
 Une participation aux programmes de recherches
universitaires (ex: = devenir le représentant France
du programme AI100 )

FINANCEMENT DE NOTRE THINK
TANK
Crowfunding pour le lancement du 1er
évènement de présentation
donateurs = Invitations aux évènements,
Accès aux publications

Subvention des fonds européens: programme
horizon 2030, futur fond recherche et innovation

Partenariat universitaire – être intégré au
futur groupe de recherche UK sur les risques
de l’IA & faire un partenariat franco-anglais
Philanthropie & mécénat des entreprises
françaises avancées sur l’IA :
Ex: Aldebaro avec Nao


Dons des particuliers via l’adhésion
STRATÉGIE D’INFLUENCE –
ACTION DE LONG TERME

Colloque annuel sur l’intelligence artificielle :
Etat des lieux des innovations de l’année sur les
différents secteurs traités par les pôles
Présentation des thématiques de réflexion sur
l’année à venir après consultation publique: les
adhérents votent chaque année sur les sujets qu’ils
souhaitent voir traités au sein des pôles
Au cours de l’année, au sein des pôles:
 Recherches, analyses, étude d’impact sur les
sujets choisis par les membres
 Recommandations & lignes directrices (régulation
de l’IA, principes de précaution…)
 Veille, lobbying, médiatisation

NOS PÔLES DE COMPÉTENCE

SANTE
Laurent ALEXANDRE (Chirurgien-urologue, neurobiologiste, Sciences Po,
HEC et ENA)

MOBILITE
Elon Musk, fondateur de TESLA, SpaceX et HyperLoop

JURIDIQUE
Alain BENSSOUSSAN, Avocat spécialiste du droit des robots

DEFENSE
Pr. Noel Sharkey, fondateur de l’International Committee for Robot Arms
Control (ICRAC)

CYBER-SECURITE
Nicolas Arpagnain, maître de conférence à l’ENSP, rédacteur en chef de
« prospective stratégique »

ETHIQUE ET NEUROPOLITIQUE
Georges Kutukdjian, Philosophe et Anthropologue, spécialiste des questions
éthiques relatives aux nouvelles technologies
IA : UNE CHANCE POUR LES MALADES
OU UN DANGER POUR L’HOMME?

Télémédecine 3.0 : le traitement intelligent
des données au service de l’offre de santé
Médecine prédictive, préventive et individualisée
 Baisse du risque sanitaire et des coûts de traitement
 Quel avenir pour les professions de santé?


Développement des neurosciences
Des prothèses intelligentes (PMR) au « cyborgs »
 Des implants intracérébraux (maladies
neurodégénératives) , à l’« hybrid thinking » et le « brain
hacking »
 « Le vrai territoire de Google, ce n'est pas un pays, c'est
notre cerveau » Laurent Alexandre

ETAT DES LIEUX DE LA MOBILITÉ EN 2025

La voiture autonome
Arrivée de nouveaux acteurs (Google, Apple, Tesla) sur le marché
 Chute du nombre d’accidents sur la route en France (800/an)…
 … et permettent d’optimiser le temps gagné à ne pas conduire


Des révolutions techniques :
Voitures électriques à 1000 km d’autonomie
(batteries à base de phosphate de fer)
 Voitures à hydrogène autonome
 Baisse de la pollution en zones urbaines


Des révolutions sociologiques :
La voiture est un bien commun partagé : libre-service,
covoiturage
 Disparition de la profession de taxis
 Baisse de la propriété automobile

ETAT DES LIEUX DE LA MOBILITÉ 2025
 Evolution du paysage industriel aéronautique :
Faillite d’Airbus pour surcapacités industrielles (2020)
 Un nouveau duopole Sino Américain : Comac - Boeing
 Le développement de l’aviation court courrier hybride : Solar
Impulse + moteur à hydrogène
 Développement des voyages hors de la stratosphère (Virgin)


Côté technique :





Des évolutions techniques mais pas de révolution
Progrès de l’ATC (réforme du système européen de gestion du
trafic aérien)
De plus en plus de tâches automatisées : service en cabine
par robots, décollage et atterrissage assistés par l’IA
Contrôleurs aériens toujours plus conseillés par l’IA
Fin des disparitions d’avions après adoption par les
compagnies d’un suivi des vols en continu chaque seconde.
QUELLE MOBILITÉ EN 2050 ?

L’IA toujours plus présente :

100% du réseau de transport en commun autonome (métro, bus,
tramway)
Disparition des voitures avec conducteur
Réorganisation du ferroviaire : davantage de fret, davantage de
services aux passagers, davantage de vitesse (HyperLoop)
Des avions également de plus en plus autonomes

Les principaux avantages :







Baisse des coûts
Baisse de la mortalité (augmentation de la sécurité)
Gains de temps, de fréquence, de qualité de service à la
demande
Les principaux risques



Hacking (sureté)
Quelle utilisation des données récoltées par les compagnies ?
Pertes de compétences des compagnies au profit de l’IA
DROIT & ASSURANCE


Finance & danger du trading haute fréquence – ex: crac boursier
de 2010
Développement de l’assurance de l’IA: qui porte la responsabilité?
Fabriquant, programmateur/opérateur ?
Solutions: développement de la gestion du risque au sein des
entreprises, formation et des procédures de vérification, conditions
environnementales optimales

EuRobotics : livre vert sur les aspects juridiques de la
robotique publié en 2012
la sécurité (lieux de travail);
La titularité des droits de propriété intellectuelle (invention d’un
robot )
la responsabilité civile et la personnalité morale des robots

Alain Bensoussan = la personnalité robot



DÉFENSE- MILITARISATION
L'état actuel de l’avancement
Les robots déjà bien présents sur le terrain ainsi que dans
les laboratoires et industries de l’armement



Entre mythe et réalité: quelle utilisation de « robots
tueurs » doués d’intelligence pour l’armée?
Perspectives: Course à l’armement ou évitement?
La capacité
technologique
primera sur
la volonté
d’interdiction
V
S
CYBER-SECURITE –
PROTECTION DES DONNÉES
Intégrer les sujets numériques dans le droit
international contraignant
Droit universel à l’oubli
Principe du droit de propriété inaliénable
et continue de la donnée
Établissement d’un délai de conservation
maximal des données
Obligation de l’accord préalable
avant traitement commercial de la donnée
CYBERSÉCURITÉ ET CYBERDÉFENSE
Protéger les citoyens connectés





Accorder une place stratégique prioritaire au renforcement
technique des cyberservices militaires européens et au niveau de
l’OTAN.
Renforcer les budgets recherches et développement militaires
dans le domaine de la cyberdéfense au niveau national.
Amender les accords de Genève sur le droit international
humanitaire et rendre contraignant le manuel de Tallinn.
Renforcer le dispositif pénal français et européen contre les
fournisseurs d’accès complice ou négligeant.
Investir largement dans la recherche de solutions anti-hacking en
associant les universités et les acteurs du marché
LA QUESTION ETHIQUE DE L’IA

L’intelligence artificielle s’immisce progressivement et
durablement dans nos vies, il est temps de donner à
l’IA sa dimension éthique et tracer des
frontières claires

Mener une approche critique et alimenter le débat citoyen
sur la question de l’IA adopter une approche
pédagogique à destination des citoyens et des élus

Inscrire à l’agenda de la CNCDH et des Nations Unies la
nécessité d’une Déclaration Universelle sur les droits de
l’homme non augmenté
CONCLUSION
Le futur, c’est déjà demain
 Ce futur s’annonce fascinant et plus
technologique que jamais…
 … mais il va soulever toujours davantage
de questions économiques, éthiques,
assurancielles
 Quelle(s) sociétés s’annoncent-elles ?





Loi Zéro : Un robot ne peut pas porter atteinte à l'humanité, ni, par
son inaction, permettre que l'humanité soit exposée au danger.
Première Loi : Un robot ne peut porter atteinte à un être humain,
ni, restant passif, permettre qu'un être humain soit exposé au
danger, sauf contradiction avec la Loi Zéro.
Deuxième Loi : Un robot doit obéir aux ordres que lui donne un
être humain, sauf si de tels ordres entrent en conflit avec la
Première Loi ou la Loi Zéro.
Troisième Loi : Un robot doit protéger son existence tant que
cette protection n'entre pas en conflit avec la Première ou la
Deuxième Loi ou la Loi Zéro.
CE SONT LES ÉCRIVAINS DE SCIENCE FICTION
QUI PARLENT LE MIEUX DE L’IA, DISAIT MIRKYN.
« LES CHOSES CHANGENT. MAIS SI VITE...
EST-CE QUE LES HABITUDES DES HOMMES POURRONT SUIVRE ?»
DEMANDAIT ISAAC
A BIENTÔT !
ASIMOV