Como dize Aristótiles, cosa es verdadera:

Les Soirées-Débats du GREP Midi-Pyrénées
CYCLE : L'AVENIR DE L'HUMAIN
LES MACHINES
INTELLIGENTES :
AMIES OU ENNEMIES ?
Joseph AGUILAR-MARTIN
Directeur de recherche émérite au LAAS - CNRS
conférence-débat tenue à Toulouse
le 10 janvier 2014
GREP Midi-Pyrénées
5 rue des Gestes, BP119, 31013 Toulouse cedex 6
Tél : 0561136061
Site : www.grep-mp.fr
1
2
LES MACHINES
INTELLIGENTES :
AMIES OU ENNEMIES ?
Joseph AGUILAR-MARTIN
Directeur de recherche émérite au LAAS - CNRS
Introduction
L'évolution de la technique de l'informatique a plongé notre société dans un
environnement de «machines intelligentes». Les Robots en sont l'image la plus
populaire dans la littérature et le cinéma, mais il y a une multitude de «machines»
qui comportent un «cerveau», sous forme de microprocesseurs et mémoires, qui
envahissent notre société: ordinateurs, téléphones, automates, etc. et qui souvent
prennent des décisions pour nous.
L'histoire de cette évolution et son impact dans la société, dans le comportement
et dans la pensée humains sont les thèmes qui seront abordés.
Mythologie
Dans l’imagerie populaire contemporaine, le robot est une image très présente,
il représente à la fois la machine qui accumule les progrès de la technique et la
référence humaine (anthropique et anthropomorphe) des machines.
Or, si l’homme est la référence de toute action, de tout mouvement, de toute
décision, c’est parce qu’on lui attribue un raisonnement, autrement dit une
intelligence. Je ferai appel au bon sens pour éviter de tomber dans le labyrinthe
de la définition de l’intelligence, tout le monde sait ce que ça signifie.
3
Je rappelle ici, succinctement, quelques images de robots dans le but d’essayer
de comprendre leurs rôles d’amis ou d’adversaires dans le cinéma.
-1927 Le premier robot de l'histoire du cinéma apparaît dès 1927, dans le film
Metropolis de Fritz Lang. Le robot n’est qu’une construction pour remplacer une
(ou deux) femmes aimées.
-1956 Dans Planète Interdite de Fred Mac Leod Wilcox, Robby est un petit
robot serviteur sympathique, qui passe du rôle de personnage secondaire à celui
de personnage principal, en tant que compagnon d'un petit garçon dans Le
cerveau infernal (1957) de Hermann Hoffman.
-1968 2001, Odyssée de l'Espace de Stanley Kubrick : Hal n’est pas une espèce
d’homme mécanique mais un ordinateur qui a une volonté propre et qui peut
contrecarrer celle des astronautes.
-1980-1985 De nombreux films, parmi lesquels Blade Runner, Terminator, et
autres présentent des luttes à mort contre et entre des robots hostiles et des
hommes
-1987 La révolte des robots, réalisé par Peter Manoogian. En l'an 2030, les
armes sont des robots vivants et ont pour mission de détruire toute résistance au
gouvernement en place. Incapable de mettre un terme à la cruauté de ces êtres
synthétiques, un groupe de résistants se tourne vers leur dernier espoir : un robot
de 80 mètres!
-2001 A.I. de Steven Spielberg. Le film présente un enfant robot, obéissant aux
trois lois de la robotique établies par Isaac Asimov; l'enfant robot ressent les
mêmes sentiments qu'un enfant humain : joie, amitié, affection, dépit, etc.
-2011 La révolte des robots de Brixton, court-métrage réalisé par le collectif de
réalisateurs anglais Factory Fifteen. Il fait écho aux émeutes de 1981 dans ce
quartier du sud de Londres qui fut la scène d’émeutes.
Asimov a développé une littérature robotique qui a fait école. Il a en particulier
établi les 3 lois que j’ai citées. Il ne s’agit pas de lois scientifiques mais
normatives. Elles ont été promulguées pour la sauvegarde des humains, mais
nullement pour doter les robots de plus ou moins d’intelligence. On peut les
résumer ainsi : 1 : Ne pas nuire aux humains. 2. Obéir (sauf si cela viole la loi 1).
3. Se protéger (sauf si cela viole la loi 1 ou la loi 2)
Ces lois ne nous informent pas sur les moyens de s’y soumettre, ni sur les
conséquences de leur violation. On peut en déduire que, lors de la construction ou
programmation des machines-robots, il faut les doter de certaines compétences
qui peuvent être considérées comme des traits d’intelligence : reconnaître le mal
fait à autrui, comprendre les ordres et savoir mettre en marche des programmes
d’autoprotection et d’entretien.
Un papier, paru sur le site du mensuel américain The Atlantic, décrit une scène
de funérailles. Des soldats américains en Irak enterrent Boomer un frère d’armes.
Un discours célèbre son héroïsme et rappelle les nombreuses vies qu’il a sauvées
4
sur le champ de bataille. 21 coups de feu sont tirés. Boomer est un robot dont la
fonction est de désarmer les explosifs. Il faut bien reconnaître que les rapports
entre hommes et machines peuvent prendre des caractéristiques très diverses.
Des machines et des hommes.
La cohabitation des hommes avec les machines est un thème récurrent qui a
intéressé beaucoup de romanciers et de cinéastes. Il est souvent accompagné de
scénarios futuristes, mais ce n’est pas ainsi que nous allons l’aborder.
Le monde actuel présente une particularité unique : des machines intelligentes
cohabitent avec des hommes.
Parmi les machines, il n’y a pas que les robots qui soient intelligents ; bien
évidemment ce sont les ordinateurs qui sont le siège principal de ces programmes
qu’il est convenu d’appeler Intelligence Artificielle.
Le XXe siècle a souvent identifié le
progrès à La Machine. Néanmoins les
machines ont fait peur surtout à cause de
leur force, de leur régularité, du
mouvement permanent et indifférent aux
hommes qui les entourent, elles ont été
souvent assimilées à des monstres.
Dans les années de l’essor de ce que
l’on peut appeler le machinisme, peu
sont ceux qui ont pensé à la «machine intelligente». On trouve un représentant de
ces visionnaires parmi les artistes, un des rédacteurs du «Manifeste du futurisme»
qui fut d’abord publié le 5 février 1909 en italien, dans La Gazzetta dell’Emilia
de Bologne, et le 20 février, en français, dans Le Figaro, ce qui lui donna une
dimension mondiale :
La machine est robuste ; la machine est utile ; la
machine est différente et belle ; la machine ne
trahit pas ; la machine est disciplinée et produit
sans interruptions avec continuité
Pauvre humanité ! Si un jour les machines
pouvaient se doter d'un cerveau ! Tu serais
immédiatement supplantée.
Fortunato Depero, peintre futuriste (1926).
La fin du même XXe siècle a vu l'arrivée de
machines dotées d’un cerveau et manifestant
divers degrés d’intelligence.
Tout d’abord il faut se demander : qu’est-ce qu’une machine intelligente ? La
dame (la voix féminine) qui, dans mon GPS, m’indique à tout instant la direction
à prendre pour atteindre mon but par le chemin le plus court, est-elle plus
5
intelligente que mon épouse qui, comme la plupart des femmes, a du mal à se
repérer sur une carte, mais qui peut me rappeler que nous n’avons pas besoin de
nous presser parce que notre rendez-vous n’est qu’à 5 heures. ?
Une opinion unanimement acceptée consiste à considérer le cerveau comme le
siège de l’intelligence. L’intuition populaire avait appelé « cerveaux
électroniques » les premiers ordinateurs qui, par leur taille plus que par leurs
performances, impressionnaient.
Machines «intelligentes» ?
De façon logique et naturelle, on considère qu’une machine intelligente possède
un organe informatique, processeur, micro-processeur, mémoire, etc. pour qu’elle
puisse développer une certaine intelligence. Attention, de même que la présence
d’un cerveau ne suffit pas pour qu’un être vivant soit qualifié d’intelligent, la
présence de ces artefacts électroniques ne suffit pas davantage.
C’est pourquoi, tout naturellement, nous allons nous pencher sur l’évolution de
l’informatique : d’une part les circuits ou « hardware », d’autre part les
algorithmes ou programmes, c’est à dire l'« intelligence artificielle »
Les machines et le cerveau
Pour fixer les idées sur la taille des éléments informatiques, on signalera celle
des mémoires où l’information est emmagasinée, mesurée en « bytes », qui s’est
longtemps appelé « mots », ce qui correspond au plus petit groupe significatif de
« bits », un bit étant un élément d’information qui ne peut prendre que deux
valeurs 0 et 1:
-Le disque dur de l’ordinateur sur lequel j’ai écrit ce texte a 445 Gb soit 445.000
millions de bytes.
-Un téléphone portable quelconque, en 2004, avait 60 Mb = 60 millions de
bytes.
-En 1960, l’IBM 650 occupait une pièce d’environ 60m2 au rez-de-chaussée de
l’Université de Toulouse, allées Jules Guesde. Sa mémoire centrale était un
tambour qui contenait 2000 mots de
10 bits, l’équivalent de 8 Kb = 8 000 bytes.
6
Il fallait le démarrer vers 6h30 pour qu’à 9 heures la vitesse soit bien stabilisée.
(Le nombre total de neurones du cerveau humain est estimé de 860 à 1000
milliards)
La taille de ces appareils donne une idée de leurs capacités. Cependant ce n’est
pas en accumulant des données dans des mémoires de plus en plus grandes qu’on
a développé l'« intelligence » de ces machines.
Le travail
La machine à vapeur, avant James Watt imposait à un
homme d’ouvrir et fermer les valves d’admission de la
vapeur pour maintenir une bonne vitesse, cet opérateur
devait mobiliser son attention et agir en fonction de la
situation ressentie. Le régulateur à boules, symbole de
l’Automatique, a permis de le remplacer en réalisant
automatiquement cette opération. On conçoit aisément
que plus une machine est intelligente, plus elle peut
réaliser de tâches jusqu’alors dévolues aux humains.
Je vais évoquer un souvenir d’enfance. J‘ai été élevé dans une famille où il
n’était pas rare de faire référence à l’antiquité gréco-romaine, surtout pour citer
en exemple la démocratie athénienne. En ce temps-là, cela permettait de
contrecarrer le discours officiel de la dictature franquiste qui refusait ce concept.
Recensement dans l’Athènes de Périclès V
Citoyens
40 000
Fils mineurs
de citoyens
20 000
ème
siècle avant JC
femmes et filles
de citoyens
60 000
Métèques
40 000
Esclaves
200 000
J’argumentais que la démocratie athénienne ne pouvait fonctionner que parce
qu’il y avait 200 000 esclaves pour travailler. Comme je croyais fermement au
progrès scientifique et technique, je disais que bientôt les 200 000 esclaves
seraient remplacés par 200 000 machines et les hommes pourraient devenir tous
citoyens. Ce n’était pas une utopie, aujourd’hui il n’y a plus d’esclaves et tous
ceux qui ne sont ni mineurs ni métèques sont citoyens, ils ont le droit de vote.
Même si ce n’est que tardivement, les femmes ont aussi acquis cette qualité tout
en bénéficiant, dans le schéma traditionnel, de multiples machines ménagères.
Pendant les années 1950-60, les machines avaient déjà envahi les transports, les
travaux des champs, les industries textiles, l’automobile, etc. Les machines
utilisaient une énergie artificielle et déchargeaient les humains des tâches
7
pénibles, tout en les accélérant. Pour labourer un champ il fallait, en 1500 trois
hommes pendant 5 jours, en 1850 un homme et un cheval pendant 3 jours alors
qu’en 1955 un homme avec un tracteur et sa charrue faisait le même travail en
une demi-journée.
Pendant les années 1950-60, les machines avaient déjà envahi les transports, les
travaux des champs, les industries textiles, l’automobile, etc. Les machines
utilisaient une énergie artificielle et déchargeaient les humains des tâches
pénibles, tout en les accélérant. Pour labourer un champ il fallait, en 1500 trois
hommes pendant 5 jours, en 1850 un homme et un cheval pendant 3 jours alors
qu’en 1955 un homme avec un tracteur et sa charrue faisait le même travail en
une demi-journée.
Il y a aussi des travaux qui ne sont pas particulièrement pénibles, ceux-là,
pensait-on, pourraient revenir aux citoyens. À cette époque, les entreprises, bien
que déjà très mécanisées, avaient une pléthore de secrétaires, de comptables, de
magasiniers et de vendeurs, souvent appelés cols blancs, et le travail de ces
personnes paraissait digne des citoyens. Or, paradoxalement, on a su remplacer le
comptable avant l’homme qui charge les sacs dans le camion.
Déjà dans la période des années 50 on pouvait distinguer deux attitudes.
La pessimiste : Norbert Wiener écrivait dans
«The Human Use of Human Being» (1950) :
N’importe
quelle
machine
automatique
représente l’équivalent économique du travail
d’un esclave. … C’est évident que cela
provoquera un chômage obligé en comparaison
duquel les difficultés actuelles et même la crise
économique de 1930-36 nous sembleront des
problèmes négligeables.
Et il ajoutait un peu plus loin : On doit tenir compte qu’il n’y a rien qui
s’oppose à ce qu’un industriel réalise un bénéfice certain et rapide et qu’il puisse
ensuite se retirer avant d’être personnellement proche d’un désastre financier.
L'optimiste : À la même époque, l’ingénieur et homme d’affaires John Diebold
appliquait à l’industrie, surtout à l’organisation de la
production, les nouvelles idées, basées sur le principe de
rétroaction
(feedback)
de
Watt,
formalisées
mathématiquement par Maxwell. Il imaginait l’usine
entièrement automatisée. Cependant il pensait que cette
évolution aurait des obstacles à son développement rapide,
et en minimisait l’impact social ; il s’opposait à la vision
pessimiste de Wiener. Il écrivait en 1952 dans son premier
8
livre « Automation » : L’Automation doit être regardée avec une perspective
historique appropriée, comme un nouveau chapitre de l’organisation et la
mécanisation des forces de la Nature par l’Homme. Bien entendu cela pose de
nouveaux problèmes. Mais par ailleurs elle en résout d’autres, aussi bien
humains que mécaniques, posés par les étapes précédentes du machinisme.
L’évolution technique a donné malheureusement raison à Wiener, mais en
même temps Diebold a n’a pas eu tort d’annoncer la résolution de nombreux
problèmes, et une nouvelle relation entre le travailleur et le travail. En effet le 25
février 2013 dans « Sciences et technologies » on pouvait lire sous la plume
d'Aymeric Pontier : C’est maintenant une certitude, la révolution robotique est
lancée. Beaucoup d’emplois occupés aujourd’hui par des humains vont être
confiés aux machines dans les années et décennies à venir. Nous allons devoir
trouver de nouvelles façons d’occuper nos journées et d’obtenir des revenus
satisfaisants.
Dans le domaine des services, 64% se font à travers les réseaux informatiques, à
travers des programmes qui sont de véritables robots virtuels. Le nombre de
connexions à Internet par jour mesuré en 2007 s’obtient aujourd’hui en une
minute, c’est-à-dire une multiplication par 1440 en 6 ans.
Entre l’époque de Wiener et Diebold et le temps présent, deux grands pas ont
été franchis : la miniaturisation de l’électronique et l’intelligence des machines.
La première touche le hardware et la seconde le software. Cette évolution permet
à Aymeric Pontier de poursuivre par une vision plutôt optimiste : «Ces millions
de robots, il faudra bien les concevoir ! Déterminer les matériaux pour les
construire. Se procurer les outils nécessaires à leur assemblage. Inventer les
codes informatiques et les rouages mécaniques dont ils ont besoin pour se
mouvoir. Les commercialiser et les livrer dans chaque entreprise ou domicile.
Mettre en place des entreprises locales de réparation et d’assistance. Développer
des filières de recyclage pour leurs composants. Et je me contente ici d’imaginer
toutes les activités engendrées directement par la nouvelle économie robotique.
Je ne parle même pas des activités indirectes qui seront sûrement bien plus
nombreuses encore!»
Les «cerveaux» artificiels.
La Logique
Revenons à la Grèce antique : Aristote, ce ne fut pas le premier, utilisa des
schémas du raisonnement dont le principal est le syllogisme bien connu, qui n’est
autre qu’une « machine à raisonner ».
9
En 1854 George Boole publie «An Investigation of the Laws of
Thought». Il y présente un système de règles pour manipuler des
problèmes de Logique, où la Vérité est représentée par le chiffre 1 et
son contraire par 0. Il réduisait le raisonnement au calcul, la
Philosophie à l’Arithmétique.
En 1886 Pierce décrit la façon de réaliser les fonctions logiques avec des
interrupteurs électriques. La véritable réalisation fut faite grâce aux tubes à vide
triodes qu’inventa Lee de Forest en 1907. Shannon en 1937 utilisa les tables
logiques décrites par Wittgenstein en 1907 dans son « Tractatus LogicoPhilosophicus » pour proposer l’analyse et la synthèse des fonctions de la
Logique Propositionnelle aristotélicienne.
La réalisation des fonctions logiques élémentaires dans les machines actuelles a
comme élément de base le «transistor à effet de champ». Le principe de l’effet de
champ fut présenté au Canada par le physicien austro-hongrois Julius Edgar
Lilienfeld le 22 octobre 1925,
Le transistor fut inventé dans la Silicon Valley le 23 décembre 1947 par John
Bardeen, William Shockley et Walter Houser Brattain, chercheurs chez Bell
Telephones, ce qui leur valut le Prix Nobel de Physique en 1956.
Les Neurones
La synthèse de fonctions logiques présente toujours la même structure : des
entrées et une sortie qui peut servir d’entrée à une autre fonction logique. En
1889 Santiago Ramón y Cajal, prix Nobel de Médecine en
1906, découvrait que la structure du cerveau est un réseau
d’éléments similaires qui présentent les caractéristiques
structurelles pour réaliser des fonctions logiques, les synapses,
dont des entrées (dendrites) apportent l’information au noyau
et l’axone, qui délivre la réponse en se connectant par des
synapses à d’autres dendrites.
La découverte du schéma de base du neurone, ainsi que la structure des
fonctions logiques électriques synthétisées par les nouvelles découvertes en
électronique, corrobore la possibilité de réaliser des machines qui exhibent
certains aspects du raisonnement systématique.
10
Dans la figure ci-jointe nous montrons un ensemble
de neurones dans le cerveau, où l’on peut deviner la
structure orientée et interconnectée. La taille des
éléments est signalée : la longueur de l’axone dépend
de la distance à laquelle se trouvent les éléments à
relier, dans le corps humain, elle peut atteindre 2
mètres pour relier les pieds au cerveau, par contre de
nombreux neurones se concentrent dans des espaces très réduits.
Les figures suivantes montrent l’évolution de la construction matérielle d’une
fonction logique «ET», depuis l’expérience de gauche que l’on peut faire en
classe dans une école primaire, la même fonction étant réalisée avec un transistor
aux environs de 1960, et finalement avec le degré de miniaturisation déjà
possible en 2000.
Dans le tableau suivant on montre l’évolution de la miniaturisation en
informatique (à travers le nombre toujours croissant de transistors installés dans
les modèles successifs d'ordinateurs), qui est un des éléments essentiels de
l’introduction des machines intelligentes dans la société et dans la vie courante.
11
Non seulement, grâce à la miniaturisation, le nombre d’éléments par unité de
volume, et donc de fonctions logiques, est plus proche de celui du cerveau, mais
les distances sont réduites et les vitesses de transmission entre éléments sont
quasiment instantanées. En même temps l’énergie nécessaire à l’alimentation de
chaque fonction se trouve réduite. On a pu ainsi réaliser des machines qui
contredisent les prédictions d’une évolution lente, chère et encombrante que
prédisait John Diebold parmi d’autres. Par ailleurs les prédictions de Norbert
Wiener se sont avérées relativement justes, ce qui nous pose un grave problème
dans le partage et la gestion du travail humain : non seulement un grand nombre
de personnes se sont trouvées sans emploi, mais le commerce, la gestion, la
communication, se sont vues modifiées par l’Informatique.
L’Intelligence Artificielle.
Jusqu’ici on ne s’est préoccupé que des aspects matériels de l’introduction et du
développement des machines.
Nous avons mentionné la Logique et, par conséquent, le Raisonnement. Peut-on
dire qu’une machine qui ouvre une porte uniquement si le passage suivant n’a
plus d’obstacle est dotée d’intelligence ? Dans un certain sens oui. Sans trop me
tromper, je dirai que, compte tenu des cellules photoélectriques, et des moteurs
nécessaires pour réaliser ce comportement, avec une dizaine de transistors on
peut réaliser cet engin. À quoi serviront alors les autres millions de transistors ?
Parallèlement au développement technologique, on a imaginé une nouvelle
science appelée, après de nombreuses hésitations, Intelligence Artificielle. Elle
s’est nourrie à deux rivières dont l’eau est la technologie. L’une consiste à
incrémenter la complexité des structures réalisables avec les composants
existants de telle façon que des fonctions de plus en plus compliquées puissent
être réalisées, l’autre consiste à étudier le comportement humain et à chercher à
l’imiter.
Si l’humanité, dans l’évolution des machines, avait choisi uniquement le
deuxième courant, on n’aurait pas développé les véhicules à roues, tout en
perfectionnant des échasses articulées. Pendant longtemps, c’est dans la première
voie que la technique a avancé. Ce n’est que récemment que l’on a manifesté de
l’intérêt pour des robots humanoïdes et des véhicules à pattes. Par contre, dans le
domaine de la perception artificielle, les problèmes de raisonnement et de
reconnaissance de formes s’inspirent récemment de la structure neuronale, tout
en maintenant en même temps les structures imposées par la nature purement
électrique des éléments.
On considère que le nom « Intelligence Artificielle » appliqué à un domaine de
recherche fut forgé lors d'une fameuse conférence dans le campus de Dartmouth
College (New Hampshire) en été 1956. Les principaux responsables de cette
12
appellation furent John McCarthy, Marvin Minsky, Allen Newell et Herbert
Simon, qui ont été par la suite pendant longtemps les principaux acteurs dans ce
nouveau champ scientifique.
Il faut cependant mentionner que Alan Turing publiait déjà en 1950 dans la
revue « Mind » un article portant le titre « Computing machinery and
intelligence » où il affirmait que, environ 50 années plus tard, des ordinateurs
intelligents seraient capables d’enchainer des déductions logiques, d’apprendre et
de communiquer avec des interfaces humaines. Et il se trouve que l’affirmation
de Turing s’est avérée exacte, et donc il faudrait, en toute honnêteté, lui
reconnaître la paternité de l’Intelligence Artificielle.
Nous sommes actuellement entourés d’un grand nombre d’appareils qui, sans
posséder une très haute intelligence, réalisent des fonctions élémentaires en des
temps très courts et répondent aux sollicitations d’une manière qui semble
autonome. Si nous ajoutons à cela que certains ingénieurs facétieux les affublent
de caractéristiques humaines, voix, bras, réactions linguistiques, allant même
jusqu’à l’insulte ou au déni, il n’est pas étonnant que nous nous sentions dominés
par des machines. Si vous pensez que mes propos sont exagérés, pensez à votre
relation avec un répondeur téléphonique qui vous oblige à lui parler, à appuyer
sur une série de touches pour finir par vous dire qu’il ne comprend pas ce que
vous voulez ou, pire encore, par vous laisser tout bonnement en écoutant les
Quatre Saisons de Vivaldi dans une version pour ascenseur.
Les machines intelligentes dans la société : l’utilisation de ces machines
La conjonction entre la miniaturisation du matériel et l’intelligence du logiciel a
rendu indispensable l’élément de base de la plupart des machines modernes : le
microprocesseur. Il s’agit d’un ordinateur complet dans lequel sont introduits
des programmes spécifiques selon l’usage désiré. Ce qui en fait la diversité sont
les divers objets qui servent d’interface avec l’utilisateur ou les tâches
particulières.
Voici une liste, non exhaustive, de tâches courantes dans lesquelles nous
sommes en relation avec au moins un microprocesseur à l’intérieur de machines
spécialisées qui ne sont pas appelées ordinateurs :
Obtenir de l’argent liquide dans les distributeurs
Acheter les tickets de métro, bus, train dans les gares
Entrer dans un parking
Voir un film, une vidéo, un disque, obtenir une musique
Conduire une voiture (moderne)
Régler le chauffage
13
Mettre à l’heure la montre, le réveil
Téléphoner
Prendre une photo, la visualiser
Imprimer, textes, photos, etc.
Et les tâches qu’il est courant de faire à l’aide d’un ordinateur généraliste :
Ecrire une lettre (ou un roman)
Faire une traduction
Consulter un dictionnaire, une encyclopédie
Lire et envoyer le courrier électronique (mails)
Suivre un courrier, colis, mandat de la poste
Lire le journal en ligne
Consulter les comptes bancaires, et y faire des opérations
S’informer sur prévisions météo, spectacles, films, théâtre, voyages,
séjours,…
Réserver films, théâtre, hôtels, vacances, voyages, trains avions…
Regarder une carte, établir un itinéraire…
Chercher des achats et acheter…
On voit bien qu’il n’est pas nécessaire d’imaginer une ville dans laquelle on
croiserait des groupes de robots qui vont faire leurs courses pour constater que
nous sommes en dialogue permanent avec des machines intelligentes.
L’Impact
La société a commencé par souffrir du fait que les machines ont massivement
remplacé les hommes dans de nombreux travaux, pas forcément les plus pénibles
du point de vue de la force musculaire. L’exemple du répondeur téléphonique
illustre ce cas.
Ensuite, un autre effet qui peut devenir néfaste est la rapidité de la
communication, ce qui ne laisse aucun répit à la réflexion dans le traitement de
l’information. Cette caractéristique est exploitée par la publicité : devant la
prolifération de produits mis à la vente, il est impossible de procéder à un choix
réfléchi ; on vous propose des comparaisons automatiques dans des sites internet
sans faire appel aux aptitudes propres à la décision personnelle.
L’ordinateur arrive même à vous proposer les personnes que vous devriez
prendre comme amis sur Facebook ou sur d’autres systèmes similaires. La
machine procède à un raisonnement automatique à votre place, en utilisant des
14
fonctions de reconnaissance de situations, de calculs de similarité ou, tout
simplement, d’enregistrement de vos recherches antérieures. S’agit-il de
comportements intelligents ? Du point de vue de l’Intelligence Artificielle, oui !
Sous cette optique on doit reconnaître que les machines intelligentes ne sont pas
à proprement parler des ennemies, mais ne sont pas non plus des amies: on peut
dire qu’elles ne nous aident qu’à suivre les intentions programmées. Ce qui est
grave est que ces intentions ont été introduites par d’autres hommes, et pour
ceux-là ces machines sont des aides et des amies, mais pas forcément pour vous.
Je ne pense pas qu’il y ait une volonté délibérée de certains groupes humains
pour rendre la société docile à leurs désirs. C’est une tentation certainement pour
certains dirigeants politiques, économiques et surtout financiers, mais je doute
que leur intelligence naturelle puisse élaborer des plans imparables. Par contre je
crois que c’est l’humanité contemporaine qui n’est pas suffisamment armée, ou
habituée, à ce monde artificiel, et qu’elle n’a pas la capacité de réagir sagement
en toute circonstance. Il faudrait faire appel à la psychologie des populations, ce
qui est une matière ardue et peu avancée. Je me limite ici à pointer quelques
idées.
L’irrationnel
Voici un texte d’André Gorz qui demande une certaine attention :
« L’esprit devenu capable de fonctionner comme une machine se reconnaît
dans la machine capable de fonctionner comme lui, sans s’apercevoir qu’en
vérité la machine ne fonctionne pas comme l’esprit mais seulement comme
l’esprit ayant appris à fonctionner comme une machine »
D’une part les machines intelligentes ne sont pas aussi intelligentes qu’on veut
bien le dire. Elles se limitent à avoir des réactions prévisibles, mais difficiles à
prévoir, et induites par des environnements bien réels mais mal connus. Elles
manquent de créativité, ce n’est que leur complexité et leur vitesse de réaction
qui met l’être humain en difficulté. Le manque de temps pour que notre cerveau
puisse anticiper leur comportement leur donne une apparence de vie autonome
absolument fictive. Cette réactivité leur confère un aspect que l’on peut appeler
magique, donc irrationnel. À cause de la complexité et du grand nombre de
composants, un ordinateur a un comportement en apparence très irrationnel. C’est
un paradoxe de notre relation avec ces machines, composées et conçues sur la
base de la Logique Booléenne, c'est-à-dire sur une logique extrêmement
élémentaire et sans faille, d'induire, du moins superficiellement, à de
l’irrationnel : leur réponse est souvent différente de celle qu’un être cartésien
attend.
15
L’informatique est une science et surtout une technique complexe. Grâce au
développement parallèle des composants électroniques et des langages de
programmation, des opérations dont la complexité dépasse la compréhension
naturelle et immédiate sont monnaie courante. Ceci est un des avantages
principaux de cette science, cependant ceci demande une soumission quasi totale
de l’homme à la machine qu’il ne peut pas appréhender, ni complètement ni
rapidement.
L’attitude de l’utilisateur de ce genre de machines est, avant tout, la soumission
et l’obéissance irrationnelle. La gymnastique mentale apportée par la
fréquentation de ces machines intelligentes entraîne l’utilisateur à accepter
facilement le règne de l’irrationnel. Or, depuis les temps les plus anciens, on a
remarqué que toute société humaine complexe est soumise à de fortes pressions
de l’irrationnel qui tente toujours de compenser les lacunes d’ignorance dans la
connaissance du monde. Toutes les religions comblent l’énigme de l’existence de
l’homme, c’est leur but principal, cependant elles transportent aussi plus ou
moins de préceptes et comportements qui ne demandent rien au raisonnement
individuel, souvent même ils l’interdisent. La coexistence et le commerce de
l’homme du XXIe siècle avec les machines intelligentes ne fait que corroborer la
nécessité de se comporter de façon soumise mais structurée, de façon analogue à
ce que demandent la plupart des religions. Il n’est pas étonnant que ce siècle ait
déjà vu monter les intégrismes religieux, même dans des sociétés avancées
technologiquement, surtout là où l’informatique a été introduite sous sa forme
actuelle hautement sophistiquée et soumise au grand public.
À cela s’ajoute le manque de réflexion conceptuelle dont a souffert le
développement des interfaces linguistiques : le premier exemple de ces
incohérences linguistiques apparaît dans la plupart des PC où, pour arrêter, il faut
chercher le bouton « démarrer ». Par ailleurs la partition des actions de contrôle
est loin d’être régie par une quelconque logique, psychologie ou ergonomie. Tous
ceux qui ont manipulé un ordinateur pour écrire ou pour communiquer savent que
de nombreuses fonctions sont à chercher là ou on ne les attend pas, mais
l’habitude aidant, on finit par s’en servir correctement. Le résultat des actions est
lui-même peu conforme à un raisonnement classique, un même résultat peut être
obtenu par des chemins différents, souvent sans raison apparente.
Tout le monde a expérimenté un blocage de l’ordinateur pour lequel toute
opération de réparation semble impossible, c’est alors qu’on décide de tout
déconnecter et de redémarrer, souvent avec succès et suppression du blocage ou
fonctionnement indésirable. C’est comme si, alors que la voiture ne repart pas, on
sortait, on fermait les portes et, quelques minutes après on prend les clefs et on
entre à nouveau dans le véhicule ; toutes ces actions faites sans chercher à savoir
s’il y a de l’essence ou si le circuit électrique fournit du courant aux bougies. Les
16
constructeurs, probablement d’une façon inconsciente, nous mettent en garde
contre la logique en signalant que, lorsque l’on veut arrêter l’ordinateur, il faut
chercher le bouton sous l’appellation « démarrer ».
Sous cet angle, les machines intelligentes se comportent comme des moralistes
qui, par leur exemple, nous incitent à la soumission et à l’obéissance.
La fréquentation de ces machines, apparemment irrationnelles a un effet très
dangereux auprès de la population contemporaine, en particulier les jeunes et les
enfants. On s’habitue à l’irrationnel, au magique. On accepte sans broncher les
choses comme elles sont, les mécanismes sans les comprendre. Il existe, de mon
point de vue, une corrélation entre la poussée des comportements non rationnels,
religieux, magiques, et l’usage des ordinateurs.
Au XIXe siècle et pendant la première moitié du XXe, le développement des
sciences et de leurs corollaires, les techniques et le machinisme, avait influé sur
la pensée des populations dans le sens du rationalisme, avec certaines
exagérations comme le positivisme, le scientisme et le marxisme, et avait aussi
entraîné un recul de la pensée religieuse et magique. Actuellement on constate
une tendance inverse, la recrudescence des religions avec leurs excès intégristes
et fanatiques. Dans certains pays, des sociétés entièrement soumises à des
pensées religieuses immuables, à des pratiques contraignantes sans contrepartie
rationnelle, s’accommodent parfaitement de l’apprentissage et de l’usage de
l’informatique sans que le substrat logique de ces technologies ne vienne
perturber les croyances ancestrales. Cette situation est due à la carapace
d’irrationalité qui couvre la plupart de ces machines.
L’intrusion
À cette conséquence, que je considère néfaste, on doit ajouter la possibilité de
surveillance perpétuelle des actes individuels au moyen de l’emmagasinement de
données diverses, le portrait de cette société nouvelle ressemble fort, dans la
pratique, à une théocratie.
Charles Duhigg (né en 1974) est un journaliste (prix Pulitzer) du New York
Times où il écrit pour la section des affaires. Il a publié récemment l’article
« Comment les Compagnies apprennent vos secrets ». C’est un résumé du livre
qu’il a publié en 2012 «The Power of Habit: Why We Do What We Do in Life and
Business». Il y décrit, entre autres, la mésaventure d’un père de famille dont la
fille adolescente était inondée de publicités, courriers et courriels, vantant les
mérites de vêtements pour bébés d’une certaine marque, ces envois étaient
accompagnés de bons de réduction. Devant le grand nombre de ces publicités, le
père prit contact avec l’entreprise pour signaler qu’ils faisaient certainement une
erreur. Quelle ne fut pas sa surprise quand sa fille lui annonça que le test de
grossesse qu’elle venait de faire s’était avéré positif!
17
Les programmes qu’utilisent ces firmes sont basés sur ce qui est appelé «Big
Data», c'est-à-dire le stockage et l'analyse de grandes quantités de données que
les internautes laissent sans s’en rendre compte sur le réseau. Si vous achetez un
seul livre sur Amazon, mais que vous en avez consulté d’autres, aussitôt vous
recevrez des propositions de publications similaires. Le critère général est basé
sur deux principaux mécanismes : le premier consiste à détecter vos possibles
gouts d’après les types de marchandise que vous avez observés, le deuxième
consiste à vous proposer les objets que d’autres clients, qui ont acheté le même
que vous, ont acheté aussi. Au fur et à mesure que vous continuez à vous
connecter à ces sites, même sans acheter, par simple curiosité, votre profil va en
se précisant.
Le client qui, par exemple, a acheté plusieurs romans policiers reste toujours
libre de s’intéresser aux fresques historiques; cependant, ayant montré un goût
certain, pour les premiers, il est bien probable qu’il intensifie leur lecture presque
exclusive, d’autant plus qu’on lui présente des nouveautés et d’autres
exemplaires qui éveillent l’intérêt de l’amateur. Ce processus qui semble anodin
contribue à rendre les gens de plus en plus fermés au dialogue et à l’exploration,
et accros à leurs propres habitudes. On conçoit facilement que, du point de vue
des idéologies politiques, religieuses ou ludiques, ce processus risque de faire une
société formée de groupes de plus en plus fanatiques.
Il y a deux réactions à la partie nocive de ce phénomène : une dictature, même
pleine de bonnes intentions, interdirait pure et simplement ce genre de publicité,
ce qui serait facilement détourné par les annonceurs. L’autre réponse consisterait
à éduquer la population à utiliser sciemment ces outils, en dévoilant le
mécanisme (ce que je fais ici) ; il serait utile, ensuite, de renforcer la personnalité
de chaque citoyen dans le sens de la démocratie, par une éducation de qualité, ce
qui risque de contrarier certains idéologues et politiciens.
Il est bien connu des éducateurs d’enfants que la manipulation de machines
simples, leviers, poulies, engrenages, etc. développe le raisonnement dit
géométrique : de là le succès du Meccano, du Lego et d’autres amusements basés
sur la physique classique. Le tennis et autres jeux individuels avec lancer de balle
permettent de développer le sens de l’évaluation des forces et des trajectoires.
Les jeux de ballon collectifs développent en plus le sens de la stratégie de groupe.
Il en était de même de tous les métiers qui avaient un contact direct avec la
matière, l’énergie et les forces. Les enfants adoraient, dans leur jeux, se déguiser
d’après des métiers : le chef de gare avait une casquette, un sifflet et un bâton
rouge, le boulanger une pelle, un tablier et un bonnet blanc, le postier derrière un
guichet, des tampons encreurs, des paniers avec des lettres… et ainsi de suite.
Aujourd’hui le contact entre l’homme et la machine utilise de plus en plus
l’intermédiaire de l’ordinateur, et, surtout, de l’écran de l’ordinateur et des
boutons du clavier. Presque tous les métiers se font, au moins partiellement,
derrière un écran d’ordinateur, et avec les dernières nouveautés, cet écran est
18
dans la poche ou est devenu une tablette d’une épaisseur inférieure aux cahiers
des écoliers. Ce support de l’information, ainsi que son traitement visuel au
moyen d’images de synthèse a un impact sociétal et influe sur l’attitude mentale
et psychologique des êtres humains.
Le grand risque de la cohabitation avec des machines « intelligentes » est
surtout de s’habituer à ne pas faire travailler nos propres neurones et à développer
la soumission.
Conclusion.
Il faut toujours avoir présent que ces machines ont été conçues comme des
outils. Un outil, comme son étymologie nous en informe, est utile ; cependant il
peut être dangereux quand on ne le maitrise pas : une hache entre mes mains peut
me rendre service, avec précaution, mais entre les mains de mon ennemi elle peut
me tuer.
19
Débat
Un participant - Deux questions sur ce que vous avez dit.
D’abord, la lutte contre le chômage. Effectivement, avec la puissance de la
technologie, si on ne change pas les choses, on n'y arrivera pas donc c'est très
important de prendre ça en compte. C'est la productivité qui a explosé et on
n’arrivera pas à lutter contre le chômage !
Deuxièmement le rôle de la technologie sur la puissance financière. Quel est
l'impact de la puissance financière et ses côtés irrationnels, le fait de pouvoir
créer un monde virtuel qui est dirigé par la technologie et qui crée un monde de
finance virtuelle ? Ces sont les financiers qui dirigent le monde actuellement !
Comment lutter contre cette technologie très importante au service de la finance ?
Joseph Aguilar - Je suis tout à fait d'accord. Dans les années 1950, Norbert
Wiener avait vu qu'un industriel pouvait très bien faire son profit et s'en aller.
C'est un des aspects.
L'autre aspect c'est le monde virtuel qui est basé sur la finance, et je crois qu'il
faut lutter contre ça. Mais il y a deux types possibles de lutte.
Ce monde virtuel de la finance, à très long terme, ne peut pas vivre sans un
monde réel qui produit ses bénéfices dans un certain sens. Des gens se sont
enrichis dans les années 1920 aux États-Unis, entre les deux guerres, en batissant
des empires ferroviaires et en faisant des choses horribles parce qu'ils utilisaient
des gens qui mouraient comme des mouches pour faire passer les rails. Mais des
choses matérielles sont restées, et un certain progrès qui faisait qu'on pouvait se
déplacer avec ces trains.
Aujourd'hui cet esprit d'entreprise s'est perdu mais c'est quand même assez
récent. Je ne crois pas qu'ils puissent vivre très longtemps comme cela. Une
mauvaise réponse serait : laissons tomber le fric tout seul. Il faut quand même
l'aider à tomber !
L’autre aspect est lié au fait qu'il faudra trouver des moyens pour résoudre ces
problèmes. Mais pour trouver ces solutions, il faut être conscient des dangers. On
n'a pas été assez conscient du fait que la télé, par exemple, est un danger pour les
enfants qui regardent la télé pendant cinq heures par jour. Quand on a créé la TV,
on n'a pas pensé à ces aspects que je mets en relief ici ! Je crois que le fait d'être
conscient des dangers ne fait que nous enrichir pour pouvoir utiliser ça. Parce
20
qu’il n'est pas question d'abandonner toute cette technologie. C’est quand même
une partie du progrès. Le progrès, c’est quand même d’avoir des communications
plus rapides, plus faciles. Ce n’est pas une mauvaise chose en soi, c'est la manière
dont on s’en sert qui peut être mauvaise.
Si j’avais les solutions, je vous les donnerais. Mais je ne les ai pas. Réduire le
temps de travail n’a pas marché. Tout devrait être mis en œuvre pour réduire le
chômage. Mais il faut au moins prendre conscience !
Un participant - Votre exposé a le mérite de renvoyer à des problématiques
très importantes qui sont d'abord celle des relations entre l'espace et le temps. Et
celle du sens, dans un deuxième temps, donc de la finalité. Vous parlez de la
robotique comme des outils et moyens mais ce n’est pas eux qui vont décider du
sens. Car ils renvoient à la temporalité. En philosophie on a l'habitude, en
Occident, de dire que toute connaissance est d'abord à travers deux catégories,
l'espace et le temps. Nous avons une puissance sur l'espace incommensurable,
mais nous sommes totalement impuissants au niveau du temps.
Or si on prend un ordinateur, il a la possibilité de décupler dans l'espace des
opérations qui sont déductives, logico-formelles. Donc on fait une forme
d’exercice de la pensée qui est spatiale mais il réplique toutes ces opérations et il
nous fait gagner du temps. C'est sûr ! Mais à quel temps renvoie-t-il ? Au temps
mathématique qui est encore une gestion de l'espace ! C'est un temps fictif, ce
n'est pas un temps réel. Et le temps réel c'est celui, vous l'avez très bien dit, de
l'exercice de l'esprit. C'est-à-dire celui qui va renvoyer à la temporalité de
l'homme dans sa totalité.
Cela veut dire qu'un ordinateur ne sera jamais ni fou, ni génial. Parce que
l'homme qui le construit n'est pas capable d'expliquer sa propre folie ou son
propre génie. La folie et le génie de l'homme, qui sont sa spécificité, renvoient à
une autre temporalité qui n'est plus spatiale mais qui est celle de l'intuition, celle
de la découverte et celle qui donne du sens. Au fond l'ordinateur - ou la robotique
- ne nous concurrencera jamais sur ce que nous ne sommes pas capables de lui
donner et que nous gardons pour nous. Et finalement, ce qu'on a à redouter de
toute cette robotique, c’est qu’elle ne permette pas à l'homme d'aller plus loin que
son intelligence spatiale, qui serait celle de la découverte de l'intuition, et donc
elle nous réduit en quelque sorte (vous l'avez bien démontré). Elle est réductible,
cette intelligence artificielle, parce qu’elle ne nous ramène qu'à l'espace et pas au
temps. Donc elle ne nous concurrence pas sur notre spécificité !
Joseph Aguilar - Je suis d'accord ! Mais il faut faire attention quand on parle
du sens ! Je crois que les outils sont des choses qui, par elles-mêmes, ne doivent
pas poser le sens ! Le sens, c'est l'homme qui le donne ! Et dans ce cas-ci,
évidemment, il y a un peu de confusion parce que l'outil semble très autonome.
21
Mais si on analyse bien, on voit qu'il est autonome parce qu’il est rapide, parce
qu'il fait des choses complexes que nous ne pouvons pas faire aussi vite. On se
rend compte que, finalement, il ne nous aide pas à trouver un sens, à trouver le
sens de ce que l'on veut.
Les ordinateurs et tous ces systèmes et réseaux intelligents, on leur donne un
objectif, une fonction, de coûts. C’est ce qui se passe avec la bourse. On lui
donne une fonction de satisfaction, et on est capable d'optimiser uniquement cette
fonction-là, ou fonction de coût, et encore dans une certaine mesure seulement.
Ça c'est très bien ! Mais, simplement on pourrait changer la fonction de coût. Si
la fonction de coût est différente, le système cherchera à faire autre chose ! Si par
exemple on cherche à réduire le taux de carbone de l'atmosphère, ou autre chose,
on peut se servir de la même machine, des mêmes programmes, ceux-là mêmes
qui cherchent aujourd'hui uniquement à distribuer plus de dividendes aux
actionnaires !
Pour cela, il y a une solution mais on ne l’a pas sous la main. La solution c'est le
pouvoir. C'est celui qui introduit la fonction de coût à optimiser qui a le pouvoir !
Et il serait idiot de ne pas y mettre celle qui lui convient le plus.
Il y a deux façons de faire. La première est de prendre le pouvoir par la force,
les guillotines, etc... Et l'autre façon c’est d’essayer, par un certain humanisme et
par une certaine prise de conscience, de faire que les gens qui ont le pouvoir se
rendent compte que, même pour eux, s’ils ne changent pas de fonction dà
optimiser, ça va être une évolution catastrophique ! On voit des gens qui font tout
pour batir des fortunes et qui ensuite deviennent des amateurs d'art ! Ils achètent
des tableaux et créent des fondations. Donc ces gens-là, à un certain moment, ont
changé ou modifié leur fonction d'optimisation ! C'est mieux ou ce n'est pas
mieux ? Je ne sais pas. Je ne veux pas discuter de ça. Il suffit qu'ils aient changé à
un moment donné. Ils sont devenus des fans de l’art et ont commencé à acheter
des tableaux. Ça prouve bien que l'espoir n'est pas perdu.
Je crois à une chose, avec laquelle on peut convaincre de changer cette fonction
d’optimisation, c’est l’écologie ! Mais il ne faudrait pas dire trop de bêtises du
côté de l’écologie (parce qu’on en dit trop) mais plutôt montrer que, si on abîme
notre monde, même les plus riches vont en souffrir. Si l’air est pollué, ils auront
les mêmes maladies que les autres. Et certains commencent à s’en rendre compte.
Je suis peut-être trop optimiste, mais je suis optimiste !
Un participant - J’ai trouvé votre exposé très intéressant mais je me permettrai
quand même quelques petites remarques.
La première : j'ai l'impression qu’à cette tribune il y a un virus de pessimisme !
Je ne vous ai pas trouvé tellement optimiste pour l'avenir. Il n’y a pas longtemps,
il y avait au Conservatoire des Arts et Métiers (CNAM), une splendide exposition
22
sur les robots, l'évolution des robots. Il y avait des chapitres très intéressants sur
le déminage, l’exploration des océans, les travaux en milieu radioactif, la
chirurgie et même l'aide aux personnes dépendantes. Donc je pense qu'il y a tout
un secteur de ces machines intelligentes qui sont porteuses d'avenir.
Deuxième point : je trouve votre attitude face au chômage un peu pessimiste. Je
pensais aux ouvriers anglais qui avaient détruit les métiers à tisser : il y a eu des
reconversions ! Ce qui me semble plus grave, c'est le problème du recyclage des
machines. On aura une conférence du GREP, dans pas longtemps, sur
l'obsolescence programmée. Quand je vois les tonnes d'ordinateurs cassés qui
partent dans des pays dits en voie de développement je me pose des questions.
Donc ça c'est un aspect intéressant, et je pense qu'au niveau des politiques, on
devrait pouvoir le gérer.
Enfin, concernant l'irrationnel, il me semble que l'irrationnel avec le pouvoir
politique, ça date de l'Antiquité. Les astrologues, les mages, les magiciens, les
devins, tous les pouvoirs politiques -des rois de France jusqu'à « Tonton » - se
trouvaient des astrologues qui avaient leur oreille.
Pour finir, je regardais la télévision hier : sur le sujet du chômage, on y parlait
de GoodYear, d'un transporteur routier et ensuite de Sanofi Toulouse. Voila trois
foyers de chômage actuel qui ne sont pas seulement liés à la machine !
Joseph Aguilar - Vous avez raison ce n'est pas seulement lié à la machine.
Mais c’est lié aux critères d'optimisation ! C'est tellement criant sur toutes ces
questions. J'ai dit qu’il y a des robots et des outils qui sont très positifs. Non je ne
suis pas pessimiste de ce côté-là. Je trouve que tout progrès technologique doit
être fait et accepté tel quel. On n’aurait pas fait toute cette électronique, (je
montre les micros et le projevteur) si on n’avait pas voulu que m’exprime ici.
C’est toujours du progrès. Mais il faut aussi être conscient des dangers que ça
entraîne. Les dangers sont là !
J'ai voulu citer comment on développe certaines aptitudes sociales ou
simplement humaines avec certains enseignements qui étaient, non pas de
l'enseignement ex cathedra, mais un enseignement qui consiste à mettre
quelqu'un en contact avec certaines situations. Par exemple les jeux de ballon.
Les jeux d'équipe ou les petits appareils comme le mécano etc. On sait très bien
que cela développe certaines aptitudes humaines et de comportement. On les a
utilisées. De la même façon il faut savoir que les jeux de ballons peuvent
conduire à des fanatismes, (même le tennis). On peut finir par devenir ultra
agressif ! Des joueurs prévoient où la balle va aller, mais ils n'ont aucune notion
de ce qu'est la communication avec l'autre. Il y a des dangers. Tout le monde dira
que le foot est un jeu très agressif. Mais dans le foot, on développe une solidarité
mais aussi une agressivité énorme, on le sait et on essaie d'éviter ça ! Mais en
général on ne tient pas compte du fait qu’en manipulant tous ces appareils, on
s’habitue à une obéissance aveugle et passive - surtout passive ! Et c'est ça que
j’ai voulu dire, et mettre en garde. Toute manipulation d'objets technologiques a
23
un avantage, sinon on ne l’aurait pas faite. Mais cela a des inconvénients aussi.
De voir trop la télé ça peut empêcher les enfants d'apprendre à l'école. Par contre,
ne pas la regarder, c’est idiot aussi. Parce qu’il y a des choses intéressantes à la
TV.
C'est toujours le moyen terme qui est le meilleur !
Un participant - (Dois-je poser ma question pour Joseph en français ou en
catalan ? Tout le monde parlera Catalan dans quelques années, mais pas encore!)
J'ai toutes ces problématiques en tête, étant aussi chercheur au LAAS. J'ai
encadré beaucoup de thèses dans le domaine des technologies pour Airbus, en
particulier dans le domaine des protocoles de communications, et je prétends
connaître les technologies de l'information et de la communication ! Je pense
qu'aujourd'hui on est dans un monde où on a la dictature des technologies !
Même si le mot dictature est un peu fort. Et ça me rend un peu pessimiste. Je ne
suis pas contre les technologies mais il faut trouver un compromis, c'est ça qui est
important. En automatique, on a le compromis stabilité/précision. Et c’est dur de
trouver le compromis ! J'adhère au fait qu'il y avait déjà du chômage avant, et je
crois qu’aujourd'hui les technologies de l'information et de la communication
créent des métiers. Mais elles détruisent beaucoup de métiers. Elles permettent en
particulier des délocalisations à outrance dans le cadre de la mondialisation.
Moi je voudrais surtout parler de l’individu, qui a des capacités intrinsèques et
des capacités extrinsèques. Les capacités intrinsèques c'est son cerveau, son
raisonnement. Les capacités extrinsèques, ce sont tous les outils qu'il a à sa
disposition. Aujourd'hui les gens, et les jeunes en particulier, utilisent les outils.
Ils savent caresser des écrans ! Mais quant à la réflexion vis-à-vis des résultats, il
n'y a pas d'esprit critique. Je l'ai constaté dans mes projets de recherche. On me
présente des résultats, et je dis « non ce n'est pas possible ! Montre-moi ce que tu
as rentré dans l’ordinateur. Tu as rentré des choses qui n’avaient pas lieu d'être
par rapport au problème ! » Et cela me fait dire qu’aujourd'hui, pour les gens et
en particulier pourles jeunes qui vivent dans la technologie, cet aspect critique me
paraît très difficile aujourd'hui à obtenir. Et l’éducation devrait donner aux jeunes
des fondamentaux, avant de leur donner des ordinateurs !
Je rappelle une phrase d’Einstein : « je crains le jour où la technologie dépassera
nos interactions entre individus. Le monde aura à ce moment-là une génération
d'idiots. » C’est fort ce qu’il dit. Aujourd'hui je suis pessimiste au sens où il faut
faire un retour et trouver le compromis. Vivre avec son temps, c’est intégrer le
passé. En mathématiques, la mémoire c’est fondamental. Il ne faut pas qu’on en
soit l’esclave.
Joseph Aguilar - Je ne peux qu’être d’accord avec un membre du LAAS!
Encore une fois, il faut prendre conscience du danger. Il y a une théorie
scientifique qui justifie que les choses fonctionnent comme elles fonctionnent.
24
Une théorie demande la compréhension et le raisonnement, on ne doit pas
l’oublier.
Une participante - Vous avez parlé du régulateur de Watt qui, à un certain
nombre de tours/minute, va ouvrir la vanne. Mais il n'y a aucune décision làdedans ! Il est réglé pour ça. L'intelligence, c'est celle de Monsieur Watt, qui a
inventé le système ! La machine n'est pas intelligente. Et je crois que notre
dérive, en fait, c'est la personnalisation de la machine. Je partage tout à fait
votre conclusion. Mais il n'y a rien de plus paralysant aujourd'hui que de se
trouver en face d'une personne qui me dit « L’ordinateur ne peut pas ». Alors,
tout le monde est bloqué ! C’est effectivement un des traits dévalorisants pour
l'Humain.
Il y a quelques jours, regardant à la TV une émission sur les robots, une
séquence m'a énormément frappée. On voyait un chercheur, assis en face de son
robot, qui lui disait textuellement « mais enfin, tu vois bien que quand tu veux tu
peux! » Et je trouve extraordinaire qu'un scientifique puisse dire ça à un robot.
Aujourd'hui on essaie de donner une forme humaine aux robots, une tête, 2 bras,
2 jambes... J'ai appris qu'il y a même le robot qui embrasse. C'est génial le robot
qui embrasse. Et si on lui met un peu de poils, ça fait un petit chien ou un chat. Je
trouve ça extraordinaire !
Joseph Aguilar - C'est tout à fait la phrase d’André Gorz. Celui qui a parlé au
robot raisonne comme un robot ! Il a appris à raisonner comme une machine. Il
dit une chose qu'elle peut comprendre peut-être. Je ne vais pas m'étendre
beaucoup à propos du régulateur à boule. En effet il ne «raisonne» que parce
qu’on lui a mis le raisonnement avant, et c'est dans toutes les machines la même
chose. Simplement la complexité et la rapidité font penser qu'il raisonne à ce
moment-là. Mais si on voit des tringles des leviers qui transmettent le
mouvement des boules à la vanne et qui réalisent cela, même si on comprend que
quelqu'un l’a pensé, on voit que la machine le réalise, donc elle semble prendre
une décision. Mais si on monte une tringle à l’envers, on va faire un feedback
positif et la machine va s’emballer et ça ne marchera pas. Il ne suffit pas de
savoir à quelle vitesse elle tourne (les boules le disent), ni d’avoir une vanne qui
s’ouvre et se ferme. Il faut entre les 2 avoir pensé et mis en place une relation.
Une participante - Je pense qu’actuellement on est en train de revenir en
arrière par rapport à beaucoup d'enseignements. On est en train de mettre des
sciences humaines et sociales dans les sciences. Parce qu'on a fait tellement de
science-fiction qu'on est complètement déconnectés de la réalité. L'enseignement
est fondamental mais on a des générations qui ont été formatées plus que
formées, et à ces gens-là il ne faut pas demander de faire de la création. Ce qu’on
leur demande en fin de compte, c’est de vivre dans la société comme elle est. Or
l'écologie est essentielle, la Terre est mise en péril actuellement, il faut que les
25
gens prennent conscience que, tant qu'on consomme autant, on va vers des
cataclysmes. Pour ma part je pense qu'il y a un gros travail d'éducation et de
rééducation à faire dans notre société. On a voulu faire des gens des
consommateurs et on n’a pas voulu des gens qui réfléchissent. Et il faut revenir à
la réflexion !
Joseph Aguilar - Je suis d'accord avec l’enseignement. On m'a dit que, dans
GREP, le E veut dire éducation! Donc c'est essentiel c'est une des réponses !
C’est un pas vers la solution.
Un participant - On cherche tous des solutions, et le logiciel libre en est peutêtre une. Hier à « Toulibre », (ici à Toulouse) j'ai rencontré des jeunes
développeurs de 30 ans, 40 ans, 50 ans qui parlaient justement de ce problème.
Ils se rendent bien compte de la situation et ils essaient de mettre dans les réseaux
une autre forme de pensée, un échange des uns et des autres. Alors c'est
effectivement très peu répandu, mais c'est quelque chose qui marche et qui risque
de se répandre. Moi je suis assez optimiste là-dedans. Ceci dit je me pose encore
des questions.
Joseph Aguilar - Oui, c'est une très bonne orientation, le logiciel libre.
Simplement c’est très difficile parce qu'il a beaucoup d'ennemis, ou du moins
d'obstacles. Moi je serais le premier à être pour le logiciel libre et je ne l'utilise
pas ! Pourquoi ? Parce que les contraintes générales font que c'est compliqué. Il
faudrait résoudre le problème de la diffusion et de la généralisation. Quand une
technologie est choisie majoritairement, elle s'est imposée pour des raisons
diverses, financières ou pratiques etc. Et c'est très difficile de changer les
habitudes.
Par exemple, si le cinéma américain a plus de succès et plus d’entrées que les
autres, c'est parce qu'il y a une puissance derrière qui a très bien fait les choses.
Elle a conquis les enfants dès leur plus jeune âge et elle maîtrise les clés
importantes pour la diffusion. Et en plus de ça elle fait des bonnes choses, des
choses de qualité !
Et avec logiciel libre c'est un peu la même chose. Le logiciel commercial se
diffuse bien, c'est facile, et puis il est assez bien fait quand même dans
l'ensemble. Alors finalement c’est difficile d'en sortir. Il faut vraiment une
volonté très grande. Mais je ne connais pas à fond ce sujet.
Ça n'est pas une bonne référence, mais certains régimes proches de la dictature
y ont été sensibles. Au Venezuela, ils ont créé un centre pour faire du logiciel
libre. Et ils ont installé du logiciel libre dans le pétrole etc. Mais ils l’ont fait
d'une façon dictatoriale et ça n'a pas marché finalement. Donc il faut deux choses.
Premièrement que le logiciel libre soit bien. Et en général il l’est autant que
26
l’autre. Mais deuxièmement, dans la façon de le diffuser, de ne pas forcer les
choses. Parfois on pense que le dictateur n'a pas de contraintes mais ce n'est pas
vrai. Parce que la façon de le faire est aussi importante que ce que l'on fait.
Un participant - Moi je suis très séduit par le raisonnement très simple induit
de la démocratie athénienne qui dit 200 000 esclaves, remplacés par 200 000
machines, égale 200 000 citoyens. Donc je pense que c'est ça qu'il faut appliquer.
Mais c'est aussi mon expérience de syndicaliste qui me fait penser qu’on n'a pas
suffisamment réduit le temps de travail, loin de là, au regard de l’augmentation
de la productivité et de l’évolution de la technologie.
Joseph Aguilar - Le temps de travail est un autre problème. Je n'ai pas voulu
trop entrer là-dedans car je n'ai pas les données précises.
Un participant - Une question courte qui reprend une problématique posée ce
soir. Il me semble que tous les progrès techniques et scientifiques ont montré leur
utilité (les ordinateurs en sont l'exemple). Et puis après on s'est rendu compte
des conséquences négatives, mais si on veut revenir sur ces progrès, comme on
en a goûté l'utilité, personne ne le veut ! Et donc on est confronté à cette logique
où les sociétés sont victimes du succès de l'utilité de ces technologies.
Je prendrai l'exemple de l'énergie nucléaire qui nous a permis d'avoir de
l'électricité. Aujourd'hui les gens disent que l’électricité nucléaire, c'est
dangereux ! Oui mais l'électricité, on en a besoin et on ne sait pas la remplacer de
façon rapide. Donc le problème aujourd'hui, c'est qu'on a un progrès des
technologies qui est autonome, qui dépend des recherches, etc. et ce n'est qu'après
qu'on se rend compte des conséquences sociales. C'est un peu la lutte entre les
sciences dures et les sciences sociales. Elles ne savent pas réduire les difficultés
produites par les sciences dures.
Joseph Aguilar - Je suis d'accord c'est un problème qui ouvre des questions très
graves. Tout progrès technique a eu toujours des retours. Là où je suis moins
d'accord : on a fait des progrès puis on s'est rendu compte après. Il y aurait donc
un avant et un après, mais c'est plus complexe que ça ! C'est continuellement. Ce
qui serait l'idéal c'est que continuellement, on réfléchisse à ce que l'on fait.
Mais l'humanité est comme ça !
Un participant - Je voudrais rajouter quelque chose. Derrière ce que vous dites
il y a une idéologie politique. A l’origine, il y avait d'abord l'utilitarisme de
Jeremy Bentham : « Le plus grand bonheur pour le plus grand nombre basé sur
l'utilité. » Et cela a conduit au libéralisme. Donc avant cette accélération
technologique, il y a une idéologie politique. Mais elle a été dépassée par
27
l’accélération de la technologie, c'est quelque chose de nouveau ! Donc on a deux
phénomènes. On a à la base une idéologie politique, l'utilitarisme -qui a donné le
libéralisme- et on a une deuxième chose qui vient aggraver la situation, c'est que
la technologie a été tellement vite qu'on ne peut plus la penser !
Un participant - Quand on pense machines intelligentes, on peut penser
également que les machines ont rendu l'homme plus intelligent. En ce qui
concerne l'interaction entre les mathématiques et l'informatique, c'est grâce aux
machines qu'on a réussi à savoir si des problèmes sont décidables ! On sait
maintenant si un problème a une solution. Si la machine ne sait pas faire, c'est
que ce n'est pas décidable. Et cette notion a été plus ou moins admise.
Je voudrais dire également que de tout temps, on a eu une sorte de dédain
envers ce que pouvaient faire les machines. Et on a eu aussi le phénomène
inverse. Dans la conférence précédente, Jean-Pierre Rouzière rappelait un
événement extraordinaire : le petit ordinateur « Deep Blue » a battu Kasparov.
Mais battre un homme au jeu d'échec est quelque chose de relativement facile. Il
n'y a que des états finis. Les règles sont finies. Mais si vous demandez à une
équipe de chercheurs de concevoir un robot pour sortir un piano d'une pièce, le
mouvement est continu et ça va être plus difficile ! Autrement dit, l'homme se
polarise sur des problèmes qui ne sont pas forcément importants et il peut même
dire des choses qui ne sont pas justes.
Vous avez commencé votre conférence par le syllogisme de Socrate : « Tout
homme est mortel, or Socrate est un homme, donc Socrate est mortel. » Paul
Valéry disait, d'une manière très dédaigneuse : « mais de quoi est mort Socrate ?
il est mort de son syllogisme. » J'ai trouvé cette réponse humoristique mais
extrêmement ridicule.
Joseph Aguilar - Mais c'est vrai, il est mort de son syllogisme parce qu’il a été
accusé d'impiété. Donc c'est l’irrationnel qui l’a tué.
Un participant - Sur la phrase d’André Gorz. Elle commence en disant que
l'humain va se mettre à faire fonctionner son cerveau comme une machine. Est-ce
qu’il n’y aurait pas un corollaire lourd qui est une forme d'addiction à cette
relation avec la machine ? Je n’ai pas entendu le mot addiction. Mais on
s'enfonce et on renforce encore ce comportement vis-à-vis de la machine.
Joseph Aguilar - J’ai utilisé le mot soumission, et cela inclut l’addiction.
Un participant - Une question sur la peinture : vous avez choisi de nous
montrer une peinture d'un mouvement pictural futuriste qui était fasciste. Etait-ce
intentionnel, parce qu’effectivement c'était sur la création de l'homme nouveau,
la dépersonnalisation et la machine? Est-ce qu'il y avait connotation ?
28
Joseph Aguilar - Pas tout à fait. D'abord j'ai découvert cette peinture par pur
hasard en cherchant des tableaux à Barcelone, il y avait une exposition des
Futuristes et en particulièrement de celui que j’ai cité, Depero. Alors j’y suis allé.
Et j'ai appris que ces gens-là étaient fascinés par les machines, par l'armée, par
les armes. Mais après ils ont été très déçus par le fascisme. (Je ne parle pas
d’Hitler parce que lui est allé au-delà des armes : les races, ce n'est pas une
question de machines). Le fascisme aimait beaucoup le progrès. Ce qui était
frappant, c’était la fascination pour les machines.
Ils n'étaient pas les seuls, mais eux l'ont représenté dans l'art. Ils ont dit ce que le
monde devait être finalement. Pour reprendre la phrase de Gorz, leur idéal c'était
que les hommes apprennent à fonctionner comme des machines. Mais on ne peut
pas dire que finalement ils aient été très bien vus par Mussolini à la fin. Ils étaient
à moitié fous. Mais il y avait chez eux de très bons architectes, et du point de vue
artistique, ils ont fait des choses valables. C'était assez curieux comme
mouvement.
Un participant - Vous avez parlé d'intelligence artificielle, mais il faudrait
peut-être parler aussi de sensibilité artificielle. J'ai entendu une publicité pour une
voiture, dont le slogan publicitaire était: « laissez la technologie guider vos
sensations.» Est-ce que cette dimension sensorielle est aussi prise en compte par
ce que vous avez dit ?
Joseph Aguilar - Je ne sais pas si dans les machines telles que je les ai décrites
on a volontairement mis cet aspect sensoriel. C'est sûr que, comme il a été dit tout
à l'heure à propos de l’addiction, il y a un aspect sensoriel aussi. Chez les enfants
qui passent beaucoup de temps avec des jeux vidéo, avec des jeux qui sont
relativement agressifs, c'est sûr ! Mais on peut faire beaucoup de choses.
Certaines sont dangereuses, d'autres sont simplement amusantes : faire un chat,
un robot-chat poilu, qui lève la queue quand on le caresse, c'est un jouet ! Si on le
prend pour jouer ce n’est pas plus dangereux que d’autres choses. Si une
personne déprimée a besoin de ce chat et retrouve le goût à la vie grâce à ce chat
alors c'est quelque chose de positif. Il ne faut pas considérer que cette personne
ait été guérie. Dans la panoplie des possibilités humaines, il y a d'autres choses
qui peuvent la guérir de sa dépression. Par exemple les rapports humains. Mais il
se peut très bien qu'il y ait un médecin qui lui conseille de dise de garder son
chat. Vous savez que lorsqu’on caresse un chat, il lève la queue. On ne va pas
plus loin, le robot peut le faire !
Un participant - Cette réflexion sur la technologie, aussi bien dans cette
conférence que dans la précédente, me renvoie à une dissertation que je devais
faire au lycée dans les années 50, sur « peut-on dire de la radio ce qu'Ésope disait
29
de la langue : elle est la pire et la meilleure des choses. » Et depuis que nous
fonctionnons avec ces technologies, j’imagine des dissertations sur ce sujet : avec
la télé, avec la technologie. Et on est toujours avec le même constat aujourd'hui.
À suivre Esope, chacune des technologies que nous découvrons aura toujours le
meilleur et le pire. Et donc il est précieux d'avoir des gens comme vous qui
expriment une forme d'alerte par l'éducation et la vigilance sur ce qui se passe. Et
en même temps, ne tombons pas dans un pessimisme exagéré!
Au contraire, on a évoqué, dans une conférence récente, tout ce que nous
devons aux technologies dans le domaine de la santé. Nous devons énormément
aux technologies : réjouissons-nous en, plutôt que de pleurer !
Un participant - Une remarque finale : tous les futuristes n'étaient pas fascistes.
Il y en a beaucoup qui étaient surréalistes, ce n’était pas la machine qu’ils
montraient mais c'était la vitesse !
Un participant - L'odyssée de l'humanité montre qu’en fait l'homme a essayé
d'aller au-delà de nature. C'est un être vivant qui est surnaturel, et il a eu cette
capacité à aller au-delà de ce qui était permis en tant qu'être vivant. La technique
en tant que telle effectivement est positive. Le cœur artificiel qu’on vient
d'implanter c’est quelque chose de formidable pour l'homme qui va continuer à
vivre.
Il ne faut pas se tromper de cible. Vous avez dit au tout début : les 200 000
esclaves, ce sont eux qui bossaient. Mais les femmes, n'étaient-elles pas aussi des
esclaves? Et les métèques étaient des commerçants qui bossaient aussi pour les
Citoyens! Aujourd'hui, malgré la technologie, on est toujours dans la même
situation ! Effectivement aujourd'hui les hommes et les femmes sont des
citoyens, mais ceux qui s'en sortent sont ceux qui ont réellement le pouvoir, et on
est toujours dans le même système. La technologie a permis que tout le monde
vive de façon un peu plus sympa. On est mieux chauffés, mieux soignés, mieux
ceci, mieux cela. Mais on n'a pas changé les règles du jeu. C'est toujours les
autres qui travaillent pour une petite minorité.
Joseph Aguilar - Vous avez raison ! N'empêche que ces 20 000 citoyens ont
créé les concepts de la démocratie sur laquelle nous nous appuyons encore
aujourd'hui. Il faut lire Jacqueline de Romilly : pourquoi en Grèce y a-t-il eu la
création d'un tel système? C'est tout à fait vrai que c'était une oligarchie de 20
000 citoyens, plus qu'une démocratie. Mais ils ont posé les jalons des principes
qui aujourd'hui sont valables pour beaucoup plus ! Ils ne sont pas encore
appliqués de façon tout à fait correcte pour tout le monde, mais quand même, du
point de vue des libertés individuelles, du point de vue de la participation à la
30
cité, etc. c'est quand même un progrès par rapport à ce que pouvaient être d'autres
régimes monarchiques. Finalement il ne faut pas non plus accuser ces 20 000
d'avoir été les exploiteurs de tous les autres. Oui ils l’ont été, mais ils ont eu la
sagesse de placer les jalons de la démocratie !
Le 15 janvier 2014
31
Joseph Aguilar-Martin
est né à Barcelone, et est Ingénieur de
l'ENSHEIT de Toulouse (Ingénieur-docteur de l'Université Paul Sabatier). Il est
également membre de l'Imperial College of Science and Technology de Londres.
Il est entré au CNRS en 1967, où il a rejoint le LAAS (Laboratoire
d’Automatique et des Applications Spatiales). Durant sa longue carrière, il a été
l'invité de nombreuses universités, particulièrement en Amérique latine.
Ses recherches ont été principalement axées sur le domaine de l'Intelligence
artificielle.
Il est aujourd'hui professeur émérite de l'Université de Toulouse, et consultant
au CTAE (Aerospace Research and Technology Centre) de Barcelone.
Bibliographie.
-Ouvrages et documents anciens :
Ross Ashby, W. : An Introduction to Cybernetics. University Paperbacks
Methuen, London 1964
Pierce J.R. : Symbols Signals and Noise. Hutchinson London 1962
Wiener N. : Cybernetics, or control and communication in the animal and the
machine. MIT Press Cambridge Mass. USA 1961
Diebold J. : Automation, trad. Espagnole, Ed. Hispano Europea, Barcelone 1956
-Ouvrages plus récents
Negroponte N. : L’homme Numérique. Robert Laffont 1995
Bellanger A. : La théorie de l’Information (Roman) Gallimard 2012
Serres M. : Petite Poucette. Le Pommier 2012
Chapouthier G. & Kaplan F. : L’homme, l’animal et la machine. CNRS éd.
2011
Et de nombreux Articles de journaux et sites Internet que mes amis ont eu la
gentillesse de me faire connaître
32