Logique et mathématique - Philosophie

Eric Grillo, Université de Paris III
in Philosophie, Bulletin de Liaison, n° 12 pp. 18-33
L’enseignement de la philosophie dans l’académie de Versailles,
Centre régional de documentation pédagogique, septembre 1996
Logique et mathématique
Il n’est jamais aisé pour le philosophe d’engager un questionnement sur le thème «
logique et mathématique ». Se pose d’abord bien sûr la question des compétences : les
domaines de la logique et des mathématiques constituent aujourd’hui des secteurs
hautement spécialisés, qui mettent en œuvre des procédures d’analyse rigoureusement
formalisées, dont la manipulation et la compréhension requièrent une double compétence, à
la fois technique et conceptuelle, qui n’est en général que le fait des spécialistes.
À cela s’ajoute un second problème, celui de la délimitation. En effet, l’expression «
logique et mathématique » est en fait fort vague, car elle semble postuler tant l’unité de la
logique que sa distinction d’avec les mathématiques, choses qu’on ne peut cependant
affirmer à la légère, ni tenir pour aller de soi.
Un simple coup d’œil jeté sur les travaux qui se publient en logique (mais il en irait de
même pour les mathématiques) montre l’extraordinaire diversité des champs traités : à côté
de la logique dite « standard », foisonnent des logiques plus ou moins « déviantes »,
logiques modales (aléthique, déontique, temporelle, épistémique…), logique floue, logique
des défauts etc.
Qui plus est, non seulement les domaines sont divers, mais les modes de traitement
le sont également : théorie des modèles, théorie de la démonstration, intuitionnisme, autant
de manières d’aborder la logique, mieux, de définir le logique, et de concevoir le calcul, qui
sont toutes acceptables, bien qu’elles ne se recouvrent qu’imparfaitement.
Quant à l’affirmation de la distinction logique/mathématique, elle fait l’économie de ce
qu’a représenté au début de ce siècle le programme logiciste de Whitehed et Russell
notamment, à savoir une tentative de fonder l’édifice entier de la mathématique sur des
prémisses purement logiques, en montrant que les concepts mathématiques pouvaient être
intégralement définissables à partir « d’idées primitives » exclusivement logiques. Bien qu’on
accorde aujourd’hui que ce programme fut un échec, on ne saurait cependant le
méconnaître : c’est dans ce contexte que Russell élabora une solution aux paradoxes de la
théorie des ensembles, et développa le formalisme qui allait s’imposer au XXe siècle comme
« modèle standard ».
Ces quelques remarques suffisent à montrer qu’on ne saurait aborder tout de go le
thème « logique et mathématique », mais qu’il convient de la spécifier quelque peu. À cette
condition seulement le philosophe sera légitimé dans le choix de ce thème, et à l’abri peutêtre du reproche de ne point sortir d’une généralité sans véritable prise sur son objet.
Pour ma part, j’effectuerai cette spécification de la façon suivante : je m’intéresserai à
la logique et aux mathématiques du point de vue d’une réflexion sur la pensée formelle,
considérée non point seulement comme méthode ou instrument, mais en tant que pensée
véritable, c’est-à-dire en tant qu’elle peut être déterminable comme pensée d’objets. Mon
thème principal sera donc celui de la pensée formelle en tant que pensée d’objets, et je
tenterai d’apprécier la signification et les enjeux philosophiques de cette détermination.
Par là, j’ai indiqué sans doute en quoi la pensée logico-mathématique peut intéresser
le philosophe autrement que comme outil éventuel d’analyse, mais je n’ai pas encore
complètement déterminé la légitimité du traitement philosophique du champ logicomathématique. Cette question sera donc l’axe principal de ma première partie, dans laquelle
je tenterai de montrer que le statut de la philosophie l’autorise à prendre pour thème la
pensée formelle, jusque dans sa vocation objective.
Cependant, il est clair que la détermination de la pensée formelle comme pensée
d’objets s’inscrit en faux contre l’objection de « formalisme » classiquement adressée à la
pensée logico-mathématique. Ma seconde partie consistera donc à lever cette objection,
sous chacun de ses avatars, c’est-à-dire en montrant que la pensée formelle n’est ni une
pensée « aveugle » ni une pensée « vide », et ne saurait du même coup être réduite à une
pure manipulation de signes.
On l’aura compris, les rapports entre la philosophie et les sciences formelles ne
m’auront pas moins occupé que les rapports logique/mathématique. Tentant alors de
rassembler les acquis de ma discussion, je tenterai dans une troisième partie de montrer que
la réflexion philosophique sur les sciences logico-mathématiques n’est pas sans incidence
sur elles, contrairement à une idée communément admise, mais qu’en retour, le philosophe
a beaucoup à apprendre d’une réflexion sur les sciences formelles.
1. La question de la légitimité
Ainsi que je l’annonçais en commençant, la question de savoir si le philosophe est
légitime dans sa volonté de prendre pour thème la pensée logico-mathématique ne peut pas
être évitée, et cela pour plusieurs raisons.
D’abord, on observe entre la philosophie et les sciences logico-mathématiques une
profonde disparité, tant dans les domaines abordés que dans les procédures mises en
œuvre, et ces disparités sont de nature à favoriser un mutuel isolement.
Ensuite, alors que la philosophie se veut analyse compréhensive et élucidation de
l’expérience humaine dans la diversité (unifiée) de ses aspects, les sciences formelles se
préoccupent de questions qui en sont fort éloignées, sauf peut-être du point de vue tout «
utilitaire » de l’application aux faits humains.
Enfin, c’est un truisme que de rappeler la différence profonde qui sépare la
démonstration logico-mathématique de l’argumentation prudente, progressive, critique du
philosophe instruisant ses questions. Au-delà de la disparité des styles ou des méthodes,
c’est la manière même d’interroger qui est distincte : aux questions « formelles » des
sciences déductives, dont l’énoncé indique la forme à donner à la réponse possible, on peut
opposer les questions « informelles » 1 de la philosophie, dont la réponse ne saurait être
atteinte qu’au prix d’un questionnement qui la construit en spécifiant peu à peu le champ
ouvert par la question initiale.
Pourtant, il est un point sur lequel on peut faire converger la philosophie et les
sciences formelles, savoir, le signe et la question de la signification. Car d’un côté,
l’expérience que vise à reconstruire la philosophie n’est pas une expérience « brute », mais
déjà organisée par des systèmes de signes. D’un autre côté, les sciences formelles
développent une réflexion radicale sur les signes et les modalités et conditions de la
signifiance des systèmes symboliques, car elles affrontent de plein fouet la question du «
sens » des formules qu’elles permettent de construire et de manipuler. Par là, non seulement
les préoccupations de la philosophie et des sciences formelles peuvent se rejoindre, mais la
philosophie a tout intérêt à ne pas négliger ni méconnaître l’apport propre des sciences
déductives à l’élucidation de la question de la signification, nous y reviendrons.
Seulement, montrer un point de convergence possible, fût-il radical, n’est pas encore
trancher la question de la légitimité. Or, cette question se pose avec acuité et insistance, et
elle a un caractère radical, en ceci qu’elle engage le statut même de la philosophie.
Expliquons-nous : la philosophie prenant pour thème la pensée logico-mathématique
est en position de redoublement à l’égard de cette pensée, ce qu’on traduit quelquefois en la
qualifiant de « réflexive ». Or, toute forme de redoublement n’est pas légitime. On se
souvient de la mise en garde de Wittgenstein2 : ce que les signes montrent, aucun autre
système de signes ne saurait le décrire. La langue étant une représentation du monde (de la
totalité des faits), on ne peut en faire usage pour représenter son propre mode de
représentation, car ce n’est pas là un fait. Ce mode de représentation ne peut que se
montrer dans l’usage du symbolisme. La logique est alors conçue comme l’ensemble des
règles qui gouvernent ce mode de représentation, et les tautologies, qui sont le schème de
ces règles, ne sont pas tenues pour de véritables propositions, dans la mesure où elles ne
« parlent » pas « d’objets » .
Cette réserve qu’exprime Wittgenstein frappe-t-elle d’interdit toute tentative de «
saisie réflexive » d’une réalité déjà constituée dans un ensemble signifiant ? Ce serait
ruineux pour la philosophie. Mais peut-on alors, et comment, distinguer un redoublement
légitime d’un redoublement illégitime ?
C’est exactement ce que propose Granger (cf. note 2), en opposant deux formes de
redoublement : celui qui prend la forme d’une métathéorie, et celui qui prend la forme d’une
métadiscipline. Précisons :
Selon Granger, serait « métathéorique » une doctrine qui traiterait son « objet » (une
discipline du premier ordre) exactement comme celle-ci traite ses objets. Mais il est clair que
ni la production des « objets » mathématiques, ni l’organisation de la pensée telle que la
logique peut la révéler ne sauraient être réduites à de simples objets. Un traitement
métathéorique aurait donc ici toutes les chances de se limiter à une simple paraphrase, et
échouerait de surcroît dans sa prétention fondatrice, car il se situerait toujours sur le plan
des « objets d’un certain ordre », appelant par conséquent une théorie des objets de l’ordre
suivant.
Afin d’échapper à ces restrictions, une métadiscipline devra s’établir sur un statut
différent de celui de simple théorie. Bien sûr, une métadiscipline se trouve encore en position
de redoublement, bien sûr, elle parle encore « sur » des systèmes de signes, mais sans les
réduire à de simples objets, et en ayant toujours en vue la détermination des conditions de
leur fonctionnement, et la délimitation de leur champ d’application.
Si on accorde ces distinctions, il devient possible de voir dans la philosophie quelque
chose comme la métadiscipline par excellence. La philosophie, chacun l’accordera, n’est pas
une connaissance d’objets. Une telle connaissance, caractéristique du savoir scientifique,
tente de représenter ses données selon des schémas ou des modèles abstraits, sur lesquels
d’une part peut s’exercer une pensée combinatoire et déductive, et à partie desquels d’autre
part on peut tirer des énoncés qu’une mise en correspondance avec l’empirie permettra de
valider ou d’infirmer. Or, rien de tel dans la connaissance philosophique. Elle est, conclut
Granger :
« La métadiscipline dont le thème est l’ensemble, constamment renouvelé, mais
aussi jusqu’à présent conservé dans la mémoire des hommes, des œuvres où ils
organisent, à travers toute espèce de signes, leur expérience » (op. cit, p. 125).
C’est donc en tant que métadiscipline que la philosophie peut être légitimée dans son
traitement des sciences logico-mathématiques, et ce traitement peut s’orienter selon deux
axes : un axe « épistémologique » au sens classique, visant à une description et à une
analyse des méthodes et procédures déployées dans les sciences formelles. Et un axe
qu’on qualifiera de « transcendantal » où, remontant des systèmes de signes aux conditions
de leur signification, on cherche, dans une analytique de la fonction symbolique une solution
à l’énigme de la correspondance de la représentation et de la réalité.
C’est cette deuxième voie qui sera la nôtre ici, car elle nous fait renouer avec l’idée,
avancée en commençant, que la pensée formelle ne laisse pas d’être une véritable pensée
d’objets, et qu’elle a en outre le mérite de réactualiser un thème kantien au cœur de
l’épistémê contemporaine.
2. Que la pensée formelle est une pensée d’objets : en quel sens et à quelles
conditions on peut l’affirmer
2.1 Que la pensée formelle n’est pas « aveugle »
Affirmer que la pensée formelle est une pensée d’objets, c’est faire bon marché de
l’accusation de « formalisme » qu’on lui adresse communément, derrière laquelle se profilent
deux reproches : le premier, que la pensée formelle est aveugle, le second, qu’elle est vide.
Si le premier reproche énonce seulement qu’il n’est pas toujours immédiat de saisir « de quoi
» il est question dans un système formel, le second affirme plus radicalement qu’il ne saurait
y être question de rien.
Ces deux reproches trouvent peut-être, sinon leur justification, du moins leur prétexte
dans quelques traits inhérents aux sciences formelles ; si tel était le cas, on pourrait alors
rendre compte à la fois de leur genèse et de leur relative pérennité. Sans doute tenteronsnous de les lever, mais en nous efforçant de leur rendre justice : certes, ils témoignent d’une
mésinterprétation de ce que sont en leur fond les sciences formelles, mais une
mésinterprétation qui résulte en partie de la nature même de ces dernières.
Soit à considérer le premier reproche, selon lequel la pensée formelle est aveugle. Dans une
telle pensée, se serait perdu ce rapport à l’objet qui fonde seul la transparence du discours.
Y a t-il dans la pensée formelle quelque chose qui motive un tel jugement ?
Pour qui est quelque peu familier des langages formels, ce reproche peut surprendre, car
l’un des principaux objectifs des défenseurs des langages artificiels a toujours été justement
de remédier aux imperfections (tant du point de vue du sens que de celui de la vérité) des
langues vernaculaires. C’est là en particulier ce qui motive le recours systématique au
symbole, qui présente plusieurs avantages immédiats :
1. Parce qu’il fait l’objet d’une définition univoque et explicite, il pallie les variations de
sens en cas d’occurrences multiples dans un contexte donné, par où il lève
l’ambiguïté sémantique de bien des énoncés en langue naturelle.
2. Parce qu’il a valeur abréviative, il autorise la manipulation et le traitement
d’expressions à la fois plus longues et plus complexes que celles qu’on aurait à gérer
sans ce moyen.
3. Parce qu’il marque la place que doit occuper dans la formule ou l’argument telle ou
telle (classe d’expression, il rend manifeste sa structure, que ne dévoile pas toujours
sa « grammaire de surface » 3.
4. Enfin, parce que son usage n’est pas limité aux seuls « termes », mais s’étend aux
opérations sur les termes, c’est le mouvement même de la pensée qui devient explicite et
contrôlable par son moyen.
Cependant, et par là sans doute se justifie le grief de « pensée aveugle », par une sorte de
renversement, l’opacité se réintroduit dans le langage formel de la logique et des
mathématiques, par le biais de l’introduction des variables. On sait que l’introduction des
variables est indispensable au calcul logique, conçu comme calcul fonctionnel, car seules
elles sont en mesure d’assurer au discours logique sa généralité. Une proposition qui serait
vraie de Platon mais pas d’Aristote ne relèverait pas de la logique. Mais la généralité ne
saurait être acquise qu’une fois surmontée l’indétermination inhérente à toute formule
contenant des variables. C’est donc sous les espèces de l’indétermination que l’opacité se
réintroduit dans le discours logique, et elle ne saurait être vaincue qu’en s’assurant qu’une
expression de la forme « Φx » ou (x) (Φx) » a une signification.
C’est là une difficulté qu’eurent à affronter de plein fouet les auteurs des Principia
Mathematica, difficulté dont la solution requiert rien moins que l’introduction et la définition
des quatre idées primitives de variable, fonction propositionnelle, assertion et quantification,
le tout indexé à une théorie de la « signification logique » ou dénotation des expressions
générales de la logique. Pour Whitehead et Russel4, le discours logique a cette particularité
de ne plus référer directement à des individus ou des faits particuliers. Le sens des formules
logique, nécessairement indirect et discursif, n’est garanti qu’au prix du maintien de leur
corrélation avec des objets de référence possible, cela même qu’assure leur dénotation.
Toute introduction d’un nouveau symbole dans le calcul devra satisfaire aux exigences de la
« signification logique ». Dès l’abord se pose donc la question du sens d’une expression
contenant une (des) variables(s).
Les auteurs des PM attribuent aux variables deux caractères essentiels :
1. Une variable est ambiguë dans sa dénotation parce qu’elle est indéterminée :
l’expression « x est mortel » dénote ainsi de façon ambiguë Socrate, Platon,
Alcibiade, soit différentes valeurs possibles de la variable.
2. Une variable préserve une identité reconnaissable dans les différentes
occurrences d’un même contexte : dans un contexte C, les variables x et y dans « x
est blessé » et « y est blessé » représentent les places de deux valeurs d’individus
distinctes.
Mais cela ne dit rien encore sur le « sens » d’une expression comme « x est blessé ».
Or, répondre à cette question requiert l’introduction et l’explication d’une seconde idée
primitive de la logique pure, celle de « fonction propositionnelle ».
Une telle fonction s’obtient par substitution de variables aux constantes d’individu et
de prédicat dans une proposition élémentaire ; ainsi, la proposition « Socrate est mortel »
devient la fonction « Φx », schéma à partir duquel on peut engendrer un ensemble de
propositions élémentaires, par simple assignation aux variables de toutes les valeurs
possibles. Les auteurs des PM introduisent encore un autre symbole, « Φx », pour désigner
la fonction elle-même. Ce qui a pour effet de disqualifier la valeur diacritique de la variable :
alors que les expressions « x est blessé » et « y est blessé » dans un contexte C peuvent
être distinguées, les expressions « x est blessé » et « y est blessé » en revanche ne
véhiculent aucune différence de signification. Ainsi, l’expression « Φx » est-elle une valeur
ambiguë de la fonction propositionnelle « Φx », car elle dénote de façon ambiguë « Φa », «
Φb », « Φc » etc., qui sont les différentes valeurs de « Φx ».
Cependant, cet aménagement ne maîtrise pas encore complètement l’ambiguïté de
la variable, qui demande à être surmontée au double plan de la vérité et de la signification.
La maîtrise, du point de vue de la vérité, est obtenue par l’introduction de la troisième idée
primitive, celle d’assertion d’une fonction propositionnelle. Classiquement, on considérait que
seule une proposition pouvait faire l’objet d’une assertion. Mais selon Russell, la logique a
besoin de cette possibilité « d’assertion ambiguë ». Certes, dans l’assertion d’une fonction
propositionnelle « l- Φ x », la fonction demeure ambiguë, puisque sa valeur reste
indéterminée, mais elle est assertée cependant, dans la mesure où l’on admet qu’une
quelconque de ses valeurs est vraie. Bien entendu, l’assertion étant une position de vérité, il
n’est concevable d’asserter que les fonctions propositionnelles susceptibles de n’engendrer
que des propositions vraies, c’est-à-dire les tautologies. Ce qui a pour effet, non point
véritablement de lever, mais de neutraliser l’ambiguïté de la variable, puisqu’elle n’est plus
susceptible de modifier la valeur de vérité de la fonction.
Reste que pour atteindre à une généralité explicite et exempte de toute ambiguïté, un
dernier moyen est requis, que fournit l’idée de quantification universelle. Ce nouveau
symbole,
« (x) (Φx) », peut se lire « Φx » toujours ou encore « Φx est vrai pour toute valeur de x ».
Dans l’analyse qu’en donnent les auteurs des PM, on est frappé par la similitude avec l’idée
précédente d’assertion d’une fonction propositionnelle : d’ailleurs, les formules « 1- Φx » et
« (x) (Φx) » sont logiquement équivalentes, c’est-à-dire que leurs conditions de vérité sont
les mêmes. Mais elles ne sont cependant pas identiques, et leur différence ne concerne pas
la vérité, mais la signification : elles dénotent diversement des objets différents. Alors que
« 1- Φx » dénote le choix d’une valeur indéterminée de la fonction, « (x) (Φx) » dénote
l’ensemble des valeurs de la fonction. La première expression est une fonction de x, la
seconde n’en est plus une, mais une fonction de la fonction elle-même. La combinaison de
ces deux expressions « 1- (x) (Φx) » est alors une assertion dénuée de toute ambiguïté, une
véritable proposition, qui dénote la variation totale des valeurs de la fonction Φx ».
Pour marquer cette distinction fondamentale, Whitehead et Russell réactualisent la
distinction de Peano, entre variable réelle et variable apparente. Est variable réelle toute
variable qui détermine la valeur de la fonction : c’est le cas de toutes les variables qui
figurent dans des fonctions non quantifiées. Mais quand elle est liée par la quantification
universelle, la variable devient apparente, car elle ne détermine plus la valeur de la fonction,
l’assertion n’étant plus fonction de x, mais de la fonction elle-même : quantifiée, la variable
perd son pouvoir discriminant. Or, c’est précisément ce caractère apparent de la variable
tombant sous la portée d’un quantificateur qui marque la maîtrise totale de l’ambiguïté de la
variable. L’idée de quantification existentielle ne modifie en rien ce caractère de généralité,
car le choix « d’au moins une » valeur ne laisse pas de s’étendre là encore sur le domaine
complet des valeurs : « (Ex) (Φx) » est donc aussi une proposition générale, dans laquelle la
variable n’est qu’apparente.
En introduisant trois manières de neutraliser la variable (assertion d’une fonction
propositionnelle, quantification universelle et existentielle), les auteurs des PM déterminent
trois manières d’atteindre à la généralité, et fondent du même coup la possibilité d’un calcul
fonctionnel. La corrélation explicite entre conquête de la transparence et maîtrise de la
généralité, dans la mesure où elle repose sur la dénotation des expressions logiques, atteste
du même coup de la vocation objective du discours logique. Ce qui nous amène
naturellement à l’examen du second « reproche » annoncé, selon lequel la pensée logicomathématique serait « vide ».
2.2. Que la pensée formelle n’est pas vide
De nouveau il faudrait déterminer ce qui motive une telle accusation. Ce que nous
avons appris du discours logique dans la précédente section peut nous y aider : étant par
nature général, le discours logique peut sembler avoir perdu cet « ancrage » dans la réalité
qui caractérise pour les auteurs des PM la proposition élémentaire, censée traiter d’un objet
connu par « expérience directe » (acquaintance). Mais nous avons vu que la généralité ne
signifie l’indétermination que pour autant qu’elle n’est pas maîtrisée par le discours logique.
Dès que nous est garanti un moyen de maîtriser l’ensemble des valeurs possibles des
variables, l’indétermination disparaît. La théorie de la dénotation des expressions logiques
leur garantit une signification en leur assurant une « référence » certes indirecte, discursive
et suspensive, mais cependant réelle.
En fait, c’est cette conception « référentielle » de la signification qui permet seule,
selon Russell, de sauver l’affirmation selon laquelle les énoncés logiques sont de véritables
énoncés, et non de simples suites de symboles, comme le voudraient les « formaliste ».
Pour Russell et Whitehcad, le formalisme se trouve donc disqualifié du point de vue du sens.
Mais on peut songer encore à deux objections possibles, de nature elles aussi à limiter la
portée de la position formaliste. L’une tient au constat que, si la thèse formalité était vraie, il
ne devrait pas y avoir de limites à l’imagination créatrice qui se déploie dans les systèmes
formels. Or, il y a bel et bien de telles limites, ainsi que nous l’apprennent les « théorèmes de
limitation », qui attestent qu’il n’y a pas que l’empirie pour venir brider la liberté créatrice et
l’arbitraire des échafaudages formels. L’autre enfin, tient au constat – là encore – de
l’applicabilité de la science, qui milite, qu’on le veuille ou non, en faveur de son inscription
dans le réel (fût-ce au simple titre de la production d’effets), qui apparaît incompatible avec
l’idée qu’elle soit un « pur jeu de symboles ».
Le formalisme achoppe donc à la fois sur la question du sens, sur les limitations
internes des systèmes formels, et sur l’efficace du discours de la science. Autant de traits qui
militent en faveur de l’idée que la pensée formelle est bel et bien à sa manière, une pensée
d’objets.
Pour l’établir, je m’appuierai sur une argumentation de Granger5, qui développe une
conception stimulante du statut des « objets propres » de la pensée formelle, en élucide le
sens et en explique la genèse, dans un argument d’allure transcendantale qui marque en
outre la résurgence et la fécondité du thème kantien dans l’épistémologie contemporaine.
Granger commence par revenir sur l’ancienne opposition forme/contenu, ou
forme/matière, pour en montrer l’inadéquation, car cette opposition figée revient
invariablement à affirmer la préséance d’un des termes sur l’autre (la forme pour les
idéalistes, la matière pour les empiristes), au lieu d’apercevoir dans leur corrélation même le
fait décisif. Car il s’agit bien, selon Granger, d’un fait :
«… un factum épistémologique à nos yeux essentiel, à savoir que l’empirie, en tant
qu’elle est visée par une connaissance scientifique, ne se donne que transposée
dans un univers symboliques, dès son point de départ » (ibid. p. 68).
La corrélation forme/contenu se dévoile alors dans sa véritable dimension et sa
véritable portée : fixée dans l’acte de signifier, dont elle fonde en retour la possibilité même.
Il est également erroné de soutenir que la forme « s’enlève » par abstraction sur un contenu
préexistant, que de soutenir qu’une matière vient simplement « remplir » une forme d’abord
donnée : elle sont posées dans leur corrélation dans l’acte de signifier, dans toute visée
symbolique en général. La forme est donc toujours à la fois résultat d’une opération de
construction et cadre pour une description d’objet en général. Quant au contenu, il est cet
invariant qui, maintenu au travers d’un système d’opérations, s’y atteste peu à peu comme
objet. A l’ancienne opposition de la forme et du contenu succède ainsi la dualité de
l’opératoire et de l’objectal, qui s’atteste dans l’activité symbolique, et qui explique
l’ambivalence du statut de la logique, qu’on peut toujours décrire à la fois comme activité de
construction et comme structure de l’objet en général.
À vrai dire, cette dualité, quoique toujours présente, admet des degrés : la «
hiérarchie » des systèmes formels (calcul des énoncés, des prédicats, des relations etc.)
manifeste à la fois un progrès dans l’analyse des énoncés et l’introduction d’une certaine «
opacité » entre le système des opérations d’un côté, et la structure des objets qu’il permet de
décrire de l’autre. Ainsi, le calcul des énoncés (ibidem, p. 40 et suivantes) représenterait le «
degré zéro » du rapport forme/contenu : nulle part l’objet n’y apparaît déterminable
autrement que comme simple « envers » des opérations : ici, le contenu est le complexe de
règles du système opératoire. À ce titre, le calcul des énoncés peut déjà apparaître comme
la présentation des règles les plus générales définissant une pensée d’objet. Et cette
particularité du calcul des énoncés, de révéler dans sa plus grande transparence la
corrélation de l’opération et de l’objet, apparaît selon Granger dans les propriétés métalogiques du système, à la fois consistant, complet et décidable ; car elles reviennent à la
reconnaissance de l’adhésion sans résidu de la forme au contenu. Or, on sait que ces
propriétés se perdent très vite quand on s’élève au-delà du calcul des énoncés : dès le
niveau des prédicats polyadiques (calcul des relations), le système cesse d’être complet et
décidable, ce qui atteste d’un « détachement de l’objet » qui cesse alors d’être intégralement
contrôlable par les ressources du système opératoire. Non certes qu’il lui échappe
totalement, mais il n’est plus dominable que localement.
Tels sont les « contenus formels » qui apparaissent en mathématiques, qui manifestent
encore une fois que
« … même une fois libérée de son application au sensible, la pensée rencontre
encore des contraintes qui garantissent que son jeu opératoire demeure corrélatif
d’un univers d’objets possibles ». (ibid. 47).
En un sens, les mathématiques ne sont pas de ce monde, n’ayant aucun contenu
empirique ; mais il n’en demeure pas moins qu’elles
« nous permettent de décrire le monde (…) en explicitant les limites à l’intérieur
desquelles nos systèmes d’opérations de pensée donnent naissance à des objets
virtuels consistants » (ibid. 47).
La position que défend ici Granger a trois conséquences qui méritent pour notre
présent propos d’être notées :
D’abord, qu’il y a lieu désormais d’en venir, d’une Esthétique transcendantale, à une
Sémiotique transcendantale : car même en considérant qu’il y a un conditionnement de
l’expérience qui relève de ce que Kant nommait les formes a priori de la sensibilité, il
apparaît que ce conditionnement n’atteint l’expérience que pour autant qu’elle est visée
comme exprimable par des symboles. En effet, dans une expérience totalement asymbolique, il n’y aurait aucun moyen de dissocier des formes.
Ensuite, il apparaît que l’introduction des « contenus formels » donne un moyen de
distinguer entre logique pure (finalement ici réduite au calcul des énoncés et, en tout état de
cause, aux seuls systèmes consistants, complets et décidables) et mathématique, en même
temps qu’elle fournit une interprétation philosophique de l’échec du logicisme de Whitehead
et Russell ; les « contenus formels » marqueraient le seuil au-delà duquel le mathématique
n’est plus traductible dans le langage de la logique pure.
Enfin, la reconnaissance que la logique pure manifeste dans la plus grande
transparence possible la corrélation de la forme et du contenu n’a point pour effet de
condamner la logique au « formalisme », mais au contraire de la faire apparaître comme
instaurant les règles les plus générales déterminant une pensée d’objet. La distinction entre
une logique formelle et une logique transcendantale peut être résorbée, la logique étant en
mesure d’assumer elle-même le rôle transcendantal de la constitution d’objets.
Ainsi il apparaît, si on accorde ce qui précède, et si nous avons rendu justice à
l’argumentation de Granger, que loin d’être une pensée vide et aveugle, la pensée formelle
qui se déploie dans le champ logico-mathématique détermine les règles et les conditions les
plus générales de la pensée objective. Leur rapport avec des objets d’expérience n’apparaît
plus alors que comme une spécification de ces conditions générales, requérant simplement
des conditions additionnelles et une paramétrisation appropriée. Ce n’est plus simplement du
point de vue de leur « application », mais à la racine même de leur fonctionnement
symbolique, qu’il convient désormais d’appréhender logique et mathématique dans leur
vocation objective.
3. La philosophie face aux sciences formelles
J’ai souligné en commençant la profonde disparité des domaines et des procédures
de la philosophie et des sciences formelles, sur laquelle se fonde souvent la mutuelle
ignorance où elles semblent se tenir. Mais j’ai tenté de montrer dans le développement qui
précède que les sciences formelles n’étaient pas passibles des deux reproches qu’on leur
adresse usuellement, et plus encore, que ces derniers pouvaient donner lieu à une
interprétation où se retrouve, transposé certes, mais maintenu quant à l’essentiel, le thème
transcendantal kantien.
Cet exemple suffirait semble-t-il à suggérer qu’entre la philosophie et les sciences
formelles, le dialogue peut s’instaurer avec fruit. Mais on pourrait m’objecter que mon
développement précédent ne présente pas véritablement un aspect dialogal : que le
philosophe, dans sa reprise métadisciplinaire des sciences formelles, retrouve quelques-uns
de ses thèmes favoris, ne peut que nous réjouir, encore que la question demeure de savoir
en quoi cela importe pour le praticien des sciences formelles. Or un véritable dialogue
supposerait une fécondation mutuelle des disciplines en présence. Prenons acte de
l’objection, et tentons de montrer, en quelques mots, qu’un véritable dialogue est possible, et
même nécessaire.
D’abord il apparaît que, contrairement là encore à une idée répandue, les questions
de philosophie de la logique ou des mathématiques ne sont pas neutres eu égard à ces
disciplines mêmes. Mieux, que les plus fondamentales émergent du sein même des
sciences formelles. Nous l’avons aperçu en cheminant un temps avec les auteurs des PM :
derrière les questions en apparence techniques de la signification et de la référence des
expressions générales de la logique et des mathématiques, et au-delà des efforts déployés à
la définition des « idées primitives » de la logique, ce qui se jouait, c’était rien moins que
l’examen des conditions de possibilité et des modalités de construction d’un discours
capable de promouvoir une connaissance rigoureuse et opératoire du monde.
Un autre exemple, toujours emprunté à l’histoire des mathématiques, apparaît à cet
égard encore plus significatif : celui des controverses soulevées, dans le contexte de la
constitution de la théorie des ensembles, par l’énoncé dit « axiome du choix » 6. Le
problème que pose cet énoncé, c’est qu’il affirme l’existence d’un ensemble dont on ne peut
exhiber aucun élément. La question est alors de savoir si on peut compter au rang des «
objets » mathématiques une telle entité, ce qui revient à s’interroger sur la signification
mathématique de l’expression « il existe ».
On peut considérer que si l’énoncé en question n’entraîne aucune contradiction dans
la théorie, on doit l’admettre pour les services qu’il rend. On aura alors une conception
libérale de l’existence mathématique, définie par la seule non-contradiction (position «
formaliste »). Mais on peut à l’inverse exiger davantage, en l’occurrence, la détermination
d’au moins un élément de l’ensemble engendré, comme permettant seule d’en poser
l’existence. Et comme cette détermination n’est pas possible, on n’admettra pas l’énoncé
concerné au rang des axiomes de la théorie.
Or, on voit bien que cette question de « l’existence mathématique » n’est pas une
question de mathématique, mais une question sur les mathématiques, relevant de plein droit
d’une philosophie des mathématiques. Mais on voit aussi que la réponse donnée à cette
question contribue à déterminer la conception qu’on se fait de l’objet des mathématiques, et
de la pratique du mathématicien.
Certes, du point de vue des résultats proprement dits, il n’y a pas de différences
sensibles entre les deux options. Mais cela ne signifie nullement que la question de
l’existence soit « neutre » mathématiquement. Cela signifie au contraire que l’univocité que
l’on espère réaliser dans les sciences formelles ne saurait à la rigueur être acquise qu’au
plan intra-théorique, une pluralité d’interprétations demeurant toujours possible au plan
métadisciplinaire.
Il reste alors à se demander en retour ce que la philosophie retire de son éventuel
dialogue avec la pensée formelle. Une fois encore, il y a plusieurs réponses possibles :
On peut d’abord, à la manière de Kant ou de Peirce, chercher dans la logique une
garantie, voire un fondement pour certaines décisions philosophiques fondamentales, en
particulier les décisions catégoriales. Ainsi chez Kant, c’est la suffisance affirmée de la
logique aristotélicienne qui sert à asseoir la limitation des fonctions logiques du jugement,
limitation qui permet à son tour de « clore » la table des catégories. De même chez Peirce7,
où un « théorème » du calcul des relations, qui montre l’irréductibilité des relations
triadiques, commande la limitation à trois des « catégories universelles ». Ici donc, la logique
est censée assurer les engagements épistémologiques et ontologiques du métaphysicien.
Mais dans les deux cas, les développements ultérieurs de la logique ont battu en brèche les
résultats sur quoi on s’appuyait. Une philosophie qui emprunte à la logique quelques-uns de
ses principes court donc le risque de se voir bientôt privée de son fondement, par les
progrès mêmes de la logique.
On peut encore, dans une perspective plus « modeste », voir dans la logique un outil
ou un instrument permettant de jouer deux rôles : d’une part, clarifier les énoncés du
philosophe, et resserrer la rigueur de ses démarches ; d’autre part, permettre d’instruire les
questions philosophiques elles-mêmes, reformulées sous l’angle linguistique : quand la
question « qu’est-ce que la vertu ? » se transforme en la question « que signifie x est
vertueux ? », on ne cherche plus une essence improbable, mais les conditions de sens et de
référence d’un certain type d’énoncés, dont on élucide le comportement logique. Dans la
version la plus radicale de cette position, les deux rôles de la logique en viennent à se
confondre, l’élucidation des énoncés philosophiques dévoilant, dans l’obscurité de l’idiome,
la véritable source des questions philosophiques, réduites alors à de pseudo-problèmes
issus d’une insuffisante vigilance à l’endroit des « pièges de la grammaire ». La logique
devient alors l’instrument privilégié d’une véritable thérapie du langage philosophique, et les
problèmes sont moins résolus qu’éliminés. Les tenants de l’empirisme logique fourniraient
les meilleurs exemples de cette position radicale.
Entre ces deux solutions, il y a place, me semble-t-il, pour une position moyenne, qui
consisterait à reconnaître dans la logique un outil inégalé d’analyse conceptuelle, sans doute
indispensable au philosophe, tout en revendiquant fermement l’autonomie de la philosophie
par rapport à la logique. D’une part, parce que la philosophie n’a pas à emprunter à une
autre science ses principes ultimes. Le fait-elle, elle tombe, ainsi qu’on l’a vu, sous le coup
de la relativité historique et théorique de la science où elle s’alimente. D’autre part et surtout,
parce que la part d’opacité qui demeure dans le discours philosophique, et qui résiste à toute
tentative de « traduction » ou « d’embrigadement » 8 dans une langue formelle, loin
d’attester de la vacuité du système, atteste plutôt de sa richesse à la fois sémantique et
problématique.
Ainsi par exemple, s’il est évident que la logique déontique est un remarquable
instrument d’analyse du comportement logique des énoncés moraux, il n’en demeure pas
moins qu’elle est inopérante dès lors qu’il s’agit de trancher un problème éthique. C’est que
l’objet que manipule la logique déontique est un objet « purifié, dépouillé de ces éléments de
concrétude qui sont pourtant à l’œuvre dans le problème éthique, lui conférant son urgence
et son acuité, et que prend justement en charge le discours philosophique. La part d’opacité
dont se charge le discours philosophique, et qu’il assume, peut alors être considérée comme
ce que la pensée formelle doit peu à peu se mettre en mesure d’arraisonner, par
conséquent, comme ce qui définit pour elle à la fois les problèmes futurs et les tâches
prochaines.
L’autonomie de la philosophie, à la fois sémantique et problématique, se manifeste
encore dans son mode de questionnement, son régime catégorial, sa textualité propre. Mais
loin de signifier une superbe ignorance des sciences formelles, elle est et doit être un appel
à une collaboration étroite, bien que respectueuse des frontières disciplinaires ; lesquelles ne
renvoient pas comme on pourrait le penser aux seuls caprices d’une institution, mais à la
disparité profonde des langages, qui fonde celle des objets qu’ils nous rendent accessibles.
Notes
1. Cf. Francis Jacques, L’Espace logique de l’interlocution, Paris, PUF, 1985, P. 281 sq.
2. D’après G. G. Granger, Formes, opérations, objets, Paris, Vrin, 1994, P. 113 sq.
3. Ceci est parfaitement illustré par les différents sens de la copule (appartenance, inclusion,
identité, existence), que le schéma canonique du jugement en « S est P » ne permet pas de
restituer.
4. Voir Denis Vernant, La philosophie mathématique de Russell, Paris, Vrin, 1994, p. 256 sq.
5. G. G. Granger, formes opérations, objets, Paris, Vrin, 1994, p. 94 sq.
6. Cf. J. T. Desanti. La philosophie silencieuse, Paris, Seuil, 1975 pp. 110 – 132.
7. Cf. Peirce, Le raisonnement et la logique des choses, trad. C. Chauviré, P. Thibaud et C.
Tiercelin, Paris, Cerf, 1995.
8. Pour reprendre l’expression chère à Quine, Le mot et la chose, trad. P. Gochet, Paris,
Flammarion, 1977, chap.V.