intelligence collective - Département d`informatique et de recherche
Transcription
intelligence collective - Département d`informatique et de recherche
1 Le défi des architectures parallèles à l'I.A.: La dimension collective de l'intelligence Marc Aguilar, Michèle Courant, Béat Hirsbrunner RÉSUMÉ. Avec l'avènement du parallélisme massif, une nouvelle problématique de l'Intelligence Artificielle se fait jour: celle de l'Intelligence Artificielle Collective (IAC). L'article discute l'intérêt méthodologique d'une approche métaphorique de l'IAC, utilisant les archétypes de système social et système physique. Il l'illustre à travers trois exemples de systèmes massivement parallèles. Le premier est un langage de coordination d'actions inspiré par la métaphore sociale. Le deuxième est un langage de description d'interactions inspiré par la métaphore physique. Le troisième est un système d'abstraction symbolique ancré dans un substrat réactif. ABSTRACT. The recent developments in massive parallelism give rise to a new issue in the field of Artificial Intelligence i.e. Collective Artificial Intelligence (CAI). This paper discusses the methodological interest of a metaphorical approach of CAI, using the archetypes of social and physical systems. This approach is illustrated through three examples of massively parallel systems. The first one is a coordination language inspired by the social metaphor. The second one is an interaction description language, inspired by the physical metaphor. The third example is a symbolic abstraction system anchored in a reactive substratum. MOTS-CLÉS: Intelligence Artificielle Collective, Architectures MIMD, Parallélisme massif, Coordination, Adaptation, Systèmes multi-agents, Agents réactifs, Emergence, Abstraction. KEYWORDS: Collective Artificial Intelligence, MIMD Architectures, Massively Parallel Systems, Coordination, Adaptation, Multi-agent Systems, Reactive Agents, Emergence, Abstraction. 1.2 Le défi des architectures parallèles à l'I.A. 1. Introduction Avec l'avènement des architectures parallèles MIMD 1, l'intelligence artificielle accède à une nouvelle dimension: la dimension collective de l'intelligence. Il en résulte une mutation profonde de sa problématique. Libérée du joug qu'apposait sur elle la machine de Von Neumann, elle bascule des systèmes à entrées-sorties vers des systèmes dynamiques et ouverts, dans lesquels la notion d'optimalité devient difficile à appréhender. Car dans ce nouveau cadre architectural, à l'optimalité d'une résolution de problèmes se superpose une optimalité de deuxième ordre: celle du résolveur réparti lui-même. Or cette optimalité ne se laisse pas trivialement cerner par des conditions de convergence, car elle se définit dans l'infini du temps, et les critères qui président à sa définition sont non seulement performance/qualité des résultats, mais aussi longévité, c'est-à-dire robustesse, adaptabilité, évolution, auto-organisation. Dans le cadre global d'un système réparti, l'optimalité résulte en fait de l'adaptation réciproque entre les composants (résolveurs de problèmes) et l'ensemble du système. Ainsi dans ce contexte, un algorithme a priori très performant mais générant une contention qui paralyse de nombreuses tâches, peut par exemple apparaître comme un mauvais résolveur de problèmes. De même, un algorithme dont la consommation en ressources est modérée, mais dont la terminaison rend difficile et lente la libération des ressources, est également indésirable... En accord avec une certaine vision piagétienne de l'intelligence, l'"intelligence" d'un système réparti se définit donc non seulement par la capacité d'adaptation directe de ses composants à leur environnement, mais plûtot -du fait qu'ils sont plongés dans un environnement lui-même adaptatifpar leur capacité d'accommodation, c'est-à-dire d'adaptation à l'adaptation de leur environnement. Le comportement d'un tel système est donc régi non plus par des schémas de dépendances linéaires, mais par des schémas de dépendance circulaire (rétro-action). Dans un système réparti, les composants (résolveurs de problèmes) deviennent inséparables, d'une part les uns des autres, d'autre part chacun vis-à-vis du tout dont il fait partie. Le principe de compositionnalité, qui ne s'applique plus que de façon très parcellaire, se révèle inadéquat pour appréhender la notion d'optimalité du comportement d'un tel système (cf. figure 1). En même temps, la complexité des architectures (nombre de composants, topologies, ...) associée à leur caractère nécessairement dynamique et ouvert, exclut de faire face à l'inséparabilité des composants par du contrôle, et ceci pour deux raisons. Tout d'abord le contrôle ne peut être mis en oeuvre qu'au prix de communications coûteuses, ce qui réduit les performances. Ensuite, la technique 1Par architecture parallèle MIMD, nous entendons aussi bien un multiprocesseur à mémoire privée (répartie et non partagée) qu'un réseau de stations à très grand nombre de composants. M. Aguilar, M. Courant et B. Hirsbrunner 1.3 Figure 1. Inséparabilité des composants d'un système réparti du contrôle fragilise énormément le système, ce qui diminue sa longévité. L'intelligence d'un système réparti doit donc impérativement se nourrir d'une certaine capacité d'accommodation de ses composants. Seule une telle capacité peut constituer les mécanismes régulateurs à même d'assurer l'optimalité comportementale du système sur une échelle temporelle. Pour aborder la notion d'optimalité en ces termes, la complexité des systèmes répartis hautement adaptatifs motivés par l'utilisation des architectures MIMD appelle donc un renouveau paradigmatique. Pour ce faire, la métaphore constitue un premier outil. Le schéma de la Figure 2 montre comment les archétypes de système social et système physique ainsi que leur interconnexion, constituent pour nous un fondement de la problématique de l'Intelligence Artificielle Collective (IAC). Plan social société interactions Plan physique Figure 2. Approche métaphorique de l'IAC Plan social: Interactions de type coordination d'actions (CoLa); Plan Physique: Interactions à base de forces (LDI); Espace inter-plans: Interactions de type abstraction (ARÔME). Partant de ce schéma, l'article discute l'intérêt méthodologique d'une approche métaphorique de l'IAC, à travers trois études complémentaires que nous avons menées. La première concerne la conception d'un environnement supportant la coordination d'actions dans un système réparti: cet environnement, appelé CoLa, est destiné à s'intercaler entre le logiciel de base et un environnement de développement d'applications. La deuxième vise à montrer la puissance autoorganisatrice de mécanismes réactifs simples, à travers un modèle d'interaction 1.4 Le défi des architectures parallèles à l'I.A. basé sur des champs de forces. La troisième enfin, aborde l'une des facettes du problème posé par l'unification des approches précédentes, à travers l'exemple d'un système d'abstraction symbolique fondé sur des mécanismes réactifs. 2. Métaphore sociale et coordination d'actions dans CoLa Après une introduction à la problématique associée à la métaphore sociale, nous décrivons le modèle de coordination d'actions CoLa, et l'illustrons par un exemple. Nous terminons par une discussion sur la puissance et les limitations de la métaphore sociale. 2.1. Introduction La métaphore sociale constitue le prolongement direct de l'I.A. en contexte MIMD et l'approche qui à court et moyen terme paraît la plus apte à engendrer des systèmes complexes répartis opérationnels. Elle part de l'hypothèse de l'autonomie des composants d'un système et elle s'attaque, au lieu de la définition de ces composants, au problème de leur intégration dans un espace, soit en termes de protocoles, soit en termes de lois générales d'intégration. Les questions qu'elle soulève sont ceux de la coopération, l'organisation, la fonctionnalisation, etc. Le modèle CoLa [Hirsbrunner et al., 1994] s'inspire de la métaphore sociale pour permettre d'exprimer la coordination d'actions dans un système réparti. Il s'agit d'un langage de coordination déclaratif-impératif orienté vers la définition de structures logiques de communication. Les primitives de communication envisagées, fondées sur la notion de correspondant, autorisent l'expression de directives telles que: - Le prof. X demande à son assistant de prévenir les étudiants qu'une réunion d'information aura lieu à 16H (délégation et synchronisation). Le prof. X demande à Y de distribuer un document à tous les étudiants (que X ou Y juge) intéressés (actions modales). Le prof. X commence son cours si tous les étudiants sont présents (synchronisation et quantification). En contexte réparti, il est clair que de telles primitives requièrent une sémantique approximative, non seulement d'un point de vue qualitatif, mais également d'un point de vue temporel. Outre la définition de cette nouvelle sémantique, dont on note l'impossibilité de s'appuyer sur une garantie de convergence, l'intérêt de CoLa est d'autoriser un total découplage des structures logique et physique de la communication. Pour ce faire, CoLa est implanté sur une couche intégrant M. Aguilar, M. Courant et B. Hirsbrunner 1.5 un modèle de distribution de courrier postal [Aguilar et Hirsbrunner, 1994] et supportant des stratégies d'équilibrage dynamique de charge [Stoffel et al., 1993]. 2.2. Modèle de coordination CoLa 2.2.1. Localité Une application CoLa est une collection d'agents indépendants et autonomes qui coopèrent en s'échangeant des connaissances. En se libérant de la notion d'état global du système, CoLa utilise le concept de localité comme fondement paradigmatique. Ce choix entraîne que chaque agent du système n'a qu'une perception locale de son entourage, c'est-à-dire des autres agents du système. 2.2.2. Correspondant, champ de vision et point de vue Tout agent avec lequel un agent A peut échanger des connaissances est appelé un correspondant de A. L'ensemble des correspondants de A est appelé le champ de vision de A. Ce champ de vision est dynamique, c'est-à-dire susceptible d'évoluer au cours du temps. La notion de correspondant est unidirectionnelle, c'est-à-dire strictement rattachée à un agent. Le champ de vision d'un agent peut être structuré, c'est-à-dire qu'un agent peut définir des points de vue sur les correspondants constituant sa vision locale. Les points de vue ne sont pas exclusifs, autrement dit un correspondant peut appartenir à plusieurs points de vue. CoLa permet également qu'un agent se constitue comme correspondant de lui-même de façon à pouvoir être membre de ses propres points de vue, cf. figure 3. Les points de vue sont spécifiés par le biais de méthodes. Comme outils de base, CoLa met à disposition du programmeur une librairie de méthodes élémentaires permettant de définir et de construire des points de vue sur les correspondants. Cette approche est modulaire et incrémentale dans le sens que l'utilisateur peut définir lui-même de nouvelles méthodes et ainsi modifier la construction des points de vue par un agent. Agent A champ de vision points de vue correspondants Figure 3. Champ de vision, points de vue et correspondants d'un agent A 1.6 Le défi des architectures parallèles à l'I.A. Les points de vue sont utilisés à des fins de communication, soit pour désigner le destinataire ou les groupes de destinataires d'un message, soit pour définir lors d'une réception l'ensemble des correspondants desquels le réceptionnaire veut obtenir une information. Les opérateurs mis à disposition pour construire les points de vue dans CoLa sont les opérateurs ensemblistes classiques, à savoir l'intersection, la réunion, la complémentation et la différence. Ces opérateurs permettent d'exprimer toutes sortes d'abstractions sur le champ de vision d'un agent [Le Peutrec et Robin, 1993], par exemple regrouper plusieurs points de vue élémentaires en un seul point de vue, simplifier un point de vue, etc. CoLa distingue les points de vue directs et indirects. Dans le premier cas, l'agent a localement à sa disposition toutes les méthodes nécessaires pour pouvoir construire l'ensemble des correspondants constituant le point de vue. Dans le deuxième cas, l'agent expéditeur ne dispose que d'une spécification du point de vue sans pouvoir explicitement "accéder" à l'ensemble des correspondants y relatif. Le point de vue a alors valeur de consigne de retransmission pour le destinaire du message. Ce mécanisme permet de réaliser des communications par vagues. La transmission de point de vue à un autre agent est possible et peut s'effectuer en particulier lors de la création de nouveaux agents. Ceci est supporté par le mécanisme de transfert de méthodes. Souvent, les applications nécessitent des schémas de communication bien précis entre agents, notamment des topologies de communication virtuelles telles que les anneaux, arbres, hypercubes ou plus généralement des graphes. Dans CoLa, l'utilisateur spécifie des topologies d'interconnexion logique entre agents en termes de point de vue. Par exemple, un arbre sera défini par les points de vue enfants et parent, un anneau par les points de vue successeur et prédécesseur. 2.2.3. Coordination Les outils de coordination d'actions entre agents offerts par CoLa sont des mécanismes de communication et de synchronisation à base d'envoi et de réception de messages. Un message CoLa est un objet structuré en trois couches, cf. figure 4: - le diffuseur ou le filtre, selon qu'il s'agit d'un envoi ou d'une réception de message; le descripteur d'envoi ou de réception du message; le corps représentant l'information "brute" qui est transmise. CoLa propose deux primitives pour la communication, l'une pour les envois et l'autre pour la réception de messages: - csSend(diffuseur, descripteur d'envoi, corps); csReceive(filtre, descripteur de réception, corps). M. Aguilar, M. Courant et B. Hirsbrunner 1.7 diffuseur, filtre descripteur corps Figure 4. Structure d'un message CoLa 2.3. Exemple Pour illustrer, d'une part, les concepts novateurs de CoLa et, d'autre part, détailler les deux primitives csSend et csReceive, nous présentons un exemple de communication concrète réalisée dans l'environnement CoLa, cf. figure 5. Par courrier électronique le professeur X souhaite le bonjour à ses deux assistants Ax et Ay et leur demande d'informer oralement tous les étudiants de s'annoncer chez lui . Figure 5. Un exemple de communication 2.3.1. Envoi de message A l'envoi, le programmeur fournit à la primitive csSend trois paramètres: le diffuseur, le descripteur d'envoi et le corps du message. DIFFUSEUR. L'expéditeur d'un message peut spécifier le protocole (téléphone, fax, courrier électronique, lettre, etc.) selon lequel il désire transmettre le message aux destinataires. Cette spécification est réalisée par le biais du diffuseur. Les diffuseurs sont définis à partir de librairies de méthodes mises à disposition de l'utilisateur par CoLa. L'utilisateur peut également définir ses propres diffuseurs. De même que pour les corps et les descripteurs de messages, le diffuseur peut consister en une liste de diffuseurs élémentaires dont les éléments correspondent aux corps élémentaires du message à transmettre. Dans notre exemple, les diffuseurs élémentaires sont donnés par la figure 6. Diffuseur 1 Diffuseur 2 courrier électronique oralement Figure 6. Diffuseur de message 1.8 Le défi des architectures parallèles à l'I.A. DESCRIPTEUR D ' ENVOI. Le descripteur d'envoi définit le contexte de communication par rapport auquel un corps de message est échangé au niveau de l'application. Il est constitué d'une liste de descripteurs élémentaires. Ces descripteurs élémentaires sont respectivement associés aux différents corps élémentaires constituant le corps du message. Un descripteur élémentaire est composé de trois champs: (1) l'expéditeur du message; (2) l'ensemble des correspondants destinataires et (3) la méthode de traitement de l'information. La désignation des destinataires peut s'effectuer de deux façons: - En extension: l'expéditeur fournit dans le descripteur élémentaire un ensemble de correspondants; - En intention et de façon déclarative: l'expéditeur indique un point de vue spécifiant les correspondants destinataires. Lors d'une communication par vague, les descripteurs peuvent contenir des points de vue indirects. C'est le cas dans l'exemple de la figure 5: le descripteur d'envoi est formé de deux descripteurs élémentaires, cf. figure 7. Descripteur 1 "de qui" professeur X "à qui" (point de vue direct) {Assistant Ax, Assistant Ay} "méthode de traitement du corps 1" lire l'information du corps 1 Descripteur 2 "de qui" {Assistant Ax, Assistant Ay} "à qui" (point de vue indirect) Etudiants "méthode de traitement du corps 2" envoyer le corps 2 aux étudiants Figure 7. Descripteur de message CORPS . Le corps d'un message est défini comme une liste de corps élémentaires représentant l'information "brute" à transmettre. Dans notre exemple, le corps du message envoyé par l'agent professeur X est formé des deux corps élémentaires bonjour et s'annoncer chez le professeur X. 2.3.2. Réception de message Pour la réception d'un message, le programmeur CoLa fait un appel à la primitive csReceive et fournit les trois paramètres suivants: (1) un filtre de réception (2) un identificateur désignant l'espace mémoire pour recevoir le descripteur d'envoi et (3) un identificateur désignant l'espace mémoire pour recevoir le corps du message. Le filtre de réception permet au destinataire de procéder à une réception sélective de l'information. Il est composé de deux champs: - Le point de vue dans lequel le destinataire veut recevoir l'information: ce M. Aguilar, M. Courant et B. Hirsbrunner - 1.9 champ permet de sélectionner les correspondants destinataires desquels l'agent veut recevoir un message. Cette désignation peut consister soit en un point de vue, soit directement en un ensemble de correspondants; La désignation d'un ensemble de protocoles de réception (fax, téléphone, lettre, etc.). Le filtre de réception de la primitive csReceive permet par exemple d'exprimer un énoncé tel que: «Je ne veux recevoir de messages que par fax ou téléphone et que les messages urgents envoyés par les membres de ma famille». Les deux paramètres suivants de la primitive csReceive permettent respectivement à l'agent récepteur d'utiliser les descripteurs d'envoi pour traiter le message selon le contexte défini par l'expéditeur et d'accéder à l'information transmise. 2.4. Implémentation En vue d'une implémentation des concepts CoLa, nous avons évalué et utilisé la plate-forme ISIS [Birman, 1993] pour le développement d'un premier prototype CoLa sur un réseau de Suns. Actuellement, notre équipe étudie le nouveau standard MPI (Message Passing Interface) [Clarke et Glendinning, 1994]. Ce standard propose des primitives de communication et de synchronisation qui intègrent des concepts de programmation tels que la communication point-à-point, les groupes de processus, les topologies de communication virtuelles, les contextes de communication, etc. Le standard définit, sous formes de librairies, essentiellement des extensions autorisant une programmation plus flexible, une expression plus puissante et des outils permettant de structurer les mécanismes de communication et de synchronisation. 2.5. Conclusion Partant de la métaphore sociale, l'objectif du modèle CoLa est d'offrir au programmeur d'applications, un environnement de haut niveau permettant d'exprimer toute la coordination d'actions rendue nécessaire dans un système réparti. Toute la force d'un cadre conceptuel comme CoLa est que la coordination d'actions entre les agents ou processus résolveurs de problèmes peut y être envisagée de façon très dynamique et incrémentale en des termes très analogues à ceux de la coopération humaine. Cette base métaphorique nous ouvre à présent de nombreuses voies. Les systèmes sociaux se caractérisent en effet par des composants dont les comportements d'accommodation sont ancrés dans des boucles d'interaction réciproques entre, d'une part les composants du système, d'autre part les composants et la totalité qu'ils forment. La modélisation de tels comportements exige 1.10 Le défi des architectures parallèles à l'I.A. donc la représentation de connaissances d'ordre supérieur (par exemple lorsqu'un agent A1 prend une décision dans laquelle il tient compte de ce qu'il "croit" que sera la réaction de l'agent A2 à l'issue de cette action), et consécutivement une profondeur variable des raisonnements. Or, nous savons bien (la société humaine en témoigne à tous les niveaux !) que ces mécanismes peuvent engendrer des "cercles vicieux" [Ballim, 91] qui sont précisément les écueils des comportements "évolués". Ce sont par exemple des situations de malentendus, telles la suivante, où deux agents entretiennent mutuellement les illusions qu'ils se font l'un sur l'autre: - «Un agent A1 effectue l'action B, bien qu'il sache que l'action C soit plus adéquate. Mais il s'attend à ce que s'il propose C, son coéquipier A2 lui demande de prendre tellement de précautions que cette solution C perdrait tout son intérêt. Vu l'urgence de la situation, l'agent A2 accepte l'action C, tout en pensant qu'il s'agit d'un moindre mal...» Dans un système réparti, dont les composants travaillent et raisonnent en grande partie localement, les agents sont ainsi nécessairement amenés à taire certaines informations. De fait, ils deviennent inévitablement tous à la fois ignorants et menteurs. Ceci engendre des phénomènes de "dérive comportementale", source d'inefficacité pour l'ensemble du système. Ces phénomènes, qui se manifestent par des comportements collectifs excessivement stables, sont directement liés à l'aptitude aux comportements routiniers. C'est ainsi que l'intelligence artificielle empruntant la métaphore de la société humaine pour accéder à la dimension collective ne peut probablement pas échapper à devoir aussi guérir les maux de l'accommodation consécutifs à sa dimension cybernétique. Autrement dit, elle débouche notamment sur des systèmes dotés d'importants "équipements" thérapeutiques (agents spécialisés dans la détection des dysfonctionnements, leur diagnostic et leur thérapeutique, etc...) dédiés aux différents niveaux d'organisation. Le problème réside dans la croissance exponentielle de ce type d'équipement, avec le degré d'organisation d'un système. Par conséquent, la métaphore sociale nous confronte à toute une gamme de problèmes, jusqu'ici très peu abordés en I.A., notamment celui de l'évolution (cycles stables rompus par des catastrophes) [Thom, 1991], et celui de l'équilibre entre les comportements routiniers et exceptionnels, voire "créatifs". A côté de cela, heureusement, bon nombre des outils appelés par l'IAC sont d'ores et déjà disponibles: des modèles sophistiqués d'accointances, de croyance et de négociation ont par exemple fait l'objet de nombreux travaux. Néanmoins, leur intégration massive amorce vraisemblablement un saut qualitatif très important. En outre, stimulé par les architectures massivement parallèles, le niveau adjacent au logiciel de base visé dans CoLa par exemple, montre que les concepts nés de l'IA descendent d'un cran dans la structure en couches des machines. Une telle descente modifie en fait profondément le concept de machine et présage aussi une importante mutation. M. Aguilar, M. Courant et B. Hirsbrunner 1.11 Cependant, malgré les perpectives "euphorisantes" dégagées par la métaphore sociale, celle-ci ne manque pas hélas de s'achopper à quelque limite liée au caractère symbolique des systèmes auxquels elle aboutit. Comme c'est le cas dans CoLa, elle nécessite en effet à la base d'expliciter toutes les connaissances, statiques et dynamiques, permettant de configurer un système social performant et robuste dans toute sa complexité. Or la diversité d'une société (associée à d'autres facteurs tels son type d'organisation, l'adaptabilité des individus, etc) constitue un paramètre essentiel de sa tolérance [Systémique, 1990]. Ceci s'explique intuitivement d'abord par le fait qu'une société peu diversifiée, i.e. dont les individus sont fonctionnellement peu différenciés, n'offre que peu de diversité dans les réponses qu'elle peut fournir à un événement. Or, dans certaines circonstances, le développement de comportements homogènes peut engendrer un effondrement massif du système, susceptible de lui être fatal. En revanche, une société constituée d'unités différenciées accroît exponentiellement son potentiel de réponses, et ce pour plusieurs raisons. Tout d'abord, la spécialisation des composants autorise une distribution des compétences, qui multiplie les instruments de lutte (instantanée et prévisionnelle) du système. Ensuite, bien qu'elle n'exclue pas le risque d'effondrement en cascade, la différenciation fonctionnelle diminue le risque d'effondrement brutal de l'ensemble, par une spécialisation de la vulnérabilité de ses composants. Par une organisation appropriée, la diversité permet également à un système de protéger au mieux ses constituants vitaux -s'il en existe- des agressions directes (i.e. d'éviter l'effondrement en cascade), et ainsi d'assurer avec une probabilité maximale sa régénération en cas de perturbation importante. Ainsi, si l'on veut construire des systèmes massivement parallèles hautement adaptatifs, la métaphore sociale préconise qu'ils soient dotés, d'une part d'une très grande diversité interne de composants, d'autre part d'une organisation très complexe. C'est pourquoi, malgré sa pertinence et sa richesse, en raison du volume de connaissances qu'elle exige de mettre en place, la métaphore utilisée dans CoLa ne peut être utilisée aujourd'hui que dans la perspective d'une adaptabilité restreinte. 3. Métaphore physique et systèmes d'agents réactifs Nous énonçons maintenant quelques motivations pour une exploration de la métaphore physique. Nous en donnons ensuite une illustration dans le cadre des systèmes d'agents réactifs. Nous concluons par une discussion sur les avantages et les limites de cette approche. 1.12 Le défi des architectures parallèles à l'I.A. 3.1. Introduction Malgré sa grande expressivité et sa bonne opérationnalité, la métaphore sociale butte donc sur le critère d'adaptabilité requis pour des systèmes massivement parallèles "optimaux". Pour pallier cette limite, l'idée est donc de rechercher, dans la profondeur des constituants des systèmes, ce qui les rend adaptatifs individuellement. L'espoir sous-jacent à cette recherche est d'exhiber un certain nombre de mécanismes qui permettraient à des systèmes adaptatifs tels, à une échelle collective, les systèmes sociaux, ou à une échelle individuelle, la cognition sur laquelle se fondent les plus performants d'entre eux, de se constituer d'eux-mêmes. A priori c'est dans la biologie que l'on tendrait logiquement à rechercher les principes fondateurs de l'adaptation. Cependant, devant les innombrables mécanismes de communication mis en évidence par les biologistes (songeons par exemple aux différents types de neurotransmetteurs aujourd'hui recensés1), celle-ci nous confronte de nouveau au problème de la surabondance d'information. En fait, à l'heure actuelle, seule la physique autorise quelque espoir de pouvoir cerner la dynamique auto-organisatrice des systèmes complexes par quelques lois générales opérant sur un nombre limité de types d'"objets". C'est pourquoi la métaphore physique (voire physico-chimique) constitue probablement pour le long terme, un passage quasi-obligé pour la réalisation de systèmes véritablement adaptatifs. En tant que composante d'une plate-forme de programmation basée sur le paradigme de société d'agents, le langage LDI, que nous présentons maintenant, a pour vocation d'évaluer la puissance de cette métaphore, [Ludwig et Courant, 1994], [Ludwig, 1994]. 3.2. Modèle d'interactions Le langage LDI est dédié à la spécification des interactions gouvernant la dynamique d'un système d'agents réactifs autonomes [Courant et al., 1994]. Les agents sont supposés situés et la notion même d'agent est considérée comme un concept essentiellement spatial, cf figure 8. Excepté ces contraintes de base, le modèle sous-jacent à LDI supporte a priori différents modèles d'agents. Les agents peuvent être aussi bien des machines séquentielles, que des réseaux de neurones formels réalisant des mémoires associatives, ou des systèmes déclaratifs par exemple. Inpiré par une physique naïve, le modèle LDI préconise une dynamique basée sur une notion de charge, analogue à la notion de charge électrostatique, et ramenée à des lois très simples d'attraction-répulsion. Les charges sont définies comme des objets typés, instances de types de charge. Elles constituent une en1 Chez l'homme, leur nombre avoisine bientôt la centaine ! M. Aguilar, M. Courant et B. Hirsbrunner 1.13 veloppe formant la frontière entre les milieux interne et externe d'un agent. Un type de charge est caractérisé comme la conjonction d'un domaine de valeurs, d'un modèle d'interactions externes, d'un modèle d'interactions internes et -potentiellement- d'un modèle de dynamique interne (endoactions). Le modèle d'interactions externes est formé de règles d'attraction-répulsion et d'outils spécifiant quelles sont les forces induites par les charges. Le modèle d'interactions internes, assez pauvre pour l'instant, s'exprime comme un ensemble de manipulateurs permettant simplement à un agent de modifier ses charges. Endoactions Interactions externes Interactions internes Milieu externe Milieu interne frontière d'agent Figure 8. Notion d'agent Formellement, un type de charge est défini par: 1. Son domaine d'intensité, composé d'un signe, normalement bivalent, et d'un domaine d'intensités absolues. Ce domaine sera par exemple [0, +∞[ dans le cas d'un modèle continu, et {0, +∞} dans le cas d'un modèle avec quanta. 2. Son protocole d'interaction externe, qui spécifie les lois d'attraction/répulsion gouvernant les instances du type depuis le milieu externe. Pour un signe bivalent, nous aurons par exemple typiquement des règles telles que: (R1) Des signes identiques s'attirent, des signes opposés se repoussent. (R2) Des signes identiques se repoussent, des signes opposés s'attirent. 3. Sa fonction de propagation, qui spécifie comment une charge est propagée, c'est-à-dire atténuée ou intensifiée, dans l'environnement. 4. Sa fonction de force, qui spécifie quelle est la force induite sur une charge située en un point P1, par une charge du même type située en un point P2. 5. Sa fonction de composition, qui spécifie en terme de somme vectorielle, quelle est la force totale qui s'exerce sur une charge par toutes les charges de même type portées par les autres agents. 6. Ses manipulateurs, qui spécifient l'interface d'un agent avec sa charge depuis son milieu interne, en l'occurrence comment il peut agir sur elle. 1.14 Le défi des architectures parallèles à l'I.A. L'existence d'un ou de plusieurs manipulateurs associés à un type de charge indique que la dynamique d'un système d'agents peut s'exprimer par une dynamique de charges. En revanche, l'absence de tout manipulateur associé à un type de charge indique des charges fixes. La dynamique induite par ces charges au niveau du système d'agent résulte donc uniquement du mouvement des agents sous l'effet des forces qui s'exercent sur eux. Ainsi défini, le modèle autorise un très grand nombre de modes d'interaction possibles entre les agents. Le protocole d'interaction permet tout d'abord d'induire des phénomènes de classement (cf. règle R1) ou des phénomènes d'accouplement (cf. règle R2)). La fonction de propagation autorise ensuite une multitude de variantes. Elle peut par exemple être paramétrée par la distance seule, dans le cas d'une charge se propageant uniformément à travers tout l'espace, ou bien être modulée par un paramètre de position. Des charges dont l'influence croît ou décroît avec la distance peuvent également être définies: ceci permet de retrouver des modes d'interaction par ondes sonores, ou par diffusion de facteurs chimiques. LDI autorise l'introduction de différents types de charges dans un système d'agents de façon à ce que la dynamique globale du système soit entièrement régie par l'action concurrente des charges. Cette dynamique résulte conjointement du déplacement des agents sous l'influence des forces exercées sur eux par les autres agents chargés, et d'une dynamique interne des agents pouvant agir sur leurs charges. Bien que relevant d'une physique élémentaire, LDI se révèle en fait étonnamment puissant par la variété des interprétations auxquelles il se prête, que ce soit pour capter certains aspects adaptatifs de la cognition, pour formuler en termes réactifs des problèmes d'évitement d'obstacles en robotique, ou pour reformuler de façon concise la résolution de problèmes tels que la coloration de graphe, les puzzles, etc. La puissance d'expression obtenue s'étend donc bien au-delà de la sphère physique dont elle est issue. Le modèle permet y compris de capter des phénomènes sociaux, telle l'aggrégation due à des lois telles que "plus un individu s'éloigne de son nid, plus il aspire à y retourner". Notons que combinée avec d'autres lois (par exemple des lois induisant l'attraction d'agents résolveurs de problèmes vis-à-vis des problèmes qu'ils savent résoudre), une telle loi peut gouverner la migration dans un système réparti. 3.3. Conclusion L'intérêt de la métaphore physique n'est plus à démontrer tant les réalisations qu'elle a guidées sont nombreuses. Citons tout d'abord le modèle défini par K. Zeghal pour le contrôle de trafic aérien, très voisin de celui qui est mis en œuvre dans LDI [Zeghal, 1993], et celui des champs de potentiels utilisé par R.C. M. Aguilar, M. Courant et B. Hirsbrunner 1.15 Arkin pour la conduite de robots [Arkin, 1990]. De même une large part de l'algorithmique sous-jacente aux images de synthèse dynamiques [Magnenat et Thalmann, 1994], ou encore de multiples expérimentations relevant de la vie artificielle s'en inspirent [Rasmussen et al., 1991]. Par rapport à tous ces travaux, la spécificité du modèle présenté réside dans sa focalisation sur le problème de l'interaction et l'explicitation de lois d'interaction qu'il préconise. De façon générale, la force de la métaphore physique repose sur la formulation de lois qui, par le biais d'un cadre conceptuel constructiviste, paraissent aptes à induire les caractéristiques organisationnelles de systèmes répartis performants et résistants. Or les expérimentations que nous avons menées avec LDI font apparaître différents éléments de conclusion positifs à cet égard. Le premier concerne la transversalité des lois: nous avons vu comment des lois orientées a priori vers des systèmes physiques, s'avèrent finalement utilisables pour modéliser des phénomènes d'un tout autre ordre, notamment des comportements sociaux ou cognitifs. De ce fait, la métaphore physique débouche sur des outils immédiatement intégrables à des systèmes qui, tels CoLa, dérivent de la métaphore sociale, moyennant bien sûr que l'unification de mécanismes d'interaction et de communication dans un même système soit résolue. Le deuxième concerne la diversité de constituants. La métaphore physique donne un embryon de réponse à ce problème: dans la mesure où les agents sont situés dans un espace physique, ceux-ci se trouvent de fait différenciés par leurs positions et contextes respectifs. Cette différenciation, certes élémentaire, peut constituer l'amorce d'une différenciation plus poussée. Enfin, la métaphore physique appelle un niveau de description très bien approprié pour la mise en œuvre du principe d'antagonisme, [Lupasco, 1987], [Le Peutrec et Courant, 1994]. Or ce principe, dû à S. Lupasco, constitue peut-être une clé donnant accès à toutes les propriétés "intéressantes" des systèmes vivants, en particulier l'adaptabilité comme la "créativité" des systèmes sociaux et cognitifs. Selon ce principe, tout système résulte, non seulement d'une loi d'"homogénéisation" visant à faire perdurer le système, mais fondamentalement de l'existence d'un couple de forces opposées, l'une homogénéisante, l'autre hétérogénéisante. Basiquement, la dynamique de tous les systèmes est ancrée dans la dérive entropique à laquelle les soumet le deuxième principe de la thermodynamique. L'intérêt majeur du cadre conceptuel édifié par Lupasco est qu'il conduit à une vision unifiée des stratégies de routines et des comportements exceptionnels. En ce sens, il est apte à combler l'une des failles les plus importantes des systèmes artificiels actuels: supporter le développement de comportements à la fois adaptatifs et performants. Il nous paraît donc essentiel d'en trouver une formulation opérationnelle pour les systèmes massivement parallèles. Par le biais d'un mécanisme d'actualisation/potentialisation à base de charges, la version actuelle de LDI doit pouvoir supporter une première mise en œuvre du principe de Lupasco. Cependant, une mise en œuvre plus exacte doit rendre compte du fait que les lois de l'auto-organisation et de l'adaptation sont à 1.16 Le défi des architectures parallèles à l'I.A. rechercher dans une physique beaucoup plus fine que celle utilisée dans LDI. En fait, le principe d'antagonisme suggère de descendre jusqu'aux échanges d'énergie pour élaborer des lois à même d'engendrer l'"intelligence collective". C'est du reste aussi la piste que nous indique la physique, quand elle-même ne cesse de multiplier les modes d'interactions à considérer au fur et à mesure qu'elle descend plus profondément dans la matière. Autrement dit, alors que la métaphore sociale trouvait sa limite dans l'impossibilité d'expliciter l'infiniment grand, la métaphore physique nous oblige elle aussi à descendre dans l'infiniment petit, vers les interactions quantiques gouvernant les particules, les quarks, etc. 4. Métaphore physico-sociale et abstraction dans ARÔME Après avoir successivement exploré les deux plans, social et physique, de la figure 2, nous abordons maintenant l'espace inter-plans à travers la présentation du système d'abstraction symbolique ARÔME. 4.1. Introduction Comme l'ont illustré les paragraphes précédents, les métaphores sociale et physique ont chacune leurs avantages et leurs limitations. L'idéal est donc de pouvoir exploiter l'une sans pour autant renoncer à l'autre: configurer le plus possible les systèmes à partir de lois (génératives) simples, tout en les façonnant en termes symboliques conformément à notre vision des problèmes et des méthodes à leur appliquer. La réconciliation des deux approches n'est cependant pas triviale: sur elle repose en fait probablement tout l'édifice de l'IA future, dans la dimension collective que lui confère l'ancrage physico (-biologique) de la cognition et de l'organisation sociale, c'est-à-dire la vie artificielle. Les problèmes qu'elle soulève sont ceux inévitablement posés par la maintenance de deux systèmes de description relatifs à une même "réalité". Les relations inter-plans de la figure 2 peuvent être envisagées de deux façons: - - Dynamiquement: en termes d'interactions entre les deux plans, avec un lien ascendant représentant l'émergence (ou potentialisation) des structures et un lien descendant représentant une sorte de "projection structurante" (ou actualisation des structures); Statiquement: en termes de contraintes d'intégrité. Bien qu'il constitue encore l'une des pierres d'achoppement de la vie artificielle, le point qui à ce jour paraît le plus accessible dans le cadre de cette problématique concerne le lien ascendant reliant le plan physique avec le plan M. Aguilar, M. Courant et B. Hirsbrunner 1.17 social (ou cognitif), autrement dit l'émergence de structures (ou de symboles) [Grumbach, 1993]. Le projet ARÔME aborde cette question avec un système d'abstraction opérant sur un substrat massivement parallèle constitué d'agents réactifs. 4.2. Abstraction dans ARÔME Le système ARÔME (Aide au Raisonnement en HOMéopathie) a pour but de mettre en évidence certaines potentialités du parallélisme massif quant à la modélisation d'aptitudes cognitives [Vauthey et Courant, 1993]. Le substrat réactif choisi consiste en un grand réseau de neurones formels. L'application concerne le traitement de la langue naturelle et le raisonnement, avec pour finalité d'abstraire des textes, en l'occurrence des chapitres de matières médicales homéopathiques (recueils de descriptions cliniques), par des schémas conceptuels. Dans ARÔME, l'abstraction résulte d'interactions entre les unités significatives du texte (les mots) dans un environnement linguistique donné (la langue). L'environnement linguistique servant de cadre au raisonnement est modélisé par un réseau sémantico-neuronal automatiquement dérivé d'un dictionnaire1 [Véronis et Ide, 1993]. Les interactions sont modélisées par une dynamique de connexionniste, qui concentre l'activation dans certaines régions du réseau représentant les schémas conceptuels recherchés. 4.2.1. Modèle Le réseau utilisé est une variante du modèle élaboré par N. Ide et J. Véronis pour la désambiguisation [Ide et Véronis, 1991]. Les nœuds du réseau sont des neurones formels à seuils. Ces nœuds représentent les entrées du dictionnaire (nœuds-mots) et leurs différentes significations (nœuds-sens). Des liens activateurs (munis de poids >0) relient tout nœud-mot aux nœuds représentant ses différents sens et tout nœud-sens aux mots formant sa définition. Des liens inhibiteurs (munis de poids <0) modélisent la compétition entre les différents sens d'un mot. 4.2.2. Méthode Une analyse linguistique, pour l'instant relativement sommaire, extrait d'un texte en entrée un ensemble d'unités lexicales significatives. Cet ensemble induit une activation initiale dans le réseau. L'algorithme de propagation d'activation procède alors en deux phases: une phase d'expansion, où chaque nœud diffuse son énergie activatrice à ses voisins, puis une phase de concentration, au cours de laquelle s'ajoute l'effet d'une fonction de dégénérescence de l'activité des nœuds. La figure 9 illustre le comportement de l'algorithme par un zoom sur une région du réseau. 1 en l'occurrence l'Oxford Advanced Learner's Dictionary, version 4. 1.18 Le défi des architectures parallèles à l'I.A. fear/4 death/2 fear/3 death fear/2 death/3 power fear/1 power/14 fear death/1 death/4 evil fear/6 fear/5 evil/1 bad black/9 black dark/3 dark/2 bad/3 moral dark/7 dark dark/6 dark/1 dark/4 dark/5 Figure 9. Activation générée depuis "fear", "death" et "dark" par la symptomatologie psychique d'Arg-n 4.3. Conclusion Le problème de l'émergence suscite un grand intérêt actuellement, que ce soit dans le domaine de la liaison subsymbolique-symbolique visée dans ARÔME, celui des plate-formes à plusieurs niveaux pour la vie artificielle, [Cazoulat et Victorri, 1994], des automates hyper-cellulaires, etc. Etant donné les contraintes d'interprétabilité des résultats inhérentes à l'application, la formulation du problème abordé dans ARÔME est relativement simple et le substrat réactif symbolique utilisé sans fondement biologique. Cependant, nous considérons qu'un tel substrat demeure un terrain privilégié pour l'expérimentation de différentes dynamiques. Ainsi, après une première phase d'expérimentation avec un algorithme d'abstraction par cheminement simple à travers le réseau, sommes-nous en mesure d'envisager différents raffinements. La première extension à prévoir consiste d'abord en l'adjonction d'un effet de rétro-action, par une rediffusion de l'activation accumulée dans les concepts abstraits dans leur voisinage et en particulier les nœuds qui les avaient stimulés. Combinée avec un effet de seuil, ce retour d'activation opère un couplage des entrées via les concepts abstraits auxquels ils sont liés [Vàmos, 1994]. L'algorithme de propagation d'activation devient donc systolique et la modélisation de l'abstraction qu'il induit fondée sur des phénomènes de périodicité et de synchronicité. Ainsi étendu, le modèle devient beaucoup plus intéressant d'un point de vue physiologique et psychologique que le modèle initial. Précisons enfin que si pour des raisons de complexité, le substrat réactif utilisé dans A RÔME est un réseau de neurones formels, la connexion entre une telle description et le modèle physique utilisé dans LDI par exemple, ne pose pas de problème majeur. M. Aguilar, M. Courant et B. Hirsbrunner 1.19 5. Conclusion Nous avons décrit une approche métaphorique de l'IAC basée sur les archétypes de système social et physique, destinée à tirer parti des architectures massivement parallèles MIMD, avec pour perspective que les trois métaphores, considérées à ce jour isolément pour des raisons méthodologiques, puissent à (relativement long) terme être réunies. Avec l'exemple de CoLa, nous avons vu comment la métaphore sociale peut constituer la trame de systèmes parallèles déjà relativement complexes. Avec LDI, nous avons ensuite montré comment la métaphore physique vient, par la formulation de lois générales, au secours des limitations des systèmes symboliques. Nous avons vu que par l'une ou l'autre voie, la complexité est en définitive incontournable. Par conséquent, tout nous incite à tenter de relier les deux modes de descriptions - respectivement local et global- associés aux deux métaphores. Dès à présent, la superposition d'un modèle physique d'interaction, tel celui de LDI, avec le modèle réactif neuronal utilisé dans ARÔME ne paraît pas inaccessible. De même, le lien vertical ascendant (d'abstraction structurelle ou d'émergence) abordé dans ARÔME, est une tentative de connexion des deux plans de la figure 2. Seul le lien vertical descendant reste, à notre connaissance, très peu étudié pour l'instant. En fait, outre la difficulté technique indéniable dont il s'accompagne, nous n'excluons pas que l'obstacle majeur à son investigation soit plutôt une difficulté conceptuelle, voire philosophique. Car si le constructivisme a conquis nos esprits et nous permet d'appréhender le lien ascendant en toute quiétude [Brooks et Stein, 1993], le lien descendant matérialise une dépendance beaucoup moins usuelle. Il représente en quelque sorte la puissance (re-)formatrice de l'organisation et des symboles, [Varela, 1989], [Courant et Le Peutrec, 1993]. Son existence nous oblige donc à reconnaître l'autonomie des concepts, [Bura, 1994], [Stewart, 1994], en leur conférant un rôle symétrique par rapport aux constituants matériels: les uns et les autres contribuent également à la description comme à la construction des systèmes. C'est pourquoi, en définitive, le schéma de la figure 2, n'est autre que celui d'un système auto-référentiel [Baecker, 1994]: un système interagissant, à la fois immergé dans le monde physique et dans le monde des concepts, et se référant tantôt à l'une tantôt à l'autre partie de sa propre représentation. C'est au lien descendant demeuré en suspens qu'appartient la fermeture du schéma. A l'inaccessibilité de l'infiniment grand et l'infiniment petit, répond la circularité. Cette boucle, qui réalise donc à la fois l'auto-référence et l'ancrage physico-biologique de la cognition individuelle et collective, contient le but ultime de l'I.A. technologique: construire des systèmes artificiels adaptatifs conformément aux systèmes vivants de façon à établir entre eux la complicité dont se nourriront leurs interactions mutuellement coopérantes. 1.20 Le défi des architectures parallèles à l'I.A. Remerciements Les travaux relatés ici étant bien entendu le fruit de synergies, collectives et individuelles, nous tenons à remercier toutes les personnes qui y ont contribué, notamment F. Buchs, G. Goy, M. Ludwig, O. Krone, S. Le Peutrec, C. Renevey, K. Stoffel et B. Vauthey. Bibliographie [Aguilar et Hirsbrunner, 1994] Marc Aguilar, Béat Hirsbrunner: "Post: A New Postal Delivery Model". Working Conference on Programming Environments for Massively Parallel Distributed Systems, IFIP WG 10.3, Ascona, Switzerland, April 25-29, 1994, pp. 23.1-23.7. [Arkin, 1990] Ronald C. Arkin: "Integrating Behavioral, Perceptual and World Knowledge in Reactive Navigation". Robotics and Autonomous Systems, vol. 6, 1990, pp. 105-122. [Baecker, 1994] Dirk Baecker: "The Intelligence of Ignorance in Self-referential Systems". In Robert Trappl (editor): "Cybernetics and Systems '94", Vol. II, World Scientific Publishing, 1994, pp. 1555-1562. [Ballim et Wilks, 1991] Afzal Ballim, Y. Wilks: "Artificial Believers. The Ascription of Belief". Lawrence Erlbaum Associates, 1991. [Birman, 1993] K. Birman: "The Process Group Approach to Reliable Distributed Computing". Communications of the ACM, vol. 36, n° 12, 1993, pp. 37-53. [Brooks et Stein, 1993] Rodney A. Brooks, Lynn A. Stein: "Building Brains for Bodies". A.I. Memo n° 1439, MIT, 1993. [Bura, 1994] Stéphane Bura: "De la vie et de la mort dans l'idéosphère". In E. Bonabeau, T. Fuhs (eds): "Autonomie et Interactions Fonctionnelles", Actes des Journées de Rochebrune, Editions Hermès, 1994. [Cazoulat et Victorri, 1994] Renaud Cazoulat, Bernard Victorri: "Comment une société d'agents autonomes peut-elle s'organiser". In E. Bonabeau, T. Fuhs (eds): "Autonomie et Interactions Fonctionnelles", Actes des Journées de Rochebrune, Editions Hermès, 1994. [Clarke et Glendinning, 1994] Lyndon Clarke, Ian Glendinning: "The MPI Message Passing Interface". Working Conference on Programming Environments for Massively Parallel Distributed Systems, IFIP WG 10.3, Ascona, Switzerland, April 25-29, 1994, pp. 21.1-21.6. [Courant et al., 1994] Michèle Courant, Béat Hirsbrunner, Kilian Stoffel: "Managing Entities for an Autonomous Behaviour". In Nadia Magnenat-Thalmann and Daniel Thalmann (Eds): "Artificial Life and Virtual Reality", John Wiley, 1994. [Courant et Le Peutrec, 1993] Michèle Courant, Stéphane Le Peutrec: "Autonomie des systèmes vivants: une autre approche de l'information et de la connaissance". M. Aguilar, M. Courant et B. Hirsbrunner 1.21 Institut d'informatique de l'université de Fribourg, Publication interne n° 38, août 1993. [Grumbach, 1993] Alain Grumbach: "Genèse du symbole artificiel". Technique et Science Informatiques, vol. 12, n° 3, Editions Afcet/Hermès, 1993. [Hirsbrunner et al., 1994] Béat Hirsbrunner, Marc Aguilar, Oliver Krone: "CoLa: A coordination language for massive parallelism". ACM Symposium on Principles of Distributed Computing (PODC), Los Angeles, August 14-17, 1994. [Ide et Véronis, 1991] Nancy M. Ide, Jean Véronis: "Utilisation de grands réseaux de neurones pour la désambiguisation lexicale". Actes du 1er séminaire de sémantique lexicale du GDR Greco Communication Homme machine, IRIT, Toulouse, Janvier 1991. [Ludwig, 1994] Michel Ludwig: "Conception et Réalisation d'un Langage de Description d'Interactions pour des Systèmes d'Agents Autonomes". Thèse de Doctorat ès Sciences Informatiques de l'Université de Fribourg (Suisse), 1994. [Ludwig et Courant, 1994] Michel Ludwig, Michèle Courant: "Modelling interactions between autonomous agents". 1994 International System Dynamics Conference, Stirling (UK), July 11-15, 1994. [Lupasco, 1987] Stéphane Lupasco: "L'énergie et la matière vivante". Editions Le Rocher, 1987. [Magnenat et Thalmann, 1994] Nadia Magnenat-Thalmann and Daniel Thalmann (Eds): "Artificial Life and Virtual Reality". John Wiley, 1994. [Le Peutrec et Courant, 1994] Stéphane Le Peutrec, Michèle Courant: "Living System Dynamics: A New Approach for Knowledge Representation". 1994 International System Dynamics Conference, Stirling (UK), July 11-15, 1994. [Le Peutrec et Robin, 1993] Stéphane Le Peutrec, Sophie Robin: "Mécanismes d'abstraction dans une représentation de connaissances centrée objet". Rapport de recherche INRIA, n° 1840, janvier 1993. [Rasmussen et al., 1991] Steen Rasmussen, Carsten Knudsen, Rasmus Feldberg: "Dynamics of Programmable Matter". In "Artificial Life II", SFI Studies in the Sciences of Complexity, vol. X, edited by C.G. Langton, C. Taylor, J.D. Farmer, & S. Rasmussen, Addison-Wesley, 1991. [Stewart, 1994] John Stewart: "L'enracinement biologique de la cognition: des conséquences pour la conceptualisation des représentations et de la faculté de langage". in E. Bonabeau, T. Fuhs (eds): "Autonomie et Interactions Fonctionnelles", Actes des Journées de Rochebrune, Editions Hermès, 1994. [Stoffel et al., 1993] Kilian Stoffel, Ian LAW, Béat Hirsbrunner: "Fuzzy Logic Controlled Dynamic Allocation System". IJCAI'93, 13th International Joint Conference on Artificial Intelligence, Chambéry, France, August 28 - September 3, 1993, pp. 104-109. [Systémique, 1990] "Actes de l'école de systémique de l'Afcet/Gesta". Solignac, 1990. [Thom, 1991] R. Thom: "Stabilité structurelle et morphogenèse". InterEditions, 1991. 1.22 Le défi des architectures parallèles à l'I.A. [Vàmos, 1994] T. Vàmos: "Pattern Representation of Knowledge". In Robert Trappl (editor): Cybernetics and Systems '94, vol. II, World Scientific Publishing, 1994, pp. 1863-1870. [Varela, 1989] Francisco J. Varela: "Autonomie et connaissance, Essai sur le vivant". Editions du Seuil, 1989. [Vauthey et Courant, 1993] Barbara Vauthey, Michèle Courant: "Complex Reasoning using a large knowledge base". Internal report n° 93-11, IIUF, Université de Fribourg, 1993. [Véronis et Ide, 1993] Jean Véronis, Nancy Ide: "Acquisition de connaissances dans des dictionnaires: une évaluation". Revue d'Intelligence Artificielle, Vol. 7, n° 21, 1993. [Zeghal, 1993] Karim Zeghal: "Un modèle de coordination d'actions pour agents mobiles réactif et décentralisé". Rapport de Recherche Laforia n° 93/41, 1993.