A METHOD FOR THE DESIGN OF NEURO-FUZZY CONTROLLERS; AN APPLICATION IN ROBOT LEARNING

Transcription

1 A METHOD FOR THE DESIGN OF NEURO-FUZZY CONTROLLERS; AN APPLICATION IN ROBOT LEARNING THÈSE No 1602 (1997) PRÉSENTÉE AU DÉPARTEMENT D'INFORMATIQUE ÉCOLE POLYTECHNIQUE FÉDÉRALE DE LAUSANNE PAR Jelena GODJEVAC Ingénieur en électricité, diplômée de l'université de Belgrade, Yougoslavie de nationalité yougoslave acceptée sur proposition du jury: Prof. J.-D: Nicoud, directeur de thèse Prof. M. Mataric, corapporteur Prof. D. Mlynek, corapporteur Prof. N. Steele, corapporteur Lausanne, EPFL 1997

2 Abstract Fuzzy logic gained interest in the scientific community in the last years. One of the main reasons is the huge success of the Japanese industry with home appliances, based on fuzzy controllers, reaching a market of $2 billion in Fuzzy logic was a simple mean to handle the sensors included in these products. Fuzzy systems belong to the class of knowledge based systems. Their main goal is to implement human know-how or heuristic rules in the form of a cornputer program. Fuzzy logic provides a mathematical formalism for this goal. Fuzzy controllers mode1 human experience in the form of linguistic if-then rules; a fuzzy inference engine computes the control actions for each given situation. The main drawback of fuzzy controllers is the lack of a systematic methodology for their design. In this thesis, we propose a method for the design and analysis of fuzzy controllers. An introductory chapter formalises the mathematical notions of fuzzy logic and approximate reasoning, the fundamentals of fuzzy control. The presented concepts are emphasised by numerous examples. The design parameters of fuzzy controllers are then discussed. It is argued that the design of a fuzzy controller is a complex task because of the large number of parameters to be adjusted and because of the non-linear effects they have on the system response. An original method for the design and analysis of a fuzzy controller is proposed. The main idea is to apply an on-line adaptive algorithm to automatically adjust the parameters of the fuzzy controller, depending on its inputs and desired outputs. Its validity has been tested on a function approximation problem. It is shown that a fuzzy controller can learn to approximate non-linear functions arbitrarily well. We also introduce a new method for the extraction of linguistic rules from the adapted parameters. The knowledge acquired during learning can be represented in a clear and intuitive syntax. This gives the designer a comprehensive understanding of the new rule base, i.e., the controller features. Since the proposed adaptive algorithm belongs to a class of supervised learning methods, a major feature of artificial neural networks, neural and fuzzy controllers are compared. It is shown that a fuzzy controller, under some restrictions, is functionally equivalent to a particular class of neural networks (Radial Basis Functions), but has better learning capacities. Moreover, the fuzzy paradigm offers the possibility to infer the functional properties of RBF neural network. In the last part of this thesis, the application of fuzzy controllers to the navigation of a mobile robot is investigated. Several experiments with the miniature mobile Khepera are reported. First it is been demonstrated that simple tasks can be achieved with simple fuzzy controllers. Then, the proposed design method for fuzzy controller is tested, showing that it provides the vii

3 viii ABSTRACT designer with a technique to handle complex tasks: the robot can successfully learn the desired behaviours, even with noisy sensors and large rule bases. The extraction of rules reveals to be extremely useful for practical applications because it helps the engineer to learn more on the complete system. This thesis concludes with a discussion about the perspectives opened by this work.

4 Résumé La logique floue a connu un important intérêt dans la communauté scientifique au cours des dernières années. L'une des raisons principales est l'énorme succès des équipements domestiques produits par l'industrie japonaise, utilisant des régulateurs flous: ce marché atteignait 2 milliard de dollars en La logique floue constituait une manière simple de gérer les capteurs contenus dans ces nouveaux produits. Les systèmes flous appartiennent à la classe des "systèmes à base de connaissance". Leur but principal consiste à implémenter un savoir faire humain, ou des règles heuristiques, sous la forme d'un programme informatique. La logique floue fournit un formalisme mathématique pour réaliser ce but. Les régulateurs flous modélisent l'expérience humaine sous la forme de règles linguistiques "si... alors..."; un moteur d'inférences calcule les actions de commande pour chacune des situations données. L'inconvénient majeur des régulateurs flous est l'absence d'une méthodologie systématique pour leur conception. Dans cette thèse, nous proposons une méthode pour les concevoir et les analyser. Le chapitre introductif présente les bases théoriques fondamentales du contrôle flou: notions de logique floue et de raisonnement approximatif, ainsi que leur formalisation mathématique. Les concepts sont appuyés par de nombreux examples. Les paramètres de conception des régulateurs flous sont ensuite indiqués. Nous soutenons que la conception d'un régulateur flou est une tâche difficile en raison du grand nombre de paramètres à ajuster, et à cause de leurs effets non-linéaires sur la réponse du système. Nous proposons une méthode originale pour la conception et l'analyse d'un régulateur flou. L'idée centrale consiste à appliquer un algorithme adaptatif en ligne pour ajuster automatiquement les paramètres du régulateur, en fonction de ses entrées et de ses sorties désirées. Sa validité a été testée sur un problème d'approximation de fonctions. Nous montrons que le régulateur flou peut apprendre à approximer des fonctions non-linéaires avec le degré de précision souhaité. Nous introduisons également une nouvelle méthode pour l'extraction de règles linguistiques à partir des paramètres adaptés. La connaissance acquise durant l'apprentissage peut être représentée dans une syntaxe claire et intuitive. Cela donne au concepteur une compréhension d'ensemble de la nouvelle base de règles, c'est-à-dire les caractéristiques du régulateur. Comme la méthode proposée fait partie des méthodes d'apprentissage supervisé, une des Caractéristiques essentielles des réseaux de neurones artificiels, nous comparons ensuite les régulateurs neuronaux et Aous. Nous montrons qu'un régulateur flou, sous quelques restrictions, est fontionnellernent équivalent à une classe de réseaux de neurones particuliers (les réseaux à fonctions à bases radiales - RBF), mais que sa capacité d'apprentissage est meilleure. De plus, les propriétés

5 fonctionnelles d'un réseau neuronal ne peuvent être inferrées d'une étude de ses paramètres (les poids synaptiques), alors que le paradigme de la logique floue le permet. Dans la dernière partie de la thèse, l'application des régulateurs flous à la navigation d'un robot mobile est étudiée. Plusieurs expériences impliquant le robot Khepera sont rapportées. Tout d'abord nous montrons que des tâches simples peuvent être réalisées à l'aide de régulateurs simples. Ensuite, la méthode de conception proposée est mise en oeuvre, et s'avère être une technique qui permet au concepteur de traiter des problèmes plus complexes. Le robot est capable d'apprendre avec succès les comportement désirés, même en présence de capteurs bruités et de bases de règles de plus grande tailles. L'extraction de règles se révèle extrêmement utile pour des applications pratiques car elle permet à l'ingénieur d'apprendre plus sur le système complet. Cette thèse se conclut par une discussion des perspectives ouvertes par ce travail.

6 Contents Abstract Résumé Acknowledgements vii ix xix 1 Introduction Aims of the Thesis A Guided Tour Approximate Reasoning A Historical Perspective Set Theory ASet Operations on Sets Relations Boolean Logic Fuzzy Set Theory Fuzzy Set Representation of Fuzzy Sets Membership Function Geometrical Representation of Fuzzy Sets Operations on Fuzzy Sets Complement Intersection Union Geometrical Representation of Operations on Fuzzy Sets Linguistic Hedges or Modifiers of Fuzzy Sets Fuzzy Relations Operations on Fuzzy Relations Intersection and Union Projection Cylindrical Extension Composition of Fuzzy Relations Approximate Reasoning Linguistic Variable Fuzzy Proposition... 26

7 xii CONTENTS Generalised Modus Ponens Linguistic Rule Set of Linguistic Rules Summary 37 3 Fuzzy Control Structure of a Fuzzy Controller Fuzzification Knowledge Base Decision Making Unit Defuzzification Centre of Gravity Centre of Sums Height Middle of Maxima Comparison between Classical and Fuzzy Controllers Description of the Control Problem Classical Control Approach Fuzzy Control Approach Simulation Results Influence of Scaling Factors Distribution of Membership Functions Different Types of Fuzzy Reasoning and Defuzzification Methods Discussion Summary A Design Method for Fuzzy Controllers Related Work Takagi and Sugeno's Fuzzy Controller Linguistic Rules Membership Functions Fuzzy Inference General Algorithm Adaptation of Parameters of Takagi and Sugeno's Controller Iterative Procedure Numerical Examples Method Layout of Tables Results Learning Method Discussion Extraction of Linguistic Rules The Inversion Problem Extraction of the Antecedent Parts of the Rules Distance Between Two Fuzzy Sets Algorithm Discussion 84...

8 CONTENTS... XUI Summary 86 5 Cornparison of Learning in Fuzzy and Neural Systems Biological Neurons Artificial Neuron Muiti-Layer Neural Network Examples of Learning Radial Basis Function Neural Network Learning Method Examples of Learning Layout of the Table Results Discussion Equivalence Between Neuro-Fuzzy Network and RBFNN Summary Navigation of Mobile Robots using Fuzzy Controllers The Khepera Mobile Robot Fuzzy Controller for Obstacle Avoidance Braitenberg Vehicle Neuro-fuzzy Controller for the Navigation of the Khepera Learning Experiments The Learning Task Layout of Tables Results Discussion Extraction of Rules Summary Conclusions 117 Curriculum Vitæ 121