Réseau RRFR pour la survellance dynamue : applcaton en e-mantenance. RYAD ZEMOURI, DANIEL RACOCEANU, NOUREDDINE ZERHOUNI Laboratore Unverstare de Recherche en Producton Automatsée (LURPA) 6, avenue du Présdent Wlson 94 5 Cachan cedex FRANCE ryad.zemour@lurpa.ens-cachan.fr http://.lurpa.ens-cachan.fr Laboratore d Automatue de Besançon (LAB) 4, Rue Alan Savary 5 Besançon France {danel.racoceanu, zerhoun}@ensm.fr http://.lab.cnrs.fr Résumé Nous présentons dans cet artcle une nouvelle archtecture neuronale appluée sur un problème de survellance d un système à événements dscrets. Le réseau RRFR proposé s nspre des avantages dynamues des représentatons localement récurrentes et de la souplesse d utlsaton des réseaux RFR. Grâce à la smplcté de l archtecture ue nous proposons, nous avons pu décortuer le réseau RRFR en fonctons élémentares afn de l embaruer dans un automate ndustrel. La soluton obtenue est entèrement paramétrable à dstance va le protocole TCP/IP, et s ntègre entèrement dans une perspectve d explotaton en e-mantenance. Mots clés Réseaux de neurones, survellance dynamue, archtectures à automate programmable. I. INTRODUCTION (DEFINITION DE LA PROBLEMATIQUE) Le rôle premer de la survellance ndustrelle est d augmenter la dsponblté des nstallatons ndustrelles afn de rédure les coûts drects et ndrects de la mantenance des éupements de producton. Les coûts drects de cette mantenance sont ceux relatfs aux dverses pèces de rechange, man d œuvre, etc. Par contre, les coûts ndrects sont essentellement dus au manue à gagner engendré par un arrêt de producton. On comprend alors ue l enjeu d une bonne poltue de survellance est très mportant pour les entreprses souceuses d avor une melleure maîtrse des coûts de mantenance. Actuellement, le domane de la mantenance a tendance à devenr un marché à part entère et beaucoup d entreprses se spécalsant dans ce domane ont été créées ces dernères années. La mantenance est devenue un vra méter avec ses propres méthodologes et concepts. Parm les facteurs u ont favorsé cette nouvelle tendance, nous pouvons cter le développement des Scences et Technologes de l Informaton et de la Communcaton (STIC) u prend une place très mportante. L essor de ces moyens de communcaton a provoué une évoluton mportante de l organsaton des entreprses. Celles-c ont tendance de plus en plus à externalser la foncton mantenance pour meux se concentrer sur leur actvté prncpale (la producton). Par alleurs, les composantes du système de survellance se caractérsent par une autonome de plus en plus mportante, en travallant dans des systèmes dstrbués et en ntégrant souvent une ntellgence embaruée. Les méthodologes de survellance peuvent être dvsées en deux grandes catégores : les méthodologes u se basent sur l exstence d un modèle formel de l éupement à surveller, et celles u se basent unuement sur l analyse des varables de survellance ans ue sur les connassances a pror des experts humans. Les méthodes u se basent sur une modélsaton de l éupement sont naturellement trbutares de l exstence ans ue de la ualté d une modélsaton physue de l éupement. Ce modèle servra de référence pour un fonctonnement nomnal, et tout écart par rapport au pont de fonctonnement nomnal sera synonyme de défallance. L nconvénent de ces technues est l exstence d ncerttudes de modélsaton u sont dues au fat ue la modélsaton physue ne prend pas en consdératon tous les paramètres et les aléas u peuvent nfluer sur une nformaton d un paramètre de survellance. Ces ncerttudes de modélsaton sont généralement prses en compte par le modèle d une manère explcte (addtve ou multplcatve). S la modélsaton de composants est souvent réalsable, un problème délcat concerne la modélsaton de toute une machne complexe ou d un procédé enter. Cec nous condut à la remarue suvante : lorsue l on veut surveller un éupement (ou un système) sur leuel on ne dspose ue de très peu d nformatons physues, on peut se poser la ueston de savor s l serat ntéressant de prendre le rsue d nvestr dans l élaboraton d un modèle de l éupement, ou ben d utlser les deuxèmes méthodologes u ne se basent pas sur l exstence d une modélsaton physue. Les technues de l Intellgence Artfcelle (IA) sont utlsées dans ce sens. Leur réponse est donc plus élaborée ue celle des technues de bas nveau. Cette réponse peut être obtenue sot à partr des données brutes venant drectement des varables de survellance, sot à partr des données tratées venant des sortes des tratements de bas nveau. Le rôle ue peut jouer un expert human reste tout de même ndspensable s l on veut concevor un outl de survellance avec les technues de l Intellgence Artfcelle. Parm les technues de l IA utlsées pour la survellance, nos travaux concernent les Réseaux de Neurones Artfcels (RNA), u se démaruent des
autres outls par leur capacté d apprentssage et de généralsaton. La survellance dynamue et la prédcton d une varable pour la mantenance prédctve nécesstent la prse en compte par le réseau de neurones de la dmenson temporelle. Cette prse en compte du passé du sgnal n est possble ue par des archtectures de réseaux de neurones dtes temporelles. Les réseaux de neurones statues sont ncapables d assurer ce genre de tratement. C est dans tout ce contexte de survellance pour la e-mantenance ue nous présentons dans cet artcle une nouvelle archtecture d un réseau de neurones dynamue u s est montrée effcace pour applcaton de survellance d un système à événements dscrets. Grâce à la smplcté de l archtecture proposée, nous avons pu décortuer le réseau de neurones afn de l embaruer dans un automate programmable ndustrel (API). La soluton présentée dans cet artcle est entèrement paramétrable à dstance par le protocole de communcaton TCP/IP grâce au Coupleur Ethernet serveur Web des automates de nouvelle génératon. Ans un expert dstant peut suvre l évoluton de son éupement et mettre à jour les paramètres de son outl de survellance à dstance va le réseau Internet [6]. II. PROPOSITION D UNE ARCHITECTURE NEURONALE POUR LA SURVEILLANCE EN TEMPS REEL Pour aller dans le sens du prncpe de la parcmone des réseaux de neurones, on peut se poser la ueston suvante : Pouruo compluer l archtecture d un réseau de neurones avec des récurrences globales uand on peut smplfer le réseau en utlsant des récurrences locales? Cette ueston résume notre but en proposant un outl neuronal pour la prédcton temporelle. L archtecture neuronale présentée dans cet artcle s nspre des avantages des réseaux RFR et de ceux des réseaux localement récurrents. La Fgure présente l archtecture du RFR récurrent ue nous proposons, appelé réseau RRFR : Réseau Récurrent à Base de Fonctons Radales. Le réseau RRFR est composé de tros couches. Entrée I I I Foncton Sgmoïde Radal Bass Functon Neurones de sorte lnéares l l l Mémore dynamue Mémore statue Couche de décson Fgure. Réseau RRFR (Réseaux Récurrents à Fonctons de base Radales). Ce neurone localement récurrent (ntrodut par Frascon-Gor- Soda [] est présenté par la fgure suvante : ( t ) n n a ( t ) y ( t ) f (.) Fgure. Le modèle de Frascon-Gor-Soda. m τ L actvaton du neurone est foncton de ses entrées pondérées (comme le neurone classue) et des valeurs retardées de sa sorte. Sa sorte y ( t ) est donc défne par les éuatons suvantes : ( ) τ y = f a () n m j j j= = () τ a = + y où a ( t ) représente l actvaton du neurone à l nstant t, f (.) sa foncton d actvaton, j son entrée, j la valeur du pods de la connexon relant le neurone au neurone amont j et représente le pods de l auto-connexon du neurone m avec un retard égal à mτ. Nous allons mposer dans ce u va suvre le chox d un retard untare ( = ). D après des études fates par [],[] sur le comportement d un neurone bouclé, celu-c possède un seul pont d éulbre stable a = s b avec >, et deux ponts d éulbre stables a et a +, et un pont d éulbre nstable a = s b >. Le neurone de Frascon-Gor-Soda possède un comportement d oubl s b avec >. On dra u un neurone possède un comportement d oubl s pour un nstant donné t et une actvaton a ( t ) uelconue, et s >, ε >, t > t +, θ >, = tels ue les relatons suvantes sont respectées : s a ( t ) > θ ε > a s a ( t ) < θ ε < a Nous verrons dans le paragraphe suvant comment ce comportement d oubl sera exploté pour l apprentssage de séuences de bon fonctonnement d un système à événements dscrets. j (). Premère couche : une mémore dynamue Une couche l est appelée mémore dynamue du réseau. Le rôle de cette couche est de prendre en compte la dynamue des données d entrée. Celle-c servra à mémorser le «passé» du sgnal d entrée du réseau. Cette mémore dynamue sera consttuée par des récurrences locales au nveau des neurones d entrée, et cec sans compluer la topologe du réseau RFR. Dans tout cet artcle f représente la foncton d actvaton sgmoïde ayant l expresson : ( ) ( bx bx f x e = ) /( + e )
4 5 6 7 8 9.8.6.4. -. -.4 -.6 -.8 - b =.99 b =.9 Fgure. Comportement d oubl : Convergence de la sorte du neurone bouclé vers le pont d éulbre stable a = a en foncton de b avec une exctaton ntale () = ± et >. Pour uantfer la longueur de mémorsaton du neurone bouclé, nous avons dans un premer temps, détermné la valeur du produt b u permet d avor une valeur maxmale du rapport de l éuaton (6). Ce résultat est llustré par la Fgure 5.a u montre ue le maxmum de y / est obtenu pour b =. Nous avons ensute uantfé cette valeur maxmale de la longueur de la mémore en fxant b = et en calculant y / en foncton de. On obtent une longueur maxmale d envron untés de temps (Fgure 5.b.)...5 y.5..5 y.5.. Le neurone de Frascon-Gor-Soda possède un comportement de mémorsaton s b >. On dra u un neurone bouclé possède un comportement de mémorsaton s pour un nstant donné t et une actvaton a ( t ), et s ε > : t > t, = tels ue les relatons suvantes sont respectées : j s a ( t ) > a ε > s a ( t ) < a ε <.8.6.4. -. -.4 -.6 -.8 a() = a() =. a() = -. a() = - - 4 5 6 7 8 9 Fgure 4. Comportement de mémorsaton : Convergence de la sorte du neurone bouclé vers le pont d éulbre stable a + pour a () > et vers a pour a () < avec b =.. La lmte de la longueur de la mémore d un neurone bouclé peut être uantfée par l étude de l nfluence d une varaton de l entrée à nstant t donnée sur les varatons de la sorte du neurone bouclé y ( t + ) à un nstant t +. On dra u un neurone bouclé à attent sa lmte maxmum de mémorsaton s au bout d un certan temps la varaton max de l entrée n a aucune nfluence sur la varaton de la sorte y ( t + ). On peut exprmer cec par l éuaton suvante : ce rapport peut être écrt : y lm = ( t ) j= (4) (5) y = f ( a ( t j) ) (6).5.8.85.9.95.5..5. k.5 5 5 5 - a - - b - Fgure 5. Longueur de la mémore du neurone bouclé.. Deuxème couche : une Mémore statue La couche l est appelée mémore statue du réseau. Le rôle de cette couche est de mémorser les prototypes, comme pour les réseaux RFR classues. Les entrées de cette couche ne provennent plus drectement des données d entrée mas résultent de la sorte de la premère couche à savor la mémore dynamue. Un premer tratement des données d entrée est donc effectué par la premère couche avant ue celles-c soent mémorsées par la mémore statue. Le prototype ans mémorsé par les neurones gaussens aura mplctement prs en compte la dmenson temporelle des données d entrée. Cette couche offre une représentaton locale de l'espace grâce à des fonctons de base dont l'nfluence est restrente à une certane zone de l'espace. Leur réponse s'exprme, sous la forme la plus générale, par la relaton suvante : φ( x) = e x-µ σ. Une trosème couche : une couche de décson La couche de sorte l correspond à la réponse du réseau à travers des neurones lnéares. III. EVALUATION DU RESEAU RRFR SUR LA SURVEILLANCE D UN SYSTEME A EVENEMENTS DISCRETS Dans cette parte, nous allons tester le réseau RRFR sur un problème de survellance d un système à événements dscrets. Le système étudé représente une pette chaîne de producton avec deux machnes M, M. Chaue machne possède un temps de tratement nomnal T M respectvement T M. Après tratement sur la machne M, les pèces sont mses sur une fle d attente. Au bout d un temps d attente T at, celles-c sont mses sur le convoyeur pour être achemnées vers M pendant un temps de convoyage T conv. Avant d être tratées sur la machne M, les pèces attendent pendant T at sur la deuxème fle d attente. Le système est mun de sx capteurs u nduent le passage des pèces à chaue phase (Fgure 6). (7)
C C C C C C 4 5 6 Machne M Machne M T M T at. T conv T at. T M Fgure 6. Le système à événements dscrets étudé. Nous avons utlsé le réseau RRFR présenté au paragraphe précédent pour la survellance de ce système de producton. Pour cela, un ensemble de séuences d événements (caractérsées par des temps entre événements) vont être apprses par le réseau de neurones. Cette base d apprentssage content un mode nomnal, des modes dégradés ans ue des modes de défallance. Ces modes dégradés représentent des séuences où survennent des perturbatons, sot au nveau des deux machnes sot au nveau du convoyeur. L mpulson transmse par les capteurs C représente l entrée externe des neurones bouclés (Fgure 7). A chaue exctaton, le neurone bouclé garde en mémore une trace sur l nstant d occurrence de l événement correspondant, et cec grâce à son comportement d oubl présenté au paragraphe précédent. A la fn d une séuence, chaue neurone présente une sorte y ( t ) u dépend de l nstant d occurrence de l événement. Les sortes des neurones bouclés représentent donc un vecteur y, y ( t ),... ) de chaue type de séuence et caractérstue ( [ ] sera mémorsé par les neurones gaussens (Fgure 7). Ans, deux séuences dfférentes vont avor deux vecteurs prototypes dfférents. plus proche, et cec grâce à la généralsaton locale de sa mémore statue. En effet, la couche de décson donne une réponse maxmale (.95,.96) au nveau de la sorte D4 pour les deux premères séuences du groupe de test, et une réponse maxmale (.87,.99) au nveau du mode D pour les deux dernères séuences. On remarue un léger rejet d ambguïté entre les modes D4 et P pour les séuences et du groupe de test. Ces deux séuences représentent des séuences ntermédares entre les modes D4 et P, et provouent un chevauchement entre les zones mémores des deux modes. Cette stuaton d ambguïté (obtenue grâce à la représentaton locale de la mémore statue) représente une caractérstue très mportante pour l ade à la décson de l expert human. Dans cet exemple, le fate de savor ue la séuence du groupe de test se chevauche avec le mode de panne P, permet à l expert de réagr en conséuence. Ce résultat devent très ntéressant dès lors ue la talle du système à surveller ans ue le nombre de modes à mémorser devennent plus mportants. Une analyse ntutve des paramètres du système (temps entre événements) fate vsuellement par un expert sur un tableau de pluseurs valeurs serat dans ce cas mpossble. C C C C4 C5 C6 Machne M Machne M TM Tat. Tconv Tat. TM = = = = 5 = 6 = 4 Paramètres du système Perturbatons Réponse du Réseau de neurones TM Tat Tconv Tat TM tm tconv tm N D D D D4 D5 D6 P P P 5 5 - - - - - - - - - - - - 4 5 5 - - - - - - - - - - - - = Début séuence y.9 Événements de la séuence = = 4 = 5 = 6 = Fn séuence t = C = C = C 4 = C 5 = C 6 = C Apprentssage Test 5 4 5 - - - - - - - - - - - - 4 5 4 5 - - - - - - - - - - - - 5 5 5 - - - - - - - - - - - 5 5 - - 5 - - - - - - - - - 5 5-5 - - - - - - - - - - 5 5 5 - - - - - - - - - - - 5 5 - - - - - - - - - - 5 5 - - - - - - - - - - - 5 5 4 - -.. - -.95 - - - - - 5 5 6 - - - - - -.96 - -.9 - - 5 5 - - - - - -. - -.87 - - Rejet d ambguïté.8 y 6 (4) 5 5 4 - - - - - - - - -.99 - -.7.6.5.4... 5 5 5 5 t y 5 (4) y 4 (4) y (4) y (4) y (4) Prototype mémorsé par la mémore statue Fgure 7. Mémorsaton du vecteur prototype d une séuence par la mémore statue. Ce vecteur prototype caractérstue de la séuence, est obtenu grâce à la mémore dynamue du réseau RRFR. La Fgure 8 présente une parte des résultats de reconnassance de séuences ue nous avons obtenu par le réseau RRFR sur le mode dégradé 4 et le mode de défallance (D4 et P). Pour les séuences de test, nous avons adopté les perturbatons suvantes au nveau de la machne M: 4 et 6 untés de temps pour des séuences proches du mode D4 ; et 4 untés de temps pour des séuences proches du mode P. Le réseau de neurones assoce parfatement chaue séuence au mode le Fgure 8. Test du réseau RRFR sur des séuences proches de celles apprses. IV. EXPLOITATION INDUSTRIELLE EN E-MAINTENANCE Dans cette parte, nous présentons une soluton orgnale d explotaton du réseau présenté précédemment pour une explotaton de survellance en temps réel u ouvre des perspectves ntéressantes en e-mantenance. Cette soluton se présente sous forme d un programme de survellance en temps réel basé sur l archtecture RRFR embaruée dans un Automate Programmable Industrel (API). Une fos chargée dans la CPU de l automate, la structure du programme neuronal est capable d évoluer tout en étant supervsée par un expert dstant. Toute la phase d apprentssage est gérée va le coupleur WEB de l automate par une connexon TCP/IP. Un programme JAVA chargé dans le coupleur permet de fare la lason entre l automate et l expert (Fgure 9). Pour se fare, deux fonctons de base sont nécessares : une foncton de lecture et une foncton d écrture. Ces deux fonctons permettent de communuer avec l automate sot par réseau nterne à l entreprse (Intranet) sot par réseau externe (Internet).
Apprentssage à dstance Apprentssage à dstance JAVA Couche TCP/IP Expert dstant Couche de neurones bouclés Couche de neurones gaussens Couche de sorte FC N FC N FC N Entré Step7 Procédé ndustrel Mémore Mémore dynamue statue Couche de Réseau Récurrent à Fonctons de base Radales (RRFR) Données capteurs DB N DB N DB N Foncton de lecture Foncton d écrture Coupleur WEB JAVA Fgure 9. Structure de la l archtecture de survellance embarué dans un API avec apprentssage dstant va nternet. La Fgure présente la structure globale du programme neuronal chargé dans l API. Chaue couche du réseau de neurones est représentée par un composant fonctonnel (FC) et une table de données (DB). Le composant FC permet de défnr les tros fonctons d actvaton du réseau RRFR (respectvement la sgmoïde, la gaussenne et la foncton d actvaton lnéare). Le programme prncpal fera appel à ces fonctons pour le calcul des dfférentes sortes des neurones. Le composant DB permet de stocker tous les paramètres du réseau RRFR. La communcaton entre l expert dstant et le programme automate va le coupleur Web se fat sur des varables se trouvant dans les composants DB. Pour pouvor accéder à toutes les varables de survellance ans u à tous les paramètres du réseau de neurones, nous avons utlsé des varables DB de type «structure». Chaue structure content une entête où fgurent des nformatons explotées par des ponteurs afn d dentfer l adresse de chaue paramètre du réseau de neurones. L éuaton c-dessous présente l éuaton de base utlsée par le programme d apprentssage u permet de retrouver l ensemble des paramètres du programme neuronal dans l automate : Fgure. Détal de l archtecture du réseau de neurones telle u elle a été embaruée dans l API. Nous avons évalué pluseurs temps de cycles pour pluseurs dmensons de réseaux de neurones. En foncton des dfférents temps d exécuton de chaue module du programme neuronal, nous avons pu formalser ce temps de cycle (Tc) par la relaton suvante (avec une précson de 5 %) : Tc =.4 x Nent +.5 x Nent x Nrbf +.8 x Nrbf (9) où Nent représente le nombre de neurones bouclés en entrée, Nrbf le nombre de neurones gaussens. Le temps de cycle (Tc) est estmé en mllsecondes (ms). La Fgure présente les dfférents temps de cycles en foncton de pluseurs topologes du réseau RRFR.. Temps de cycle (ms) AddressParamNeu ( n) = StartAddress + ( n )* Length + AddressParam (8) où AddressParamNeu( n ) représente l adresse absolue d un ème paramètre du n neurones, StartAddress l adresse de début à partr de lauelle les données sont stockés, Length la talle mémore occupée par chaue neurone (cette nformaton sert à ncrémenter l adresse du ponteur), et enfn AddressParam u représente l adresse relatve du paramètre à l ntéreur de la zone mémore de chaue neurone. Nombre de neurones gaussens Nombre de neurones bouclés Fgure. Temps de cycle du programme neuronal step7 en foncton du nombre de neurones bouclés et de neurones gaussens. Ce résultat montre u un réseau RRFR avec neurones bouclés et neurones gaussens possède un temps de cycle de 4 ms. Cec représente une dmenson d un réseau RRFR assez mportante rarement obtenue en pratue (ue ce sot en classfcaton ou en approxmaton de fonctons). On peut penser u une dmenson moyenne d un réseau RRFR, avec
lauelle on peut obtenr de bons résultats, est consttuée d envron 5 neurones bouclés et 5 neurones gaussens. Une telle dmenson possède un temps de cycle de 79 ms. Un temps de cycle de cet ordre (envron 8 ms) représente une perspectve ntéressante pour des applcatons de survellance temps réel de processus ndustrel. Un réseau RRFR avec neurones bouclés et neurones gaussens donne de très bons résultats sur un problème de prédcton d une concentraton de CO d un four à gaz [5]. V. CONCLUSION Dans cet artcle, nous avons présenté une nouvelle archtecture neuronale basée sur les réseaux RFR et les représentatons de neurones localement récurrents. Nous avons, dans une premère étape, valdé l aspect dynamue du réseau proposé sur un exemple de survellance d un système à événements dscrets. A travers ce test, nous pouvons conclure ue le réseau proposé présente un outl ntéressant pour l ade à la décson en survellance dynamue. La deuxème étape a été d embaruer le réseau RRFR dans un automate ndustrel. Les dfférents temps de cycle du programme automate montrent ue cette soluton est entèrement applcable pour des confguratons de survellance en temps réel. Son aspect évolutf va le protocole TCP/IP la rend très prometteuse pour des explotatons en e-mantenance. Une des perspectves de cette étude est de tester l archtecture embaruée dans l automate sur des exemples de survellance. En effet, toutes les phases de valdaton du réseau de neurones proposé ont été effectuées par smulaton (programmaton avec l outl MATLAB). Un mportant traval de valdaton du programme automate reste à entreprendre avec, cette fos c, les vértables contrantes de communcaton en temps réel et de temps de réponse des archtectures à automates programmable. VI. REFERENCES [] Bernauer E., Les réseaux de neurones et l'ade au dagnostc : un modèle de neurones bouclés pour l'apprentssage de séuences temporelles, thèse de doctorat, LAAS/Toulouse 996. [] Frascon P., Gor M. et Soda G., «Local Feedback Multlayered Netorks», Neural Computaton, Vol. 4, pp. -, 99. [] Gor M., «An Extenson of BPS», n Proceedng of the nd Intern Workshop on Neural Netorks and ther Applcatons, Nmes, France 989. [4] Ryad Zemour, Danel Racoceanu, Noureddne Zerhoun, «The RRBF : Dynamc representaton of tme n radal bass functon netork» Proc. of the 8th IEEE Internatonal Conference on Emergng Technologes and Factory Automaton, ETFA', vol., pp.77-74, 5-8 octobre, Antbes, Juan les Pns. [5] Zemour Ryad, Danel Racoceanu, Noureddne Zerhoun, «Réseaux de neurones Récurrents à Foncton de base Radales RRFR : Applcaton au pronostc», Revue d Intellgence Artfcelle, RSTI sére RIA, Vol. 6, N, pp. 7-8,. [6] Zemour Ryad, Contrbuton à la survellance des systèmes de producton à l ade des réseaux de neurones dynamues : Applcaton à la e-mantenance, Thèse de doctorat, LAB/Besançon 8 novembre Par exemple la carte IBM/ZISC (Zero Instructon Set Computer), u représente une mplémentaton Hard d un réseau RFR possède 576 neurones gaussens. [4]