Initiation aux Systèmes Neuromimétiques. NeuroTrax. MACKAY, Colin RADOVIC, Alexander GANDECKI, Mickael

Transcription

1 Initiation aux Systèmes Neuromimétiques NeuroTrax MACKAY, Colin RADOVIC, Alexander GANDECKI, Mickael 15 Juillet 2008

2 Tables des matières 1 État de l art Réseau de neurones Architecture du réseau Topologie du réseau Réseau non boucles à apprentissage supervisé Base théorique Définition de l apprentissage d un réseau neuronal Algorithmes d apprentissage Limites d utilisation Prédiction d un cours de bourse Éléments méthodologique Architecture du réseau Élaboration de la structure du réseau Choix du paramétrage et apprentissage Validation de l approche L application NeuroTrax Justification méthodologique Choix de l architecture optimale Fonctionnement du système NeuroTrax Interface de calcul NeuroTrax Résultat et exploitation de base Interprétation graphique Interprétation numérique Autres développements Réseau à 2 neurones de sortie Interprétation graphique Interprétation numérique Utilisation des indicateurs boursiers Réduction des classes de traitements Conclusion Annexe Complément pour le module d analyse technique

3 Introduction L informatique est la science du traitement automatique de l information. Son développement est souvent confondu avec celui des machines de traitement : les ordinateurs. Depuis leurs débuts, les ordinateurs sont devenus de plus en plus puissants. Cependant, cette augmentation de puissance ne permet pas toujours de résoudre les problèmes d une application informatique dans un domaine particulier. L idée est donc installée que ce n était pas tant le matériel que le logiciel qui pêchait par son manque de puissance. La construction de logiciels s'appuie sur plusieurs approches. Deux parmi les plus utilisées sont l'approche algorithmique et l'approche basée sur la connaissance. Une approche algorithmique nécessite l écriture (avant la transcription dans un quelconque langage de programmation) du processus à suivre pour résoudre le problème. Lorsque le problème est complexe, ce peut être une étape coûteuse ou impossible. D autre part, les ordinateurs sont des machines complètement logiques qui suivent à la lettre chacune des instructions du programme. C est un avantage lorsque tous les cas ont été prévus à l avance par l algorithmicien. Ce n est hélas pas toujours possible. Ainsi les systèmes informatiques embarqués (à bord des avions, de la navette spatiale, etc.) tentent de pallier à ce manque (prévisible) de clairvoyance de l algorithmicien en triplant les logiciels, chacun étant développés indépendamment par une équipe différente, dans des langages différents. Les risques de laisser l ordinateur aux prises avec une situation imprévue, où son comportement ne serait pas adapté, sont ainsi considérablement réduits. La seconde approche possible est celle de l intelligence artificielle, avec pour applications les plus connues les systèmes experts. Ici, la résolution du problème est confiée à un ensemble de règles données par l expert humain du domaine. Il n en demeure pas moins que toutes les règles doivent avoir été exprimées préalablement au traitement. Les cas qui n ont pas été prévus par l expert ne seront pas correctement traités. L introduction de la logique floue ne change pas la nature des limitations d emploi du programme : l'exécution reste totalement déterministe. En fait, l approche basée sur la connaissance se limite à des domaines d application où la modélisation de la connaissance, par exemple sous forme de règles, est possible. Ces domaines sont souvent ceux des sciences dites "exactes" comme l'électronique, la mécanique, la physique, par opposition aux sciences dites "humaines" comme la médecine, la psychologie, l économie, la philosophie où la connaissance est plus empirique. L IA se révèle donc être principalement un moyen commode de stocker de la connaissance sous forme explicite. Ces deux approches ne suffisent pas à répondre à tous les problèmes existants. Citons les domaines de la reconnaissance de formes (images ou signaux), du diagnostic, de la traduction automatique, de la compréhension du langage, depuis longtemps explorés à l aide des approches algorithmiques et à base de connaissances, qui n'ont pas rencontré le succès escompté. Pourtant, des êtres vivants relativement simples sont capables de réaliser certaines de ces opérations apparemment sans difficulté. Il suffit pour s en rendre compte de lever les yeux, suivre le vol de la mouche et essayer de la capturer. Une troisième approche au traitement automatique de l information semble donc s offrir à nous, où l on cherche à s inspirer du traitement de l'information effectué par le cerveau. L hypothèse principale, à la base de l'essor des réseaux de neurones artificiels, est que le comportement intelligent est sous-tendu par un ensemble de mécanismes mentaux. Ces mécanismes étant basés sur des processus neurophysiologiques, nous supposons donc que la structure du système nerveux central est à la base du développement d un comportement intelligent

4 Chapitre 1 État de l art 1.1 Réseau de neurones Un neurone formel est un opérateur algébrique qui effectue une somme pondérée de ses entrées, appelée potentiel. Sa sortie est une fonction de ce potentiel : y = f(ν) = f(θ 0 + n i=1 θ i x i ) où les {xi} sont les n entrées du neurone, v son potentiel, et y sa sortie. Ses n paramètres θ i sont souvent appelés poids. Un neurone formel est représenté sur la figure dessous : FIG. 1.1 Neurone formel Un réseau de neurones est généralement constitué de neurones interconnectés et réalise une fonction algébrique de ses entrées. Cette fonction dépend de l'architecture du réseau, et des valeurs des paramètres des neurones. Les neurones fournissant les sorties du réseau sont appelés neurones de sortie, et les autres, non "visible " en sortie du réseau, sont appelés neurones cachés. Une entrée ou un neurone est appelé un noeud

5 La fonction f est appelée fonction de transfert. Elle peut prendre différente forme comme l identité pour faciliter le calcul mais nous utiliserons pour NeuroTrax la tangente hyperbolique pour sa régularité f(ν) = e ν e ν 1.2 Topologie du réseau e ν + e ν Les connexions entre les neurones qui composent le réseau décrivent la topologie du modèle. Elle peut être quelconque, mais le plus souvent il est préférable de rechercher une certaine régularité. Mis au point par Rosenblatt dans les années 50, le Perceptron multicouche (ou PCM) est l un des plus anciens des classificateurs neuronaux. Dans un Perceptron, les neurones sont arrangés par couche. Il n'y a pas de connexions entre les neurones d'une même couche et les connexions ne se font qu'avec les neurones des couches en aval. Habituellement, chaque neurone d'une couche est connecté à tous les neurones de la couche suivante et celle-ci seulement. Ceci nous permet d'introduire la notion de sens de parcours de l'information (de l'activation) au sein d'un réseau et donc définir les concepts de neurone d'entrée, neurone de sortie. L activité du Perceptron est donnée par : Par extension, on appelle couche d'entrée l'ensemble des neurones d'entrée, couche de sortie l'ensemble des neurones de sortie. Les couches intermédiaires n'ayant aucun contact avec l'extérieur sont appelés couches cachées. Donc dans un Perceptron, plusieurs couches contenant des neurones sont connectées entre elles, de l'entrée vers la sortie. FIG 1.2 Perceptron à 3 couches - 5 -

6 La première couche est appelée couche d'entrée. Elle recevra les données source que l'on veut utiliser pour l'analyse. Dans le cas de l'aide au diagnostic médical, cette couche recevra les symptômes. Sa taille est donc directement déterminée par le nombre de variables d'entrées. La deuxième couche est une couche cachée, en ce sens qu'elle n'a qu'une utilité intrinsèque pour le réseau de neurones et n'a pas de contact direct avec l'extérieur. Les fonctions d'activations sont en général non linéaires sur cette couche. Le choix de sa taille n'est pas implicite et doit être ajusté. En général, on peut commencer par une taille moyenne des couches d'entrée et de sortie. Il est souvent préférable pour obtenir de bons résultats, d'essayer le plus de tailles possibles. La troisième couche est appelée couche de sortie. Elle donne le résultat obtenu après compilation par le réseau des données entrées dans la première couche. Dans le cas de l'aide au diagnostic médical, cette couche donne le diagnostic. Sa taille est directement déterminée par le nombre de variables que l'on souhaite avoir en sortie. Dans le cas de prédictions boursières il n y a généralement qu une seule sortie. Cette sortie donne le cours prévisionnel. 1.2 Réseaux non bouclés à apprentissage supervisé L'apprentissage est vraisemblablement la propriété la plus intéressante des réseaux neuronaux Base théorique Toute fonction bornée suffisamment régulière peut être approchée uniformément, avec une précision arbitraire, dans un domaine fini de l'espace de ses variables, par un réseau de neurones comportant une couche de neurones cachés en nombre fini, possédant tous la même fonction d'activation, et un neurone de sortie linéaire. Il s agit de toutes les fonctions qui peuvent apparaître dans une application pratique continue comme discontinue. Il faut remarquer que ce théorème, présente les réseaux à une couche cachée comme un minimum mais qu en pratique, les réseaux avec deux, trois ou d avantage de couches cachées se révèlent souvent plus performants. Ce théorème garantit qu'un réseau multicouche avec les poids adéquats peut approximer n'importe quelle fonction, mais il ne donne aucune information sur l architecture du réseau (le nombre de couches ou le nombre de neurones par couche) ni sur les connexions synaptiques. Par ailleurs, il ne donne pas plus d indication sur la façon dont ces poids pourraient être initialisés puis ajustés Définition de l apprentissage d un réseau neuronal On appelle apprentissage des réseaux de neurones (ou RN), la procédure qui consiste à estimer les paramètres des neurones du réseau, afin que celui-ci remplisse au mieux la tâche qui lui est affectée. Les variables modifiées pendant l'apprentissage sont les poids des connexions. L'apprentissage est la modification des poids du réseau dans l'optique d'accorder la réponse du réseau aux exemples et à l'expérience. Il est souvent impossible de décider à priori des valeurs des poids des connexions d'un réseau pour une application donnée. A l'issu de l'apprentissage, les poids sont fixés : c'est alors la phase d'utilisation

7 Certains modèles de réseaux, comme ce sera le cas de notre application sont à apprentissage permanent. Dans ce cas l'apprentissage ne s'arrête jamais, cependant on peut toujours distinguer une phase d'apprentissage (en fait de remise à jour du comportement par le réajustement des poids synaptiques) et une phase d'utilisation. Cette technique permet de conserver au réseau un comportement adapté malgré les fluctuations dans les données d'entrée Algorithmes d apprentissage La méthode d apprentissage retenue est la rétropropagation du gradient. Le calcul est effectué en 2 temps : - Mise à jour du réseau en avant - Rétropropagation de l erreur Les poids dans le réseau sont initialisés par un algorithme génétique. Cette initialisation comporte plusieurs étapes : tout d abord un ensemble de poids aléatoires est généré par l algorithme Mersenne Twister. Ensuite, des couples de ces poids se recombinent pour former un nouvel ensemble dont l erreur en sortie du réseau avant apprentissage est mesurée. Après avoir comparé l ensemble initial et l ensemble final, le meilleur des deux est conservé et subira une légère mutation de ses poids. Cette opération de sélection génétique des poids est répétée sur plusieurs générations. Le dernier ensemble de poids sera le plus adapté à converger vers un minimum global. 1 FIG 1.3 Principe de rétropropagation de l erreur On considère par la suite un ensemble de données qui vont servir à l apprentissage. Chaque échantillon possède ses valeurs cibles qui sont celle que le réseau entier de neurones doit à terme prédire lorsqu on lui présente le même échantillon. L algorithme de rétropropagation de l erreur est le suivant : a. Soit un échantillon x que l on place à l entrée du réseau de neurones et la sortie recherchée pour cet échantillon t b. Le signal est propagé en avant dans les couches du réseau de neurones : 1 Une description plus détaillée de l algorithme génétique de la sélection des poids et de l algorithme du gradient pour un réseau à une couche cachée est faite en annexe

8 x k (n 1) x j (n) c. La propagation vers l avant se calcule à l adire de la fonction d activation g, de la fonction d agrégation h qui est le produit scalaire entre les poids et les entrées du neurone et des poids synaptiques w jk indiquant un poids de k vers j. x (n) j = g (n) (n ( ) j ) = g (n) ( k w jk x (n 1) k ) d. Une fois la propagation vers l avant terminée, on obtient le résultat y e. On calcule alors l erreur de la sortie donnée par le réseau y et le vecteur t désiré à la sortie de cet échantillon. Pour chaque neurone i dans la couche de sortie, on calcule : e i sortie = g ( i sortie )[ t i - y i ] f. On rétropropage l erreur e j (n) e j (n 1) avec la formule suivante : e (n 1) j = g (n 1) ( (n 1) (n ) ) k w ij e i g. Les poids sont mis à jour dans toutes les couches : w ij (n) = λe i (n) x j (n 1) avec λ le paramètre d apprentissage. 1.3 Limites d utilisation Une limitation des réseaux de neurones réside dans leur conception car il est difficile de trouver de manière immédiate à partir des seules données à traiter, la meilleure architecture neuronale conduisant aux performances désirées. Cette détermination reste à priori empirique et donc soumise à la réalisation de nombreux essais successifs qui pénalisent les délais de conception du système envisagé. Aucune entrée de table d'illustration n'a été trouvée. Ce problème de conception est lié à l absence d interprétation de l action d un RN sur les données à traiter. En effet seul la décision globale apparaît en sortie du RN, sans avoir d information sur la manière dont celle-ci a été prise à partir des données traitées. Cet aspect boite noire des RN est à l origine de la difficulté de choix de leur architecture puisque aucune fonction particulière ne peut être clairement identifiée à l intérieur de ces réseaux. Ceci freine toute tentative de réalisation de structure standardisée, adaptée à des classes de problèmes donnés, comme c est le cas pour les systèmes de traitement de données classiques mathématiques ou statistiques. La mise en œuvre de méthodes systématique de construction de réseaux de neurones passerait par l apport d une structuration et d une interprétation en profondeur des RN. A ce jour et malgré quelques tentatives, il s agit d un champ d étude encore largement inexploré

9 Chapitre 2 Prédiction d un cours de bourse Objectifs : tester l approche neuromimétique sur des applications boursières. Nous nous sommes intéressés plus particulièrement aux fluctuations boursières. Les résultats obtenus en utilisant les tests d'efficience faible laissent supposer qu'il n'existe pas de relation linéaire entre les cours de bourse. Cependant, l'existence d une relation non linéaire et indirecte n'est pas exclue. Est-il possible de prévoir les cours de bourse? Cette question a fait l'objet de nombreuses études et de nombreux débats. Les professionnels de la bourse essayent d'anticiper les mouvements du marché et ceux des valeurs. Ils disposent, pour ce faire, d'éléments fondamentaux (analyse fondamentale) et d'indications, plus irrationnelles, représentées principalement par l'analyse graphique (analyse technique). L'analyse technique est très souvent vue comme une approche complémentaire de l'analyse fondamentale pour juger d'un marché. Bien entendu, l'introduction des réseaux de neurones ne permet pas d'inventer des théories générales là où elles n'existent pas, ce qui est le cas en matière de fluctuations boursières. Mais l'apprentissage global du comportement des marchés par la technique des réseaux neuronaux est un bon outil pour étudier d éventuelles relations plus complexe qui lient les cours. 2.1 Élément méthodologique Plusieurs problèmes pratiques se posent lors de la construction et de l entraînement d un réseau Choix et préparation du corpus d apprentissage et de test Le processus d'élaboration d'un réseau de neurones commence toujours par le choix et la préparation des échantillons de données. Comme dans les cas d'analyse de données, cette étape est cruciale pour déterminer le type de réseau le plus approprié pour résoudre le problème posé. La façon dont se présente l'échantillon conditionne : le type de réseau, le nombre de cellules d'entrée, le nombre de cellules de sortie, la façon dont il faudra mener l'apprentissage, la validation et les tests. Le problème principal est de trouver la taille minimum du corpus qui permet d assurer les capacités de généralisation (d extrapolation) du réseau. Une règle empirique consiste à avoir un corpus d apprentissage 3 fois supérieur au nombre de neurones du réseau. (Une cinquantaine de neurones nécessiteraient donc 150 entrées) - 9 -

10 2.1.2 Élaboration de la structure du réseau La structure du réseau dépend étroitement du type des échantillons. Pour les séries temporelles avec une fenêtre glissante, le Perceptron multicouche s impose comme la solution optimale. Cependant il reste à déterminer le nombre de neurones dans les couches cachées ainsi que la profondeur du réseau. Or, il n existe pas de théorie de l architecture, mais plusieurs techniques empiriques peuvent être utilisées pour déterminer le nombre couches, de neurones et la connectivité d un réseau. Celles-ci sont basées sur deux idées simples - commencer petit et grandir ou démarrer grand puis réduire. Nous retiendrons la première approche. Il est évident qu une couche cachée trop petite ne permet pas au réseau de représenter l essentiel du problème, et produit de mauvaise performance à la fois en apprentissage et en généralisation. Par ailleurs, une couche cachée trop grande produit un effet de saturation le réseau apprend son corpus par cœur améliorant son apprentissage au dépend de la généralisation. La technique consiste alors à augmenter progressivement le nombre des neurones jusqu au moment où l erreur de généralisation commence à croître. Si le corpus d apprentissage est suffisamment grand, on peut éviter la saturation en augmentant le nombre des couches cachées Choix du paramétrage et apprentissage Le corpus d apprentissage et l architecture du réseau étant choisi il reste à déterminer les paramètres qui régissent le comportement du réseau. Pour les PCM il s agit de : a. la fonction d activation des neurones b. la fonction d erreur (ici, l erreur quadratique) c. le pas de l apprentissage d. le domaine d initialisation de poids En ce qui concerne la fonction d activation, c est la tangente hyperbolique tanh(ax) qui a été retenue. Cette fonction dispose d un paramètre supplémentaire qui permet d influencer la pente de la sigmoïde. L'intérêt de cette modification est d augmenter la plage de réponse du neurone. En effet, pour une valeur du paramètre inférieure à 1 (ie. a=0.8 pour l application NeuroTrax), on augmente la plage de réponse du neurone en allongeant la zone quasi-linéaire de la fonction d activation

11 FIG 2.1 Activité du neurone par en fonction de sa fonction d activation tanh(ax) Par ailleurs cela permet de contrecarrer la saturation des neurones malgré un grand pas d apprentissage ou des poids synaptiques élevés. La rétropropagation est une technique de descente de gradient et doit donc converger vers une solution. Cependant cette constatation repose sur l hypothèse que la descente sur la surface d erreur soit continue. En pratique, la rétropropagation procède par sauts discrets dont la taille est réglée par un paramètre : le pas d apprentissage. Trop petit, il rallonge inutilement le temps de traitement en forçant le réseau à procéder par petit pas. Trop grand il empêche le réseau de se stabiliser sur un choix de pas unique. La règle intuitive consiste à amorcer le réseau avec un pas plus grand (ie. pas = 0.25) puis de le diminuer au fur et à mesure que l apprentissage progresse. Cette solution qui permet au réseau de former rapidement une solution approximative puis de l affiner lorsque le pas devient petit, est appliquée dans les traitements Neuro- Trax. Enfin pour éviter les risques de saturation de la fonction sigmoïde (valeur proche de 1 ou de 1), l initialisation des poids synaptiques se fait sur des plus petites valeurs. Le domaine par défaut de NeuroTrax est de [-0.8,0.8]. L algorithme génétique de sélection des poids peut cependant modifier cet intervalle Validation de l approche Alors que les tests concernent la vérification des performances d'un réseau de neurones hors échantillon et sa capacité de généralisation (extrapolation), la validation est utilisée lors de l'apprentissage même (interpolation). En effet, une erreur maximale est fixée au RN et si cette erreur est dépassée, le modèle est rejeté. Généralement, s ensuit une réinitialisation des poids puis un autre apprentissage. Les rejets de ce type se produisent toutefois très rarement compte tenu du grand nombre d itérations et de la qualité de l algorithme de rétropropagation. Une fois le réseau entraîné, il faut toujours procéder à des tests afin de vérifier que le réseau réagit correctement. Dans notre cas tester le modèle revient à confronter les prévisions à la réalité boursière de façon journalière. Il s agit en fait, sur les 5 couches actives calculées, de déceler celle qui prédit le mieux au cours effectifs. Il se peut que se soit en réalité une combinaison linéaire des différentes couches qui donne la meilleure prévision

12 2.2 L application NeuroTrax NeuroTrax est le nom de notre application de modélisation par réseaux de neurones. Cette application a pour but de suivre et prédire l'évolution des cours de bourse. Comme données d entrée, NeuroTrax utilise exclusivement les cours historiques des sociétés du CAC40. En partant du principe que la meilleure information sur la valeur d un cours au jour J est la valeur de ce cours au jour J-1, nous ne faisons de prédiction que du jour au lendemain. Le soir, les réseaux sont entraînés pour donner leurs prédictions des cours de clôture du jour suivant Justification méthodologique Une des faiblesses des PMC est leur absence de mémoire contextuelle. En effet, l activation au temps t ne gardant aucune trace de l activation de temps t-1, ces réseaux ne peuvent tenir compte dans leur calcul que de ce qui leur est présente en entrée. La solution la plus évidente est de présenter au réseau toute l information dont il a besoin. Cette technique est connue sous le nom de fenêtre temporelle et consiste à glisser une fenêtre sur le signal d entrée. Toutes les entrées comprises dans la fenêtre sont alors fournies au réseau. Les entrées ou vecteurs input de ce réseau sont donc les cours de bourse des jours précédents, pris aux dates t-1,.t-21 Les couples entrée/cible sont donc type : Vinput(t 2) Vinput(t 3) Vinput(t i) Vinput(t f + 1) Cible(t 1) Vinput(t 3) Vinput(t 4) Vinput(t i) Vinput(t f + 2) Cible(t 2) Vinput(t 4) Vinput(t 5) Vinput(t i) Vinput(t f + 3) Cible(t 3) Vinput(t (n + 2)) Vinput(t (n + 3)) Vinput(t (n + i)) Vinput(t (n + f + 1)) Cible(t (n + 1) où f représente la taille de la fenêtre temporelle (en l occurrence celle-ci est de 20). Dans le cadre de cette phase, les données utilisées doivent être normalisées afin d'améliorer la stabilité du réseau neuromimétique et accroître au maximum l efficacité de la fonction d activation. Nous utilisons un historique de 120 jours pour chaque titre. Pour permettre au RN de réduire l erreur de sortie au maximum 20,000 itérations sont prévues. Concrètement, le réseau doit prévoir les cours successifs en sortie de toutes les valeurs du CAC40 et ce pour tout les jours, depuis le premier (t-120-f), jusqu au dernier jour de l échantillon d apprentissage (t-1). A partir de cette prévision, l'erreur totale est calculée et l'algorithme de rétropropagation du gradient d'erreur ajuste les forces des connexions entre les unités neuronales. Ce processus itératif est répété jusqu'à ce que l erreur totale d interpolation passe sous un seuil acceptable (ie. Se = 0.005) préalablement défini. Une fois ce seuil atteint l apprentissage est fini, les poids sont fixés, et l on peut exploiter le réseau neuronal pour prévoir, par généralisation, les cours du jour suivant. Comme vu précédemment, NeuroTrax est un RN dit à apprentissage permanent. On recommence donc la procédure d entraînement du RN tout les jours (en réalité toutes les nuits). Cette technique permet au réseau de conserver un comportement adapté malgré les fluctuations journalières. Ainsi l interpolation du passé reste quasi-parfaite (jusqu'à t-1) et autorise une bonne extrapolation de l avenir (à partir de t)

13 2.2.2 Choix de l architecture optimale La sélection des architectures neuronales consiste à construire et tester différentes architectures et à choisir les mieux adaptées au problème à traiter. Les critères de sélection se basent généralement sur une mesure de l'erreur d extrapolation commise par le réseau neuronal. A l issue de nombreux tests, nous avons retenus 5 architectures génériques. Celles-ci peuvent toutefois être reconfigurées ultérieurement. Il s agit principalement d une sélection de nombre de couches cachées différentes : 1, 2, 3, 4 et 5 avec un nombre de neurones variables dans chaque couche. Ce sont donc en réalité 5 Perceptrons Multicouches allant de 3 à 7 couches qui été retenus. Chacune des couches peut avoir un nombre de neurones variable, sachant que la dernière couche a un neurone unique de sortie le cours Cible, et que la première couche est en réalité la taille de la fenêtre glissante vue précédemment. Celle-ci est alimentée par les cours normalisés (les vecteurs input). La taille de la fenêtre, ainsi que la taille de l échantillon est modulable. Les valeurs par défauts sont de 20 jours pour f et de 120 jours pour la taille de l échantillon (la taille de l échantillon d apprentissage est donc de 100 = 120 f) Les PCM NeuroTrax présentent donc à l apprentissage les nomenclatures suivantes : Nombre de couches Nombre de neurone couche 1 Nombre de neurone couche 2 Nombre de neurone couche 3 Nombre de neurone couche 4 Nombre neurone couche 5 de Nombre de neurone couche 6 Nombre de neurone couche Un certain nombre d autres éléments du réseau peuvent être paramétré comme : le pas de l apprentissage, le seuil de l erreur Se, la pente de la fonction d activation, le nombre d itération, etc. En temps normal, les valeurs par défaut du système sont ajustées pour correspondre aux types de traitements à effectuer Fonctionnement du système NeuroTrax Pour saisir le principe de fonctionnement d un algorithme neuromimétique de type Perceptron Multicouche, une étude détaillée avec des exemples chiffrés est attachée en Annexe. La rétropropagation y est explicitement présentée : l activation, le feed-forward, la descente de gradient d erreur, les dérivées des fonctions d activation, le protocole d ajustement des poids etc. Les 5 PCM sont entraînés parallèlement toutes les nuits et leurs résultats sont consolidés au niveau du serveur central tôt dans la matinée. Les projections de NeuroTrax sont disponibles dès 7.30 du matin (avant l ouverture

14 de la bourse). NeuroTrax est utilisé sur tous les cours du CAC40 et propose, quotidiennement, sur Internet ses prévisions du jour issues des traitements neuromimétiques de la veille Interface de calcul NeuroTrax Ci-dessous, l écran de calcul principal de NeuroTrax : La fenêtre glissante apparaît très nettement avec les diagonales caractéristiques. On distingue les 3 dernières colonnes avec les valeurs cibles, les valeurs calculée par le RN et les différences (<0.002) sur chaque jour. On peut aussi constater que la somme totale des erreurs sur 100 jours ne présente qu un écart de En temps normal, l utilisateur n accède pas à cet écran

15 Chapitre 3 Résultat et exploitation Le système synthétise et rend exploitable par l utilisateur tout les résultats des traitements. L exploitation peut se faire sous forme graphique : Ces graphiques sont aussi accessibles depuis Internet sur Interprétation graphique

16 Prévision CA pour le 28/02/2008 sur base d apprentissage du 27/02/2008 Prévision : Réalisation : Prévision EDF pour le 28/02/2008 sur base d apprentissage du 27/02/2008 Prévision : Réalisation :

17 3.2 Interprétation numérique Name Low Lower Band Under Prevision Pivot Over Upper Band High 28/02/2008 ACCOR AIRFRANCE AIRLIQUIDE ALCATEL ALSTOM ARCELOR AXA BNP BOUYGUES CA CAPGEMINI CARREFOUR DANONE DEXIA EADS EDF ESSILOR GDF LAFARGE LAGARDERE LVMH MICHELIN OREAL PERNOD PEUGEOT PINAULT RENAULT SAINT-GOBAIN SANOFI SCHNEIDER SOCGEN STM SUEZ TELECOM TOTAL UNIBAIL VALLOUREC VEOLIA VINCI VIVENDI % On constate que 92.5 % des cours du CAC40 se trouvent dans la bande prévue. L erreur commise moyenne est de 2.44% et la largueur moyenne des bandes est de 8.48% de la valeur du titre

18 Chapitre 4 Autres développements 4.1 Réseau avec 2 neurones de sortie Dans le souci d obtenir des bandes de prédictions les plus étroites possibles, nous avons développé des Perceptrons Multicouches avec 2 sorties neuronales où le couple [cible, input] n est plus : Vinput(t 2) Vinput(t 3) Vinput(t i) Vinput(t f + 1) Cible(t 1) Il devient : Vinput(t 2) Vinput(t 3) Vinput(t i) Vinput(t f + 1) Cible(t 1max, t 1min) Nous obtenons donc en sortie un vecteur Cible avec une composante correspondant à la borne haute de l intervalle de fluctuation et une autre composante correspondant à la borne basse. Ces 2 composantes se retrouvent sur la nouvelle interface de calcul ci-dessous :

19 4.1.1 Interprétation graphique Prévision BNP pour le 24/07/2008 sur base d apprentissage du 23/07/2008 Prévision borne haute : Prévision borne basse : Réalisation : Prévision CA pour le 24/07/2008 sur base d apprentissage du 23/07/2008 Prévision borne haute : Prévision borne basse : Réalisation :

20 4.1.2 Interprétation numérique Name Low Lower Band Under Prevision Pivot Over Upper Band High 25/07/2008 ACCOR AIRFRANCE AIRLIQUIDE ALCATEL ALSTOM ARCELOR AXA BNP BOUYGUES CA CAPGEMINI CARREFOUR DANONE DEXIA EADS EDF ESSILOR GDF LAFARGE LAGARDERE LVMH MICHELIN OREAL PERNOD PEUGEOT PINAULT RENAULT SAINT- GOBAIN SANOFI SCHNEIDER SOCGEN STM SUEZ TELECOM TOTAL UNIBAIL VALLOUREC VEOLIA VINCI VIVENDI % On constate qu il y a toujours 37 cours prédits dans les bandes. Cependant, l erreur moyenne n est plus que de 1.3% et la largeur moyenne des bandes est tombée à 7.79% de la valeur du titre

21 4.2 Les indicateurs Dans notre application, nous n utilisons pas des indicateurs qui sont tous finalement des combinaisons ou des fonctions plus ou moins complexes des cours. Dans une logique de développement toujours plus poussée, nous avons envisagé d utiliser des paramètres de ce type comme données d entrée au système. Nous avons constate que : - les indicateurs techniques, utilisés seuls, sont rarement efficaces - les conditions de marché, haussier, baissier ou stable, ont une influence sur le type d'indicateurs à privilégier - la combinaison d'indicateurs de l'analyse technique serait une solution permettant d'optimiser l'efficacité opérationnelle de ceux-ci Nous supposons que : - les réseaux neuromimétiques permettent de trouver des liens entre indicateurs de l'analyse technique, en privilégiant certains au détriment d'autres, selon les configurations de marchés. - l utilisation des réseaux neuromimétiques, dans le cadre du trading basé sur des indicateurs de l'analyse technique, offre un avantage non négligeable en terme de nombre d'indicateurs qu'il est possible d'utiliser. En effet, l'analyste technique utilise en général, simultanément, 4 ou 5 indicateurs lors de ses analyses. Dans notre travail, et avec notre outil, nous avons la possibilité d en utiliser facilement une dizaine. Il a donc fallu changer les vecteurs d entrée : les inputs de ce nouveau réseau seraient les cours de bourse pris aux dates t-1 et ainsi que les indicateurs de l'analyse technique suivants : 1. SMA (3,10) (Simple Moving Average), les moyennes mobiles d'ordres 3 et RSI 5, RSI 9 (Relative Strength Index), le rapport de force existant entre acheteurs et vendeurs au moment de la clôture 3. ROC (Rate Of Change), l accélération des tendances du marchée 4. %K 9, %D 3 (Indicateurs Stochastiques), le niveau de clôture en fonction du cours le plus haut et du plus bas dans un intervalle de 9 jours 5. CCI 14, CCI 20 (Commodity Channel Index), le pourcentage d écart entre cours actuels et cours moyen 6. MACD (3,10) (Moving Average Convergence Divergence), la différence entre la moyenne mobile exponentielle à court terme (3 jours) et à long terme (10 jours) La matrice d apprentissage devient alors : Vinput(t 2) Vinput(t 3) Vinput(t i) Vinput(t f + 1) Cible(t 1) Vinput(t 3) Vinput(t 4) Vinput(t i) Vinput(t f + 2) Cible(t 2) SMA (3,10) (t 2) SMA (3,10) (t 3) SMA (3,10) (t i) SMA (3,10) (t f + 1) SMA (3,10) (t 1) MACD (3,10) (t 2) MACD (3,10) (t 3) MACD (3,10) (t i) MACD (3,10) (t f + 1) MACD (3,10) (t 1) Afin de calculer l ensemble des indicateurs à partir de l historique de valeurs du CAC40, un module complémentaire d analyse technique a été ajouté à l application NeuroTrax. Ce module permet dans un premier temps de mettre à jour et éventuellement d afficher les différents indicateurs utiles pour une analyse classique. Dans un second temps, le module utilise ces indicateurs comme des données d apprentissage dans un réseau neuronal disposant d un nombre de couche cachée spécifique à ce type de traitement. Ci-dessous, l interface graphique utilisée pour l analyse technique avec quelques indicateurs en guise d illustration (une description plus détaillée des indicateurs est faite en complément de ce document) :

22 Pour l instant, seulement 12 vecteurs d entrée sont utilisés dans l apprentissage du réseau de neurone. Les premiers résultats encourageants nous ont poussés à tester de nouvelles combinaisons d indicateurs qui sont toujours en phase de développement. 4.3 Réduction des classes de traitement On pourrait enfin envisager de restreindre l information sur la variation de cours à 3 états : - 1 baisse 0 stable (avec un seuil s de stabilité par exemple s=+/-0.5% pour éviter les micro variations) +1 hausse Il suffirait de changer les vecteurs d entrée, ainsi les inputs deviendraient: Cible(t 1) au lieu de Vinput(t 2) Vinput(t 3) Vinput(t i) Vinput(t f + 1) Cible(t 1) L information de sortie serait donc également de type : -1, 0,1-1 indiquant une baisse du cours d'amplitude supérieure au seuil de variation. 0 indiquant un état quasi-stable (amplitude de variation inférieure au seuil) +1 indiquant une hausse d'amplitude supérieure au seuil

23 La prévision du mouvement d un titre se bornerait donc à dire dans quel sens le cours du titre va évoluer au moment t (le jour de l analyse): baisse si le résultat appartient à l intervalle [-1,-e] stable si le résultat appartient à l intervalle ]-e,e[ hausse si le résultat appartient à l intervalle [e,1] avec e le seuil de signification (ie. e = 0.25). On rappelle que nous avons les prévisions des résultats du jour J à 7:30 (avant l ouverture de la bourse), on prédit donc l évolution de chaque cour du CAC40 à la hausse, à la baisse ou stable pendant la journée J qui suit la nuit (J-1) du traitement neuromimétique. En récapitulant les couples (vecteurs entrée, vecteurs sortie) dans un tableau, On remarque qu il s agit en réalité d une modélisation algorithmique de l Analyse Graphique. Variation de cours sur 20 jours (f = 20) -1,+1,-1,+1,-1,+1,-1,-1,-1,+1,+1,0,0,0,+1,-1,0,+1,+1,-1 0,+1,0,0,-1,0,+1,0,+1,0,-1,0,-1,0,0,1,0,0,-1,-1 alerte vente Prédiction 1-1 0,0,-1,-1,0,+1,+1,0,0,0,-1,+1,-1,-1,-1,-1,-1,0,-1,+1,0 +1 0,-1,0,0,+1,0,-1,0,-1,0,+1,0,+1,0,0,-1,0,0,+1,+1 alerte achat +1-1,+1,0,-1,0,+1,+1,-1,-1,+1,0,0,-1,0,-1,0,0,-1,0,0-1 -1,+1,-1,-1,-1,+1,+1,0,0,0,+1,-1,0,+1,+1,-1,+1,+1,0, ,0,0,-1,-1,+1,-1,-1,0,+1,+1,+1,0,-1,+1,0,+1,0,0,0-1 0,+1,-1,0,+1,+1,-1,+1,+1,0,0,-1,-1,0,+1,+1,0,0,-1, ,-1,+1,+1,0,0,0,+1,-1,0,+1,+1,-1,+1,+1,0,0,-1,-1,0-1 -1,+1,+1,0,0,0,0,0,+1,0,+1,+1,0,+1,0,0,+1,+1,-1,-1 0 0,0,+1,-1,-1,0,0,+1,0,0,+1,+1,+1,-1,-1,-1,+1,+1,+1, Ce type d application pourrait donc tenter de formaliser certaines figures de l'analyse technique. Cette dernière manque de structure (pas de langage, pas de règles) et fait trop souvent appel à la seule imagination des traders. Elle ne peut être aujourd'hui reconnue comme une véritable science. Ce domaine, qui n'obéit à aucune loi mathématique, est cependant largement exploité par de nombreux professionnels. L'analyse technique est très

24 controversée. Néanmoins, cette technique s'est très répandue au cours des dernières années. Quel est l'investisseur qui, à défaut de mieux, n'y a pas eu recours? Les figures exploitées par l'analyse technique sont bien souvent difficiles à interpréter. Toutefois, il existe des configurations " classiques " qui sont désormais largement reconnues comme étant des vraies situations d'alerte. Ainsi par exemple : La formation en tête et épaules à l'endroit donne un signal de forte baisse du marché. La formation en tête et épaules inversées donne d'un signal de forte hausse du marché. Une possibilité alternative de structuration pourrait donc être obtenue par utilisation des RN. En effet, ces derniers permettent de saisir de manière globale et méthodique les mouvements du marché. Cette approche cohérente pourrait à terme venir compléter et renforcer méthodologiquement l analyse graphique. Ainsi, en développant ce dernier modèle à 3 états (hausse, stabilité, baisse) on pourrait introduire l idée de la force de la variation. En procédant de cette manière, à partir tableau ci-dessous :

25 Variation de cours sur 20 jours (f = 20) Prédiction 0,+1,0,0,-1,0,+1,0,+1,0,-1,0,-1,0,0,1,0,0,-1,-1 alerte vente -1 0,-1,0,0,+1,0,-1,0,-1,0,+1,0,+1,0,0,-1,0,0,+1,+1 alerte achat +1 On obtiendrait par pondération : Variation de cours sur 20 jours (f = 20) Prédiction 0,+1,0,0,-1,0,+2,0,+3,0,-4,0,-2,0,0,1,0,0,-2,-3 alerte vente -2 0,-1,0,0,+1,0,-2,0,-3,0,+4,0,+2,0,0,-1,0,0,+2,+3 alerte achat +2 Les facteurs 2,3 ou 4 indiqueraient la force de la hausse (ou de la baisse). Sur les graphiques, cela correspondrait aux pentes des courbes, signe positif pour la hausse, négatif pour la baisse. Les prédictions seraient donc également enrichies de ce facteur de force : - 4 serait la prédiction d une forte baisse, +1 celle d une légère hausse (dépassant le seuil de stabilité). Bien entendu, les perspectives sont très nombreuses, mais nous espérons que certaines de ces voies proposées susciteront un intérêt suffisant pour permettre d'entreprendre un travail plus conséquent

26 Conclusion Les réseaux formels sont d excellents approximateurs universels. Cette caractéristique leur permet de fournir une très bonne estimation de la sortie d un système pour un ensemble de valeurs d entrée. Les approximateurs conventionnels sont généralement basées soit sur un modèle mathématique soit sur un modèle statistique. La modélisation mathématique d un système peut conduire à des modèles très complexes, qui, outre la difficulté de leur élaboration, pose des problèmes d exploitation. L implémentation s avère souvent trop coûteuse en temps de calcul, particulièrement dissuasive dans le cas d application en temps réel (comme celle qui nous intéresse). Par ailleurs, les modèles statistiques deviennent inexploitables à partir du moment où les données en entrée sont entachées de bruit. Ainsi les performances de ce type d approximateurs se dégradent rapidement alors qu elles sont généralement correctes pour des données non bruitées. De plus, il n est pas toujours possible d avoir suffisamment d informations exploitables pour une application statistique et il arrive qu aucun modèle mathématique, basé sur des équations, ne puisse convenir. Dans ce cas, les méthodes non conventionnelles, fondées sur une manipulation des données numériques expérimentales doivent être envisagées. Les systèmes neuromimétiques en introduisant des éléments de la logique floue et intégrant l analyse multidimensionnelle des données, fournissent des solutions très intéressantes. On constate à quel point ces systèmes, correctement configurés, non seulement collent parfaitement à la réalité des observations, mais s avèrent aussi performants au niveau des prévisions. Ces approximateurs produisent d excellentes interpolations et donnent de très bonnes extrapolations. Le développement de ces outils ouvre de nouvelles perspectives là où les procédures analytiques conventionnelles ont montré leurs limites. Donc les réseaux de neurones artificiels, constituent une alternative prometteuse à l élaboration de modèle exploitable pour des systèmes réels quand les méthodes classiques ne sont pas envisageables. Ces puissants outils d analyse et d interprétation des données, capables de s adapter automatiquement sont appelés à jouer un rôle de tout premier plan dans les développements futurs de l informatique

27 Annexe Étape 1 : Initialisation du réseau On initialise les poids par l algorithme de sélection génétique décrit ci-dessous. Il est recommandé d utiliser ce type d initialisation à la place d une distribution purement aléatoire de poids. En effet, des poids aléatoires n assurent pas a priori une convergence vers un minima global à la suite de la correction par retropropagation. L utilisation de cet algorithme limite les risques de surapprentissage par le contrôle de la vitesse de convergence. Il permet tout particulièrement, d éviter la convergence des poids vers un minimum local. 1. Génération d une liste X i(t=0) de p nombres aléatoires par l algorithme du Twister Mersenne (avec p nombre de poids) dans (t=0) 2. Chaque paire de X i(t=0) génèrent une autre paire dans selon l algorithme probabiliste suivant : - Le couple X i(t=0) / X i+1(t=0) génère X i(t=1) = X i(t=0) dans 60% des cas - Le couple X i(t=0) / X i+1(t=0) génère X i(t=1) choisit aléatoirement dans l intervalle [X i(t=0), X i+1(t=0) ] sinon 3. Comparaison des erreurs sur l ensemble des données avant apprentissage en sortie des Perceptrons entre (t=0) et 4. Sélection du meilleur ensemble qui deviendra dans (t=1) selon l algorithme probabiliste suivant : - X i(t=1) est envoyé directement dans (t=1) dans 40% des cas - X i(t=1) mute vers l état X i(t=1) = X i(t=1) + λ * U (avec λ, pas de mutation et U variable aléatoire de loi uniforme dans [-1,1] sinon 5. Ainsi de suite jusqu'à la 50eme génération (t=50) FIG 1. Algorithme de sélection génétique des poids dans un RN FIG 1. Initialisation du réseau

28 Étape 2 : Propagation avant P k = j w jk x j avec P k activité du neurone k w jk poids entre la neurone j et le neurone k x j signal du neurone j Soit : P a = * * * * * * = P b = * * * * * * = P c = * * * * * * = P d = * * * * * * = Chaque neurone de la couche cachée calcule ensuite son signal. On utilisera ici la tangente hyperbolique de paramètre F c le facteur de courbure (ie. F c = 0.8). Soit : S a = e (F c Pa ) e (F c Pa ) = tanh(f e (F c Pa ) + e (F c Pa ) c P a ) = tanh( ) = S b = e (F c P b ) e (Fc P b ) e (F c P b ) + e (Fc P b ) = tanh(f c P b ) = tanh( ) = S c = e (F c Pc ) e (F c Pc ) = tanh(f e (F c Pc ) + e (F c Pc ) c P c ) = tanh( ) = S d = e (F c P d ) e (Fc P d ) e (F c P d ) + e (Fc P d ) = tanh(f c P d ) = tanh( ) = FIG 3. Propagation avant [1]

29 On propage ensuite les résultats de la couche cachée vers la couche de sortie. On calcule d'abord le potentiel du neurone de sortie, soit: P y = * * * * * = On calcul enfin le signal du neurone de sortie Y, soit: S y = e (F c Py ) e (Fc Py ) e (F c Py ) + e (Fc Py ) = tanh(f c P y ) = tanh( ) = FIG 2. Propagation avant [2] Étape 3 : Calcul de l erreur On calcule maintenant l'erreur totale afin de se prononcer sur la convergence du réseau, soit pour le neurone de sortie Y : e = 1 (Résultat désiré Résultat calculé)2 2 e = 1 2 ( ( ))2 = Si l'erreur quadratique est jugée suffisamment faible, on considère que l'apprentissage est terminé

30 Étape 4 : Calcul du signal d erreur sur la couche de sortie Si le réseau n'a pas convergé, il est nécessaire de calculer le signal d'erreur sur chacun des neurones de la couche de sortie. On rappelle que le signal d erreur sur la couche de sortie est donnée par : δy = (Résultat désiré Résultat calculé) tanh(f c P y ) Soit : δy = ( ( )) (1 tanh(f c Act y ) 2 ) δy = (0.2835) (1 ( ) 2 ) δy = FIG 4. Signal d erreur sur la couche de sortie On ne peut pas calculer immédiatement les corrections des poids synaptiques entre la couche cachée et la couche de sortie. On a en effet besoin des poids initiaux pour rétropropager l'erreur de la sortie sur les neurones de la couche cachée

31 Étape 5 : Calcul du signal d erreur sur les couches cachées On calcule les signaux d'erreur sur chacun des neurones de la couche cachée, soit pour un neurone j de la couche cachée : δj = tanh(f c P j ) w jy δy avec w jy le poids entre le neurone j et le neurone de sortie y Soit dans notre cas : Pour le neurone A, δa = tanh(f c P a ) w ay δy δa = (1 tanh(f c P a ) 2 ) w ay δy δa = (1 ( 0,12422) 2 ) δa = Pour le neurone B, δb = tanh(f c P b ) w by δy δb = (1 tanh(f c P b ) 2 ) w by δy δb = (1 ( 0,14249) 2 ) δb = Pour le neurone C, δc = tanh(f c P c ) w cy δy δc = (1 tanh(f c P c ) 2 ) w cy δy δc = (1 ( 0,25076) 2 ) δc = Pour le neurone D, δd = tanh(f c P d ) w dy δy δd = (1 tanh(f c P d ) 2 ) w dy δy δd = (1 ( 0,15208) 2 ) δd =

32 FIG 5. Calcul du signal d'erreur sur la couche cachée Étape 6 : Correction des poids synaptiques de la couche de sortie La correction utilise les fonctions suivantes pour tous les poids j du neurone de sortie y : w jy (t + 1) = w jy (t) + w jy w jy = η δy S j avec S j signal de sortie du neurone précédant Soit avec η = 1, Pour le poids entre le neurone A et le neurone de sortie Y : w ay (t + 1) = w ay (t) + δy S a w ay (t + 1) = ( ) w ay (t + 1) =

33 Pour le poids entre le neurone B et le neurone de sortie Y : w by (t + 1) = w by (t) + δy S b w by (t + 1) = ( ) w by (t + 1) = Pour le poids entre le neurone C et le neurone de sortie Y : w cy (t + 1) = w cy (t) + δy S c w cy (t + 1) = ( ) w cy (t + 1) = Pour le poids entre le neurone D et le neurone de sortie Y : w dy (t + 1) = w dy (t) + δy S d w dy (t + 1) = ( ) w dy (t + 1) = Pour le poids entre le biais et le neurone de sortie Y : w biaisy (t + 1) = w biaisy (t) + δy S y w biaisy (t + 1) = ( ) w biaisy (t + 1) = FIG 6. Correction des poids synaptiques du neurone de sortie