Groupe SI-LOGISM. Maîtriser la qualité de service : Démarche de métrologie Retour sur nos expériences de mise en œuvre

Transcription

1 Maîtriser la qualité de service : Démarche de métrologie Retour sur nos expériences de mise en œuvre

2 Sommaire! Principes et descrip?on de la démarche! Quelques retours d expérience! Une mise en œuvre type

4 ! L agente du client: Un service personnalisé Un pe?t jeu pour commencer Hot line qui sait Constater une éventuelle anomalie sans que son propre constat soit à priori mis en doute Etablir un diagnos?c précis et rapide Fournisseur qui sait détecter au plus vite une anomalie Une consomma?on excessive d eau est probablement due à une fuite chez le client Un problème qui s est produit chez un client, peut se reproduire chez beaucoup d autres! Le pilotage du fournisseur: Un service global de qualité Suivi de l ac?vité dans son ensemble doit permegre de mesurer cege qualité Dans l exemple du distributeur d eau, la seule métrique du volume global d eau consommé, n est pas suffisante. La métrique des fuites poten?elles doit la compléter Mais le ressen? de chaque client est aussi important 4

5 La métrologie : instrumenter la maîtrise de la qualité de service Modèle d exigences des systèmes critiques, issu du référentiel européen (CEN* Workshop Agreement) : Best Practices for the Design and Development of Critical Information Systems (*) CEN : European Committee for Standardization Comité Européen de Normalisation Europäisches Komitee für Normung Maîtriser la qualité de service : Démarche de métrologie - Retour sur nos expériences de mise en œuvre 5

6 Un constat très fréquent... sur les applica?ons en produc?on! Vision globale des applica?ons limitée Peu de métriques de qualité de service Aucun moyen d'iden?fier le composant présentant un problème! Norme d'exploitabilité (quasi) inexistante L'applica?on est trop "bavarde" quand elle marche, et trop "muege" quand elle ne fonc?onne pas Les (rares) messages d'erreur ne permegent pas de diagnos?quer la cause de l'anomalie ou de la défaillance! Supervision applica?ve inappropriée La remontée d'alerte sur la plateforme de supervision est inexploitable ð Difficulté à établir un diagnos3c ð Exploita3on en mode exclusivement cura3f, impossibilité d éviter (préven3f), encore moins d an3ciper et d améliorer (pro- ac3f) 6

7 ! Améliorer la qualité de service Définir des métriques permegant le suivi de la QoS Calculer et archiver ces métriques Ajouter les moyens de suivre chaque transac?on Objec?fs d'une démarche de métrologie! An?ciper les dégrada?ons de qualité de service Observer les indicateurs Iden?fier les goulots d'étranglement Alimenter le plan de capacité! Perfec?onner la supervision PermeGre une détec?on en "temps réel" des incidents! Offrir des possibilités de diagnos?c Offrir aux équipes de support un accès temps réel aux messages de log détaillés ð Une démarche de suivi global 7

8 Axes de la métrologie Supervision applicative Vision utilisateur Pas d analyse proactive sur tous les composants Absence totale de maîtrise de la QoS Vision utilisateur corrélable avec les ressources physiques Supervision technique Pas de vision utilisateur Supervision technique 8

9 Quelques métriques! La consomma?on en ressources matérielles La mémoire (Par processus?) La CPU (Par processus?) La bande passante réseau (Par port? Par adresse?)! L u?lisa?on d un service/composant applica?f Le temps de réponse (Par fonc?on? Par statut? ) Le nombre d u?lisateurs (Connectés? Ac?fs? Différents par tranche de temps? )! Le nombre d occurrences d un évènement donné Le nombre de retransmissions réseau 9

10 Un exemple de métrique : le temps de service F:1 T30 S:KO F:1 T55 S:OK F:1 T:15 S:OK TempsMoy: 33 Cardinal:3 Min:15 Max: 55 SommeCarrés : 4150 Z : Audience du périmètre TempsMoy: Cardinal: Z Min Max SommeCarrés Serveur: Instance: Fonction: DateDeb: DateFin: Composition STATUS:OK TempsMoy:35 Cardinal: 2 Min: 15 Max : 55 SommeCarrés : 3250 STATUS:KO TempsMoy:: 30 Cardinal:: 1 Min : 30 Max : 30 SommeCarrés : 900 STATUS:OK TempsMoy: Cardinal: X Min Max SommeCarrés STATUS:KO TempsMoy: Cardinal:: Y Min Max SommeCarrés Y/(X+Y) = Taux d erreur du périmètre SERVICE Périmètre: DateDeb: DateFin: 10

11 Défini?on d une métrique! C est une mesure sur un composant matériel ou logiciel, dans un contexte qui en permet la composi?on et l interpréta?on Une moyenne de moyennes n a aucun sens, seul le barycentre a un sens et permet une analyse exacte! Une mesure est souvent un agrégat. Les agrégats doivent être définis de sorte à limiter au maximum la perte d informa?ons Le temps moyen de service par type de transac?on permet de calculer le temps moyen de service global. L inverse est impossible ð Une métrique est représentée par un cube, qui sera décliné sur différents axes en fonc3on de l analyse 11

12 Les principes de la démarche (1/3) Application Middleware Moteur de règles CEP m1 m2 m m1 m t1. m ti M1 M2 12

13 Les principes de la démarche (2/3)! L applica?on dispose de la totale connaissance de ce qui ce passe au niveau unitaire : elle doit le «tracer»! Les informa?ons unitaires doivent comporter un moyen de réconcilia?on entre elles (exemple : savoir ragacher l ensemble des pages vues par un même u?lisateur dans une session de naviga?on)! L applica?on doit normaliser sa ges?on des erreurs (et prévoir la ségréga?on des messages techniques et fonc?onnels)! L applica?on doit séparer le «comment» du «quoi»! Le «quoi» doit être décrit dans les spécifica?ons fonc?onnelles et faire par?e intégrante des tests de recege 13

14 Les principes de la démarche (3/3)! La démarche : La qualité de service se définit, se mesure et surtout se suit MeGre en œuvre ces règles Définir clairement les métriques Exploiter les informa?ons fournies en temps légèrement différé (de l ordre de 5 minutes) afin de fournir les KPI aux différents acteurs et applica?ons (monitoring d infrastructure, sécurité, help desk, MOE, MOA, ) Inscrire le suivi des KPI dans les processus automa?sés ou non (pilotage de produc?on, de sécurité et opéra?onnel) 14

15 Niveaux de maturité du processus de métrologie applica?ve Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Métriques exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Traitement des métriques automatisé. Granularité est assez fine Optimisé Contrôlé Défini Niveau 2 : Logs présentes mais pas exploitées Reproductible Niveau 1 : Pas de logs, ou logs non pertinentes Initial 15

16 Les ac?vités du processus : Support aux u?lisateurs (1/2) Support à l utilisateur Application Middleware Moteur de règles CEP m1 m2 m m1 m t1. m ti M1 M2 16

17 Les ac?vités du processus : Support aux u?lisateurs (2/2) 17

18 Les ac?vités du processus : Supervision (1/2) Application Middleware Moteur de règles CEP m1 m2 m m1 m t1. m ti Supervision Supervision M1 M2 18

19 Les ac?vités du processus : Supervision (2/2) 19

20 Les ac?vités du processus : Capacity management / SLA (1/2) Application Middleware Moteur de règles CEP m1 m2 m m1 m t1. m ti M1 M2 Capacity Management/SLA 20

21 Les ac?vités du processus : Capacity management / SLA (2/2) 21

22 Les ac?vités du processus : Suivi mé?er (1/3) BAM Application Middleware Moteur de règles CEP m1 m2 m m1 m t1. m ti M1 M2 22

23 Les ac?vités du processus : Suivi mé?er (2/3) 23

24 Les ac?vités du processus : Suivi mé?er (3/3) 24

25 Un référen?el de la qualité de service... unique, factuel et partagé, offrant une informa?on personnalisée à chaque acteur Maîtrise de l usage du service Maîtrise des processus métiers SLA Capacity Management Maîtrise d ouvrage Support N1/N2 Production Référentiel de métrologie Support aux utilisateurs Supervision Diagnostic Maîtrise d œuvre Reporting Optimisation et tuning Support N2/N3 Maintenance 25

27 La Banque à Distance d un acteur majeur (1/2) Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Les métriques sont exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. La granularité est assez fine Optimisé Contrôlé Défini Niveau 2 : Logs présentes mais pas exploitées Reproductible Niveau 1 : Pas de logs, ou logs non pertinentes Initial Supervision applicative Vision utilisateur Pas d analyse proactive sur tous les composants Absence totale de maîtrise de la 1 QoS 2 Vision utilisateur corrélable avec les ressources physiques Supervision technique Pas de vision utilisateur 3 1: Premier niveau d instrumentation pour établir un plan d action priorisé, sur l application frontale 2: Mise en œuvre. Instrumentation cible au fur et à mesure des projets techniques et fonctionnels 3: Généralisation à l ensemble du périmètre Supervision technique 27

28 La Banque à Distance d un acteur majeur (2/2) Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Les métriques sont exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. La granularité est assez fine Optimisé Contrôlé Défini Niveau 2 : Logs présentes mais pas exploitées! Situa?on ini?ale Applica?on très instable Mul?plica?on des ressources, et pourtant incapacité à monter en charge Origine des dysfonc?onnements inconnue! Situa?on actuelle Flux mul?pliés par plus de 20 avec moins de ressources et une qualité de service reconnue (temps de réponse, taux d erreurs) Métrologie généralisée à l ensemble du département (chaque?ers, chaque média, chaque segment de clientèle) Analyse du comportement frauduleux «en temps réel» Rétro- ac?on Niveau 1 : Pas de logs, ou logs non pertinentes Reproductible Initial 28

29 «Front to Back» d une grande banque d inves?ssement (1/2) Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Les métriques sont exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. La granularité est assez fine Optimisé Contrôlé Défini Niveau 2 : Logs présentes mais pas exploitées Reproductible Niveau 1 : Pas de logs, ou logs non pertinentes Initial Supervision applicative Vision utilisateur Pas d analyse proactive sur tous les composants Absence totale de maîtrise de la QoS Vision utilisateur corrélable avec les ressources physiques 1 Supervision technique Pas de vision utilisateur 2 1: Construction du référentiel de métriques et d événements unitaires, à partir de l existant 2: Définition et implémentation de «l event». Généralisation à l ensemble du périmètre Supervision technique 29

30 «Front to Back» d une grande banque d inves?ssement (2/2) Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Les métriques sont exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. La granularité est assez fine Optimisé Contrôlé Défini! Situa?on ini?ale Des gigas de logs répar?es sur plusieurs dizaines de serveurs Des transac?ons «qui transitent» par plusieurs serveurs, en fonc?on d un équilibrage de charge technique, complexes à suivre Des inves?ga?ons longues en réac?on à la plainte des u?lisateurs! Situa?on actuelle No?fica?on automa?que du support des anomalies avec déclenchement automa?sé de processus de support Consulta?on centralisée des logs par transac?on Capacity management Repor?ng d ac?vité mé?er (ranking de contrepar?es, ) Niveau 2 : Logs présentes mais pas exploitées Niveau 1 : Pas de logs, ou logs non pertinentes Reproductible Initial 30

31 Une grande bourse (1/2) Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Les métriques sont exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. La granularité est assez fine Optimisé Contrôlé Défini Niveau 2 : Logs présentes mais pas exploitées Reproductible Niveau 1 : Pas de logs, ou logs non pertinentes Initial Supervision applicative Vision utilisateur Pas d analyse proactive sur tous les composants Absence totale de maîtrise de la QoS Vision utilisateur corrélable avec les ressources physiques Supervision technique Pas de vision utilisateur 1 1: Passage du constat au 2 diagnostic. Mise en place de la hiérarchisation des informations avec un accès transparent sur le WAN 2: Corrélation des activités métier et infrastructure Supervision technique 31

32 Une grande bourse (2/2) Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Niveau 4 : Les métriques sont exploitables en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. La granularité est assez fine Optimisé Contrôlé Défini! Situa?on ini?ale Des gigas de logs d une applica?on hyper- sensible qui peuvent la conduire à s arrêter! Situa?on actuelle Niveau 2 : Logs présentes mais pas exploitées Niveau 1 : Pas de logs, ou logs non pertinentes Après plusieurs généra?ons (et fusions de places de bourse), la métrologie est la seule par?e qui est restée La métrologie, par?e la plus visuelle des logiciels de place, sert de démonstrateur Reproductible Initial 32

33 Mise en pra?que dans nos missions "diagnos?cs / recommanda?ons"! Mise en évidence de phénomènes ignorés! Explica?on de phénomènes connus mais dont l origine avait toujours été instruite «au mauvais endroit»! Etablissement de plans d ac?on priorisés et aux gains chiffrés 33

34 Mise en pra?que dans nos missions "diagnos?cs / recommanda?ons" 34

36 Une mise en œuvre type? Niveau 5 : Généralisation à l échelle du SI (socle de métrologie). Lien entre monitoring d infrastructure et métier Optimisé? Niveau 4 : Les métriques sont exploitables Contrôlé en multi-dimensionnel. Corrélations et règles automatisées Niveau 3 : Le traitement des métriques est automatisé. Défini La granularité est assez fine Niveau 2 : Logs présentes mais pas exploitées Reproductible Niveau 1 : Pas de logs, ou logs non pertinentes Initial Supervision applicative Vision utilisateur Pas d analyse proactive sur tous les composants Absence totale de maîtrise de la QoS Vision utilisateur corrélable avec les ressources physiques Supervision technique Pas de vision utilisateur 1: Etude de l existant. 2: Identification de l objectif 3: Définition de la trajectoire 4: Mise en œuvre 5: Généralisation Supervision technique 36

37 1 - Etude de l existant! Iden?fica?on du niveau de maturité suivant : Axe technique : Iden?fier les événements/métriques disponibles dans les applica?ons Iden?fier les configura?ons/paramétrages des middlewares Iden?fier les ou?ls/procédures mis en place sur les infrastructure Axe processus Iden?fier le suivi et les besoins des différents mé?ers : MOA, MOE, Produc?on, Support, Axe stratégie de mise en œuvre Iden?fier le ou les composants candidats à une mise en œuvre ini?ale par rapport à La priorité de mise en œuvre : composant présentant des soucis récurrents La facilité de mise en œuvre : quick win La représenta?vité du composant par rapport au SI! Livrable : Rapport d audit de l état ini?al 37

38 2 - Iden?fica?on de l objec?f! Iden?fica?on du niveau de maturité à ageindre : périmètre du SI à prendre en charge profondeur souhaitée : constat, diagnos?c, analyse tendancielle, Iden?fica?on des mé?ers concernés Iden?fica?on des processus à megre en place : ex escalade! Iden?fica?on des informa?ons à fournir et des processus à megre en œuvre! Livrable : descrip?on du système cible ( technique et organisa?onnelle) 38

39 3 - Défini?on de la trajectoire! Choix du ou des composants à traiter! Défini?on des différents itéra?ons de cege trajectoire 3 chan?ers dis?ncts : applica?ons, middleware, infrastructure 1 chan?er commun : défini?on de l entrepôt de données et des moyens d accès Planifica?on des tâches! Pour chaque métrique : Définir sa capture Iden?fier le modalités de stockage dans l entrepôt! Livrables : Spécifica?ons et Plan projet 39

40 4 - Mise en œuvre! Plusieurs modes de capture : Intrusif : au niveau applica?f Relevé de compteur : middleware et infrastructure (OS, routeur, ) Progiciel spécialisé : OpTier, CorrelSense, Foglight,! Intégra?on de ces captures! Développement et mise en œuvre de l entrepôt et ses modes d accès! Livrable : Guide d u?lisa?on de la métrologie 40

41 5 - Généralisa?on! Définir le planning de généralisa?on! Définir les normes! Définir les rapports type! Définir les points de customisa?on! Mise en œuvre proprement dite pour chaque applica?on! Livrable : Descrip?on des interfaces, des normes, du service associé 41