Les bonnes pratiques. de l hébergement d un CMS

Transcription

1 Les bonnes pratiques de l hébergement d un CMS

2 Welcome Sébastien Responsable avant-vente Designer d infra Nicolas Directeur Technique Médiapart

3 Oxalide & les CMS le vôtre

4 Le Projet Médiapart Présentation métier Volumétrie Objectifs Challenges & difficultés Taille de la Team Médiapart & Drupal Historique Version : Drupal 6 non pressflow

5 Les spécificités du projet Web Trafic très variable, Cycle de développement très court, Presse Outil de travail de la rédaction, Pics d actualité non anticipable, Médiapart Forte activité connecté, Un e-commerçant d un produit dématérialisé, Drupal Riche fonctionnellement, Travail permanent sur la performance.

6 Critères pour bien dimensionner son infrastructure Volumétrie & répartition du trafic Performance & indicateurs Pré-requis de disponibilité (SLA) Différentes catégories de service Provenance des visiteurs/utilisateurs : FR

7 3 silos Public Rédaction Pré-production FORTE charge FORTE Variation FORTE disponibilité FAIBLE Charge FAIBLE Variation FORTE Disponibilité FAIBLE Charge ZERO Variation FAIBLE Disponibilité Silo: -Multicouches -N-Frontal -Actif-Actif multisites -Haute disponibilité Silo : -Mono Frontal -Isolé -Mono site Silo autonome

8 Infrastructure Site A PA-2 backoffice preprod ACTIF LVS backend Répartition de charge Cache Front Back Site B PA-3 ACTIF LVS backend

9

10 Répartition de charge & HA Répartition de charge de layer 3 vers les serveurs Varnish, vers les services internes Actif/Actif (MySQL Slaves) Répartition de charge layer 7 Varnish vers les frontaux Drupal Réplication Master/Master MySQL Vip + HeartBeat Haute disponibilité des services Back (SolR&memcache) Heartbeat + réplication native master/slave (SolR) + Switch de redémarrage sur la conf Memcache vide

11 Segmenter vos règles de caching Varnish Règles générales Fréquence de modification faible Apache Règles un peu plus fines Fréquence de modification épisodique Mise en cache systématique avec une rétention importante pour vos médias ou pages statiques (images, js, css, 404, etc.) Supprimer les cookies «inutiles» (Analytics) & Lazy session (<7) Surcharger les headers «cache-control» depuis votre conf ou.htaccess pour certaines rubriques publiques «one-to-all» de votre site (max-age=x, public private) Applicatif cache-control Règles fines Modification en «temps réel» Piloter directement depuis l applicatif (code ou backend)

12 Varnish Implémenter des stratégies «métiers» de caching Cache anonyme : la version du site publique sans auth Cache par groupe & rôle Cache par user ESI pour déterminer les blocs cachables et accessibles

13 Varnish Implémenter des stratégies «métiers» de caching sub vcl_recv [...] # Test d'exclusion du cache (pass = "pas de cache", lookup="accès au cache") if (req.http.cookie) # Test sur l'url pour déterminer si il s'agit d'une page avec des tags ESI ou un appel ESI directement if (req.url ~ "^/esi/get" req.url ~ "^/$" req.url ~ "^/whatever/(a b c)/") # Extraction de la stratégie de cache depuis les variables GET de l'url if (req.url ~ "^.*&cache=[^&]+$") # assignation de la strategie de cache a un en-tete HTTP (trick varnish pour créer des variables) set req.http.x_cache_mode = regsub(req.url, "^.*&cache=([^&]+).*$", "\1"); else return (pass) # assignation de l'id de session (extrait du cookie) à un en-tete HTTP. set req.http.x_sess_cookie = "session-" + regsub(req.http.cookie, "^.*?SESS[0-9a-zA-Z]32=([^;]*);*.*$", "\1\2"); # C embarqué pour gérer le retour d'erreur de la fonction Vmod_Func_memcached.get # On verifie ici si une session actuellement valide correspond l'id extrait du cookie. # Pour cela on utilise le vmod memcached de varnish. C if (Vmod_Func_memcached.get(sp, &vmod_priv_memcached, VRT_GetHdr(sp, HDR_REQ, "\016X_SESS_COOKIE:")) == NULL) /*Création d'un en-tete HTTP pour positioner un flag en cas de session invalide*/ VRT_SetHdr(sp, HDR_REQ, "\015X_SESS_VALID:", "Not Found", vrt_magic_string_end); C # exclusion du cache en cas de session invalide if (req.http.x_sess_valid ~ "^Not Found$") return (pass); return (lookup)

14 Varnish Implémenter des stratégies «métiers» de caching sub vcl_hash # Si la requête est acheminée ici, alors la présence du cookie autorisé l'accès au cache authentifié. if (req.http.cookie) hash_data("authenticated"); # Extraction de la strategie de cache depuis le en-tête http créé précédemment if (req.http.x_cache_mode) # Stratégie de cache au niveau "user". # on hash donc la ressource sur le nom du user extrait du cookie. if (req.http.x_cache_mode == "user") if (req.http.cookie ~ "user=") set req.http.x-cache-user = regsub( req.http.cookie, "^.*?user=([^;]*);*.*$", "\1\2" ); hash_data(req.http.x-cache-user); # Stratégie de cache au niveau "rôles" # on hash donc la ressource sur le nom # du group (un groupe étant commun à plusieurs utilisateur) if (req.http.x_cache_mode == "roles") if (req.http.cookie ~ "roles=") set req.http.x-cache-roles = regsub( req.http.cookie, "^.*?roles=([^;]*);*.*$", "\1\2" ); hash_data(req.http.x-cache-roles); [...]

15 Memcache Affiner la stratégie de caching applicatif Une instance par type de Front DRUPAL MC HTML actif MC Data actif BackEnd MC Data actif MC Session passif MC Lock actif Front DRUPAL MC HTML actif MC Data actif BackEnd MC Session actif MC Data passif MC Lock passif données, Flush partiel vs flush global 3 containers pour Médiapart : HTML, Data diverse, Session. possible d aller plus loin (pages, vues, blocs, menus, filtres, etc.) Bien choisir la place dans l infrastructure (local vs remote) Warning sur la charge réseau

16 Optimiser : Le cas Drupal Utiliser l API! Attention à l abus de modules Dans les modules custom : penser cache. Compilation des assets css et js minifiés (agrégation et compression) Développer en E_STRICT DBlog en pré-production, syslog en production Pas de requêtes dans les thèmes

17 PHP & memcache Optimiser l environnement d exécution Apache : KeepAlive, MaxClients, MaxRequestsPerChild Nginx + FPM : pour la faible empreinte applicative (et + FPM) PHP Web <> PHP CLI Memcache : memory limit Nb de req par sec -> nombre de connexions simultanées -> lié au nombre de FD par user et espace mémoire Nb d'évictions -> ajuster le max memory Optimisation de l utilisation des pages des slabs

18 MySQL Optimiser l environnement d exécution Utiliser innodb pour : rester en transactionnel minimiser les locks, plus de tolérance à la concurrence. innodb tout en RAM (innodb buffer pool size au max) Avec les empreintes MySQL Report & Tuner, on ajuste le nombre de connexions maxi en fonction de la mémoire, Les tables ne sont jamais très grosses Pb sur les tables de commentaires Sharder et/ou partitionner si nécessaire (par année ou par mois) Répartition lecture et faire une partie des lectures dans SolR. Pensez au NoSQL ou indexation pour vos nouveaux modules

19 L indexation Transformer un coût variable en coût fixe SolR pour la recherche : Crawl Solr Piloté par Drupal (check module)

20 Monitorer pour optimiser Check HTTP XHProf : Toutes les «n» requêtes, Sur un max_execution_time Xdebug/Webgrind en mode trigger pour troubleshooter avec un watchdog qui simule une visite via lib curl Pinba (mod PHP et mod nginx => pour faire remonter le monitoring applicatif au niveau du serveur web), Newrelic, Plugin munin Log Watchdog dans mongodb pour les logs

21 Monitorer l environnement Varnish : Hit ratio, Remplissage des différentes instances, etc. Memcache : Sessions, % hits/sec, %req/sec, %evictions/sec; etc. MySQL : Template Percona

22 Chargez! JMeter pour voir si ça tient 1/ Home (anonyme) 2/ Authentification Génération dynamique du form_build_id pour les variables du POST http Utilisation d un pré-processeur beanshell (un composant Jmeter) pour l exécution d un script php avecla logique Drupal pour générer des id de formulaire unique. Extraction des login/password depuis un.csv contenant l ensembles des comptes. 3/ Articles Boucle sur un ensemble d url d article extraites depuis un.csv Affichage de la page1, page2 et des commentaires. Post d un commentaire 4/ Blog Boucle sur un ensemble d url de blog extraite depuis un.csv Post d un billet de blog Parsing du formulaire html pour l extraction d un id de formulaire unique. (via l utilisation d un regexp sur la page html). 5/ Déconnexion

23 Piloter vos déploiements Versionner : CVS/SVN/Git Déployer : Capistrano Drush : Mise à jour du schéma des bases en fonction du modèle, etc. Piloter : Drush & Varnish Warning bcp de choses en base => Coupler Capistrano pour activer Drush : Déploiement de fichiers + commande Drush (versioné dans Scripts shell)

24 Merci des questions?