Comment améliorer les performances avec l'usage mixé d'hébergeurs, et Clouds? Paris Web 2011 Julien Coulon Co-Founder & General Manager @juliencoulon julien@cedexis.com + 33 6 07 13 68 56 Stephane Enten Vice-President, Services @s_enten stephane@cedexis.com +33 603 966 603 @cedexis
Cedexis: Historique : d où viennent nos données Fondée en 2009 par des ex- Akamai, DailymoFon, et Cisco 3 brevets déposés liés à nos technologies 32 employés (USA, France, Qatar, Canada, Thailande) Levée de fonds en Aout 2011 (7 M$) auprès d ATV et Madrona 170+ clients dans les medias, e- Commerce, luxe, gouvernement/ insftufons, automobile, tourisme, social networking, gaming, telecom, e- pub (en majorité en Europe et aux USA) 2 principaux services : Cedexis Radar Monitoring de la performance en temps réel sans agent ( Real User Monitoring en Javascript) Cedexis Openmix Routage DNS scriptable fondé sur les variables collectées en temps réel
S interesser à la parde immergée de l iceberg de l Internet Beaucoup de solufons de monitoring existent La plupart sont des serveurs dans des datacenters en coeur de réseau. Un data center qui teste un autre data center est une solufon Tous les internautes qui remontent les informafons de disponibilité, performance, débit en temps réel depuis tous les FAI du monde en est une autre. Naissance du R.U.M. (Real User Monitoring) Plus de détails sur le sujet : http://oreilly.com/web-development/excerpts/9780596155131/chapter-10.html Complete Web Monitoring Watching your visitors, performance, communities, and competitors By Alistair Croll, Sean Power Publisher: O'Reilly Media Released: June 2009 Pages: 672
Pourquoi le R.U.M.? Le problème n est pas le terminal mais la livraison Internet dans les films : Credit image : http://gcaptain.com/googles-water-based-data-centers
Pourquoi le R.U.M.? Les problèmes quelque part sur la chaine se révèlent Internet en réalité : Credit image : http://www.techrepublic.com/photos/server-room-cabling-nightmare/6137
Exemple de données recoltées : Comparons les hébergeurs Cloud depuis les internautes Sur la journée du 21 Septembre 2011 28 millions de mesures reçues 34,000 réseaux dans185 pays Measures sans agents Reflète l experience uflisateur Types de mesures Délai pour un Cache- miss (ms) Temps de réponse (ms) Taux de disponibilité (%) Temps de chargement de la page
Comparatif des hébergeurs Cloud Que valent les clouds publics? Amazon EC2 East GoGrid Google App Engine Joyent Rackspace CloudServer Windows Azure
Joyent HTTP Response Time \ ms 0 to 300, (7%) 300 to 400, (24%) 400 to 500, (14%) 500 to 750, (24%) >750, (31%)
Google App Engine HTTP Response Time \ ms 0 to 300, (7%) 300 to 400, (25%) 400 to 500, (14%) 500 to 750, (27%) >750, (28%)
GoGrid HTTP Response Time \ ms 0 to 300, (22%) 300 to 400, (22%) 400 to 500, (14%) 500 to 750, (20%) >750, (22%)
Windows Azure HTTP Response Time \ ms 0 to 300, (21%) 300 to 400, (20%) 400 to 500, (13%) 500 to 750, (27%) >750, (20%)
Rackspace CloudServers Rackspace CloudServer HTTP Response Time \ ms 0 to 300, (30%) 300 to 400, (15%) 400 to 500, (12%) 500 to 750, (23%) >750, (20 %)
Amazon EC2 Amazon EC2 East HTTP Response Time \ ms 0 to 300, (33%) 300 to 400, (15%) 400 to 500, (14%) 500 to 750, (20%) >750, (18%)
And the Winner is Amazon EC2 East Temps de réponse HTTP Prestataires de Cloud EC2 East (51%) GoGrid (17%) Rackspace (18%) Azure (8%) App Engine (3%) Joyent (2%)
EC2 versus EC2 Comparons les différentes régions d Amazon EC2 Amazon EC2 EC2 Virginia EC2 California EC2 Ireland EC2 Singapore EC2 Tokyo
EC2 Virginie EC2 US- East HTTP Response Time \ ms 0 to 300, (33%) 300 to 400, (15%) 400 to 500, (14%) 500 to 750, (20%) >750, (18%)
EC2 Californie EC2 US- West HTTP Response Time \ ms 0 to 300, (17%) 300 to 400, (24%) 400 to 500, (16%) 500 to 750, (21%) >750, (22%)
EC2 Ireland EC2 EU HTTP Response Time \ ms 0 to 300, (33%) 300 to 400, (9%) 400 to 500, (18%) 500 to 750, (25%) >750, (15%)
EC2 Singapore EC2 Singapore HTTP Response Time \ ms 0 to 300, (8%) 300 to 400, (12%) 400 to 500, (26%) 500 to 750, (29%) >750, (24%)
EC2 Tokyo EC2 Tokyo HTTP Response Time \ ms 0 to 300, (7%) 300 to 400, (12%) 400 to 500, (27%) 500 to 750, (29%) >750, (26%)
And the Winner is HTTP Response Time Winners EC2 Zone EC2 Singapore (13%) EC2 Tokyo (7%) EC2 EU (49%) EC2 East (23%) EC2 West (9%)
Utilisons les données pour Agir et non Subir Deux approches stratégiques pour améliorer l expérience uflisateur. A Aiguillage Géographique B Aiguillage à la Performance
Aiguillage Géographique EC2 Zones EC2 Tokyo EC2 EU EC2 East/West (avg) A
Temps de réponse aiguillage Géographique HTTP Response Time \ ms 0 to 300, (39%) 300 to 400, (8%) 400 to 500, (13%) 500 to 750, (25%) >750, (15%) A
Gains de Performance (comparé à EC2 East) Optimization Opportunity 0% to 5%, (43%) 5% to 25% (23%) 25% to 50% (32%) >50% (3%) A
Problème: Variation par Fournisseur d Accès Country Level EC2 Singapore EC2 Tokyo EC2 US West EC2 US East EC2 EU Average Response Time 522 ms 274 ms 392 ms 427ms 487 ms Network EC2 TOKYO: Network Variability Average Response Time CHINANET-BACKBONE No.31,Jin-rong Street 336 CHINANET-SH-AP China Telecom (Group) 276 CHINA169-BJ CNCGROUP IP network China169 Beijing Province 293 BACKBONE-GUANGDONG-AP China Telecom(Group) 218 CHINA169-BACKBONE CNCGROUP China169 Backbone 383 CNCGROUP-SH China Unicom Shanghai network 396 ERX-CERNET-BKB China Education and Research Network Center 223 CNIX-AP China Networks Inter-Exchange 443 CNCGROUP-SZ CNCGROUP IP network of ShenZhen region MAN 204 TOPWAY-NET ShenZhen Topway Video Communication Co. Ltd 233
Aiguillage à la performance HTTP Response Time Winners EC2 Zone EC2 Singapore (13%) EC2 Tokyo (7%) EC2 EU (49%) EC2 East (23%) EC2 West (9%)
Temps de réponse Aiguillage à la performance HTTP Response Time \ ms 0 to 300, (46%) 300 to 400, (14%) 400 to 500, (12%) 500 to 750, (16%) >750, (11%) B
Gains de Performance (comparé à EC2 East) Optimization Opportunity 0% to 5% (30%) 5% to 25% (27%) 25% to 50% (38%) >50% (5%) B
Aiguillage à la perf vs. Géographique : Les données pour agir et non pour subir * 49 Countries StaDc GeoLB Avg. = 198 Dynamic PerfLB Avg. = 184 Gain = 7% 26 Countries StaDc GeoLB Avg. = 353 Dynamic PerfLB Avg. = 272 Gain = 23% 12 Countries StaDc GeoLB Avg. = 397 Dynamic PerfLB Avg. = 341 Gain = 14% 46 Countries StaDc GeoLB Avg. = 833 Dynamic PerfLB Avg. = 729 Gain = 13% 46 Countries StaDc GeoLB Avg. = 519 Dynamic PerfLB Avg. = 375 Gain = 28% 10 Countries StaDc GeoLB Avg. = 775 Dynamic PerfLB Avg. = 568 Gain = 27%
Panne EC2 Virginia 100 90 80 70 60 50 40 30 20 10 0 17- Apr 18- Apr 19- Apr 20- Apr 21- Apr 22- Apr 23- Apr 24- Apr
EvoluFon typique d un hebergement/cloud privé de site : Phase 1 : on démarre sur un serveur DNS www.paris- web.fr A 92.243.21.64
EvoluFon typique d un hebergement / cloud privé de site : Phase 2 : on en ajoute au même endroit DNS www.paris- web.fr A 92.243.21.64 A 92.243.21.65 A 92.243.21.66
Un jour, c est le drame chez l hebergeur
EvoluFon typique d un hebergement/cloud de site: Phase 3 : on uflise deux hebergeurs DNS www.paris- web.fr A 92.243.21.64 A 213.186.33.5
EvoluFon typique d un hebergement/cloud de site : Phase 4 : audience internafonale
Soulager l infrastructure en uflisant du DNS www.paris- web.fr CNAME parisweb.bidulecdn.net.
Même démonstradon avec les Depuis 1 FAI LimitaDon du risque: Aiguillage entre 6 udlisent le même peering Tous sont impactés par un simple problème réseaux
Tectonique des plaques Internet Content Provider Back Bone ISP Internet Users Content Provider ISP Internet Users Content Provider ISP- Internet Users Net Neutrality
Adosser les données à l aiguillage temps réel, contourner les embouteillages de l Internet pour gagner en performance
Gains de Performance : 30 to 70% Akamai Amazon Cotendo Rackspace Cedexis Performance sur 1 heure depuis 1 FAI : 12 000 à 25 000 rapports par seconde Cedexis peut aiguiller en fonction de la meilleure performance en temps réel. En moyenne sur un mois, tous se valent. Sur une heure, le gain est substantiel.
Merci! Des quesdons? Julien Coulon Co-Founder & General Manager @juliencoulon julien@cedexis.com + 33 6 07 13 68 56 Stephane Enten Vice-President, Services @s_enten stephane@cedexis.com +33 603 966 603 Icones : http://famfamfam.com/lab/icons/silk/ @cedexis