Systèmes Embarqués Modulaires M2 SRI Machines Virtuelles

Transcription

1 Systèmes Embarqués Modulaires M2 SRI Machines Virtuelles 1

2 Plan Historique Taxonomie Système Classique Serveurs Virtuels Simulateurs Langage haut-niveau Autres 's.../... 2

3 Plan.../... Outils Utilisations Référence: Virtual Machines, versatile platforms for systems and processes J.E. Smith, R. Nair, Ed: Elsevier 3

4 Virtualisation: intérêt à la hausse Src: Google Trends 23 Janvier 2007

5 Mais il faut raison garder Src: Google Trends 23 Janvier 2007

6 Les technologies de virtualisation semblent «populaires» Src: Google Trends 23 Janvier 2007

7 Historique Apparues durant les années 60 chez IBM Sujet à la mode durant les années 60 et 70 Survey of Virtual Machine Research (Goldberg, 1974) Virtual Machines have finally arrived. Dismissed for a number of years as merely academic curiosities, they are now seen as cost-effective techniques for organizing computer systems resources to provide extraordinary system flexibility and support for certain unique applications 72 papiers publiés de 1966 à

8 Historique Définition de Goldberg (60-70) : Simulateur du jeu d'instruction X sur le jeu d'instructions G Ralentissement de 1000 pour 1 Quand X == G Ralentissement de 20 pour 1 Quand X == G, utilisation de G(réel) autant que possible, pour être plus efficace. Virtual Machine systems (s) Simulator = Virtual machine monitors (M)mostly 8

9 Définition (Goldberg) Bare Machine Privileged software nucleus Basic Machine Interface Extended Machines User program Extended Machine Interfaces User program 9

10 Définition (Goldberg) Bare Machine Basic Machine Interface Virtual Machine Monitor Virtual Machines Privileged software nucleus #1 Privileged software nucleus #2 Extended Machine Interfaces #1 User program Extended Machine Interfaces #2 Extended Machines User program User program User program 10

11 Historique Années 80: Pas d'activité visible sur le sujet Fin des années 90, 2000: Résurgence des avec Java HLL-'s : High-Level Language Résurgence des systèmes classiques: Vmware (Intel), Connectix (Initially: PC simulation on Mac's) Partitionnement des serveurs SMP/Numa Physique ou Logique : IBM, HP, Sun, Bull Serveurs Virtuels: (Virtuozzo, LVS, jail,...) Utilisés pour hébergement de sites Web 11

13 Virtualisation? Oh, Virtualisation! Virtual Networking? ware? Intel VT? Virtual Server? UML? IBM/? Transitive QuickTransit? Java, J? Application Virtualization? AMD S? Platespin? TransMeta Crusoe? SIMICS? Softricity? Dynamo? VirtualPC? Virtual Reality? FX!32?c Pascal Pcode? Virtual Solutions? QEMU? Virtual Storage?

14 Différentes classes de virtualisation Traduction (Emulation) X apparaît comme Y Quelque fois X et Y sont identiques => duplication Aggrégation N ressources apparaissent comme 1 Grilles / Clusters / Single System Image... Partition 1 ressource apparaît comme N Moniteurs de machines virtuelles 14

15 Architecture Système Systèmes construits avec 3 composants principaux Avantages: Tâches de conception indépendantes Applications portables Applications Problèmes: Composants non inter-opérables OS L'existant limite l'innovation Hardware Difficulté d'optimisation ISA Courtesy E. Smith 15

16 Inter-opérabilité Mac Apps. MacOS Windows Apps. Linux Apps. Windows Linux PowerPC X86 Mac Apps. X86 Windows Apps. MacOS Linux X86 X86 Courtesy E. Smith 16

17 Machine Virtuelle Applications. Applications. OS OS Coupling Software Virtual Machine Real Machine Courtesy E. Smith 17

18 Composition de Machines Virtuelles Applications. Applications. Apps OS OS Apps OS OS ISA ISA translation ISA Optimisation ISA Replication Apps OS Courtesy E. Smith Apps OS ISA Composition 18

19 Interfaces Système Application Software Application Software System calls System calls Operating System Operating System System ISA User ISA ISA System ISA User ISA ABI Hardware Hardware Courtesy E. Smith 's can provide an ISA interface System level 's can provide an ABI interface Process level 19

20 Machines Virtuelles Processus (ABI) Multiprogrammation Tout OS multi-tâches fournit une à chaque processus qu'il supporte. Émulation et Traducteurs Binaires Dynamiques Digital FX!32: exécute Wintel apps sur Win/Alpha Transitive QuickTransitTM 20

21 Machines Virtuelles Processus (ABI) Optimiseurs Binaires Dynamiques HP Dynamo: optimises PA-8000 on PA-8000! High-Level Language 's: Pascal (P-code), Java, Microsoft Common Language Infrastructure 21

22 Machines Virtuelles Système (ISA) Replication de la plate forme matérielle VmWare, Xen, Denali, IBM/360 Différenciées principalement par l'implémentation système complète (whole system 's) Supporte l'os et les applications sur une plate forme avec ISA différente Co-Designed 's Transmeta Crusoe 22

23 Taxonomy (dérivée de E. Smith) System Level (ISA) s Process Level (ABI) System s (Same ISA) Process s (Possibly different ISA) Classic OS Whole System (Simics, Bochs, QEMU) (Same ISA) Multiprogrammed Systems (==OS) (#OS) (Possibly different ISA) Dynamic Translators (==OS) (#OS) Native, Type I Paravirtualized (Xen, VLX) Transparent (ware ESX, HW assist: Xen, VLX) Hosted, Type II (ware WS, K) Multitask OS OS Translator WABI, WINE Virtual Servers Virtuozzo, Solaris Zones ISA & ABI Translator FX!32 ISA & OS Translator Transitive High Level Language Java

24 Une autre Taxonomie possible s Replication (Same ISA) Multitask OS Translation (#ISA or possibly same ISA) Classic OS Dynamic ISA Translators Dynamic ABI Translators (#ISA) Virtual Servers (Virtuozzo, Solaris Zones) Native, Type I Para-virtualized (Xen, VLX) Hosted, Type II (ware WS, K) Transparent (ware ESX, HW assist: Xen, VLX) Whole System (Simics, Bochs, QEMU) High Level Language (Java) ISA & ABI Translators (==OS) ISA & ABI Translator (FX!32) (#OS) (==ISA) OS Translator (WABI, WINE) ISA & OS Translator (Transitive)

26 Système Classique A virtual machine () provides a faithful implementation of a physical processor s hardware running in a protected and isolated environment. Virtual machines are created by a software layer called the virtual machine monitor (M) that runs as a privileged task on a physical processor. A virtual machine may implement the instruction set for any processor. If it implements the instruction set for the physical processor on which it is running, it is called a hypervisor. 26

27 Système Classqiue Permet d'exécuter 2 (ou +) OS invités (guest OS) simultanément sur la même machine 2 approches: Native: les OS s'xécutent sur un M ou hyperviseur Apps Apps OS OS Apps Apps OS HOST ISA M ISA «Hébergé» (Hosted): On a besoin d'abord d'un OS 27

28 Système Classique M nécessite un OS hôte (host OS) ou non Type I: Standalone M VmWare ESX. IBM/, HP SuperDome... Xen, VLX, Denali, Disco, Type II: M nécessite un OS hôte ware Workstation, Serenity SVISTA, MSFT VirtualPC, Parallels UML, co-linux Les OS qui s'exécutent dans une sont "invités" (guest OS) 28

29 Système Classique Exécuter directement image binaire d'un OS Translation binaire dynamique : ware Assistance matérielle (Intel VT): K, VLX-VT Technique de «paravirtualisation» Adapter l'os pour exécution + efficace dans Inclut [drivers de ] périphériques virtuels Xen, VLX, UML 29

30 Problèmes Les OS ont été conçus avec l'hypothèse que ce seriat le seul logiciel controllant l'intégralité des ressources physiques de la machine: Mémoire, CPU, Interruptions, horloges, périphériques... Nécessité de détecter et résoudre les conflits entre ces différents OS: masquage interruptions, programmation MMU,... en agissant au niveau machine virtuelle pas nécessairement au niveau physique. 30

31 Solutions But: exécuter le binaire de l'os invité en mode non-privilégié (il a été écrit pour s'exécuter mode privilégié) Moyens: Virtualisation transparent ou native: Pas de modification préalable du binaire de l'os Traduction binaire dynamique Processeurs totalement virtualisables Para-virtualisation Modification des parties dépendantes machines 31

32 Virtualisation CPU Instructions privilégiées Réservées au mode superviseur (OS) Exception si exécutées en mode utilisateur Instructions dites «hardware-sensitive» Interagissent avec ressources matérielles control-sensitive: change configuration ressources behaviour-sensitive: depend de la configuration Instructions inoffensives Non hardware-sensitive Exécutables dans tous les modes 32

33 Processeurs Virtualisables Problème: Y a-t-il des instructions dont le comportement diffère ou devrait différer entre mode privilégié et mode non privilégié? Instructions sensibles: Trap en mode superviseur si exécutée en mode utilisateur : OK Ex: cli, sti (Intel x86) trap quand exécutée en mode utilisateur Non-op: not OK: Ex: POPF (Intel x86): Indicateur masquauge IT pas affecté en mode utilisateur Obtenir état système / matériel: pas OK Ex: Lecture CR3 (Intel x86) retournerait info physique et non pas virtuelle. 33

34 Virtualisation CPU Problème des instructions dites critiques Instructions hardware-sensitive NON privilégiées Ex: Intel IA-32 popf avec bit masquage interruptions en mode utilisateur, pas d'effet MAIS pas d'exception Doivent être détectées et virtualisées par M Remplacées par un «trap» vers M (patching) Instruction remplacée est interprétée par M Opère sur version logicielle ressources physiques 34

35 Fully Virtualizable Processors Hardware assisted virtualization Existing Solutions Existing solutions utilize concepts such as binary patching or para-virtualization Drawbacks include the complexity of binary patching and the requirement for having OS source Ring 3 Ring 1 Application Unmodified Operating System VT-enabled Intel CPUs integrate a new execution mode, enabled by an instruction set and control structure Allows for two new operating modes and a set of hardware-based triggers to switch between them Ring 3 Application Operating System Driver Front End Binary Patching Ring 0 Intel Virtualization Technology (VT-x) Virtual Machine Monitor Non Root Mode Ring 0 Root Mode Ring 3 Application Unmodified Operating System Application Unmodified Operating System Virtual Machine Monitor Ring 0 Hardware Hardware 35

36 Traduction Binaire Dynamique Fonctionne sur processeur sans support de virtualisation Exécute OS binaire non modifié en mode moin sprivilégié (ex: ring 3 au lieu de ring 0 sur x86) Traduction Binaire Dynamique (ex: ware sur x86) M ré-écrit dynamiquement les instructions privilégiées qui s'exécuteraient silencieusement en mode utilisateur Instructions ré-écrites à la demande, dans un cache Permet de «réorganiser» le code Impact consommation mémoire Impact sur le détermisnisme temporel Solution transparente mais complexe La complexité réside dans le M 36

37 Virtualisation Mémoire Mémoire Physique Mémoire de la machine physique Mémoire Réelle Mémoire attribuée par M à une mémoire réelle peut-être > mémoire physique Mémoire Virtuelle Espace mémoire attribué par un GuestOS à chaque processus 4 GB sur Intel IA-32 37

38 Virtualisation Mémoire Chaque guest OS gére ses tables de pages Translation adresse virtuelle <-> adresse réelle M gére mémoire physique Translation adresse réelle <-> adresse physique adresse réelle adresse physique M maintient une copie des tables de translations de chacun des GuestOS 38

39 Virtualisation Mémoire P1.1 P1.2 Page virtuelle mappée Page virtuelle non mappée Mémoire réelle de Page réelle mappée Page réelle non mappée P2.1 Mémoire physique Espace virtuel Processus Page physique 39

40 Virtualisation Mémoire M peut swapper pages réelles d'une Page virtuelle non mappée par GuestOS Page réelle ne doit pas être mappée par M Respecter défauts de page du GuestOS Défauts de page réelle transparents au GuestOS Pages réelles peuvent être partagées par M entre plusieurs GuestOS 40

41 Ex: User Mode Linux Inclus dans le noyau

42 Ex: User Mode Linux Chaque processus "invité" s'exécute dans un processus Linux hôte Le Linux "invité" est un debogueur de ce processus 42

43 Ex: User Mode Linux 43

44 Ex: User Mode Linux 44

45 Ex: User Mode Linux : Accès au système de fichiers via hostfs 45

46 Ex: User Mode Linux / skas Pour éviter: 4 changements de contexte par appel système, que la protection (mémoire) du Linux hébergé ne ralentisse le système, Problèmes pour déboguer les processus invités, Problèmes de synchronisation On permet à un processus Linux (hôte) d'avoir plusieurs espaces d'adressage Tous les processus et le noyau Linux ihébergés sont alors différents espaces d'adressage d'un même processu hôte unique. 46

47 Exemples: UMLinux 0xFFFFFFFF Host OS 0xC xbFFFFFFF Guest app. Guest app. Guest OS M process Guest machine process Guest OS 0x x6FFFFFFF Application Space UMLinux Kernel Host operating system Guest Application Host hardware 0x0 UMLinux address space 47

48 Exemple: UMLinux Guest application 1 Guest OS M Host Operating System 48

49 Exemple: VmWare Workstation & GSX Type II (hosted) Supporte OS en binaire Pas de modifications Configuration avec pilotes de périphériques appropriés Seulement sur X86 OS hébergés s'exécutent en mode utilisateur 49

50 Exemple: VmWare Virtualisation des périphériques Network Packet Send Guest OS Out to I/O port M Applications Context Switch Operating Systems M Driver Return to App App's Appl Virtual Machine M App Syscall Host OS driver Monitor Net Driver Bridge code Physical Machine Host Ethernet Driver Out to I/O port Ethernet H/W 50

51 Exemple: VmWare Virtualisation des périphériques Network Packet Receive Ethernet H/W Device Interrupt Host Ethernet Driver Virtual Machine Virtual Machine Bridge Code Net Driver Virt. NIC M Virt. NIC M Virtual Network Hub (Bridged) Host OS, Appl, Driver Return from select() M App Memcpy to memory ask M to raise IRQ M Raise IRQ Net Driver Virtual Bridge Guest OS In/Out to I/O port M Physical Machine Context Switch Phys. NIC Driver Return from IOCTL App 51

52 Exemples: VmWare ESX Type I (native) Supportes OS en binaire: Pas de modifications Configuration avec pilotes de périphériques appropriés X86 seulement OS hébergés en mode utilisateur 52

53 Exemple: VmWare ESX Couche de Virtualisation Basé sur un noyau Linux maison? Dixit ware forum Gestion Mémoire Virtuelle Swap Out / In Machines Virtuelles Partage de pages basé sur le contenu Notion de "part de memoire" Exporte fichiers FS comme des disques virtuels FS visible as /vmfs dans Service Console OS hébergé peut gérer directement un disque physique. 53

54 Exemple: ware ESX Supporte SMP et NUMA Jusqu'à 8 CPU virtuels par CPU Physique Réécrit dynamiquement certaines parties de l'os invité (binary translation) pour insérer des appels au M Implémente versions "double" de structures systèmes Tables de Pages Maintient cohérence=> coût à la création de processus 54

55 Exemple: Xen Paravirtualization Terme créé par projet Denali Modifications de l'os hébergé (pas des applications) Minimise le nombrer d'instructions à virtualiser But : capacité de tourner + de 100 But de Denali: tourner + de 1000's OS supporté: Ilwaco : exokernel libs + 1 application 55

56 Exemple: Xen Paravirtualization de la gestion Mémoire Can't install fully privileged segments Can't overlap with top end of linear address space Guest OS: read access to page table, updates batched and validated by hypervisor No paging by M => isolation between 's. Xen is mapped in 64 MB section at the top of every address space Ballooning (as in ESX) is used to free extra memory. 56

57 Exemple: Xen Paravirtualization of CPU Guest OS must run at lower privilege than Xen Ring 1 on x86 Guest OS must register exception handlers. Aside from page faults real and virtual handlers are identical Cannot access to CR2 from ring1 Store it on stack before invoking ring1 handler. Guest OS may install fast syscall handler w/o indirection through ring 0 Guest OS aware of both real and virtual time(s). 57

58 Exemple: Xen Paravirtualization of Device I/O Virtual devices(only) Data transfer through asynchronous I/O rings Event mechanism instead of hardware interrupt 58

59 Exemples: Xen Notifications from Xen to the Guest OS pending events are stored in a per-guest OS bitmask. is done using asynchronous mechanism. is sent when the flags associated with certain events like data received, I/O complete etc. are set. 59

60 Exemple: Xen Domain0 Handles device virtualization Control User User User Plane Software Software Software Software Created at boot time Control interface: GuestOS GuestOS GuestOS XenoLinux XenoLinux XenoLinux XenoLinux create/terminate domains Domain properties: Scheduling, memory allocation.. GuestOS X E N Domain0 control interface Virtual x86 CPU Virtual memory Virtual devices H/W (phy mem, x86 CPU) 60

61 Xen Performances 61

63 Virtuozzo Une instance unique d'os Ressources isolées Root file system, IP tables, Process for signals Autres exemples: FreeBSD jail Linux chroot 63

64 Linux-VServer Ne pas confondre avec Linux Virtual Server (LVS)! LVS exporte plusieurs serveurs physique comme un seul, en utilisant du "load balancing" Linux-VServer Machine unique, instance unique d'os Noyau Linux modifié pour isoler les # instances Indépendant de la plat forme matérielle Utilisable en conjonction avec d'autres méthodes de virtualisation 64

66 Simulateurs Émule complètement une architecture (ISA) sur une autre Exemple: Intel on Sparc Bochs (LGPL), 386, 486, Pentium, Pentium Pro, AMD64 Périphériques I/O courants, Bios Sur Unix ou Windows Pour mémoire : Plex86 (LGPL?) 66

67 Simulateurs FAUmachine (GPL) Successeur de UMLinux (GPL)(# de UML(GPL)!) Possibilités d'injection de fautes Outil pour automatiser des tests, expériences. Mode utilisateur, supporte des noyaux Linux natifs(?) OS hôtes: Linux, en progrès : BSD, Windows Ressemble à une extension d'umlinux avec précompilateur ou compilateur JIT pour convertir les instructions privilégiées en appels au simulateur. 67

68 Simulateurs Qemu CPU cibles: X86, ARM, PowerPC, SPARC CPU hôtes: x86, PowerPC, ARM, SPARC,... OS hôtes: LINUX, WINDOWS, Mac OS X Émulation mode utilisateur seulement ou totale Utilise translation dynamique vers code natif pour des performances raisonnables. Supporte code auto-modifiant. Le CPU virtuel CPU se présente comme une librairie. 68

69 Simulateurs PearPC (GPL): Émulation PowerPC sur Linux/Windows EM86: émulation x86 sur Linux / Alpha SkyEye: émulation ARM7TDMI, ARM720T,StrongARM, Xscale sur Linux /Windows 69

70 Simulateurs SIMH (modified X-Windows license): Digital Equipment Corporation PDP-1, PDP-4, PDP-7, PDP-8, PDP-9, PDP-10, PDP-11, PDP-15, VAX Data General Corporation Nova, Eclipse IBM Corporation 1130, 1401, 1620, System 3 GRI Corporation GRI-909 Honeywell Corporation H316/516 Hewlett Packard Corporation HP2116, HP2100, HP21MX Interdata Corporation 16b systems, 7/32, 8/32 Scientific Data Systems SDS-940 MITS Altair 8080, Altair Z80 Royal-Mcbee LGP-30, LGP-21 70

71 Simulateurs Simics Simulateur complet de: Alpha, ARM, IA-64, MIPS, PowerPC, SPARC V9, x86, et AMD64. Simulation de machines SMP et de "clusters". Utilisable pour simuler de nouveaux jeux d'instructions Tourne sur Linux, Windows, Solaris,... 71

73 HLL 's Java Définit une architecture ISA (bytecode) Définit une "ABI" Fournit une abstraction "portable" des ressources physiques sous-jacentes Pas spécialement dédiée à la "replication" 73

75 Autres 's Simple ABI Digital FX!32: supporte des applications Windows x86 sur Windows Alpha But: Rendre des applications existantes disponibles sur un "nouveau" processeur rapide avec un minimum de dégradations de performances 75

76 Exemple: FX!32 Collecte les profils pendant l'exécution Transforme les images en tenant compte des profils x86 Applications. Runtime & Emulator Transparency Agent Translated images Windows OS DB registry Execution Profiles Server X86 image ALPHA ISA Binary Translator 76

77 Autres 's ABI & OS Translation: Transitive QuickTransit: Supporte applications ISA1 OS 'x' sur ISA2 OS 'y' ISA1: MIPS, x86, PPC, Mainframes ISA2: Itanium, x86, Opteron, PPC Principalement pour la migration de vieilles applications binaires vers de nouveaux systèmes Gain de performance attendu: ("très" vieux matériel -> matériel neuf, très rapide) 77

78 Autres 's HP Dynamo: optimise des applications PA9000 sur PA9000 Génère du code pour les "points chauds" 78

79 Exemples: Dynamo 79

80 Exemples: Dynamo 80

81 Autres 's Co-Designed : Transmeta Crusoe Code Morphing Execution of x86 code on VLIW processor Simplified Hardware: Mobile PIII: L1: 32KB, L2: 256KB, Die Size: 106 mm2 TM 5400: L1: 32KB, L2: 256KB, Die Size: 73 mm2 Less power consumption, less heat dissipation 81

82 Exemples: Crusoe Code Morphing Exécution de code x86 sur processeur VLIW 4 atomes de type RISC 128-bit molecule FADD Matériel simplifié: FPU Mobile PIII ADD LD Integer Load/Store ALU #0 Unit BRCC Branch Unit L1: 32KB, L2: 256KB, Die Size: 106 mm2 TM 5400 L1: 32KB, L2: 256KB, Die Size: 73 mm2 Plus faible consommation, moins de dissipation de chaleur 82

83 Exemples: Crusoe Crusoe Code Morphing Software BIOS Code Morphing VLIW engine Appls OS Software 83

84 Plan.../... Outils Utilisations 84

85 Outils : Xen Domaine 0: dédié à la gestion des Domaines créés et chargés depuis le domaine 0 Crée, construit, démarre, arrête, détruit les autres domaines Console Système gérée par le domaine 0 Migration de domaines actifs, même entre machines physiques distinctes 85

86 Outils : VmWare Vtools: Assistant P2V: Aide / automatise la migration de serveurs Physique vers Virtuel Copie de disque physique Re-configure système (IP/ Interface réseau, Drivers,...) Crée la avec la copie de disque 86

87 Outils: VmWare Virtual Center (C) Gère les serveurs comme un ensemble unique de ressources Installe Instant Servers, provisione la plate-forme Monitor serveurs Virtuels Vmotion: Permet de migrer un serveur d'une machine hôte physique vers une autre sans interruption du serveur Répartition de charge, maintenance physique 87

88 Outils: HP WorkLoad Manager (hp/wlm) Partitioning Continuum Hyperplex: gère les partitions physiques d'un cluster composé de plusieurs noeuds. Npartitions: Permet partition physique au sein d'une seule machine Vpar: Partition logicielle (virtualisation) au sein d'une partition physique PRM: virtualisation de serveur au sein d'une Vpar (OS unique multiplexé) 88

89 Plan.../... Outils Utilisations 89

90 Utilisations des Machines Virtuelles Hébergement d'hôtes Virtuels, Développement, Debug, test, Réseaux virtuels, Pratique de récupération en cas désastre Que faire après: #rm -rf / Éducation 90

91 Utilisations des Machines Virtuelles Consolidation des Serveurs: Arrêter la prolifération des processeurs Intel, Permettre aux utilisateurs de consolider les machines Maximiser utilisation des ressources serveurs Réduire le TCO (Total Cost of Ownership) 91

92 Utilisations des Machines Virtuelles Sécurité: Journalisation sécurisée, Détection et prévention des intrusions Honeypot, Firewalls 92

93 Utilisations des Machines Virtuelles Haute disponibilité Backup de serveurs 93

94 Utilisations des Machines Virtuelles Haute disponibilité Migrer environnement du bureau à la maison Implémentation des détecteurs de défaillance "Cluster" In A Box Replication active de l'état d'un OS 94