FONDEMENTS DE LA RÉALITÉ VIRTUELLE (FV91)

Documents pareils
Journées PERF-RV Octobre B. Arnaldi

NOVLAND. production. Présente TMC. transmedia catalogue air / touch

De la réalité virtuelle à l analyse de données

Solutions 3D innovantes pour la communication, la vente et la formation.

Balises : Motif Qrcode Image Objet

Reconnaissance de visages 2.5D par fusion des indices de texture et de profondeur ICI 12/12/12

PLM 2.0 : Mise à niveau et introduction à l'offre version 6 de Dassault systèmes

Vers une approche Adaptative pour la Découverte et la Composition Dynamique des Services

Quick Start Guide This guide is intended to get you started with Rational ClearCase or Rational ClearCase MultiSite.

Immersion - Vision 3D dans la RV.

Nouveaux enjeux de recherche en sécurité routière liés à l'automatisation des véhicules : conséquences sur l'activité de conduite

Interface Homme-Machine 1

Un projet communevo / UPMC

Ré-ordonnancement adaptatif de messages dans un réseau ad hoc de véhicules

La visio-conférence holographique : Pourquoi? Comment?

AGROBASE : un système de gestion de données expérimentales

Représenté par Eric Mamy A22 présenté par CFR & CGL Consulting

Réalité Virtuelle et Interaction Homme/Machine Part. I

Dessin assisté par ordinateur en lycée professionnel

intelligence artificielle et cognitique"

ISTIA INNOVATION. 62, Ave ND du Lac F Angers

Introduction aux systèmes temps réel

Pascale Betinelli CEA LIST. Demi-journée d'information ECHORD++ 20 avril M.E.N.E.S.R

Le Futur de la Visualisation d Information. Jean-Daniel Fekete Projet in situ INRIA Futurs

Informatique UE 102. Jean-Yves Antoine. Architecture des ordinateurs et Algorithmique de base. UFR Sciences et Techniques Licence S&T 1ère année

La carte, le territoire et l'explorateur où est la visualisation? Jean-Daniel Fekete Equipe-projet AVIZ INRIA

Des solutions SMART pour le handicap

Modèles de conception pour la collaboration distante en environnements virtuels distribués : de l architecture aux métaphores

CATHERINE GALL DIRECTOR, DESIGN + REAL ESTATE ALLIANCES

Institut de recherche multidisciplinaire focalisé sur le développement durable urbain

Software and Hardware Datasheet / Fiche technique du logiciel et du matériel

Smart and Emotional Surfaces

Monitoring elderly People by Means of Cameras

Mise en place d un système de cabotage maritime au sud ouest de l Ocean Indien. 10 Septembre 2012

Programme scientifique Majeure INTELLIGENCE NUMERIQUE. Mentions Image et Réalité Virtuelle Intelligence Artificielle et Robotique

Anne-Sophie FERNANDEZ

Usages pédagogiques des tablettes

RAPID Prenez le contrôle sur vos données

UNIVERSITE LYON 3 (JEAN MOULIN) Référence GALAXIE : 4140

Informatique / Computer Science

Thales Services, des systèmes d information plus sûrs, plus intelligents

ANGULAR JS AVEC GDE GOOGLE

Title Text. Gestion de données de mobilité Mobility data management

Prise en compte du facteur humain. Cédric Soubrié

Solution A La Gestion Des Objets Java Pour Des Systèmes Embarqués

SEMINAIRE SAS VISUAL ANALYTICS LAUSANNE, MARCH 18 : JÉRÔME BERTHIER VALERIE AMEEL

Master Information et communication spécialité Produits et services multimédia

Techniques d interaction dans la visualisation de l information Séminaire DIVA

Environnement logiciel open source pour la création d œuvres artistiques interactives

Architecture client riche Evolution ou révolution? Thomas Coustenoble IBM Lotus Market Manager

CONTEC CO., LTD. Novembre 2010

Confidentiel B.Production

Synthèse d'images I. Venceslas BIRI IGM Université de Marne La

domovea Portier tebis

Analyse d image embarquée sur ASIC Détection d un homme jusqu à 100 m

Theme Sensorial marketing, from stores to Internet : retailers and sensorial marketing integration in multichannel distribution management.

Equilibrage de charge (Load

Management de. Simulation Statique. Dynamique. Mots clés : Usagers, Communication, Formation, Réalité Virtuelle

GLOSSAIRE PSYCHOLOGICAL AND BEHAVIORAL BARRIER

Forthcoming Database

PANDORA database: a compilation of indoor air pollutant emissions

Fiche produit Fujitsu STYLISTIC M532 Tablet PC

Quatre axes au service de la performance et des mutations Four lines serve the performance and changes

Stéphane Lefebvre. CAE s Chief Financial Officer. CAE announces Government of Canada participation in Project Innovate.

«Rénovation des curricula de l enseignement supérieur - Kazakhstan»

Conférence de presse sur la plate-forme de réalité virtuelle PerfRV

Création intuitive des éléments d un paysage

Pourquoi. cette thématique. de recherche

Ergonomie des Interfaces Homme-Machine

Interface Homme-Machine. Philippe Gaussier Alexandre Pitti

SCHOLARSHIP ANSTO FRENCH EMBASSY (SAFE) PROGRAM APPLICATION FORM

1. Formation F5 - Local Traffic Manager Configuring (LTM)

Rousseau Nadia. Abécédaire

ANNEXE - INNOVATIONS. processus, nom masculin

Light Painting. Comment créer un souvenir unique et renforcer le lien avec la marque

Spécialité IAD. Master de Sciences et technologie de l UPMC. Mention informatique. Partenaires : ENST, ENSTA. Responsables : T. Artières, C.

Rapport projet MMI. Luis Domingues, I3 Naomi Favre, I3 Tiago De Deus, I3. Luis Domingues, Tiago De Deus, Naomi Favre SP Interfaces Multimodales

DE LA NUMÉRISATION DES ACTIONS PHYSIQUES DES UTILISATEURS VERS LA CONCEPTION D INTERFACE AVEC LA KINECT

Informatique / Computer Science

GIS and satellite remote sensing for humanitarian operations support SIG et télédétection pour le support aux operations humanitaires

Exemples de contenus non définitifs et non exhaustifs. MIEUX COMPRENDRE POUR MIEUX VENDRE

Preliminary Spec Sheet

Périphériques haptiques et simulation d objets, de robots et de mannequins dans un environnement de CAO-Robotique : em-virtual Desktop

INSTRUMENTS DE MESURE SOFTWARE. Management software for remote and/or local monitoring networks

L hypertexte, le multimédia, c est quoi?

Réflexion sur la mise en place d'un système mobile d'aide à la navigation destiné aux services d'urgence basée sur une solution libre.

«39 ans d expérience» ( )

SHAREPOINT PORTAL SERVER 2013

Microsoft Lync de votre bureau à la salle de conférence

DESCRIPTIF DES PROJETS 3EME ANNEE QUI SERONT PRESENTES LORS DE LA JOURNEE DE PROJET DE FIN D ETUDE LE 26/01/2012

Présentation du sujet de thèse Schémas temporels hybrides fondés sur les SVMs pour l analyse du comportement du conducteur

Learn & Lunch 23/11/2011. Simon Opresnik / Georges Denneulin

Infrastructure Active Directory en termes de GPO

ADHEFILM : tronçonnage. ADHEFILM : cutting off. ADHECAL : fabrication. ADHECAL : manufacturing.

Transcription:

Master E3A Parcours RVSI FONDEMENTS DE LA RÉALITÉ VIRTUELLE (FV91) guillaume.bouyer@ensiie.fr www.ensiie.fr/~bouyer/ Objectifs Master 2 Recherche Pas ingénieur, licence ou master pro Initiation à la recherche : connaitre et comprendre l existant et les problématiques, capacité d initiative, se poser des questions, être curieux, imaginer des réponses, les évaluer Connaître Les concepts théoriques Les besoins des utilisateurs en termes d applications, de fonctionnalités Les technologies disponibles et les problèmes techniques, logiciels à résoudre Les méthodes et rendus possibles pour la conception d applications et d'interactions 3D utiles et utilisables Être capable de Analyser, formuler un problème Étudier et synthétiser l existant («état de l art») Proposer, mettre en œuvre et évaluer une solution 2

Contenu du cours et planning S38 S40 S41 S42 S45 S46 S47 S48 S51 Cours 1 : Historique, Concepts et Applications de la RV Cours 2 : Canaux sensori-moteurs et Interfaces de RV TP Cx158 : Moteur de jeu Unity TD/TP : Techniques de bibliographie en RV- Visite EVR@ Cours 3 + TD : Interactions 3D et Conception TP : Bibliographie (2h) TP : Bibliographie TD/TP : Soutenance + rapport bibliographie Examen Rq : cours en sections de 25 min, horaires stricts (technique pomodoro) 3 E3A RVSI FV91 #1 Histoire, Concepts & Applications guillaume.bouyer@ensiie.fr www.ensiie.fr/~bouyer/

Contenu du cours #1 Historique Définitions et concepts essentiels Applications 1 ère Analyse Tâches Réalisme et interactions Compléments 5 Introduction

A votre avis? Quelles applications? Quels matériels? Des mots-clés, des concepts? Aujourd hui 8

Un peu de recul 9 Vue actuelle 10

Concepts clés de la RV Un environnement, des objets et des personnages numériques Simulés par un système informatique Qui ressemblent ou non au monde réel selon les besoins Le joueur Apparence visuelle, sons, comportement Est assis ou debout Perçoit le monde numérique via les écrans et un casque audio Agit sur ce monde + ou - naturellement via des capteurs et des manettes de formes diverses Peut effectuer des actions possibles ou impossibles dans la réalité Est coupé du monde extérieur, "se croit" dans le monde virtuel 11 Concepts clés de la RV Un environnement, des objets et des avatars virtuels Simulés par un système informatique Possédant différents degrés de "réalisme" ou de "crédibilité" Apparence visuelle, sons, comportement L utilisateur est en Interaction en temps réel avec cet environnement Via des capteurs et des interfaces Selon différents canaux sensori-moteurs : visuel, sonore, haptique, vestibulaire, manuel De manière la plus naturelle possible Pour effectuer des tâches Immersion (et présence) dans l environnement virtuel 12

Un peu d Histoire Résumé Simulateurs Ordinateurs 30's 3D Wand Haptique Videoplace 70's CAVE Echecs commerciaux 90's 60's Sensorama Sketchpad Sword of Damocles Mother of all demos 80's Virtual reality HMD Data glove 3D 00's Interaction gestuelle Cinéma relief HMD grand public Domaines connexes : Informatique, Interaction homme-machine (IHM), Simulation, Télé-opération, Robotique, Électronique, Industrie du loisir

Préhistoire 1900 : Mareorama (H. d'alesi) Simulateur de croisière Marseille-Yokohama Réplique bateau de 70m (700 pers.) 2 panoramas peints (750m x 13m) Roulis et tangage (20-50cm) Vent, lumières, odeurs Acteurs 15 Préhistoire 1928 : Link Trainer 1 er simulateur de vol mécanique (Edwin Albert Link) Commandes Mouvements pneumatiques Instruments 1940 s : 1 ers ordinateurs électroniques 16

60-70's 1960 : Sensorama (Morton Heilig) 1 er système immersif et multimodal Projection de scènes filmées Système vidéo 3D et grand angle Sons stéréophoniques Siège vibrant Vent et odeurs 17 60-70's 1963 : Sketchpad, 1 ère interface graphique (Ivan Sutherland) 18

60-70's 1963 : 1 ère souris (Douglas Engelbart) 1968 : Mother of all demos (Douglas Engelbart) Fenêtres, hypertexte, interface graphique, navigation et commande, vidéo conférence, souris, traitement de texte, gestion de fichiers, éditeur collaboratif temps réel 19 60-70's 1966 : The sword of Damocles, 1 er casque de visualisation stéréoscopique (+ RA) (Ivan Sutherland) 1970 : Capture mécanique de position et de mouvement de la tête (Donald Vickers) 20

60-70's 1971 : Videoplace (Myron Krueger) Rendus visuels et sonores artistiques Traitement d'image / reconnaissance de gestes 21 70's 1972 : 3D wand, 1 ère interaction 3d (Vickers) [Donald Lee Vickers. 1972. Sorcerer's Apprentice: Head-Mounted Display and Wand. Ph.D. Dissertation. University of Utah. ] 22

60-70's 1967 : 1 er retour d effort 2D (haptique) ensuite appliqué en 6D à la simulation (Frederick Brooks) GROPE I (1967) GROPE II (1976) GROPE III (1986) [Brooks Jr, F. P., Ouh-Young, M., Batter, J. J., & Jerome Kilpatrick, P. (1990, September). Project GROPE Haptic displays for scientific visualization. In ACM SIGGraph computer graphics (Vol. 24, No. 4, pp. 177-185). ACM.] 23 80's Projet VIEW (NASA, Scott Fisher) Casque de visualisation LCD EyePhone Environnement artificiel ou transmis à partir de caméras distantes Gant de données DataGlove (Thomas Zimmerman, Jaron Lanier, VPL) + DataSuit + avatar de main Audio 3D Convolvotron Introduction du terme "Virtual Reality" (Lanier) 24

90's 1989 : Premier gant de données destiné aux consommateurs, PowerGlove (VPL pour Nintendo) 1991 : Tentatives de RV grand public [Sega VR] 25 90's 1991 : CAVE - Cave Automatic Virtual Environment (Univ. Illinois, Cruz-Neira, Sandin et DeFanti) 4 faces Stéréoscopie active Point de vue adapté 26

2000's 2006 : Nintendo Wii et interaction gestuelle 2010 : Microsoft Kinect, Playstation Move 27 2010's 2009 : Essor du cinéma relief et début des tv 3d 2013 : 1er HMD grand public 28

The ultimate display "The ultimate display would, of course, be a room within which the computer can control the existence of matter. A chair displayed in such a room would be good enough to sit in. Handcuffs displayed in such a room would be confining, and a bullet displayed in such a room would be fatal. With appropriate programming such a display could literally be the Wonderland into which Alice walked." Ivan E. Sutherland, The Ultimate Display, 1965 29 Domaines impliqués robotique acoustique STIC informatique mécanique optique RÉALITÉ VIRTUELLE Sciences humaines / du vivant ergonomie psychophysique pédagogie design 30

La RV en chiffres Facebook-Oculus : $2 billion Google-Magic Leap : $542 million $136 million invested into VR in November 2015 $132 million in July+August+September Projections 2015->2020 : $150 billion [http://www.digi-capital.com/news/2015/04/augmentedvirtualreality-to-hit-150-billion-disrupting-mobile-by-2020/] [http://www.roadtovr.com/what-136-million-invested-in-novemberalone-says-about-the-vr-industry/ ] 31 Hype Cycle [Gartner 2017] [http://www.gartner.com/newsroom/id/3784363] 32

Définitions Définitions littérales Virtuel, elle [Larousse] du latin virtus : force «Qui n'est qu'en puissance : potentiel, possible» Virtual [Dict. Oxford Hachette] «Quasiment, pratiquement, presque, de fait» Virtual Reality [Jaron Lanier, 1980] Littéralement : «qui fait office de réalité» Réalité Virtuelle 34

Définition technique «La réalité virtuelle est un domaine scientifique et technique exploitant l informatique et des interfaces en vue de simuler dans un environnement virtuel le comportement d entités 3D, qui sont en interaction en temps réel entre elles et avec un ou des utilisateurs en immersion pseudo-naturelle par l intermédiaire de canaux sensori-moteurs.» [Traité de la RV, 2005] 35 Environnement virtuel (EV) Monde artificiel composé d un ensemble d objets 3d créés numériquement et pouvant être [Fuchs, 1996] : Une copie du réel Une simulation de certains aspects du réel Une représentation symbolique Imaginaire Cas particulier : Réalité Mixte Associer environnement réel et environnement virtuel Réalité Augmentée, Virtualité Augmentée 36

Interaction avec l utilisateur Principe fondamental de la RV : L humain perçoit et agit physiquement dans et sur l EV L EV réagit à ces actions et en informe l humain 2 composantes : Interfaces Homme-Machine physiques Techniques d interactions logicielles animation / simulation graphique : Les entités 3D interagissent uniquement entre elles, sans interaction humaine (ex : images de synthèse, film ) Certaines technologies communes mais 2 domaines différents 37 Interfaces Homme-Machine Couplage physique entre l humain et le système Interfaces sensorielles Informent l utilisateur de l évolution du monde virtuel, par l intermédiaire de ses sens Interfaces motrices / interfaces de commande Informent le système des actions de l homme sur le monde virtuel Interfaces sensori-motrices Défi principal : faire correspondre la technologie aux capacités humaines 38

Temps réel et latence Interaction doit être en temps réel = pas de décalage temporel (latence) perçu entre l action sur l EV et la réponse sensorielle de ce dernier Au minimum «en temps interactif» : latence compatible avec l interaction (fluidité) [B. Arnaldi, IRISA] 39 Temps réel et latence Causes de latences Contenu de l'environnement virtuel : calculs Distance, réseau Temps de réponse des interfaces Conséquences Inconfort, nausées, tâche impossible, inutilisabilité Dépendent beaucoup des utilisateurs Solutions Augmenter la puissance de calcul et la vitesse de transmission des données Améliorer les algo et la répartition des calculs, optimiser l'environnement virtuel Entrainer l'utilisateur, prédire son comportement 40

Immersion «Etat psychologique où le sujet cesse de se rendre compte de son propre état physique. Il est fréquemment accompagné d'une intense concentration, d'une notion perturbée du temps et de la réalité.» (Wikipédia) Terme largement répandu dans le milieu de l'informatique, des jeux vidéo, du cinéma, voire d autres activités (lecture ) Immersion physique!= psychologique 41 Immersion en RV Niveau objectif de fidélité sensorielle qu'un système de RV fournit [M. Slater, A Note on Presence Terminology, Presence-Connect, Jan. 2003] Dépend des interfaces et technologies de rendu (sur tous les canaux sensoriels) des interactions Utiliser plusieurs canaux sensori-moteurs : visuel, auditif, haptique (tactile + kinesthésique), odorat, goût, vestibulaire Interactions les plus naturelles possibles : schèmes, temps réel, pas d'apprentissage de l'occultation de l environnement réel Totale : immersion omnidirectionnelle Partielle : l opérateur regarde l EV comme à travers une fenêtre du logiciel Objective et mesurable Un système peut avoir un degré d'immersion plus élevé que l'autre 42

Présence Réponse psychologique subjective d'un utilisateur à un système de RV Individuelle et dépendante du contexte, liée à l'expérience d'"être là-bas" ("being there") Différents utilisateurs peuvent connaître différents niveaux de présence avec le même système Un seul utilisateur peut rencontrer différents niveaux de présence avec le même système à différents moments, en fonction de l'état d'esprit, de l'histoire récente et d'autres facteurs Conséquence de l'immersion [M. Slater, A Note on Presence Terminology, Presence-Connect, Jan. 2003] 43 Immersion pseudo-naturelle L immersion ne peut être totalement naturelle dans un EV car nous avons appris à agir «naturellement» dans un monde réel et non virtuel. Des biais sensori-moteurs sont créés, d où le terme «pseudo» Dans l EV nous ré-exploitons un comportement acquis dans le monde réel -> les schèmes 44

Schèmes comportementaux Comportement "naturel" dans le monde réel = inconsciemment et sans grand effort mental Notion de schèmes [Piaget 1979] : Organisation mentale des actions pour des classes de situations Se transfèrent, se reproduisent ou se généralisent lors de la répétition de ces actions en des circonstances analogues Inconscients Exemple : préhension d'un objet Canevas général reproduit dans des conditions différentes (distance, poids ) Donne lieu à des réalisations variées caractérisées par des paramètres sensori-moteurs (ouverture de la main, tension du bras ) 45 Schèmes comportementaux Transposition et adaptation des schèmes du monde réel dans l'environnement virtuel Efforts cognitifs : dispositif matériel, incohérences Exemple : préhension d'un objet en RV Réutilisation du schème naturel Dépendant de l'interface : gant de donnée, traqueur 6dof Biais sensori-moteurs : regard vers l'écran, main non fermée, pas de poids de l objet 46

A retenir 2 conditions principales : Interaction ET Immersion RV = Interaction Homme-Environnement plutôt que Interaction Homme-Machine Boucle Perception-Cognition-Action 47 Vocabulaire ENVIRONNEMENT REEL ENVIRONNEMENT VIRTUEL INTERACTION HUMAIN Informations Données Modèles COMMANDE RENDU Médias ou Interfaces Canaux sensorimoteurs 48

Applications de la Réalité Virtuelle Domaines et besoins Santé et sport Formation par la simulation (geste ) Recherche Thérapeutique Militaire Formation, entrainement par la simulation Gestion, supervision d'opérations Construction et urbanisme Information, visite Étude Gestion Culturel Jeux Visite virtuelle Création Diffusion Science et recherche Exploration de phénomènes, analyse de données Enseignement, diffusion Collaboration Industrie & services Marketing Revue de projet, collaboration Design Ingénierie, conception Ergonomie Simulation Production Maintenance Formation 50

Simulation chirurgicale Interaction laparoscopique [Texas Medical School, 2010] [Rensselaer Polytechnic Institute, 2010] [Stanford] 51 Simulation chirurgicale Interaction réaliste [NRC Industrial Materials Institute] [Ohio Supercomputer Center] 52

Simulation chirurgicale Rendu réaliste visuel et haptique [Delaware Biotechnology Institute] [De S, Lim Y, Manivannan M, Srinivasan MA, 2006] 53 Simulation médicale [Patient-GeneSys 2015]] [VirTeaSy Implant Pro, Didhaptic] 54

Thérapie Phobies : insectes, vertige, avion, voiture Troubles post-traumatiques, stress [US Department of Defense Congressionally Directed Medical Research Programs 2009] [Advanced Interface Group, Manchester University, 2006] [HITLab] 55 Thérapie Accompagnement de rééducation physique et psychologique Distraction [ETH Zurich] [University of Pittsburgh 2008] [Agathe] [Seattle's Harborview Burn Center 2005] 56

Santé/sport Etude du geste sportif Thérapie motrice par le sport [CRVM, 2007] [INRIA, équipe SIAMES] 57 Militaire Entrainement de soldats Simulation de conduite de véhicules Simulation d arme, de combats [Rapport OTAN, Danemark, 2003] Formation au déminage [DGA-ETAS, Laval Virtual 2000] [Nautilus] 58

Militaire SITAC 3D : représentation de situation tactique pour les opérations navales [DCNS, Clarté] 59 Construction et urbanisme Visite de bâtiment ou site urbains Ergonomie, ambiance, sécurité [CRVM] [Le2i, 2005] 60

Construction et urbanisme Sensibilisation, étude environnementale, urbanisme Transports SIG [Bouygues TP] [Montbéliard 3D, Virtuel City] 61 Formation Geste technique [Le2i, 2005] [ETICS VR, Clarté, St Gobain, 2010] [Virtual Technical Trainer, 2005] 62

Formation [EDF] [Alterface] Visite virtuelle 63 Formation Simulateur de voies à la SNCF 64

Formation Navigation fluviale [Heudiasyc, CETMEF, 2010] 65 Formation [V3S (Virtual Reality for Safe Seveso Substractors), Heudiasyc et al. 2011] [Station ISS, Silicon Worlds] [DCNS, Reviatech. 2011] [MacGregor ] 66

Science et recherche Compréhension de données et de phénomènes [LIMSI-CNRS, 2007] [NVIS, 2005] 67 Science et recherche Compréhension de phénomènes [HMolDock 2011] [LIMSI-CNRS, 2007] [HaptiMol] [IBISC, BRGM, 2008] 68

Travail collaboratif / télétravail [Part@ge, 2008] 69 Etudes marketing Magasin virtuel d expérimentation commerciale [CAOR Mines de Paris 2002] 70

Industrie Prototypage virtuel Revue de projet Design Ingénierie Ergonomie (utilisateur et employés) Simulation Aide à la conception Aide à la maintenance Aide à la production Etudes marketing Principalement automobile et aéronautique 71 Industrie : Marketing Présentation produit, configuration Publicité Sensibilisation [PSA 1999] [GM] [CRVM] 72

Industrie : Revue de projet [PSA 2004] [PSA 2009] 73 Industrie : Revue de projet 74

Industrie : Design [GM 2015] 75 Industrie : Design [Ford Motor Company, Immersion Lab, 2014] 76

Industrie : Ingénierie [Jaguar Land Rover 2010] 77 Industrie : Ingénierie 78

Industrie : Ingénierie 79 Industrie : Conception [VRAD, LIMSI-CNRS, 2006] [VR4D, Clarté, 2010] 80

Industrie : Ergonomie utilisateur [GM 2015] 81 Industrie : Ergonomie production Validation des postes de production Réduction des TMS Geste technique [CEA-List] [EADS] [ErgoWide 3, Clarté / Didhaptic] 82

Industrie : Production Chaines de montage Collaboration homme-robot [PSA/CAOR Mines Paris-Tech 2012] 83 Industrie : Simulation [PSA] [Simulateurs PSA : statique, StelLab, dynamique] 84

Industrie : Maintenance [EDF] 85 Télé-opération 86

Jeux 87 Culture et Patrimoine [Château des Ducs de Bretagne, 2007] 88

Création [ATI Université Paris 8, 2008] [LIMSI, 2008] 89 Exercice Résumer les apports et identifier un risque de la RV pour 1. La formation 2. Le prototypage 90

Tâches en RV Types de tâche [Bowman] Tâches élémentaires et fondamentales, souvent combinées pour créer une interaction plus complexe Navigation Sélection Manipulation Contrôle d application Liées aux objectifs de l'application Conditionnent le contenu de l'ev et les interactions/interfaces utilisées 93

Navigation 2 composantes Déplacement ("Travel") : Partie mobile de la navigation, déplacement physique d'un endroit à l'autre (déplacement du point de vue) Recherche de chemin ("Wayfinding") : Composante cognitive, prise de décision de navigation ("où suis-je?", "où dois-je aller?", "comment arriver là?") Exemples Exploration : navigation sans but explicite ni restriction, découverte et connaissance de l'environnement Recherche de cible : Naïve (position cible inconnue), Ciblée (position connue), Assistée (position connue par le système) Manœuvre : Tâche nécessitant mouvements courts et précis, Changement faible du point de vue 94 Sélection Acquisition d'une cible pour un certain objectif Etapes 1. Désignation par l'utilisateur d un objet ou d un ensemble d objets 2. Nécessite une validation de l'utilisateur 3. Puis une confirmation du système 95

Manipulation Spécification/Modification des propriétés d un objet ou d'un ensemble d'objets virtuels Géométriques : position, orientation, échelle Autres : couleur, texture Nécessite une sélection préalable Manipulation directe ou indirecte (via outils virtuels ou matériels) 96 Contrôle d'application Regroupe les techniques d'interaction indirecte Exécuter une application Changer l état du système Changer le mode d interaction Envoi d'ordres (explicite ou implicite) au système 97

Exercice 1. Choisissez une application dans les slides précédents 2. Identifiez les tâches de navigation, sélection et manipulation par quels moyens matériels et logiciels ces tâches sont mises en œuvre? Quelles sont les contraintes de ces tâches dans l application choisie? 98 Réalisme et interactions

Réalisme idéal? Proposer à l utilisateur une expérience en EV identique au monde réel Réalisme visuel : images HD, stéréoscopie, moteur graphique Réalisme auditif : sons HD, spatialisation, moteur sonore Réalisme comportemental de l EV : moteur physique Interactions naturelles : schèmes comportementaux, déplacement réel, poids et efforts des objets Stimuler tous les canaux sensori-moteurs Occultation totale du monde réel Interfaces identiques aux caractéristiques humaines 101 Limites Technologies limitées ou inadaptées par rapport aux caractéristiques humaines Transposition des schèmes comportementaux biaisée voire impossible Réel besoin? Uncanny Valley [Masahiro Mori, 1970] 102

Degré élevé de réalisme Réalisme + poussé de certains aspects ciblés Transposition de l existant dans le virtuel Besoins et applications Caractère critique : entrainement médical, simulateurs (conduite, vol) Besoin économique : Prototypage virtuel : produit virtuel "ressenti" comme le produit final Formation : tâche réalisée comme les professionnels Objectif ludique : jeux vidéo Difficultés et bénéfices Technologiques : dispositifs visuels, périphériques d interaction, calculateurs Logiciels : algorithmes, rendus Coûts économiques Attractivité et diffusion 103 [Id software, 2011] [Nvidia, 2008] [Rensselaer Polytechnic Institute, 2010] 104

Au-delà du réalisme Applications, environnements et interactions nouveaux, efficaces et pertinents pour la tâche Définition fonctionnelle de la RV [Fuchs, 1996] «La réalité virtuelle permet à un utilisateur humain de s extraire de la réalité physique pour changer virtuellement de temps, de lieu et/ou de type d interaction» 105 Changer virtuellement de temps Autre temps : passé, futur Perception irréelle du temps : ralenti, accéléré, autres lois, sauts temporels Ex. : Nantes en 1757, Laval en 1750, relativité virtuelle 106

Changer virtuellement de lieu Plusieurs utilisateurs dans un même lieu virtuel (travail collaboratif, formation à distance, télémédecine ) Télé-présence (visite virtuelle d un endroit, d un site) Perception irréelle du lieu : Changement de point de vue (repère non égocentré) Avatar du sujet Point de vue d une autre personne 107 Changer virtuellement de type d interaction Navigation non naturelle : Ex : vol 3D, accéleration Interaction non naturelle, impossible Ex : atteindre des objets lointains Modèles physiques différents Modification de l EV par le sujet immergé 108

Compléments Ex. de Call for Papers (VR 2013) Immersive gaming VR systems and toolkits Computer graphics techniques for VR Immersive projection technology Serious games Tracking and Sensing User studies and Evaluation Navigation Tele-operation and tele-presence 3D Interaction for VR Augmented and mixed reality Advanced display technology Multi-user and distributed VR Haptics, audio and other non-visual interfaces Modeling and Simulation Presence and Cognition Applications of AR/MR/VR Input Devices for VR/AR 110

Ex. de Call for Papers (3DUI 2013) 3D input devices 3D displays and sensory feedback 3D interaction techniques 3D user interface metaphors Desktop 3D UIs 3D UIs for Virtual or Augmented Reality Evaluation methods for 3D UIs Biologically inspired 3D UIs Human perception of 3D interaction Collaborative 3D interaction Applications of 3D UI: CAD and design, architecture, historical heritage, industry, games and entertainment, education and learning, etc. 111 Ex. de program (VR 2012) Simulation On Delay Adjustment for Dynamic Load Balancing in Distributed Virtual Environments - Yunhua Deng and Rynson W.H. Lau [short]crowd Simulation using Discrete Choice Model - Wenxi Liu, Rynson Lau and Dinesh Manocha Locomotion Redirecting Walking and Driving for Natural Navigation in Immersive Virtual Environments - Gerd Bruder, Victoria Interrante, Lane Phillips and Frank Steinicke Walking in a Cube: Novel Metaphors for Safely Navigating Large Virtual Environments in Restricted Real Workspaces - Gabriel Cirio, Peter Vangorp, Emmanuelle Chapoulie, Maud Marchal, Anatole Lecuyer and George Drettakis Impossible Spaces: Maximizing Natural Walking in Virtual Environments with Self-Overlapping Architecture - Evan A. Suma, Zachary Lipps, Samantha Finkelstein, David M. Krum and Mark Bolas [short] Sensor-Fusion Walking-in-Place Interaction Technique using Mobile Devices - Ji-Sun Kim, Denis Gracanin and Francis Quek [short] A Taxonomy for Deploying Redirection Techniques in Immersive Virtual Environments - Evan A. Suma, Gerd Bruder, Frank Steinicke, David M. Krum and Mark Bolas [short] The Cognitive Implications of Semi-Natural Virtual Locomotion - William E. Marsh, Marisa Putnam, Jonathan W. Kelly, Veronica J. Dark and James H. Oliver Perception and Cognition The Right View from the Wrong Location: Depth Perception in Stereoscopic Multi-User Environments - Brice Pollock, Melissa Burton, Jonathan W. Kelly, Stephen Gilbert and Eliot Winer Geometric Calibration of Head-Mounted Displays and its Effects on Distance Estimation - Falko Kellner, Benjamin Bolte, Gerd Bruder, Ulrich Rautenberg, Frank Steinicke, Markus Lappe and Reinhard Koch Effects of Immersion on Visual Analysis of Volume Data - Bireswar Laha, Kriti Sensharma, James D. Schiffbauer and Doug A. Bowman [short]the Effects of Navigational Control and Environmental Detail on Learning in 3D Virtual Environments - Eric D. Ragan, Karl J. Huber, Bireswar Laha and Doug A. Bowman Getting Physical [short] Increasing Agent Physicality to Raise Social Presence and Elicit Realistic Behavior - Joon Hao Chuah, Andrew Robb, Casey White, Adam Wendling, Samsun Lampotang, Regis Kopper and Benjamin Lok [short] Evaluation of Visual and Force Feedback in Virtual Assembly Verifications - Mikel Sagardia, Bernhard Weber, Thomas Hulin, Carsten Preusche and Gerd Hirzinger [short] Puzzle AssemblyTraining: Real World vs. Virtual Environment - Mike Oren, Patrick Carlson, Stephen Gilbert and Judy M. Vance [short] Can physical motions prevent disorientation in naturalistic VR? - Salvar Sigurdarson, Andrew P. Milne, Daniel Feuereissen and Bernhard E. Riecke 112

Ex. de program (VR 2012) Mixed and Augmented Reality [tvcg]real-time Evaluation and Visualization of Learner Performance in a Mixed Reality Environment for Clinical Breast Examination - Aaron Kotranza, D Scott Lind and Benjamin Lok Extended Overview Techniques for Outdoor Augmented Reality - Eduardo Veas, Raphaël Grasset, Ernst Kruijff and Dieter Schmalstieg Online Tracking of Outdoor Lighting Variations for Augmented Reality with Moving Cameras - Yanli Liu and Xavier Granier [short]spatial Augmented Augmented Reality for Environmentally-Lit Real-World Objects - Alvin J. Law and Daniel G. Aliaga Interaction Techniques Haptic Palpation for Medical Simulation in Virtual Environments - Sebastian Ullrich and Torsten Kuhlen Evaluating Display Fidelity and Interaction Fidelity in a Virtual Reality Game - Ryan P. McMahan, Doug A. Bowman, David J. Zielinski and Rachael B. Brady Dense and Dynamic 3D Selection for Game-based Virtual Environments - Jeffrey Cashion, Chadwick Wingrave and Joseph J. LaViola Jr. [short]self-motion Illusions (Vection) in VR - Are They Good For Anything? - Bernhard E. Riecke, Daniel Feuereissen, John J. Rieser and Timothy P. McNamara Modeling with Depth Sensors Scanning 3D Full Human Bodies Using Kinects - Jing Tong, Jin Zhou, Ligang Liu, Zhigeng Pan and Hao Yan Interactive 3D Model Acquisition and Tracking of Building Block Structures - Andrew Miller, Brandyn White, Emiko Charbonneau, Zach Kanzler and Joseph J. LaViola Jr. [short] Reducing Interference Between Multiple Structured Light Depth Sensors Using Motion - Andrew Maimone and Henry Fuchs View Generation Effective Replays and Summarization of Virtual Experiences - Kevin Ponto, Joe Kohlmann and Michael Gleicher [short]room-sized Informal Telepresence System - Mingsong Dou, Ying Shi, Jan-Michael Frahm, Henry Fuchs, Bill Mauchly and Mod Marathe 113 Le traité de la réalité virtuelle 74 auteurs, éditeur : les Presses de L Ecole des Mines de Paris 3 ème édition (2005) Téléchargement gratuit pour étudiants (voir page web) 114

Quelques liens Association française de RV : www.afrv.fr Laboratoires : evra.ibisc.univ-evry.fr/ www.limsi.fr/venise/ crvm.ism.univ-amu.fr/ team.inria.fr/hybrid/ team.inria.fr/potioc/ www.lifl.fr/mint/ caor-mines-paristech.fr/ www.cerv.fr/ www.clarte.asso.fr/ Salon : www.laval-virtual.org Blogs : www.roadtovr.com A VR Geek's Blog : cb.nowan.net/blog/ Johnny Chung Lee : procrastineering.blogspot.com Logiciels Unity : unity3d.com Technologies : www.immersion.fr, www.realyz.com www.haption.com www.barco.com 115 Bilan Nombreux domaines d'applications Tâches communes Réalisations diverses Cibler les besoins des utilisateurs! Besoin de (moins en moins de) moyens Nombreuses problématiques de recherche spécialisées Pas encore mature (début pour grand public et pour la plupart des entreprises) 116