XM [ɛks ɛm] Expériences sensibles en environnements mixtes : de la représentation à l’immersion
Groupe de recherche
Comment identifier, caractériser et utiliser les interconnexions multimodales entre représentation, perception, immersion, présence et interaction en réalité virtuelle et augmentée ?
Coordination NORMAND Jean-Marie |
Membres AAU MOREAU Guillaume, NORMAND Jean-Marie, PEILLARD Etienne, GUY Martin, ATIE Michele |
Partenaires - Equipe Hybrid de l’Inria Rennes - Camille Jeunet, CR CNRS, Univ. Toulouse - Maki Sugimoto, Keio University, Japon - Yuta Itoh, Augmented Vision Lab, Tokyo Institute of Technology, Japon. |
Argument
Utilisant la réalité virtuelle et augmentée comme vecteur de simulation, ce groupe de recherche interroge plus spécifiquement deux objets pleinement interconnectés lors d’expériences virtuelles : perception et immersion.
D’une part, la perception, considérée ici comme expérience immédiate et non médiée de l’environnement. Impliquant tant le processus physico-sensible du système sensoriel que l’agrégation et le traitement cognitif de ces signaux, la perception est un objet intrinsèquement multimodal, variable et fortement lié à l’individu. Dans le cas d’une utilisation de la réalité mixte comme vecteur de simulation et du fait des défauts inhérents à ces modes de représentations, le processus perceptif se trouve déstabilisé, induisant alors des biais perceptifs systématiques.
D’autre part, l’immersion, dans son acception spécifique à l’expérience virtuelle, définie comme l’ensemble des technologies et moyens permettant à un ou plusieurs utilisateurs de percevoir et d’interagir avec un environnement virtuel. Elle est souvent liée à la notion de présence : qui correspond à la sensation d’être présent physiquement dans l’environnement virtuel malgré l’absolue certitude qu’il soit physiquement dans un autre environnement (réel). Tout aussi liée à l’expérience propre à l’utilisateur, sa caractérisation et sa mesure peuvent être évaluées a posteriori mais son estimation durant l’expérience elle-même est un enjeu majeur.
Les liens unissant perception et immersion/présence en réalité mixte sont multiples et complexes. Ainsi, des défauts techniques dans la simulation de l’environnement induisent des dissonances perceptives et donc une possible détérioration de la sensation d’immersion. A l’inverse, l’expérience sensible immédiate peut se heurter à la barrière cognitive que constitue l’immersion, ou plus spécifiquement le défaut d’immersion. Cette rupture, qui peut être qualifiée de rupture de confiance en l’expérience virtuelle, induit alors de potentiels biais perceptifs.
Ce processus complexe est présenté ici comme une sorte de double boucle de rétroaction mais il doit aussi être considéré comme un ensemble de constituants à la fois distincts et en perpétuelle interaction : processus physiques et cognitifs, apprentissages et entraînements, états physiques et émotionnels, etc. À ceci s’ajoutent enfin les potentiels échanges entre utilisateur et son altérité : interaction, collaboration, etc.
Ce groupe de recherche se propose donc d’interroger, pour identifier et caractériser, certains liens entre les éléments composant ce système sensible et cognitif au moyen de dispositifs et d’approches multimodales. Pour ce faire, nous abordons à la fois les aspects techniques en proposant par exemple de nouvelles métaphores d’interaction en réalité mixte, mais également les aspects méthodologiques permettant de mesurer les réponses des utilisateurs de tels systèmes.
En réalité virtuelle, nous nous intéressons tout particulièrement à la notion d’incarnation, qui apparaît lorsque le corps d’un utilisateur totalement immergé en environnement virtuel est remplacé par un avatar virtuel. Si un ensemble de conditions suffisantes et nécessaires sont réunies, il est alors possible de générer l’illusion au participant que le corps de l’avatar virtuel est son corps et donc d’altérer ses perceptions voire même ses actions. Nous nous intéressons à la manière d’évaluer et de mesurer ce sentiment, typiquement évalué par la réponse à des questionnaires, de manière plus objective en se basant par exemple sur l’analyse des ondes EEG émises par le cerveau de l’utilisateur (via des interfaces Cerveau-Utilisateur).
Ces questionnements permettront, notamment dans le contexte grandissant des technologies de RV et de RA, de mieux caractériser les réponses faites par les participants en particulier lors d’expériences visant à évaluer des notions complexes, comme celles de la perception des ambiances, en réalité mixte.
Actions
Projets Collaboratifs
- Built2Spec 2015-1018 (projet H2020).
- GHOST : Interfaces Cerveau-Ordinateur et Réalité Virtuelle pour le traitement des douleurs neuropathiques. Collaboration avec le CHU de Nantes et l’équipe SIMS du LS2N.
- AR’n’BIM 2016-2018 : Réalité Augmentée pour les projets de construction (Bpi, avec Artefacto).
- Segula Technologies 2019-2020 : conception collaborative en réalité virtuelle.
- Carism 2019-2021 : Création d’une expérience immersive collective en réalité augmentée (Bpi, avec Mazedia, IMT-A, Dinamixyz, Océarium du Croisic).
- CORAULIS : dispositif immersif à 360°.
- Collaboration avec l’Augmented Vision Lab (Tokyo Institute of Technology) : évaluation de la perception dans des dispositifs de réalité augmentée par projection rétinienne.
Conférences
- Participation à la conférence internationale IEEE VR 2019 :
– Best Conference paper award pour le papier d’Etienne Peillard.
– Membre du Comité de Programme : Jean-Marie Normand.
- Participation à la conférence internationale IEEE ISMAR 2019 :
– Présentation du papier d’Etienne Peillard.
– Membre du comité de Programme : Guillaume Moreau.
Thèses rattachées
En cours :
Etienne Peillard. Perception et interaction en réalité augmentée.
Financement INRIA/Centrale Nantes.
Martin Guy. Les marqueurs neurophysiologiques pour la caractérisation de l’incarnation virtuelle.
Allocation de recherche spécifique aux normaliens.
Mohamed Outahar. Combinaison de SLAM visuel et de reconnaissance d’objets 3D basée deep learning pour une localisation grande et petite échelle au sein de l’atelier.
Allocation de recherche de l’Institut de Recherche Technologique Jules Verne (Nantes)
Terminées (récentes) :
Bernard Semaan. L’indexation intelligente de bases de données d’images et de vidéos urbaines.
Allocation de thèse en co-tutelle Liban/MENSR
Adrien Verhulst. Etude de faisabilité d’études marketing en rayon fruits et légumes d’un supermarché virtuel.
Contrat doctoral Centrale Nantes/AUDENCIA