Étude et application des algèbres géométriques pour le calcul de la visibilité globale dans un espace projectif de dimension n 2

Transcription

1 Université de Poitiers Département de formation doctorale en informatique UFR SFA École doctorale SPI&A Poitiers Étude et application des algèbres géométriques pour le calcul de la visibilité globale dans un espace projectif de dimension n 2 THÈSE présentée et soutenue publiquement le 14 décembre 2007 pour l obtention du Doctorat de l université de Poitiers (spécialité informatique) par Sylvain Charneau Composition du jury Président : Rapporteurs : Examinateurs : Dominique Michelucci (Professeur, Université de Bourgogne, Dijon) Dominique Michelucci (Professeur, Université de Bourgogne, Dijon) Claude Puech (Professeur, INRIA Paris-Rocquencourt) Leo Dorst (Assistant Professor, Amsterdam University) Xavier Décoret (Chargé de recherche, INRIA Rhône-Alpes) Pascal Lienhardt (Professeur, Université de Poitiers, directeur de thèse) Laurent Fuchs (Maître de Conférence, co-directeur de thèse) Lilian Aveneau (Maître de Conférence, co-directeur de thèse) Laboratoire Signal Image Communications EA 4103

2 Mis en page avec la classe thloria.

3 Étude et application des algèbres géométriques pour le calcul de la visibilité globale dans un espace projectif de dimension n 2 Résumé Cette thèse propose une étude des algèbres de Grassmann et de Clifford, du point de vue de leur définition mathématique, puis de leur application à l informatique graphique, afin de définir un cadre théorique et pratique pour le calcul de la visibilité globale dans un espace projectif de dimension n 2. En effet, le calcul d une information de visibilité est un des problèmes majeurs depuis les débuts de la synthèse d images. L émergence de problèmes plus complexes dans diverses disciplines nécessite une information de visibilité globale, c est-à-dire depuis tout point de l espace. Dans un premier temps, l étude des algèbres apporte des connaissances essentielles sur leurs structures mathématiques, ainsi qu un meilleur recul vis-à-vis de leurs méthodes d application à la géométrie. Dans un second temps, la définition d une théorie algébrique de la visibilité procure une meilleure connaissance du problème et une meilleure façon de raisonner, de formuler les opérations géométriques et de démontrer leur consistance. Elle permet ensuite de proposer une méthode algorithmique très efficace et très robuste, pour calculer une représentation de la visibilité globale dans l espace tridimensionnel, et la première solution à ce calcul dans des espaces de dimensions supérieures à trois. Mots-clés: Informatique graphique, algèbres géométriques, algèbre de Grassmann, visibilité globale, géométrie projective, espace de droites. Study and application of geometric algebras to the global visibility computation in a projective space of dimension n 2 Abstract This thesis proposes a study of the Grassmann and Clifford algebras, from the mathematical definition and the computer graphics applications points of view, in order to define a theoretical and applicative framework to compute a global visibility information in a projective space of dimension n 2. Indeed, the computation of a visibility information is one of the major problems since the beginnings of the image synthesis. The emergence of more complex problems in various fields require a global visibility information, that is to say an information from any point in space. Firstly, the study of the algebras contributes to essential knowledge on their mathematical structures and an original way to explain their meaning and their applications to geometry. Secondly, the definition of an algebraic theory of visibility offers a better knowledge of the problem and a better way to reason, to express geometric operations and to prove their consistency. It then allows to propose a robust and efficient method to compute a representation of the global visibility in three dimensional space and the first solution to this calculation in spaces of dimensions greater than three. Keywords: Computer graphics, geometric algebra, Grassmann algebra, global visibility, projective geometry, line space.

4

5 iii Remerciements Il y a un certain nombre de personnes que j aimerai remercier ici, pour l aide immense qu ils m ont apportée, au cours de ces trois années, et qui fut indispensable à l achèvement de ce travail. Je tiens tout d abord à remercier Pascal LIENHARDT, premièrement pour m avoir accueilli au sein du laboratoire SIC, deuxièmement pour avoir accepté d être mon directeur de thèse sur un sujet assez éloigné de ses thèmes de recherches habituels, et enfin pour m avoir fait confiance, alors que le sujet initial n était pas au départ prioritaire. Je tiens également à exprimer toute ma reconnaissance à Laurent FUCHS et Lilian AVENEAU, qui ont été pour moi bien plus que des codirecteurs de thèse. Laurent, pour commencer, avec qui j ai pris plaisir à partager ses nombreuses discussions, souvent scientifiques et en tout cas toujours très intéressantes. Lilian, ensuite, qui m a beaucoup appris en programmation. Les deux enfin, pour m avoir supporté toutes ces années, en particulier quand je n étais pas d accord, où il m arrive d être une vraie tête de mule. Mais je sais aussi reconnaître mes torts... la preuve. J adresse mes plus sincères remerciements à Claude PUECH, Dominique MICHELUCCI, Léo DORST et Xavier DÉCORET, tout d abord pour avoir accepté de faire partie de mon Jury de thèse, ensuite pour le vif intérêt qu ils ont exprimé pour mes travaux et leurs nombreuses questions et remarques pertinentes. Ces remerciements concernent en particulier Claude PUECH et Dominique MICHELUCCI, qui ont accepté la tâche ô combien ingrate de rapporteur. Ils vont également à Léo DORST, qui a accepté de lire le mémoire dans un temps très court et dans une langue qui lui est peu familière : Thank you very much Leo, for your deep knowledge of geometric algebras and your helpful remarks about my work. Enfin, j exprime ma plus sincère amitié à Xavier DÉCORET, avec qui ce fut un réel plaisir de discuter et de collaborer. Son engagement et son ambition furent pour moi très enthousiasmants. Au cours de mes trois années de labeur (quoique je ne regrette rien, bien au contraire), mon point de vue sur les algèbres géométriques a beaucoup évolué. Je pense avoir acquis un certain recul que je n aurais jamais pu accomplir sans mes rencontres avec différents mathématiciens et avec lesquels j ai eu l immense plaisir de discuter. J aimerai donc exprimer ma plus grande admiration à Pierre ANGLÈS que je ne remercierais jamais assez de m avoir conseillé Albert CRUMEYROLLE et Claude CHEVALLEY («page forty two!») ; Pol VANHAECKE, pour sa gentillesse, sa disponibilité, et bien sûr son aide sur la décomposition des multivecteurs dans l algèbre de Grassmann ; Rupert YU, pour avoir eu le courage (et la patience!) d accepter de discuter toute une après-midi avec un petit informaticien ; Isabelle VAN DEN BOOM, pour m avoir donné goût aux algèbres alors que je n étais qu un jeune étudiant. Je souhaite également exprimer ma sympathie pour les différentes personnes que j ai eu le plaisir de rencontrer au cours de colloques ou conférences, dont principalement Pierre MACÉ, Dietmar HILDEN- BRAND, Elsa ARCAUTE, Nabil ANWER, Daniel FONTIJNE, Joan LASENBY, Tiffany GASBARRINI et Marc FOURNIER, dont la compagnie au Brésil fut d un grand secours. Enfin, je remercie très chaleureusement les secrétaires Sylvie, Françoise, Françoise bis et Anne pour leur disponibilité et leur bonne humeur, ainsi que mes collègues et/ou amis : Bruno, Fred (qui m a beaucoup aidé au début, pour comprendre les subtilités du calcul de la visibilité globale), Carine, Patoche, Loé, Hondjack, Patience, Olivier I (miam!), Olivier II, Windu, Hung (coucou à toi qui est maintenant si loin), Chimène, Karim, Yvonne, Sadouanouan, Osgu, Dilek, Ahmed, Kamel et tous les collègues du CIES Centre (ainsi que son directeur Frédéric Badawi, pour son écoute et ses conseils). Tous ces gens ont indéniablement contribué au bon déroulement de ma thèse, dans un cadre des plus agréables. Enfin, je remercie bien évidemment ma famille, Antoine, l équipe de PED, Élise et Jean-Calude, pour leur soutien

6 iv ou leur amitié : ceux-là m ont beaucoup aidé à m aérer l esprit, ce qui fut parfois indispensable pour ne pas passer du côté obscur. J en oublie certainement beaucoup d autres ; je leur présente toutes mes excuses et en profite pour leur adresser également toute mon amitié.

7 Table des matières Introduction 1 I Nouvelle approche didactique des Algèbres Géométriques 1 Introduction à la structure des algèbres géométriques L algèbre tensorielle Définition Propriétés immédiates et autres définitions Contraction de tenseurs L algèbre de Grassmann Intuition et avantages de l algèbre de Grassmann Définition Propriétés immédiates Décomposabilité des multivecteurs La contraction dans l algèbre de Grassmann Récapitulatif L algèbre de Clifford v

8 vi Table des matières Intuition et avantages de l algèbre de Clifford Définition Propriétés immédiates Définition d une conjonction de (E) et C(E) Une nouvelle approche de l orthogonalité dans E Groupes de Clifford, inversibilité et groupe des isométries Récapitulatif Conclusion Application des algèbres géométriques : présentation et analyse Application des algèbres en géométrie : les modèles d interprétation Utilisation des structures algébriques en géométrie Les trois modèles d interprétation géométrique usuels Réflexions sur l utilisation des modèles d interprétation Programmation des algèbres géométriques Intuition de l implantation des algèbres géométriques Bibliothèques de calculs dans les algèbres géométriques Réflexions sur la programmation des algèbres géométriques Conclusion Conclusions sur l approche didactique des algèbres géométriques Synthèse sur l utilisation des algèbres géométriques Résumé Discussions et positionnement Perspectives II Calcul exact de la visibilité globale en dimension quelconque

9 vii 4 Introduction à la visibilité globale Étude globale de la visibilité Caractérisation du phénomène de visibilité par les évènements visuels Travaux précédents sur le calcul de visibilité globale Les coordonnées de Plücker et le calcul de visibilité globale Principes généraux du calcul d occultation Les méthodes de calcul d occultation Limites des méthodes actuelles Conclusion Résumé Discussions Théorie algébrique de la visibilité globale Formulation algébrique de la visibilité globale Introduction à l étude de la visibilité globale n-dimensionnelle Rappels sur l interprétation de l algèbre (R n+1 ) dans P n L espace des droites Classification des droites Définir un calcul de visibilité avec l algèbre de Grassmann Le polytope minimal Caractérisation du polytope minimal Démonstration du théorème Discussions et positionnement avec l existant Avantages des algèbres de Grassmann La solution du polytope minimal Conclusion Résumé Applications

10 viii Table des matières 6 Approches algorithmiques proposées Hypothèses et représentation générale de la visibilité globale Hypothèses sur l interprétation de l espace G n Représentation des points et des hyperplans dans D n Représentation générale de la visibilité Calcul et représentation de la visibilité globale entre deux faces convexes Vue d ensemble des algorithmes Calcul du polytope minimal initial Intersection d un polytope avec un hyperplan Insertion des occulteurs dans l arbre de visibilité Classification euclidienne robuste des droites dans l espace euclidien Utilisation des silhouettes Définition de la silhouette Vue d ensemble du traitement de la silhouette Intuition géométrique du problème des singularités Définition et caractérisation générale des singularités dans la silhouette Conséquences des singularités sur le calcul de visibilité Rejeter dans le cas des singularités Traitement de la silhouette Détection des occulteurs prédominants Discussions et évaluation de notre approche Différences et améliorations de notre approche Méthodes d évaluation Résultats et comparaisons pratiques Conclusion Conclusion sur le calcul de visibilité globale Motivations initiales Contributions

11 ix 7.3 Intérêts de la méthode algébrique Perspectives Conclusion 185 Annexes 193 A Rappels sur les structures algébriques 195 A.1 Définitions de base A.2 Espaces vectoriels A.2.1 Bases d un espace vectoriel A.2.2 Applications linéaires et multilinéaires A.2.3 Formes bilinéaires et formes quadratiques A.3 Algèbres A.3.1 Quotients d algèbres B Géométries, espaces affines et espaces projectifs 205 B.1 Espaces affines B.1.1 Définitions, propriétés B.1.2 Repère cartésien, coordonnées cartésiennes B.1.3 Variétés linéaires affines B.1.4 Géométrie euclidienne, espace euclidien B.2 Géométrie projective, espaces projectifs B.2.1 Définition algébrique B.2.2 Système de coordonnées homogènes B.2.3 Variétés linéaires projectives B.3 L orientation en géométrie B.3.1 La notion d orientation en géométrie abstraite B.3.2 La géométrie projective orientée et la notion d orientation algébrique

12 x Table des matières C Les espaces de droites usuels 219 C.1 Espace dual du plan affine C.1.1 Définition analytique C.1.2 Présence de singularités pour la dualité affine C.1.3 Définition algébrique C.2 Les coordonnées de Plücker C.2.1 Orientation relative de deux droites C.2.2 Les coordonnées de Plücker généralisées Bibliographie 225

13 Introduction 1

14

15 3 Les questions de visibilité trouvent leurs premières applications dans beaucoup de domaines de l informatique géométrique, comme la synthèse d images ou la vision par ordinateur. Celles-ci sont au centre de nombreuses recherches dans ces domaines, comme l affichage temps réel de scènes complexes ou bien le calcul d illumination globale, qui consiste à simuler les échanges d énergies entre chaque paire de faces de la scène. L aspect le plus simple du problème de visibilité est de déterminer si deux points sont mutuellement visibles, ce qui revient à établir que le segment tracé entre ces deux points ne rencontre aucun objet sur son parcours. Mais la visibilité peut également revêtir des aspects beaucoup plus complexes que celui-ci, selon que l on considère seulement des points mutuellement visibles ou bien des éléments de surfaces, i.e. des points et leur voisinage, mutuellement visibles. Nous nous intéressons dans ce mémoire à ces derniers aspects que l on appelle visibilité globale. Plus précisément, depuis les algorithmes du Z-buffer et du lancer de rayons, visant à déterminer une information de visibilité depuis un point de vue unique, les problèmes liés à la visibilité ont évolué vers une utilisation d une information plus globale de celle-ci, c est-à-dire une information qui ne se limite pas à la visibilité pour un seul rayon ou depuis un seul point de vue. L exemple de l illumination globale est typique. Elle consiste à considérer chaque face d une scène virtuelle comme une source de lumière indirecte, par inter-réflexions depuis la source réelle. Il s agit alors de déterminer les échanges d énergie entre chaque couple de faces de la scène. En terme de visibilité, cela s exprime par la caractérisation des parties d une face vues depuis chaque point d une seconde face. Pour représenter cet échange d énergie, l information ponctuelle de la visibilité, depuis un point particulier, n est pas suffisante : elle requiert la détermination de l ensemble des couples de points mutuellement visibles entre les deux faces. Cela revient de manière équivalente à déterminer l ensemble des droites passant par les deux faces mais ne passant pas par les faces situées entre elles. Cette caractérisation des droites passant par une ou plusieurs faces communes est l information de visibilité la plus générale : il s agit d une information de visibilité globale. Les applications de la visibilité globale ne se limitent pas à la synthèse d image ou à la vision par ordinateur. D autres domaines comme la simulation de propagation d ondes [FPST03, Mor06] ou la géométrie algorithmique [The03, Goa04] peuvent également tirer partie d une information de visibilité globale. Mais elles peuvent aussi apparaître dans des disciplines plus éloignées, comme la statistique et la visualisation d informations par ordinateur [GT05], où certains problèmes peuvent s exprimer par une information de visibilité globale dans des espaces de dimensions quelconques, ou encore la CFAO, où certaines pièces mécaniques sont modélisées en fonction de contraintes de visibilité. Ce besoin grandissant d une information globale de visibilité a déjà donné lieu à des travaux sur la représentation et l exploitation de l information de visibilité globale. Il s agit par exemple du complexe de visibilité [Poc93, DDP97a, Goa04], ou du calcul d occultation dans des espaces de droites [FPST03, Bit02, NBG02, MAM05]. Tous ces travaux s appuient sur une caractérisation de la visibilité à partir de la détermination des lieux où elle change. Toutefois, ceux-ci comportent certaines limites, comme la robustesse vis-à-vis de cas dégénérés ou l efficacité des méthodes. Celles-ci traduisent la nécessité de définir un cadre qui permette à la fois de mieux abstraire le problème et de mieux le comprendre, puis de formuler une caractérisation et une représentation de la visibilité globale. Cette formulation doit répondre aux critères de robustesse, qui comprend l exactitude et la capacité à considérer les cas dégénérés, de généricité, c est-à-dire l adaptabilité en fonction du problème et de la dimension, et d efficacité. Ces remarques sont les points de départ des travaux présentés dans ce mémoire. Notre objectif est de proposer une théorie permettant d unifier puis de généraliser en toute dimension, ainsi qu améliorer les techniques existantes sur le calcul de visibilité globale.

16 4 Notre approche de la visibilité repose sur l utilisation des algèbres géométriques. Ces algèbres sont un outil mathématique qui permet de mener des raisonnements à la fois abstraits, géométriques et indépendants de la dimension et du calcul. Elles nous ont semblé adaptées à notre problème en raison de cette aptitude à formuler des solutions simples et générales, et à la possibilité de définir des méthodes algorithmiques pour mettre en œuvre ces solutions. Nous commençons dans la suite par préciser les motivations qui ont mené aux travaux présentés dans ce mémoire. En particulier, nous expliquons les lacunes apparaissant dans les travaux précédents sur la visibilité globale. Nous résumons ensuite nos contributions, puis discutons de l organisation du document. Motivations et approches Motivations pour une approche algébrique de la visibilité globale Les différents travaux sur la visibilité globale témoignent de l intérêt pour la représentation d une telle information. Toutefois, ces travaux font face à divers problèmes, obligeant parfois à recourir à des solutions ad hoc, inexactes ou bien difficilement généralisables, ou encore à rendre la solution difficilement exploitable. Ces limites sont à la fois pratiques et théoriques. Limites pratiques Les limites pratiques des approches précédentes de la visibilité globale sont principalement liées aux manques de robustesse, d efficacité et de généricité. La robustesse fait référence à l apparition de cas dégénérés, clairement identifiés en 2D, mais pas toujours en dimension supérieure. Ces cas restent alors parfois sans solution pratique satisfaisante. À ce problème de dégénérescence s ajoute celui de l efficacité : beaucoup de ces méthodes s avèrent difficilement exploitables en pratique. Il y a plusieurs raisons à cela. Certaines [Pu98] présentent des complexités prohibitives, ne pouvant espérer représenter une information de visibilité globale sur des scènes contenant seulement quelques dizaines de polygones. D autres [KvD79, PD90] représentent une information ne pouvant fournir de réponse à des requêtes simples comme la visibilité mutuelle de deux points. Dernièrement, des approches [Bit02, NBG02, Mor06] sont apparues plus efficaces sur ces deux points, mais empêchent dans certains cas une description exacte de la visibilité, en raison d un traitement inadapté des dégénérescences. En ce qui concerne la généricité, elle renvoie à une classe de problèmes où il est question d étudier des notions de visibilité dans des espaces de dimensions quelconques [GT05]. Actuellement, il n existe aucune méthode, parmi les travaux précédents, capable de donner une représentation de la visibilité globale en dimension supérieure à trois. Limites théoriques Les travaux sur la représentation de la visibilité globale sont tous fondés sur une approche analytique d un espace de droites. La raison est que celui-ci est apparemment le plus apte à représenter la visibilité. Seulement, ces travaux témoignent de la difficulté à comprendre cet espace à partir d une telle approche. Or, de la compréhension de cet espace dépend la compréhension de la visibilité. Cette limite se ressent dans le fait qu il existe plusieurs définitions de ces espaces [Dur00], sans qu elles soient motivées. Elle explique par ailleurs en partie les problèmes pratiques de ces méthodes : elles

17 5 s avèrent ne pas être en mesure d expliquer, par exemple, la provenance de certaines dégénérescences et donc de proposer des éléments de solutions à la prise en compte de celles-ci [Nir03, Bit02]. De même, cette approche de l espace des droites ne permet pas d expliquer les implications d un changement de dimension du problème [Dur00]. Ainsi, selon ces différentes études, il apparaît que la visibilité 3D n est pas directement comparable à la visibilité 2D. Il résulte un ensemble de méthodes qui semblent indépendantes les unes des autres. Ces limites montrent la nécessité de définir un cadre théorique unique, plus abstrait, qui offre : une meilleure conception de la structure de l espace des droites. une unification des concepts de la visibilité 2D et 3D. une généralisation de ces concepts en toute dimension. un calcul robuste, efficace et pertinent de l information de visibilité. Motivations pour une nouvelle approche didactique des algèbres géométriques L utilisation des algèbres géométriques pour le calcul de visibilité globale nous a poussés à étudier des concepts essentiels à la constitution d un raisonnement abstrait et géométrique à partir de celles-ci. Néanmoins, ces concepts se trouvent souvent séparément dans la littérature spécialisée. En effet, les présentations habituelles des algèbres géométriques suivent une approche soit purement algébrique et formelle [Che96, Cru90, Deh81], soit pragmatique [DFM07, MD02a, PH03] définie à partir d un «système» de propriétés. Il s agit dans le premier cas de présentations mathématiques, parfois trop générales pour les problèmes qui nous intéressent et parfois trop succinctes. Il s agit dans le second cas, de présentations plus applicatives, où on s intéresse finalement davantage à l interprétation des termes et des opérations et pas suffisamment aux structures algébriques. Leur inconvénient est de ne pas montrer les fondements mathématiques sous-jacents à la définition des propriétés présentées, ne permettant pas une utilisation générale des algèbres géométriques ; celle-ci est limitée aux cas exposés. Ces deux types d approches sont en réalité complémentaires. Tandis qu une approche formelle permet de connaître et comprendre les principales structures des algèbres géométriques, facilitant et suscitant le raisonnement abstrait, une approche pragmatique autorise l expression de relations géométriques par des termes algébriques. À ces deux concepts, s ajoute la nécessité de définir un cadre algorithmique afin d évaluer concrètement une expression algébrique. Ces trois connaissances sont déterminantes de l effectivité des algèbres géométriques, i.e. de leur capacité à être utilisées en géométrie et en informatique graphique. La littérature applicative est la seule à tenter d analyser ce troisième aspect, parallèlement à leurs interprétations [DFM07]. Mais comme nous l avons précisé, celle-ci pèche par une définition des algèbres à partir d un ensemble de propriétés, sans expliquer leurs provenances. Cette définition résulte en une approche synthétique de la géométrie, i.e. une formulation des problèmes géométriques par un ensemble de constructions (intersections, transformations, etc.). Or, dans beaucoup de problèmes pratiques, le système de propriétés proposé se révèle insuffisant à la déduction d une solution ou à la preuve de sa consistance. Seule la connaissance des structures algébriques sous-jacentes permet de déterminer les propriétés manquantes. Afin de rendre ces algèbres utilisables en géométrie, il nous a donc semblé nécessaire de les présenter selon une approche faisant ressortir ces trois niveaux séparément et les techniques permettant leur utilisation commune.

18 6 Contributions Les contributions exposées dans ce document concernent d une part la compréhension des algèbres géométriques, et d autre part le calcul de visibilité globale. Contributions à la compréhension des algèbres géométriques Nous définissons, dans ce mémoire, une nouvelle présentation des algèbres géométriques. L objectif est de rassembler au sein d un même texte les fondements manquants dans les présentations habituelles, purement applicatives, ainsi que les interprétations manquantes aux textes mathématiques. Cette présentation permet alors au lecteur de comprendre ces différents concepts, nécessaires à l application des algèbres géométriques. Cette lecture différente des présentations usuelles est essentielle pour les raisons évoquées précédemment. Elle apporte : une meilleure compréhension de la structure des algèbres, facilitant le calcul sur les termes algébriques et la résolution d équations dans les algèbres géométriques ; une synthèse de différentes approches, suscitant un raisonnement à la fois abstrait, fondé sur des propriétés algébriques, et géométriques. Ce type de raisonnement est particulièrement efficace pour établir des démonstrations et prouver la cohérence de certains résultats ; une introduction pédagogique aux concepts d interprétation géométrique des algèbres, afin, d une part d étayer la différence entre un raisonnement algébrique sur les espaces vectoriels et un raisonnement géométrique, et d autre part de mieux comprendre comment utiliser ces algèbres en géométrie ; une analyse des différentes manières d interpréter les algèbres en géométrie, dans le but de mettre en évidence les spécificités et les utilités de chacune d elles, plutôt que de privilégier une interprétation particulière ; une sensibilisation à l implantation des algèbres, pour comprendre comment évaluer, puis calculer concrètement une solution algébrique et en exploiter le résultat ; une réflexion sur les méthodes d implantation existantes. Chacun de ces apports a été nécessaire pour formuler un calcul algébrique de la visibilité. Contributions au calcul de visibilité globale Concernant le calcul de visibilité, ce document présente la première théorie algébrique de la visibilité globale dans un espace projectif ou euclidien, de dimension n 2. Notre approche théorique repose sur l interprétation des algèbres de Grassmann, une algèbre géométrique, dans l espace projectif. Ce cadre algébrique procure une manière synthétique, abstraite des coordonnées, de raisonner sur les droites et les ensembles de droites : les raisonnements et les démonstrations utilisent des règles de calculs sur des termes, sans se référer à des coordonnées. Il apporte une meilleure connaissance de l espace des droites en toute dimension, grâce à une meilleure conception des structures mathématiques sous-jacentes. Cette théorie du calcul de la visibilité globale dans l algèbre de Grassmann offre plusieurs avantages : Elle unifie les méthodes existantes proposant un calcul similaire dans le plan et dans l espace tridimensionnel. Elle généralise ensuite ces méthodes aux dimensions supérieures.

19 7 Elle permet de trouver des solutions théoriques aux problèmes que les approches classiques n ont pu résoudre ou expliquer. À partir de cette formulation algébrique de la visibilité, nous proposons également des solutions algorithmiques pour appliquer cette théorie en pratique. Ces solutions sont analogues aux méthodes les plus efficaces, dans le cas tridimensionnel, mais améliorent celles-ci sur plusieurs points. Les algorithmes proposés : sont valides en toute dimension ; sont robustes aux dégénérescences ; définissent des solutions pour limiter l instabilité numérique ; définissent un calcul consistant et efficace de la visibilité à partir des silhouettes des objets 1 ; représentent une information pertinente, capable de donner des solutions rapidement à diverses requêtes de visibilité ; permettent une représentation plus compacte de l information de visibilité ; accélèrent par conséquent l extraction de cette information. Organisation du document Le mémoire est constitué de deux parties. La première partie définit une nouvelle présentation pédagogique des algèbres géométriques. La seconde partie présente notre théorie algébrique de la visibilité globale en toute dimension et les algorithmes permettant son application concrète. La partie I est une synthèse des deux manières usuelles de présenter les algèbres, qui établit les liens existant entre elles. Elle est composée de deux chapitres et d une conclusion. Le chapitre 1 propose une introduction aux algèbres géométriques, d un point de vue algébrique. Une attention particulière à l interprétation des termes dans un espace vectoriel est donnée, de manière à permettre des raisonnements abstraits sur des structures algébriques. Le chapitre 2 est une introduction aux techniques permettant d utiliser la structure algébrique exposée au premier chapitre pour formuler des solutions aux problèmes que l on rencontre en géométrie. Ces techniques concernent d une part la manière d interpréter les algèbres dans des espaces géométriques et d autre part l évaluation des termes afin de calculer un résultat, puis de le visualiser ou de l exploiter. Dans chaque cas, une étude des techniques existantes est présentée afin de mettre en évidence leurs avantages et leurs spécificités. La partie II est composée des trois derniers chapitres de ce mémoire, puis d une conclusion. Le chapitre 4 est une introduction aux travaux antérieurs sur le calcul de visibilité globale dans l espace tridimensionnel. Ce chapitre permet de mettre en évidence les problèmes théoriques et pratiques, motivant la définition d une théorie cohérente et algébrique de la visibilité globale en dimension n 2. Le chapitre 5 présente notre théorie de la visibilité globale, fondée sur l utilisation d une algèbre géométrique. Enfin, le chapitre 6 décrit nos choix d implantation et les améliorations que nous avons apportées à l efficacité et à la robustesse de la méthode. Les annexes, découpées en trois chapitres, présentent des rappels sur les différentes notions utilisées à travers ce document. L annexe A consiste en des rappels sur les structures algébriques de base comme les espaces vectoriels, les espaces quotients et les algèbres. L annexe B rappelle les notions élémentaires sur les espaces affines, les espaces projectifs et les espaces arguésiens. Ces deux derniers sont les espaces dans lesquels est définie notre théorie du calcul de visibilité globale. Enfin, l annexe C définit les deux 1 La silhouette est constituée des éléments (des arêtes dans le cas tridimensionnel) où apparaissent les changements de la visibilité. Ils définissent le contour des objets depuis tous les points de vue considérés dans le calcul de visibilité globale.

20 8 principaux espaces de droites utilisés dans les travaux précédents, en 2D et en 3D.

21 Première partie Nouvelle approche didactique des Algèbres Géométriques 9

22

23 11 Les algèbres géométriques sont un outil mathématique qui consiste en l application à la géométrie des algèbres de Grassmann et des algèbres de Clifford, introduites au 19 ème siècle par Hermann Günther Graßmann et William Kingdon Clifford. L intérêt de ces algèbres en géométrie provient de leur aptitude à représenter, par des termes algébriques et des opérations sur ces termes, des relations géométriques comme les intersections, les incidences ou les isométries. Leur avantage, à la différence d autres outils mathématiques utilisés en géométrie, comme l algèbre matricielle ou encore l algèbre des quaternions, est leur capacité à s affranchir de la définition d un système de coordonnées et à s abstraire de la dimension pour formuler des opérations ou des démonstrations géométriques. Les solutions proposées sont, par conséquent, souvent plus robustes et plus génériques que les solutions classiques. Cette partie définit une nouvelle manière de présenter les algèbres géométriques pour leur application à l informatique graphique. Cet exposé est une synthèse des présentations existantes en mathématique et en ingénierie, présentant chacune des aspects différents, mais néanmoins fondamentaux des algèbres. Elle résulte de l étude de ces algèbres pour leur application au calcul de visibilité, où apparaît le besoin d avoir une approche algébrique de la géométrie, c est-à-dire d avoir un raisonnement à la fois abstrait et géométrique, et le besoin d avoir une approche pratique ou algorithmique. Cette partie vise à introduire l utilisation de ces trois concepts au sein du même cadre algébrique. Cette présentation des algèbres géométriques commence, dans le chapitre 1, par leur définition mathématique. Ce chapitre fournit les différentes notions et règles utiles à l expression de calculs «symboliques» sur les termes des algèbres géométriques. Sont ensuite décrits, dans un second chapitre, les modèles d interprétation qui permettent de donner un sens géométrique à ces termes algébriques, puis les techniques de programmation des algèbres qui proposent une représentation concrète et une évaluation de ces termes 2. Enfin, le chapitre 3 présente un résumé de cette première partie, en rappelant les connaissances apportées par ces différents chapitres puis en positionnant cette présentation par rapport aux précédentes. Concernant les applications des algèbres géométriques en modélisation géométrique ou en traitement du signal, celles-ci ne sont pas directement explorées dans cette partie, ceci sortant du cadre de notre étude. Au minimum, nous donnons les éléments nécessaires à cette étude. 2 Dans cette partie, nous distinguons deux niveaux de représentation des calculs sur les termes des algèbres géométriques. Premièrement, le calcul «symbolique», qui se fait sans référence aux coordonnées et qui est utilisé pour formuler une solution générale à un problème à partir d une équation algébrique : par exemple, l équation a b = 0 est l expression symbolique exprimant le fait que les deux vecteurs a et b sont orthogonaux pour le produit scalaire. Deuxièmement, la représentation et le calcul (ou encore l évaluation) «concrets» de l équation donnant la solution au problème, qui peuvent être utilisés par exemple pour exprimer le calcul dans un programme informatique. Cette représentation et ce calcul peuvent se faire à partir des coordonnées : en reprenant l exemple précédent et en supposant que a et b ont pour coordonnées (a 1,a 2,a 3 ) et (b 1,b 2,b 3 ) respectivement, l équation a 1 b 1 +a 2 b 2 +a 3 b 3 = 0 exprime un calcul concret (une évaluation) indiquant, dans un repère correctement choisi, si les deux vecteurs sont orthogonaux. Le fait de formuler la solution indépendamment des coordonnées permet de rendre la formulation plus synthétique et intuitive, et assure en outre que le résultat du calcul sur les coordonnées est valide, quelque soit le système de coordonnées utilisé.

24 12

25 Chapitre 1 Introduction à la structure des algèbres géométriques Ce chapitre présente une introduction aux algèbres géométriques, du point de vue algébrique. Cette présentation n est pas exhaustive, en raison de l étendue importante du développement de ces algèbres. Elle est en revanche suffisante pour comprendre les propriétés de la structure de ces algèbres, qui seront ensuite utiles pour leurs applications en géométrie. Elle permet notamment de mieux appréhender les présentations usuelles, d en concevoir les fondements, afin de faciliter l élaboration de solutions nouvelles. En particulier, nous détaillons et redéfinissons certaines démonstrations manquantes ou difficiles dans la littérature mathématique, mais néanmoins utiles pour comprendre et se familiariser avec la manipulation des expressions algébriques. Le chapitre est composé de trois sections et d une conclusion. La première section présente les algèbres tensorielles, servant à la définition des algèbres de Grassmann, présentées dans la seconde section, et des algèbres de Clifford, décrites dans la troisième section. Ces trois sections ont pour but de présenter la structure de ces algèbres, leurs relations, et leurs significations dans un espace vectoriel. La présentation des algèbres suppose une certaine connaissance des structures algébriques de base de la part du lecteur. L annexe A en rappelle les concepts principaux. Le lecteur pourra s y référer, si nécessaire, tout au long de ce chapitre. Dans l exposé qui suit, E désigne un espace vectoriel de dimension n finie, sur le corps des réels R, muni d une forme quadratique Q, de sa forme bilinéaire associée B et d une base orthogonale (e 1,...,e n ). Nous nous limitons volontairement aux espaces quadratiques non dégénérés (cf. définition A.26, page 202), de dimensions finies sur R, car il s agit des seuls cas dont nous aurons besoin. 1.1 L algèbre tensorielle Bien que l algèbre tensorielle ne soit pas une algèbre géométrique, sa présentation est ici nécessaire pour introduire les algèbres de Grassmann et de Clifford. Elle permet effectivement de caractériser les relations algébriques existantes entre les deux algèbres géométriques, et justifie par conséquent l utilisation conjointe de celles-ci, telle qu elle apparaît dans la littérature applicative. Cette section présente seulement les concepts qui seront essentiels à la définition des algèbres géomé- 13

26 14 Chapitre 1. Introduction à la structure des algèbres géométriques triques et des opérateurs principaux sur ces algèbres Définition L algèbre tensorielle est définie à partir d un espace vectoriel E initial, appelé espace générateur de l algèbre. La définition qui suit est une synthèse de différentes définitions trouvées dans la littérature [CO68, Cru90, Che96]. Définition 1.1 L algèbre tensorielle (E) sur l espace vectoriel E est une algèbre associative unitaire d unité 1 (cf. annexe A.3), vérifiant les propriétés suivantes : Prop. 1 L espace E est un sous-espace vectoriel de l espace de l algèbre (E). Prop. 2 L algèbre (E) est générée par E et par l unité 1. Prop. 3 Tous les produits tensoriels d un nombre quelconque de vecteurs d une base de E sont linéairement indépendants entre eux. Les éléments de (E) sont les tenseurs et son produit est appelé produit tensoriel. Le paragraphe illustre plus en détail ces propriétés et montre notamment comment construire les tenseurs de (E) Propriétés immédiates et autres définitions Identification de E et R dans (E) La propriété 1 de la définition 1.1 signifie qu il existe un sous-espace vectoriel E dans (E) en bijection avec E. Il vient alors naturellement que les vecteurs de E sont assimilables à des tenseurs de (E), par bijection avec les tenseurs dans E. De même, comme l algèbre est unitaire d unité 1, il existe une bijection entre les scalaires (ici l ensemble des réels R) et le sous-espace vectoriel généré par l unité 1 dans (E) : à tout scalaire α, elle associe l élément α1 de (E). Pour identifier de manière consistante les scalaires de R avec les tenseurs de la forme α1, il suffit de montrer que pour tout tenseur T de (E), α T = αt : α T = (α1 ) T hypothèse d identification des scalaires = α(1 T) bilinéarité du produit d algèbre = αt par définition de (E). Nous avons alors le corollaire suivant. Corollaire 1.1 L espace générateur E et l espace des scalaires R peuvent être identifiés à des tenseurs de (E).

27 1.1. L algèbre tensorielle 15 Forme des tenseurs Le corollaire 1.2 suivant est une conséquence de la propriété 2, indiquant que tout tenseur peut s écrire comme une combinaison linéaire de produits de la forme 1 x 1... x k, où x i est un vecteur de E pour tout i dans [1;k], k 0. Comme E est généré par sa base (e 1,...,e n ), l algèbre (E) est également générée par (1,e 1,...,e n ). Par exemple, le terme A = 4+e 1 + e 2 e 2 e 3 e 4 e 2 e 4 est un tenseur. Corollaire 1.2 Tout tenseur peut s écrire comme la combinaison linéaire d un nombre fini de tenseurs de la forme 1 e 1... e k, pour une base (e 1,...,e n ) de E et pour tout k 0. Unicité de (E) D après le corollaire 1.2 et la propriété 3, tout tenseur s exprime de manière unique à partir des produits de vecteurs d une base de E et de l unité. Ces tenseurs forment une famille de tenseurs, déterminée de manière unique à partir d une base de E. Une autre base de E détermine de la même manière une autre famille de tenseurs de (E), immédiatement isomorphe à la première. On déduit alors le corollaire 1.3. Corollaire 1.3 L algèbre (E) est unique à isomorphisme près. Propriétés du produit La propriété 3 signifie en outre que pour deux vecteurs linéairement indépendants x 1 et x 2 de E, les tenseurs x 1 x 2 et x 2 x 1 sont également linéairement indépendants. Ainsi : Corollaire 1.4 Le produit tensoriel n est ni commutatif, ni anticommutatif, excepté pour le tenseur 1, où le produit est commutatif, par définition de l algèbre unitaire. Les autres propriétés du produit tensoriel sont déduites de la définition d une algèbre associative : bilinéarité et associativité. Donnons à titre d exemple le produit du tenseur précédent A par le tenseur B = 2+(e 3 e 2 ) e 2 : A B = (4+e 1 + e 2 e 2 e 3 e 4 e 2 e 4 ) (2+e 3 e 2 e 2 e 2 ) = 8+2e 1 + 2e 2 e 2 e 3 2e 4 e 2 e 4 + 4e 3 e 2 + e 1 e 3 e 2 + e 2 e 2 e 3 e 3 e 2 e 4 e 2 e 4 e 3 e 2 4e 2 e 2 e 1 e 2 e 2 e 2 e 2 e 3 e 2 e 2 + e 4 e 2 e 4 e 2 e 2 Le développement de ce calcul utilise uniquement la propriété de bilinéarité et d associativité du produit. Chacun des termes de la somme sont linéairement indépendants entre eux, selon la propriété 3. Ordre des tenseurs Toute combinaison linéaire des produits de vecteurs de E peut être décomposée en fonction de la longueur des mots, i.e. du nombre k de vecteurs de E contenus dans les produits de la forme 1 x 1 x 2 x k, x i E pour tout i dans [1;k], k 0.

28 16 Chapitre 1. Introduction à la structure des algèbres géométriques En reprenant l exemple précédent, la décomposition donne : A B = T 0 + T 1 + T 2 + T 3 + T 5 avec T 0 = 8 T 1 = 2e 1 T 2 = 4e 3 e 2 4e 2 e 2 T 3 = 2e 2 e 2 e 3 2e 4 e 2 e 4 + e 1 e 3 e 2 e 1 e 2 e 2 T 5 = e 2 e 2 e 3 e 3 e 2 e 4 e 2 e 4 e 3 e 2 e 2 e 2 e 3 e 2 e 2 + e 4 e 2 e 4 e 2 e 2 On définit alors l ordre d un tenseur de la manière suivante. Définition 1.2 Un tenseur T est homogène d ordre k s il est combinaison linéaire de produits de longueur k, i.e. de produits de k vecteurs de E. Le tenseur T est alors appelé k-tenseur. Par convention, les vecteurs de E sont les tenseurs d ordre 1 (car produit d un seul élément de E) et l espace des scalaires R1 est l espace des tenseurs d ordre 0. Ainsi, e 1 e 2 + e 2 e 2 est un tenseur homogène d ordre 2 : les deux produits de la somme sont de longueur 2. Nous avons la propriété immédiate suivante. Propriété 1.1 Pour toute valeur de k dans N, l ensemble des tenseurs d ordre k, noté k(e), muni des restrictions des lois d espace vectoriel de (E) (addition et multiplication par les scalaires), est un espace vectoriel de dimension n k, où n est la dimension de E. Une base de cet espace est la famille constituée des tenseurs de la forme e i1 e i2... e ik, pour toute suite (i 1,i 2,...,i k ) dans [1;n] k. On vérifie alors : i { }} { i(e) = E E ( i(e)) ( j(e)) = i+ j(e) (E) = ( i(e)) i=1 La notion d ordre des tenseurs, qui se retrouve dans l algèbre de Grassmann, sert à introduire la notion fondamentale de décomposabilité des tenseurs, notamment utile à l interprétation des éléments de l algèbre de Grassmann (cf ). Tenseurs décomposables Définition 1.3 Un tenseur homogène T k d ordre k, k N, est dit décomposable ssi il existe k vecteurs x 1,...,x k de E tels que T k = x 1... x k. Autrement dit, un tenseur décomposable peut s écrire comme la somme d un seul produit de vecteurs de E. Les vecteur x 1,...,x k sont une décomposition de T k. Par exemple, le tenseur e 1 e 2 + 2e 2 e 2 est décomposable : les vecteurs (e 1 + 2e 2,e 2 ) en sont une décomposition. En revanche, le tenseur e 1 e 2 + e 3 e 4, en supposant e 1 (resp. e 2 ) linéairement indépendant de e 3 (resp. e 4 ), n est pas décomposable : il n est pas possible de trouver une factorisation des deux termes.

29 1.2. L algèbre de Grassmann Contraction de tenseurs Nous introduisons ici l opérateur classique de contraction de tenseurs. Il permet, dans les algèbres géométriques, la définition d un opérateur caractérisant les notions, importantes en géométrie, d orthogonalité et de sous-espace complémentaire (paragraphes et 1.3.5). Cet opérateur utilise la relation existante entre les tenseurs et les formes multilinéaires sur E [Cru90] (cf. annexe A.2.2). Nous n y faisons toutefois pas référence ici et présentons directement l opérateur qui nous concerne. L opérateur de contraction d un tenseur de p(e), par une forme linéaire de l espace dual E (cf. annexe A.2.2), est un opérateur qui permet de réduire l ordre des tenseurs. Elle opère sur les tenseurs comme l application d une forme linéaire de E à un vecteur de E. Elle est définie de la manière suivante. Définition 1.4 Soit T p = x 1... x p de p(e), p > 0 et θ de E. La contraction C 1 θ est l application linéaire qui au p-tenseur T p associe le tenseur C 1 θ (T p) dans p 1(E) : C 1 θ (T p) = θ(x 1 )x 2... x p Par convention, C θ (α) = 0 pour tout scalaire α dans R. L opérateur C θ s étend alors à tout tenseur par linéarité. Toutes les propriétés vues dans cette première section vont maintenant servir à définir, comprendre et déterminer les propriétés des algèbres de Grassmann. En particulier, la décomposabilité des tenseurs et la contraction tensorielle sont des notions qui s étendent à l algèbre de Grassmann et possèdent, dans cette algèbre, des propriétés fondamentales à l utilisation de ces algèbres en géométrie. 1.2 L algèbre de Grassmann L algèbre de Grassmann fut introduite au XIX ème siècle par Hermann Günther Graßmann [Gra44]. Son intérêt en géométrie provient de sa capacité à représenter des sous-espaces vectoriels par des termes algébriques Intuition et avantages de l algèbre de Grassmann On peut voir l algèbre de Grassmann comme un langage mathématique de représentation et de manipulation des sous-espaces vectoriels d un espace vectoriel E. Ces sous-espaces vectoriels jouent notamment un rôle central dans le calcul de visibilité (cf. chapitre 5). Comparée à une méthode matricielle, ou bien à la paramétrisation de Plücker, que nous étudierons dans la partie II de ce mémoire, l algèbre de Grassmann apporte un cadre algébrique permettant de manipuler et de raisonner sur des sous-espaces vectoriels de manière «symbolique», i.e. sans faire référence à des coordonnées. Les représentations équationnelles des relations entre les sous-espaces vectoriels sont alors plus intuitives, interprétables et générales. Cette particularité de l algèbre de Grassmann provient de son produit qui permet d exprimer la notion de dépendance linéaire des vecteurs de E. Anticipons quelque peu sur la suite : prenons en exemple deux vecteurs a et b de E. Dire que a et b sont linéairement