Quelques réflexions sur les mathématiques en général et la théorie des groupes en particulier – Rom, 18.11.1992

USA/Schweiz

Armand Borel

Balzan Preis 1992 für Mathematik

Für seinen grundlegenden Beitrag zur Theorie der Lieschen Gruppen und zur Theorie der algebraischen und arithmetischen Gruppen sowie für seine unermüdlichen Bemühungen um hohe Massstäbe in der mathematischen Forschung und die Verbreitung neuer Ideen.

En feuilletant les Orientamenti e attività des lauréats Balzan des deux années précédentes, je ne peux m’empêcher d’envier leurs auteurs. Chacun, quel que soit son domaine, peut entrer directement in medias res et se référer à des notions, faits, œuvres ou personnalités qu’il estime être en droit de supposer connus, afin de situer ou décrire ses propres contributions. Il n’en est hélas pas de même pour le mathématicien „pur“ que je suis. Pratiquement rien de ce qui a été fait en mathématiques durant ces deux ou trois derniers siècles n’appartient à la culture de l ‚“honnête homme“, et peut me servir de référence ou de point de comparaison, même vague.

Par exemple, G. Ligeti (prix Balzan 1991) peut sans autre forme de procès faire allusion à Beethoven, Bach, Bartok, Schonberg et à leurs œuvres et admettre que ses lecteurs, et pas seulement des musiciens professionnels, savent de qui et de quoi il parie. Mais si j’affirme, disons, que certains travaux de H. Weyl et E. Cartan sur les groupes et algèbres de Lie semi-simples ont joué initialement un rôle important dans la genèse des miens, cela n ‚aura de signification que pour des mathématiciens professionnels engagés dans la recherche, et même pas pour tous, en fait.

Ma tâche aurait sans doute été plus simple à la fin du 18ème siècle. Les grands progrès des mathématiques se centraient alors principalement sur l’analyse et ses applications à des problèmes en mécanique, astronomie, etc., qui les avaient en partie motivés et qu’ils avaient permis de résoudre. En insistant sur ces applications, j’aurais pu en donner une idée, sans devoir m’engager dans une description du calcul infinitésimal ou du calcul des variations. Peut-être aurais-je été récompensé pour des travaux non pas en analyse, mais en théorie des nombres ou en géométrie. Ces deux domaines, surtout le premier, étant déjà plus internes aux mathématiques, ma tâche aurait été plus difficile, mais tout de même pas inabordable : après tout, les nombres entiers et les figures géométriques nous sont familiers, et leur étude remonte aux Grecs, ce qui leur donne déjà une certaine respectabilité.

Mais les mathématiques ont depuis lors pris un essor prodigieux, procédant quelquefois par des sauts brusques, introduisant des concepts de plus en plus abstraits, de plus en plus éloignés de l’intuition quotidienne, qui n’ont trouvé d’écho guère que chez les spécialistes. Mon propre point de départ était déjà le résultat d’un formidable empilement d’abstractions successives, et ce processus n ‚a fait que s’accélérer depuis. Ma tâche serait en somme de sauter par-dessus tous ces développements pour donner une idée de travaux récents en termes relativement familiers il y a deux siècles déjà ; une entreprise intéressante, peut-être, mais quelques pages ne sauraient y suffire. Aussi cet essai se bornera à quelques remarques sur les mathématiques et n’abordera qu’incidemment mes contributions.

La prise de conscience de la mathématique comme une activité autonome, non nécessairement liée à des applications au monde extérieur, a été progressive. Peu à peu, les mathématiciens se sont rendu compte qu’ils édifiaient une réalité intellectuelle, sans doute issue initialement de problèmes pratiques, mais de plus en plus indépendante, qu’ils pouvaient légitimement explorer en elle-même. Cette évolution n’a pas toujours été aisée. On peut déjà en voir un exemple dans les difficultés rencontrées en cherchant à donner un sens aux racines carrées de nombres réels négatifs. Durant la Renaissance, des mathématiciens italiens étaient parvenus à exprimer les solutions d’une équation algébrique de degré trois (ou même quatre) par de formules générales portant sur les coefficients de l’équation et faisant intervenir des racines carrées ou cubiques. Dans un cas, appelé casus irreducibilis, ces formules contenaient des racines carrées de nombres réels négatifs, ce qui, à première vue était complètement absurde, puisque la règle des signes implique que le carré d’un nombre réel positif ou négatif est toujours positif. Descartes, par exemple, ne voulait pas en entendre parler. Mais on réalisa cependant que si l’on maniait ces symboles en suivant certaines règles formelles, on trouvait effectivement trois solutions réelles. On passait donc de nombres réels (les coefficients) à d’autres nombres réels (les solutions) par l’intermédiaire de nombres „imaginaires“, „non existants“, „impossibles“. Il a fallu plus de deux siècles pour résoudre ce paradoxe apparent. La

solution a été de définir un système de nombres plus généraux, les nombres complexes, contenant à la fois les nombres réels et les racines carrées des nombres négatifs. Ces nombres complexes sont représentés par des paires de nombres réels ou, pour parler géométriquement, par les points d’un pian, entre lesquels on définit des opérations analogues, et généralisant, l’addition et la multiplication. On a donc affaire ici à un objet intellectuel, qui généralise et inclut une notion qui semblait enracinée dans le monde qui nous entoure, à savoir les nombres réels.

Une fois acceptés, les nombres complexes, qui s’étaient introduits à propos d’un problème d’algèbre, pénétrèrent peu à peu dans d’autres domaines, en particulier en analyse, où se développa une théorie des fonctions d’une variable complexe. Là aussi, on trouve des exemples de propriétés de fonctions de variables réelles qui ne peuvent se comprendre qu’en passant par I‘ intermédiaire du complexe, même s’il dispara1t de l’énoncé final. Tout cela semblait bien théorique, cependant, et en fait, dans la première partie du 19ème siècle, le mathématicien C.F. Gauss estimait cette théorie justifiée, voire indispensable, en premier lieu au nom de l’harmonie interne des mathématiques. Même lui ne prévoyait pas qu’elle deviendrait fondamentale pour l’ingénieur, en électricité par exemple et ensuite dans bien d’autres domaines.

Une difficulté apparentée se rencontra, même à un plus haut degré, en géométrie. En principe, le but de cette dernière était de rendre compte des propriétés de figures géométriques de I‘ espace, et il était accepté que sa base était la géométrie euclidienne, décrite par une axiomatique issue de la réalité et la reflétant. Quand certains mathématiciens construisirent des géométries non-euclidiennes, i.e. dans lesquelles un des axiomes d’Euclide (celui des parallèles) n’était pas satisfait, ils se sont heurtés à des réserves mathématiques et philosophiques. Gauss a lui-même affirmé avoir été en possession d’une telle théorie pendant trente ans sans oser la publier „par peur des Béotiens“. Une telle géométrie, ne correspondant pas à la réalité, courait le risque d’être qualifiée de jeu gratuit sans portée, indigne d’être appelé géométrie. Il a fallu bien des années pour que I‘ on en arrive à considérer ces géométries comme des constructions mentales aussi valables l’une que I‘ autre, qu’elles s’appliquent au monde où nous vivons ou non ; un point de vue qui s’imposa définitivement lorsqu’il fut établi qu’ elles sont logiquement cohérentes si et seulement si la géométrie euclidienne l’est.

Ce sens de I‘ autonomie des mathématiques pures n‘ a fait que s’accentuer au cours des années, aussi la légitimité de celle-ci n’est plus mise en doute, même si elle reste si mystérieuse au non-mathématicien, cela d’autant plus que l’on a constaté à maintes et maintes reprises que des théories développées en mathématique pure pour des raisons internes à la discipline ont trouvé, quelquefois bien plus tard, des applications aussi imprévues que fondamentales aux sciences naturelles ou à la technologie. Cela ne veut pas du tout dire que la mathématique appliquée, i.e. visant dès le départ des applications pratiques, soit pour autant négligée. Bien au contraire elle aussi connait un développement, spectaculaire, aidé par celui des ordinateurs. Mais mon activité se situe dans la première.

La notion de groupe, qui joue un rôle central dans mes travaux, est née vers 1830, dans un mémoire d’un mathématicien de vingt ans, Evariste Galois. Il s’agissait, entre autres, de montrer qu’il n’existait pas de formule universelle ex­ primant les solutions d’une équation algébrique générale de degré au moins cinq à l’aide de radicaux portant sur les coefficients, contrairement à ce qui était connu pour les degrés plus petits, comme je l‘ ai rappelé plus haut. Galois a fait la découverte extraordinaire que la différence entre ces deux cas tenait à la structure d’un ensemble de permutations des solutions de l’équation, appelé depuis son groupe de Galois. On dit qu’un ensemble de transformations d’une configuration mathématique est un groupe si cet ensemble contient l’inverse de ses éléments et le composé de deux éléments. On s’est aperçu peu à peu qu’il y avait des groupes de transformations un peu partout en mathématiques et que la structure de ces groupes, considérés en eux-mêmes, était souvent la clef de propriétés des objets transformés, indépendamment de leur nature. L’étude des symétries d’une configuration mathématique se ramène à celle du groupe des transformations la laissant invariante. Par exemple, la géométrie euclidienne traduit essentiellement les propriétés du groupe des déplacements (rotations, translations) de l’espace euclidien. En fait, en 1872, le mathématicien F. Klein formula un vaste programme (Erlanger Programm) qui ramenait en principe la géométrie, dans un sens très général, à la théorie des groupes.

Les groupes de Galois étaient formés d’un nombre fini d’éléments, mais on rencontra dans la suite des groupes infinis. Dans certains, comme le groupe des déplacements de l’espace, les éléments dépendent de certains paramètres variant de façon continue (par exemple axe et angle pour une rotation). Le mathématicien norvégien Sophus Lie jeta les bases d’une théorie de tels groupes, appelés plus tard groupes de Lie, à partir de 1873. Son but initial était de développer une théorie analogue à celle de Galois, mais pour les équations différentielles. Il faut bien dire qu’elle n‘ eut à cet égard qu’un succès limité, mais plus que compensé par ceux qu’elle a connus ailleurs. En particulier, il était clair dès le début que ce serait un outil précieux dans le programme d’Erlangen de Klein, et S. Lie lui-même l’utilisa abondamment non seulement en analyse, mais aussi en géométrie.

La théorie de Lie elle-même établissait une équivalence entre des problèmes d’analyse et d’algèbre. Par souci d’exactitude, je devrais ajouter que le point de vue de Lie était en partie local ; il y était contraint par les outils d’analyse dont il disposait. Ses groupes étaient des „groupes locaux“ dans la terminologie actuelle, mais il est bien inutile que j’entre dans ces distinctions : dès que les concepts adéquats furent introduits, la théorie devint globale, principalement sous l’impulsion de H. Weyl et E. Cartan, et c’est ainsi qu’elle se présentait quand j’en abordai l’étude.

Elle avait aussi connu un changement conceptuel : le passage aux groupes „abstraits“. A l’origine, pour Galois comme pour Klein ou Lie, les „groupes“ étaient des groupes de transformations d’objets mathématiques préexistants. Mais on voulait déduire des propriétés de ces derniers par l’examen de la structure d’un groupe en soi, en faisant plus ou moins abstraction de la nature des objets transformés. Dans un tel cas, la tendance du mathématicien est de définir directement un objet mathématique ne mettant en jeu que la structure à étudier. Cela mena à la notion de groupe abstrait : un ensemble d’éléments entre lesquels est seulement définie une loi de composition satisfaisant à certains axiomes. Cette transition représentait justement un de ces sauts vers une plus grande abstraction auxquels je faisais allusion plus haut, et elle rencontra une certaine résistance. Même F. Klein exprima des réserves. Pour lui, la réalité mathématique intéressante était formée des objets transformés. En faire abstraction pouvait mener à un exercice mental peut-être subtil mais sans valeur, à lâcher la proie pour l’ombre. En fait, les groupes abstraits sont devenus peu à peu eux aussi des objets à part entière de la réalité mathématique, et forment depuis longtemps le point de départ de tout exposé de la théorie des groupes. Du reste, un des succès les plus impressionnants de ces trente dernières années en mathématiques est la solution d’un problème en théorie des groupes abstraits qui a paru longtemps quasiment inaccessible : la classification des groupes finis simples.

En 1912, l’année de sa mort, Henri Poincaré écrivait (dans un rapport sur les travaux de E. Cartan): „la théorie des groupes est, pour ainsi dire, la Mathématique entière, dépouillée de sa matière et réduite à une forme pure. Cet extrême degré d’abstraction a rendu mon exposé un peu aride; pour faire apprécier chacun des résultats, il m‘ aurait fallu pour ainsi dire lui restituer la matière dont il avait été dépouillé; mais cette restitution peut se faire de mille façons différentes; et c’est cette forme unique que I‘ on retrouve ainsi sous une foule de vêtements divers, qui constitue le lien commun entre des théories mathématiques qu’on s’étonne souvent de trouver si voisines.“

Aujourd’hui, on ne songerait plus guère à parler d’un degré extrême d’abstraction, tant la notion de groupe est devenue fondamentale et usuelle en mathématique. Mais cette citation de Poincaré met par ailleurs en évidence deux aspects complémentaires de I‘ activité mathématique. La matière première de nos travaux consiste en une myriade de problèmes, souvent très particuliers, et notre tâche est de les résoudre. Mais cela ne suffit pas. On n’est pas satisfait tant que I‘ on n’a pas trouvé le domaine naturel de validité d’un raisonnement, d’une preuve ou d’une conclusion. La résolution des problèmes est accompagnée d’un effort constant pour développer des théories et méthodes générales permettant de déduire beaucoup de phénomènes particuliers à partir de principes généraux. Les deux sont indispensables. La mathématique ne se réduit ni à une collection de problèmes isolés, ni à un ensemble de théories axiomatiques vides d’applications.

Les groupes de Lie, ou algébriques, ou arithmétiques, présentent une combinaison de ces deux aspects des mathématiques qui m’a irrésistiblement attiré. Les groupes de Lie se construisent à partir de groupes dits simples. Ces derniers se divisent en quatre classes infinies de groupes dits classiques et cinq groupes exceptionnels. Les premiers se rencontrent en beaucoup d’endroits et étaient connus avant même que les groupes de Lie aient été définis. Souvent, des propriétés que l’on espère communes se vérifient d’abord pour les groupes classiques, en utilisant le contexte de leur définition. Même si on parvient à les établir pour les cinq groupes exceptionnels, ce qui s’avère quelquefois plus difficile, la tâche n’est pas vraiment terminée tant que I‘ on n’a pas trouvé une raison de portée générale, une démonstration valable directement pour un groupe de Lie simple général. Presque invariablement, un tel argument jette de la lumière même sur les cas classiques qui paraissaient si familiers et si bien compris, et sera la base de nouveaux progrès.

Cela s’est avéré être le cas non seulement pour les groupes de Lie, mais aussi pour un grand nombre de leurs espaces homogènes (i.e. espaces sur lesquels le groupe opère de manière à ce que tous leurs points sont équivalents, en ce sens qu’étant donnés deux d’entre eux, il existe une transformation du groupe amenant l’un sur l’autre), dont beaucoup étaient familiers en géométrie ou géométrie algébrique, antérieurement à la naissance de la théorie des groupes de Lie. Les groupes de Lie ou algébriques et leurs espaces homogènes interviennent dans tellement de domaines des mathématiques que Jean Dieudonné a été amené à écrire : „Les groupes de Lie sont devenus le centre des mathématiques ; on ne peut rien faire de sérieux sans eux“. Malgré mon intérêt pour eux, je n’irai tout de même pas aussi loin. Les mathématiques sont bien trop complexes, me semble-t-il, pour n’avoir qu’un seul centre. Les liens entre différents sujets des mathématiques forment un réseau extrêmement compliqué. Plus nombreux sont les liens aboutissant à un sujet donné, ou en partant, plus central apparaît le rôle joué par ce dernier. Je ne peux bien entendu que m’associer à Dieudonné en mettant les groupes de Lie parmi ces domaines privilégiés. Je me permettrai même d’y ajouter deux autres jalons de mon activité, les groupes algébriques et les groupes arithmétiques.

Les groupes de Lie et certains de leurs espaces homogènes, en particulier ceux que E. Cartan a appelés symétriques, sont un point de rencontre d’analyse, algèbre, analyse harmonique, géométrie différentielle et topologie. La topologie est par définition l’étude des propriétés d’objets géométriques qui sont invariantes par déformation continue. La topologie algébrique est le domaine par excellence qui fournit des invariants permettant de distinguer entre des objets géométriques qui, localement, sont identiques (exemple le plus simple : un ruban ordinaire et un ruban de Möbius). Mes premiers travaux avaient largement pour but d’appliquer des méthodes très puissantes qui venaient d’être développées en topologie algébrique à I ‘étude de la topologie des groupes de Lie et espaces homogènes et d’en tirer des conséquences générales en topologie algébrique. Ces méthodes envahirent rapidement d’autres domaines, en particulier la géométrie algébrique, et il s’imposa de développer une théorie de groupes analogues aux groupes de Lie, mais dans le cadre de la géométrie algébrique : ce furent les groupes algébriques. Il s’avéra ensuite que les groupes de Lie ou algébriques, et certains groupes qu’ils contiennent, les groupes arithmétiques, fournissaient le domaine naturel pour une généralisation d’un des plus beaux ornements des mathématiques du 19ème siècle : la théorie des formes modulaires ou automorphes, édifiée par Klein et Poincaré. C’est devenu en effet le cadre d’une vaste synthèse, en cours, entre pratiquement tout de ce que je viens de mentionner et la théorie des nombres.

Dans le paragraphe précédent, je n’ai pu m ‚empêcher d’utiliser des termes familiers seulement aux mathématiciens et ai ainsi, j’en ai peur, lassé tout autre lecteur qui m’aurait patiemment suivi jusque-là. Mais tout ce que j’espère de ce déluge de termes mathématiques est seulement qu’il donne une idée du rôle, centrai en effet, joué par l’entité groupes de Lie-groupes algébriques-groupes arithmétiques dans une partie de plus en plus vaste de la mathématique.

C’est par là aussi un agent unificateur, comme Poincaré le <lit déjà si élégamment dans le texte précité, ce qui m ‚amène à toucher un mot de la croyance, qui nous est chère, en l’unité profonde de la mathématique. La croissance vertigineuse de la production, la vision d’une discipline qui se développe dans tant de directions à la fois, dont les spécialistes souvent ne se comprennent pas, tant différentes sont leurs techniques, peut faire craindre que „la“ mathématique n’éclate définitivement en plusieurs parties sans relations. Mais on voit périodiquement cette expansion effrénée contrebalancée par des contractions et simplifications : des murs tombent, des fossés se comblent, des fusions inattendues montrent que deux domaines jusque-là considérés comme très différents sont en fait liés pour des raisons profondes qui avaient échappé auparavant. Tout cela nous fait croire envers et contre tout en l’unité de la mathématique, et le rôle joué par mon domaine de prédilection dans ce processus d’unification en est pour moi un des grands attraits.

J’ai déjà mentionné le groupe des déplacements de l’espace euclidien comme un exemple de groupe de Lie. Le groupe de Lorentz en est un autre. Aussi n’est-il pas surprenant que certains groupes de Lie aient été des instruments d’échanges fructueux (de part et d’autre) entre les mathématiques et la physique théorique. Les relations entre ces deux disciplines ont connu de fortes fluctuations au cours de ce siècle, oscillant entre le mariage et l’indifférence, presque le divorce. Très fortes au début du siècle, dans le cadre de la relativité, puis vers les années trente dans celui de la mécanique quantique, elles déclinèrent graduellement dans la suite. D’une part, la mathématique pure prenait un envol extraordinaire, motivé presque uniquement de l’intérieur, qui mena à une série de succès spectaculaires. D’autre part, certaines théories physiques paraissaient avoir un caractère si provisoire qu’il ne semblait guère valoir la peine de chercher à les mettre sous forme mathématiquement rigoureuse. Un physicien me l’a dit une fois en s’aidant d’une comparaison avec la théorie de l’atome de Bohr : on savait bien que cette dernière était temporaire, contradictoire dans ses principes, et que l’on ne résoudrait pas ses difficultés simplement en améliorant la présentation mathématique ; il fallait de nouvelles idées physiques. (Nous parlions de la physique des particules élémentaires. Il ajoutait aussi que d’autres sujets moins à la mode, dans la physique du solide par exemple, paraissaient par contre tout à fait mûrs pour une attaque par des mathématiciens.) Le contact s’est à nouveau resserré dans les années soixante, par l’intermédiaire de groupes de Lie, notamment par la découverte d’une nouvelle particule élémentaire (Ω), dont l’existence avait été conjecturée après examen d’une configuration mathématique qui illustrait, dans un cas très particulier, une théorie de E. Cartan datant de près d’un demi-siècle, et ensuite par la théorie des „quarks“. Ces échanges ont plus récemment acquis une nouvelle intensité dans le cadre, en physique, de la théorie conforme des champs et de celle des cordes. Il s’agit là de contacts au plus haut niveau, mettant enjeu des sujets extrêmement difficiles, à la frontière de la recherche, et qui ouvrent des perspectives nouvelles de part et d’autre. Ce fut une grande surprise pour moi de voir quelques physiciens utiliser même des groupes de Lie exceptionnels en théorie des particules élémentaires, groupes dont je ne pouvais m’imaginer qu’ils attireraient l’attention en dehors de la mathématique pure. En ce qui concerne les groupes, cependant, ce sont surtout des variantes de dimension infinie des groupes (ou algèbres) de Lie: groupes ou algèbres de Kac-Moody, groupes de lacets, algèbre de Virasoro, qui jouent un rôle dans ces travaux.

Les mathématiques, que ce soit en elles-mêmes ou dans leurs contacts avec d‘ autres disciplines, me paraissent être dans un état florissant, et, j’en suis persuadé, ne feront que prospérer, pour autant toutefois qu‘ elles soient pratiquées par un nombre suffisant de mathématiciens doués, une condition bien évidemment nécessaire, mais dont on commence à craindre qu‘ elle ne reste pas toujours remplie, à moins que les perspectives d’avenir pour ceux qui voudraient y consacrer le meilleur de leur temps ne s‘ améliorent. Les tendances de certains organismes chargés d’organiser et de financer l’éducation supérieure et la recherche fondamentale ne paraissent guère rassurantes. De plus en plus, on insiste sur l’utilité, on entend dire que nous avons suffisamment cultivé la recherche fondamentale et qu’il est temps de se consacrer à ses applications. Si une telle politique est adoptée, on s’apercevra sans doute une fois ou l’autre qu’elle tarira la source même des applications pratiques que l’on cherche à favoriser ; pas dans l’immédiat, certainement, car la recherche en mathématique possède un tel élan que rien ne pourra l‘ empêcher de continuer sur sa lancée pour un certain temps. Je pourrais donc me consoler en me disant que, si déclin il y a, je n’en serai pas témoin, mais ce serait une bien maigre consolation pour quelqu’un qui ne se lasse pas d’admirer la richesse et la beauté des mathématiques dans leur état actuel et est convaincu que celles à venir ne leur céderaient en rien.