Le théorème de l’indice, au sommet

Le mathématicien américain Isadore Singer est décédé le 11 février, à l’âge de 96 ans. Avec son collaborateur Michael Atiyah, mort en 2019, il avait démontré le théorème de l’indice, célèbre parmi les mathématiciens, qui leur a valu le prix Abel en 2004. L’importance exceptionnelle de ce théorème est attestée par le fait qu’il établit un lien insoupçonné entre deux parties des mathématiques jusque-là éloignées, l’analyse et la topologie, mais aussi par ses conséquences en physique théorique. On pense souvent, à tort, que le rôle du mathématicien consiste à résoudre des équations. A vrai dire, il y a toutes sortes d’équations. Beaucoup de celles qu’on rencontre en physique mettent en jeu des inconnues qui sont des fonctions plutôt que des nombres. On parle alors d’équations différentielles et leur étude fait partie de l’« analyse mathématique ». Il est rare qu’on sache résoudre ce type d’équation mais le théorème de l’indice permet de compter le nombre de leurs solutions, ce qui est bien souvent suffsant pour les applications. Atiyah et Singer associent à l’équation un objet qu’on appelle un « fibré », dont l’étude fait partie de la topologie, et sur lequel on peut lire directement le nombre de solutions. Un pont est donc établi entre l’analyse et la topologie.

Le théorème a été démontré en 1963 mais Atiyah et Singer n’en ont publié une démonstration qu’en 1968. En fait, ils ont attendu de disposer de trois démonstrations différentes, un peu comme un sommet qu’on atteint par plusieurs voies, chacune apportant une nouvelle perspective. Tout cela n’est pas apparu soudainement dans leur esprit. Pendant plus de vingt ans, ils ont développé leurs idées en s’appuyant sur de nombreux théorèmes antérieurs qui ne semblaient pas reliés. Les progrès les plus importants en mathématiques sont bien souvent des synthèses : des résultats hétéroclites apparaissent tout à coup comme de simples cas particuliers d’une théorie bien plus puissante.

L’externe et l’interne

Quelques années plus tard, le lien avec la physique est apparu clairement. La « théorie de jauge » des physiciens était très proche des « fibrés » des mathématiciens. Le théorème de l’indice devenait un outil crucial en physique quantique. On peut y voir un exemple de la « déraisonnable efficacité des mathématiques dans les sciences de la nature », pour employer une expression célèbre du physicien Eugene Wigner.

Les liens entre la physique et les mathématiques sont vieux comme la science, et les opinions divergent. Le mathématicien Vladimir Arnold affirmait que les mathématiques ne sont qu’un chapitre de la physique. D’autres insistent au contraire sur l’importance des mathématiques comme discipline abstraite et autonome. Le point de vue d’Atiyah et Singer est intermédiaire. Selon eux, presque toutes les mathématiques sont nées de la réalité extérieure, par exemple ce qui concerne les nombres, mais elles se sont tournées ensuite vers des questions internes, comme la théorie des nombres premiers. D’autres parties des mathématiques sont en revanche plus proches du monde extérieur et la physique y joue un rôle crucial de motivation. La force des mathématiques réside dans ces deux composantes complémentaires : externe et interne. En 1900, David Hilbert affirmait qu’« une théorie mathématique ne peut être considérée comme complète que si elle est si claire que vous pouvez l’expliquer à la première personne que vous rencontrez dans la rue ». Hélas, il faudra attendre encore un peu avant de pouvoir expliquer clairement le théorème de l’indice aux lecteurs du Monde !