En 1889, Henri Poincaré remporte le prix du roi Oscar II de Suède et de Norvège pour son mémoire "Sur le problème des trois corps et les équations de la dynamique". A partir de cette date Poincaré est reconnu au delà de ses pairs comme un grand scientifique. Cependant, au cours de la publication du mémoire Phragmén, un jeune mathématicien suédois chargé de la relecture du manuscrit, découvre une "erreur" importante, qui oblige Poincaré à remanier considérablement son texte initial et le conduit à de nouvelles découvertes mathématiques.

Si Poincaré est parfois considéré comme le père de la théorie du chaos, la publication de ce mémoire est véritablement l'acte de naissance des systèmes dynamiques.  

Lorsque Poincaré s'en est emparée, cette question réputée difficile avait déjà mobilisé de nombreux savants éminents, parmi lesquels : Lagrange, Euler, Hill,  Gylden.....Mais ce sont les travaux de Poincaré qui vont révolutionner la compréhension du système céleste. En introduisant à cette occasion une multitude d'idées et de nouveaux concepts, Poincaré jette les bases de la théorie moderne des systèmes dynamiques.

Le problème restreint des trois corps

Après celui des deux corps, dont les équations du mouvement se résolvent assez facilement, il s'agit de la situation la plus simple que l'on puisse envisager en mécanique céleste. Les hypothèses sont les suivantes : on considère trois corps célestes en mouvement : $A$, $B$ et $C$. La masse de $C$ est  supposée infiniment petite par rapport à celles de $A$ et $B$. Les corps célestes A de masse $m_1$ et $B$ de masse $m_2$ sont soumis à leur attraction gravitationnelle et se déplacent (d'après Képler) sur des ellipses coplanaires. Dans le problème restreint des trois corps, justement considéré par Poincaré, on suppose qu'en fait ces ellipses sont des cercles concentriques (centrés en O le centre de gravité de A et B) et on fait l'hypothèse que C se déplace dans le plan des orbites de A et B. On notera $\mu=\frac{m_1}{m_2}$ le rapport des masses que l'on suppose petit.

Cette situation correspond par exemple, comme le suggère Poincaré,  au cas où A est le soleil, B la terre et C la lune si l'on admet que l'orbite terrestre est un cercle et que l'on néglige l'inclinaison des orbites.

Le système formé par les trois corps évolue donc dans un plan et toute la question réside dans la détermination du mouvement du corps céleste C. Pour diminuer le nombre de variables du problème, on se place dans un repère tournant, lié à A et B. Le repère orthonormé de centre O et d'axe (AB). Les planètes  A et B sont alors fixes dans ce nouveau repère et le mouvement de C est déterminé par son vecteur position et son vecteur vitesse.  Poincaré est conduit à proposer une nouvelle représentation géométrique du problème des trois corps. La nouveauté c'est que les trajectoires sont maintenant considérées dans l'espace "des phases" (positions et vitesses) et non plus dans l'espace physique.  Bien que pour le problème des trois corps l'espace des phases soit de dimension 4, au lieu de 2 pour celui des positions, les équations du mouvement y sont du premier degré et surtout Poincaré y développe de nouvelles interprétations géométriques plus qualitatives.

Solutions périodiques

Un des thèmes centraux du mémoire de Poincaré est l'étude des propriétés des solutions périodiques et en particulier leur existence et leur stabilité. Poincaré considère d'ailleurs que  "ce qui rend ces solutions périodiques aussi précieuses, c'est qu'elle sont, pour ainsi dire, la seule brèche  par où nous puissions pénétrer dans une place jusqu'ici réputée inabordable". Pour établir l'existence de ces solutions périodiques pour le problème des trois corps, son idée directrice est de suivre ces solutions en fonction des variations du paramètre $\mu$ à l'aide d'une analyse très fine de la dépendance par rapport à $\mu$. Comme pour $\mu=0$, le système des trois corps admet une infinité de solutions périodiques, Poincaré établit que si $\mu$ est assez petit le système possède encore des trajectoires périodiques. En fait dans sa démonstration, il montre que lorsque $\mu$ varie "les solutions périodiques disparaissent par couples à la façon des racines réelles des équations algébriques". Ce type d'analogie entre plusieurs branches des mathématiques est un des traits caractéristiques de l'oeuvre et de la méthode scientifique de Poincaré, d'ailleurs il se servira de cette analogie à nouveau dans son article sur les géodésiques des surfaces convexes.

Un peu plus loin dans son mémoire, il établit également qu'il y a autant de trajectoires périodiques stables que de trajectoires périodiques instables.

Section de Poincaré

Pour l'étude de la stabilité des trajectoires périodiques Poincaré introduit un nouvel outil que l'on appelle aujourd'hui la section de Poincaré. Tout d'abord, il considère les trajectoires dont l'énergie dans le repère tournant est fixée à un certain niveau, ce qui permet de se restreindre à un sous-espace de dimension 3 de l'espace des phases. Si $M_0$ est un point d'une trajectoire périodique, la section de Poincaré $\Sigma$ est un plan perpendiculaire à la trajectoire passant par $M_0$. Pour chaque point P de la section $\Sigma$ assez proche de $M_0$, la trajectoire issue de $P$ après avoir effectué une "révolution" rencontrera la section en un nouveau point $P_1$. On définit ainsi une application $T:\Sigma\rightarrow\Sigma$, c'est l'application de premier retour (ou encore "application de Poincaré.") Pour chaque point P de $\Sigma$, $T(P)$ est le point de $\Sigma$ où la trajectoire issue $P$ revient croiser $\Sigma$. L'application T permet de transformer le système continu (qui évolue avec le temps) en un système discret qui correspond aux premiers instants où la trajectoire recoupe le plan $\Sigma$. Par ailleurs la dimension de l'espace a encore été réduite on est passé de 3 à 2, simplifiant d'autant l'analyse du problème. Mais ce qui est essentiel c'est qu'un grand nombre de questions qui se posent sur le système continu (comme la stabilité) peuvent être comprises et traduites sur le système $$T:\Sigma\rightarrow\Sigma$$.

 

Les invariants intégraux

Poincaré est l'un des premiers a avoir compris toute l'importance et la pertinence des invariants intégraux, en particulier pour les questions relatives à la stabilité à long terme du mouvement des $N$ corps. Un invariant intégral (ou une loi de conservation) est une fonction des positions et des vitesses qui garde une valeur constante au cours du temps. Les invariants intégraux classiques pour le problème des  $N$ corps sont la conservation de l'énergie, la conservation de la quantité de mouvement et les lois de conservation du moment angulaire. Poincaré cherchait des lois de conservation analytiques supplémentaires ce qui aurait contraint les solutions à appartenir à des courbes lisses. Il établit dans son mémoire qu'il n'existe aucune loi de conservation en dehors celles déjà connues.

De ce résultat, il déduit qu'il n'est pas possible d'intégrer les équations du mouvement pour le problème des trois corps et donc de donner une solution valable pour des temps arbitrairement long, car les séries utilisées par les astronomes (en particulier celles de Lindstedt) ne sont pas convergentes.

Théorème de Récurrence

C'est Birkhoff qui introduira la dénomination de théorème de récurrence en 1934. Poincaré cherche surtout à établir l'existence de trajectoires  "stables au sens  de Poisson", c'est-à-dire des trajectoires qui repassent dans une position  "aussi voisine que l'on veut de leur position initiale".

Théorème :  Supposons que le volume soit un invariant intégral alors pour toute région de l'espace aussi petite soit-elle, il existe des trajectoires qui y reviennent une infinité de fois.

Poincaré complète même ce résultat un peu plus loin en montrant que : presque toute condition initiale d'une région donnée correspond à une trajectoire qui repasse une infinité de fois prés de leur position d'origine.

Ici "presque toute condition initiale" doit être entendu dans le sens probabiliste : l'ensemble des conditions initiales qui ne sont pas à l'origine de trajectoires stables au sens de Poisson est de volume nul.

Les trajectoires stables sont donc la règle générale mais on ne peut exclure le cas exceptionnel de trajectoires non récurrentes. Cet énoncé est un des premiers exemples d'utilisation des probabilités en mécanique céleste (et dans les travaux de Poincaré), il est le point de départ d'une nouvelle branche des mathématiques : la théorie ergodique. En outre, il amènera Poincaré à développer une réflexion approfondie sur la nature des probabilités et leurs implications à travers notamment ses Leçons de Probabilités.

Intersections homoclines
Ayant remarqué auparavant qu'il y a autant de solutions périodiques stables qu'instables, il ne peut donc exclure ces dernières et se lance dans l'étude du comportement du système à proximité d'une trajectoire périodique instable. Il introduit ici un nouveau concept celui de surfaces asymptotiques :
- la surface asymptotique stable, aujourd'hui on parle plutôt de variété stable, est constituée des trajectoires qui s'approchent arbitrairement de la trajectoire périodique initiale ${\cal C}_0$ dans le futur, c'est-à-dire lorsque le temps t tend vers $+\infty$.
- la surface asymptotique instable est constituée des trajectoires qui s'approchent arbitrairement de la trajectoire périodique initiale ${\cal C}_0$ dans le passé, c'est-à-dire lorsque le temps t tend  vers $-\infty$.
On les désigne respectivement par $S^s$ et $S^u$ (pour unstable en anglais). L'étude de ces surfaces asymptotiques se ramène à l'étude de deux courbes au niveau de la section de Poincaré $\Sigma$. En effet, si P est  un point de la trajectoire ${\cal C}_0$ on peut considérer $\Sigma$ la section de Poincaré qui s'appuie sur P et les deux surfaces asymptotiques coupent $\Sigma$ selon deux courbes $C^s$ et $C^u$.

Dans la première version de son texte Poincaré avait cru que les surfaces asymptotiques coïncidaient au moins pour $\mu$ petit, ou ce qui revient au même que $C^s$ et $C^u$ étaient confondues. Or, sa démonstration contenait une faille qu'il reconnut grâce à la relecture attentive de Phragmén  :  les courbes $C^s$ et $C^u$ peuvent parfaitement se croiser sans être pour autant confondues. C'est ce que l'on appelle une intersection homocline. Mais comme les courbes $C^s$ et $C^u$ sont également invariantes par l'application de Poincaré, l'existence d'une intersection (ailleurs qu'au point $P$ ) entraîne que les courbes asymptotiques se coupent une infinité de fois de manière inextricable. Poincaré manifeste ainsi son étonnement :
"Ces intersections forment une sorte de treillis, de tissu, de réseau à maille infiniment serrées; chacune de ces courbes ne doit jamais se recouper elle-même, mais elle doit se replier elle-même d'une manière très complexe pour venir couper une infinité de fois toutes les mailles du réseau. On sera frappé par la complexité de cette figure, que je ne cherche même pas à tracer."

Le treillis des variétés stable (en bleu) et instable (en rouge)

Ce résultat inattendu est la première description d'un système sensible aux conditions initiales : une variation minime dans la position initiale de la trajectoire peut modifier radicalement son comportement à long terme. Combiné avec le fait que les exposants caractéristiques, qui mesurent la vitesse asymptotique à laquelle les trajectoires se séparent, sont non nuls, le système dynamique peut réellement être décrit comme chaotique.

Poincaré reviendra et complétera ces découvertes mathématiques les années suivantes dans les trois volumes des Méthodes Nouvelles de la mécanique céleste  (1892-1899) et dans ses Leçons de Mécanique céleste. Mais ses travaux pionniers sur le problème des 3 corps seront aussi une source d'inspiration constante pour les mathématiciens des années à venir. Et pour résoudre une partie des questions que Poincaré n'avait fait qu'entr'apercevoir ils devront élaborer de nouveaux outils conceptuels, on pense ici à la théorie KAM ou encore à la théorie ergodique.

Dans Science et méthode il développera les conséquences sur le plan de la philosophie des sciences de sa découverte du "chaos déterministe".