Abstract (FR)

La première moitié de ce mémoire est consacrée à la théorie KAM et au théorème d'Arnold sur la stabilité des systèmes planétaires. Ce travail a fait l'objet d'un article en préparation et d'une publication~:\footnote{ \url{http://people.math.jussieu.fr/~fejoz/articles.html}} -- ''Twisted conjugacies and invariant tori theorems''~\cite{Fejoz:2010a}. Je redémontre une forme normale de champs de vecteurs due à Moser~\cite{Moser:1967}, pour les perturbations de champs de vecteurs admettant un tore invariant quasi-périodique diophantien. Cette forme normale, que j'appelle une \emph{conjugaison tordue} est une porte d'entrée pour démontrer des théorèmes de tores invariants dus à Kolmogorov, Arnold, Rüssmann et Herman, ainsi que d'autres théorèmes, par exemple pour des champs de vecteurs dissipatifs. J'introduis une notion de \emph{conjugaison hypothétique}, comme un intermédiaire commun aux théorèmes de tores invariants avec une condition de non-dégénérescence faible, améliore certaines estimations sur la dépendance fonctionnelle de la forme normale, et donne quelques applications nouvelles à la mécanique céleste. -- ''Démonstration du théorème d'Arnold sur la stabilité du système planétaire (d'après Herman)''~\cite{Fejoz:2004}. Cet article donne une démonstration du théorème d'Arnold pour $N$ planètes dans l'espace $\R^3$. La démonstration de~\cite{Fejoz:2010a} est une clarification et une amélioration de la partie abstraite de ~\cite{Fejoz:2004}. Arnold avait publié le résultat remarquable suivant~: dans le problème planétaire newtonien à $N$ planètes, si les masses des planètes sont assez petites, il existe dans l'espace des phases un sous-ensemble invariant de mesure de Lebesgue strictement positive, formé de tores invariants quasipériodiques de dimension $3N-1$~\cite{Arnold:1963}. La suggestion d'Arnold pour le démontrer en toute généralité était de fixer la direction du moment cinétique, pour se débarrasser de la dégénérescence due à l'invariance par rotation, puis d'appliquer sa version dégénérée du théorème de Kolmogorov pour trouver des tores lagrangiens invariants au voisinage de la singularité séculaire elliptique (mouvements képlériens elliptiques circulaires horizontaux). Cette stratégie de réduction partielle ne marche pas à cause d'une résonance mystérieuse, découverte par Herman, qui généralise à $N$ planètes une résonance déjà connue de Clairaut dans le problème de la lune. Cette résonance n'avait pas été remarquée dans le cas de $2$ planètes, où la réduction des noeuds de Jacobi permet de réduire complètement le problème par la symétrie de rotation, en coordonnées de Delaunay (je rappelle en appendice la définition de ces coordonnées, et propose une nouvelle démonstration de leur caractère symplectique). Ici, je démontre par récurrence sur le nombre de planètes, en suivant les idées d'Herman, que l'image locale de l'application fréquence (vue comme fonction des demi grands axes des planètes) est contenue dans un plan vectoriel de codimension deux, mais dans aucun plan vectoriel de codimension supérieure. Un argument de la théorie des intersections lagrangiennes permet alors d'appliquer un théorème de tores invariants qui ne requiert qu'une faible condition de non-dégénérescence. La seconde moitié de ce m