L’instabilité d’Ostrogradsky, le théorème de 1850 qui trie les théories

Chaque affirmation porte son statut : Établi — corroboré par l’expérience ou l’histoire ; Débattu — cohérent mais non confirmé ; Spéculatif — hypothèse de travail.

La plupart des grands résultats de la physique disent ce qui arrive. Celui-là dit ce qui ne peut pas exister. Un mémoire de mathématiques de 1850, écrit sans la moindre idée de ce que seraient la relativité générale ou la théorie quantique des champs, continue aujourd’hui de fermer des portes que nous n’avons pas fini d’ouvrir.

Un mémoire de 1850

Mikhaïl Ostrogradsky enseigne à Saint-Pétersbourg lorsqu’il publie, dans les Mémoires de l’Académie impériale des sciences, un travail sur les équations différentielles liées au problème des isopérimètres. Il ne cherche pas à fonder la physique fondamentale : elle n’existe pas encore sous cette forme. Il examine une question technique du calcul des variations. Que se passe-t-il quand les équations du mouvement font intervenir des dérivées d’ordre élevé ?

La réponse servira, un siècle et demi plus tard, de garde-fou aux théories de la gravité quantique.

Ce que le théorème démontre

En mécanique ordinaire, position et vitesse suffisent à déterminer tout l’avenir d’un objet : les équations contiennent au plus une dérivée seconde du temps, l’accélération. Certaines théories, pour des raisons souvent excellentes, produisent des équations qui vont plus loin — dérivées troisièmes, quatrièmes, davantage. Il faut alors plus de données initiales pour fixer l’avenir.

Ostrogradsky construit le formalisme hamiltonien de ces systèmes, c’est-à-dire l’expression de leur énergie. Et il découvre que cette énergie n’a pas de plancher. Établi

Un système physique ordinaire possède un état d’énergie minimale : il peut se refroidir, tomber, se stabiliser, mais il finit par toucher le fond. Un hamiltonien non borné inférieurement n’a pas ce fond. Le système peut céder de l’énergie indéfiniment, une partie s’excitant sans limite pendant que l’autre plonge sans limite. Rien ne l’arrête, parce qu’il n’y a rien en dessous. Le résultat ne dit donc pas que la théorie serait fragile ou délicate à contrôler : il dit qu’aucun état fondamental n’existe, donc qu’aucune matière stable ne peut y vivre. Une théorie frappée par l’instabilité d’Ostrogradsky ne décrit pas un monde où l’on puisse se tenir debout.

La clause qui fait vivre le domaine

Le théorème comporte une condition, et c’est elle qui occupe les théoriciens depuis trente ans. L’instabilité frappe les lagrangiens dits non dégénérés par rapport à leurs dérivées d’ordre le plus élevé. La dégénérescence signifie, grossièrement, que ces dérivées supérieures ne sont pas vraiment indépendantes : une contrainte les relie et retire au système les degrés de liberté dangereux.

Autrement dit, les dérivées d’ordre supérieur ne sont pas interdites. Ce qui est interdit, c’est qu’elles soient authentiquement nouvelles. Toute la construction moderne des théories de gravité modifiée consiste à naviguer dans cette faille : les modèles de Horndeski, les théories dégénérées d’ordre supérieur étudiées par David Langlois et Karim Noui, les constructions dites au-delà de Horndeski sont des tentatives, souvent réussies, d’écrire des équations d’ordre élevé qui se dégonflent en équations d’ordre deux. Établi

La contrainte la plus puissante

Richard Woodard, de l’université de Floride, a rédigé la revue de référence du sujet — celle que citent presque tous les articles contemporains qui invoquent Ostrogradsky. Il y soutient que l’instabilité constitue la restriction la plus puissante pesant sur les théories de champs lagrangiennes, locales et en interaction : aucun principe de symétrie n’a une portée comparable. Établi

Deux conséquences concrètes en découlent. Les contre-termes à dérivées supérieures ne peuvent pas constituer une solution fondamentale au problème de la gravité quantique. Et les modèles en f(R) se retrouvent être les seules modifications de la gravité, locales et fondées sur la métrique, qui demeurent potentiellement stables. Ce sont des portes fermées avant toute expérience — un tri opéré sur le papier. Établi

Ce que la quantification pourrait changer

Le théorème est un résultat classique, et sa survie intégrale à la quantification fait l’objet d’un débat vivant. L’argument des sceptiques tient en un contre-exemple : l’équation de Dirac possède un hamiltonien classique aux énergies négatives non bornées, et pourtant le champ quantifié est parfaitement stable. Une instabilité classique n’implique donc pas mécaniquement une instabilité quantique. Débattu

John Donoghue et Gabriel Menezes ont montré, dans Physical Review D en 2021, qu’un modèle simple à dérivées supérieures échappe à l’instabilité une fois quantifié par intégrale de chemin — signe que la pathologie peut être évitée dans certains cas au moins. En sens inverse, Hayato Motohashi et Teruaki Suyama ont établi en 2020 un « théorème d’Ostrogradsky quantique » : le hamiltonien reste non borné au niveau de la théorie quantique pour les lagrangiens non dégénérés. Les mêmes auteurs avaient montré en 2015 que l’instabilité persiste pour les systèmes dont les équations comportent un nombre impair de dérivées temporelles, même lorsque la condition de non-dégénérescence est contournée. Débattu

Un instrument de tri

On croise rarement Ostrogradsky dans les livres de vulgarisation, et c’est dommage : son théorème est l’un des rares endroits où la physique théorique dispose d’un crible qui n’attend pas l’expérience. Quand une nouvelle proposition de gravité paraît, la question et l’instabilité d’Ostrogradsky ? arrive presque aussitôt. C’est le contrôle technique auquel toute théorie doit se soumettre — souvent avant même d’avoir un télescope pour la départager.

Le théorème lui-même n’est pas en discussion : sa démonstration classique est acquise depuis 1850. Ce qui reste ouvert, c’est sa portée exacte au niveau quantique, et l’inventaire des théories qui parviennent légitimement à s’y soustraire par dégénérescence.