Dixième problème de Hilbert

Le dixième problème de Hilbert fait partie de la liste des 23 problèmes posés par David Hilbert en 1900 à Paris, lors de sa conférence au congrès international des mathématiciens. Il énonce[1] :

X. — De la possibilité de résoudre une équation diophantienne.

On donne une équation diophantienne à un nombre quelconque d'inconnues et à coefficients entiers rationnels : On demande de trouver une méthode par laquelle, au moyen d'un nombre fini d'opérations, on pourra distinguer si l'équation est résoluble en nombres entiers rationnels.

En termes modernes, il demande de trouver un algorithme général permettant de décider, pour n'importe quelle équation diophantienne (c'est-à-dire équation polynomiale à coefficients entiers), si cette équation possède des solutions entières.

En 1970, Youri Matiiassevitch démontre[2] qu'il n'existe pas de tel algorithme. Le théorème de Matiiassevitch établit que les ensembles diophantiens, qui sont les ensembles de solutions entières positives ou nulles d'une équation diophantienne avec paramètres, sont exactement tous les ensembles récursivement énumérables, ce qui entraîne qu'un tel algorithme ne peut exister.

PrérequisModifier

DescriptionModifier

Il s'agit du seul des 23 problèmes de Hilbert qui est ce que l'on appelle aujourd'hui un problème de décision : il existe une infinité dénombrable d'équations diophantiennes, mais la solution du dixième problème demande de trouver une méthode universelle qui permette de statuer sur la résolubilité de n'importe quelle équation diophantienne[3]. Il existe de fait des méthodes très diverses et utilisant des techniques mathématiques très variées pour résoudre des équations diophantiennes spécifiques. Par exemple, le théorème de Fermat-Wiles résout une famille d'équations diophantiennes à trois inconnues[4].

Hilbert n'emploie pas le mot « algorithme », mais il n'y a aucun doute que c'est cela qu'il entend. À son époque, il n'existe pas de définition précise de ce qu'est un algorithme, ce qui n'aurait pas été gênant si la solution du problème avait été positive. Pour pouvoir envisager une solution négative, il fallait en proposer une définition mathématique, qui est le fruit de travaux dans les années 1930, et repose sur la thèse de Church, formulée en 1936[5].

Équation diophantienneModifier

Commençons par un exemple : considérons l'équation polynomiale   On sait depuis la découverte des irrationnels en Grèce Antique qu'il n'existe pas de nombre entier   dont le carré vaut  . On dira alors que l'équation diophantienne associée au polynôme   ne possède aucune solution. De manière générale, une équation diophantienne est une équation du type    est un polynôme à   indéterminées à coefficients entiers, dont on cherche des solutions entières.

Un exemple de familles d'équations diophantiennes dont on sait trouver des solutions, est la famille des équations du type   d'inconnues  , où   sont des entiers; par exemple l'équation  . On peut bien sûr imaginer des exemples plus exotiques comme   d'inconnues  .

Hilbert pose donc la question dans son dixième problème de savoir si l'on peut écrire un algorithme  , prenant en entrée un polynôme  , à coefficients entiers, et décidant si oui ou non l'équation   possède des solutions entières (en particulier on ne demande pas à l'algorithme   de donner ces solutions si elles existent).

Il est important de noter que la résolution de    sont des entiers quelconques, revient à résoudre    sont des entiers naturels. Ainsi, on peut donc ramener le dixième problème de Hilbert à un autre problème de décision, qui est de savoir si une équation diophantienne admet des solutions entières positives (on parle de réduction).

Ensembles diophantiensModifier

On ne va maintenant plus considérer une seule équation diophantienne   mais une famille d'équations diophantiennes du type  , où   sont des paramètres qui sont des entiers positifs.

Ceci peut donner l'impression que l'on complexifie le problème mais cette interprétation des équations diophantiennes va s'avérer très utile. En effet pour un polynôme   à paramètres entiers  , on peut considérer l'ensemble  , c'est-à-dire l'ensemble des  -uplets de paramètres   tels que l'équation   possède au moins une solution entière positive. Réciproquement, on dit qu'un ensemble de  -uplets est diophantien s'il est de cette forme, et alors le polynôme   est une représentation diophantienne de cet ensemble.

Par exemple l'ensemble des entiers naturels pairs est diophantien : en effet   en est une représentation diophantienne. De même, le sous-ensemble de   des couples d'entiers positifs premiers entre eux est diophantien puisque, par le théorème de Bézout, cet ensemble est représenté par le polynôme paramétré   toujours avec   des entiers positifs.

Problèmes décidablesModifier

Comme dit dans la description, le dixième problème de Hilbert est un problème de décision, c'est-à-dire qu'on se pose la question de l'existence d'un algorithme   qui, à chaque fois que l'on entre une équation diophantienne, renvoie « oui » ou « non » selon qu'elle possède ou non des solutions. S'il existe un tel algorithme, le problème de décision est dit décidable. On dira, de manière équivalente, que l'ensemble des instances positives d'un tel problème est alors récursif.

Ensembles récursivement énumérablesModifier

 
Un ensemble récursivement énumérable peut être énuméré par un ordinateur.

Un sous-ensemble   de  est dit récursivement énumérable s’il existe un algorithme qui s'exécute indéfiniment et qui énumère exactement tous les membres de  .


Proposition - tout ensemble diophantien est récursivement énumérable.

En effet, considérons une équation diophantienne   et imaginons un algorithme qui parcourt toutes les valeurs possibles des  -uplets   dans un ordre précis (par exemple un ordre lexicographique), et affiche   chaque fois que  . Cet algorithme s'exécutera sans fin et énumérera exactement les  -uplets   pour lesquels   a une solution.

Proposition - Il existe des ensembles récursivement énumérables qui ne sont pas récursifs

Par exemple, le langage d'acceptation[6], c'est-à-dire l'ensemble des couples    est une machine de Turing qui termine avec le mot   comme donnée initiale, est récursivement énumérable mais pas récursif. Ainsi, on peut trouver un ensemble récursivement énumérable   de  -uplets non récursif, c'est-à-dire tel que pour n'importe quel algorithme on puisse trouver un  -uplet pour lequel cet algorithme tourne indéfiniment sans jamais renvoyer de réponse. En vue des liens déjà établis entre ensembles diophantiens et ensembles récursivement énumérables, si l'ensemble   précédent était diophantien, on aurait notre réponse au dixième problème de Hilbert.

Théorème de MatiiassevitchModifier

Ces derniers énoncés ont incité Martin Davis à conjecturer que les ensembles récursivement énumérables sont exactement les ensembles diophantiens. Ceci donnerait en effet, grâce au dernier énoncé, une réponse négative au dixième problème de Hilbert. Le théorème de Matiiassevitch (1970) prouve la conjecture de Davis.

ÉnoncéModifier

Le théorème de Matiiassevitch, prouvant la conjecture de Martin Davis, lui-même est beaucoup plus fort que l'insolubilité du dixième problème. Cet énoncé aussi appelé « Théorème DPRM » (pour Martin Davis, Hilary Putnam, Julia Robinson et Matiiassevitch) affirme que :

Un ensemble est récursivement énumérable si et seulement s’il est diophantien.

Le fait que tout ensemble diophantien est récursivement énumérable a été expliqué ci-dessus dans la partie ensemble récursivement énumérable, est évidemment le sens de l'équivalence qui a posé le moins de problèmes. C'est l'implication « être récursivement énumérable ⇒ être diophantien » qui a pris vingt ans à être prouvée.

Réponse au problèmeModifier

Ce théorème répond bien au problème puisqu'on peut trouver un ensemble récursivement énumérable non récursif, et par le théorème précédent, cet ensemble est diophantien. On a donc un ensemble diophantien non récursif et la théorie de la décidabilité nous dit donc que le problème de décision des équations diophantiennes a une réponse négative.

ConséquencesModifier

Incomplétude de GödelModifier

Le théorème de Matiiassevitch a été depuis employé pour démontrer l'indécidabilité de nombreux problèmes liés à l'arithmétique. De même, on peut également dériver la forme suivante plus forte du premier théorème d'incomplétude de Gödel :

Soit une axiomatisation quelconque de l'arithmétique. On peut construire une équation diophantienne qui n'a aucune solution, mais tel que ce fait ne puisse pas être démontré dans l'axiomatisation en question.

Équation diophantienne universelleModifier

Si  , on peut lister tous les ensembles récursivement énumérables de  -uplets de  :

 

Soit alors   l'ensemble des  -uplets tel que:

 


Il n'est alors pas compliqué de prouver que   est récursivement énumérable, ainsi par le théorème de Matiiassevitch:

 

On a donc, de façon analogue à la Machine de Turing universelle, pour tout  , l'existence d'un polynôme universel  , où l'universalité est à prendre de la façon suivante:

 


Ainsi, pour un nombre de paramètres fixes, une équation diophantienne, de degré et nombre d'inconnues quelconques, peut se ramener à la résolution d'une équation diophantienne de degré et nombre d'inconnues fixes.

Notes et référencesModifier

  1. Congrès international des mathématiciens 1902, p. 87 (trad. de l'allemand par Léonce Laugel — [(de) texte original]).
  2. (ru) Ю. В. Матиясевич, « Диофантовость перечислимых множеств », Dokl. Akad. Nauk. SSR, vol. 191, no 2,‎ , p. 279-282 (lire en ligne) ; traduction : (en) Ju. V. Matijasevič, « Enumerable sets are diophantine », dans Gerald E. Sacks, Mathematical Logic in the 20th Century, Singapore University Press/World Scientific, (ISBN 978-981-02-47362, DOI 10.1142/9789812564894_0013, lire en ligne), p. 269-273.
  3. Matiyasevich 1996, p. 2.
  4. Chaque exposant détermine une équation diophantienne, mais l'équation de Fermat, en tant qu'équation à 4 inconnues, ne l'est pas.
  5. Matiyasevich 1996, p. 5.
  6. Olivier Carton, Langages formels, calculabilité et complexité 2008, p. 132,133.

BibliographieModifier

  • (en) Yuri Matiyasevich, Hilbert's Tenth Problem: What can we do with Diophantine equations?, (lire en ligne)  
  • Congrès international des mathématiciens, Compte rendu du deuxième Congrès international des mathematiciens tenu à Paris du 6 au 12 août 1900, Paris, Gauthier-Villars, , 455 p. (lire en ligne)  
  • Youri Matiiassevitch, Le dixième problème de Hilbert: Son indécidabilité, Masson, 1995 (ISBN 978-2-22584835-3)
  • J. P. Jones et Y. V. Matijasevič, « Proof of Recursive Unsolvability of Hilbert's Tenth Problem », The American Mathematical Monthly, vol. 98, no 8,‎ , p. 689-709 (DOI 10.1080/00029890.1991.11995778)
  • Maxim Vsemirnov (sous la supervision de Yuri Matiyasevich), « Welcome to Hilbert's Tenth Problem page! », sur Institut de mathématiques Steklov