En même temps que Roberval et (voire avant) Descartes, Fermat pose les principes de la géométrie analytique (1636) en étudiant des courbes par le biais d'une équation et se querelle avec ce dernier sur les problèmes de tangence (on parlait à l'époque de touchante plutôt que de tangente) aux courbes, point de départ de la notion de nombre dérivé et du calcul différentiel et intégral, car il exposa aussi une méthode de calcul d'aires (vers 1638-40).

Avec Pascal, il met en place une nouvelle branche des mathématiques : le calcul des probabilités (vers 1654) et les premières ébauches de l'analyse combinatoire.

Reprenant les travaux de Diophante d'Alexandrie, traduits et complétés par Bachet de Méziriac, il redora le blason de l'arithmétique en créant la théorie des nombres. De nombreux résultats sont attachés à son nom. Fermat s'intéressa aussi aux sciences de la nature : principe de Fermat (optique).

Les œuvres de Fermat furent éditées par son fils Samuel de Fermat : Varia opera mathematica (Toulouse, 1679). Cependant, Fermat ne publia pas toutes ses découvertes, encore moins ses démonstrations. On estime ainsi perdu un certain nombre de ses travaux.

Les éditions Gauthier-Villars & fils rééditèrent les œuvres de ce grand mathématicien sous l'égide de MM. Paul Tannery et Charles Henry en 1891. On trouvera une version électronique (4 volumes & compléments) publiée par l'université du Michigan. Certains écrits sont en latin, langue véhiculaire des sciences de l'époque, mais une partie est traduite (en particulier les correspondances).

Paul Tannery : savant français (1843-1904), polytechnicien, historien des sciences. Charles Henry : savant et érudit français (1859-1926), bibliothécaire et maître de conférence à la Sorbonne.

La fameuse conjecture, dite grand théorème (ou dernier théorème) de Fermat énonce qu'un cube ne peut se décomposer en deux cubes, ni un carré de carré en deux carrés de carré et plus généralement au-delà, aucune puissance ne peut se décomposer en deux puissances de même exposant

Autrement dit, en écriture mathématique actuelle :

Si n est supérieur à 2, il n'existe pas d'entiers x, y et z non nuls pour lesquels :   xⁿ + yⁿ = zⁿ 

Fermat, en marge d'un texte de Diophante dont il étudia et compléta Les Arithmétiques, affirma l'avoir prouvée de façon merveilleuse mais ne pas avoir assez de place pour y insérer sa démonstration (ci-dessus en latin).

La conjecture n'a été prouvée que récemment (juin 1993) par un jeune mathématicien anglais Andrew Wiles après 350 années d'efforts et de recherche des mathématiciens du monde entier (avec, à la clé, une forte récompense promise au 19è siècle par l'Académie des Sciences).

Fermat la prouva en tout cas pour n = 3 et n = 4, comme le firent Euler et Gauss (indépendamment l'un de l'autre), par sa méthode de descente infinie se résumant à exprimer, de nos jours, que toute partie (non vide) de N admet un plus petit élément (ce qui n'est pas toujours le cas dans R).

Méthode de descente infinie selon Fermat :

Noter qu'il suffit de prouver le théorème dans le cas où n est premier et x, y et z premiers entre eux. En effet, si x, y et z ont un diviseur commun d, la division par dⁿ ramène l'équation au cas x, y et z premiers entre eux. Si n est non premier, on se ramène à ce cas puisque n admet alors au moins un diviseur premier p : n = kp avec k entier. L'équation xⁿ + yⁿ = zⁿ devient (x^k)^p + (y^k)^p = (z^k)^p, équation de la forme : X^p + Y^p = Z^p.

• Sophie Germain prouve le théorème (1825) pour les entiers premiers n tels que 2n + 1 le soient aussi, comme par exemple x³ + y³ = z³,  x⁵ + y⁵ = z⁵ ou x¹¹ + y¹¹ = z¹¹, ...
   

• Legendre (1823) et Dirichlet (juste âgé de 20 ans) s'attaquèrent victorieusement au cas n = 5.
   

• Lamé résout le cas n = 7 (1839), Dirichlet résout le cas n = 14.
   

• Kummer (1847) utilisant sa théorie des idéaux et faisant appels aux nombres de Bernoulli, expose une preuve remise en cause par Cauchy, mais s'avérant exacte pour tous les nombres premiers inférieurs à 100 sauf n = 37, 59 et 67.
  on remarque que ces cas ne correspondent pas à la classe de nombres premiers de Sophie Germain car si n = 37 ou 67, 2n + 1 est divisible par 5 et si n = 59, 2n + 1 = 119 est divisible par 7.
   

• La même année 1847, Lamé crut avoir trouvé une preuve générale en travaillant dans l'ensemble des nombres complexes mais Liouville trouva une erreur.
   

• Faltings (1983) prouve que l'équation xⁿ + yⁿ = zⁿ
  ne peut avoir qu'un nombre fini de solutions.

La construction de la théorie des nombres algébriques est née de cette difficile mais enrichissante recherche d'une preuve de ce célèbre théorème.

Preuve des cas n = 3 : n = 4 :

 Pour en savoir plus :                                    

   Si p n'est pas premier, on n'est assuré de rien ! on s'en convaincra en étudiant 12¹⁰ dans la division par 7
De plus, la réciproque de ce théorème est fausse, par exemple :

2³⁴¹ 2 [341] et pourtant 341 = 11 x 31 n'est pas premier

Preuve du petit théorème :              Théorème de Wilson :

Niveau Sup (site externe) : http://perso.univ-rennes1.fr/antoine.chambert-loir/2005-06/a2/td4.pdf  ( §3)

Ces nombres, souvent notés F_p, sont de la forme :

Le problème fut de savoir si de tels nombres sont premiers, comme c'est le cas pour p élément de {0,1,2,3,4} fournissant 3 respectivement, 5, 17, 257, 65537.

Ces nombres interviennent dans les problèmes de constructibilité des polygones réguliers :

  Wantzel                    Théorème de Gauss-Wantzel :

Fermat conjectura leur primarité, mais Euler, alerté par Goldbach qui émettait des doutes à ce sujet, prouva (1732) que F₅ = 2³² + 1 est divisible par 641, le quotient étant 6700417. Lucas prouva que 2⁴⁰⁹⁶ + 1 (p = 12) est divisible par 114689.

La divisibilité des F_p s'étudient de nos jours au moyen de puissants ordinateurs et d'algorithmes très complexes vu l'énormité de ces nombres.

En s'aidant du fait que pour tous les entiers x et n, x^{2n + 1} + 1 est divisible par x + 1, justifier  que

En déduire que si 2ⁿ + 1 est premier, alors n est une puissance de 2 (réciproque fausse comme dit ci-dessus).
Ind. : n est nécessairement de la forme q2^p avec q pair, donc n = q'2^p' avec q' pair, donc...