Un solveur itératif de racines ou non linéaire qui utilise la linéarisation locale via la dérivée (unidimensionnelle) ou le jacobien (multidimensionnel) pour mettre à jour les approximations en résolvant des systèmes linéaires à chaque pas.

Principe

La règle organisatrice est d'approximer l'application non linéaire par son développement de Taylor d'ordre un autour de l'itéré courant et de prendre la racine de cette approximation linéaire comme itéré suivant, ce qui donne une convergence locale quadratique lorsque le jacobien est non singulier et que l'approximation initiale est suffisamment proche.

Démonstration

On résout F(x)=0 pour un système d'équations non linéaires en itérant x_{k+1} = x_k − J_F(x_k)^{-1} F(x_k) ; pour un scalaire f avec une racine simple, la formule devient x_{k+1}=x_k − f(x_k)/f'(x_k), qui converge rapidement si la dérivée en la racine est non nulle.

Mauvaise application

Employer la méthode de Newton avec une mauvaise estimation initiale peut conduire à la divergence, au cyclage ou à la convergence vers une racine non voulue ; l'utiliser quand le jacobien est singulier ou quasi-singulier cause de l'instabilité ; négliger la régularisation ou l'amortissement dans des contextes mal conditionnés est risqué.

Conséquence

Lorsqu'elle est applicable, la méthode de Newton offre une convergence locale très rapide (quadratique) et un raffinement précis de la racine ; elle est au cœur de nombreux solveurs non linéaires et schémas implicites de pas de temps quand elle est associée à des solveurs linéaires robustes et des stratégies de globalisation.

Inversion

La perspective inverse s'appuie uniquement sur des méthodes de premier ordre (gradient ou itérations à pas fixe) qui évitent la résolution de systèmes linéaires et n'ont qu'une convergence linéaire, ou sur des méthodes de recherche de racines sans dérivées qui échangent vitesse contre robustesse.

Limite

Exige la différentiabilité de l'application et un jacobien inversible en la racine (ou des pseudo-inverses appropriés) ; la convergence globale n'est pas garantie sans recherche linéaire, region de confiance ou autres techniques de globalisation ; exclut les problèmes non différentiables sauf dans des variantes nonsmooth.

Tension sémantique

Tension entre méthodes de type Newton et quasi-Newton/secteur : Newton utilise des jacobiens exacts pour une convergence locale plus rapide mais à un coût par itération plus élevé et une sensibilité accrue ; les quasi-Newton sacrifi ent de la vitesse asymptotique contre plus de robustesse et des mises à jour moins coûteuses.

Synthèse

La méthode de Newton linéarise le problème non linéaire à chaque itéré, résout l'approximation linéaire et met à jour la solution ; sa puissance réside dans la convergence locale rapide quand les dérivées sont disponibles et bien conditionnées, mais en pratique elle exige globalisation et régularisation.