Chapitre1 Analyse Num
Chapitre1 Analyse Num
Méthodes directes
March 9, 2015
Sommaire I
1 Introduction
Rappel sur les systèmes linéaires
2 Méthodes directes
Méthode de remontée
Élimination de Gauss
Méthode de Gauss-Jordan
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Les aij sont les coefficients du système , les xi sont les inconnues
(ou les solutions) , les ci forment le second membre. La formule
Li : ai1 x1 + ai2 x2 + . . . + ain xn = ci
s’appelle la ième ligne du système. On représente aussi (1) sous la
forme compacte:
X n
aij xj = ci (i = 1, 2, . . . , n)
j=1 Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Introduction
Rappel sur les systèmes linéaires
Méthodes directes
AX = C
Théorème 1.1
Pour que le système (1) admette une et une seule solution il faut
et il suffit que det A 6= 0. Dans ce cas la matrice A est invesible et
l’unique solution est donnée par X = A−1 C .
Théorème 1.2
Lorsque det A 6= 0 la solution xj est donnée par la formule
xn = acnnn
x (cn−1 −an−1n xn )
n−1 = an−1n−1
. . .
x1 = (c1 −a12 x2a−...−a 1n xn )
11
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Remarque 2.1
La méthode de remontée s’étend aux matrices triangulaires par
blocs. Elle nécessite n(n − 1)/2 additions, n(n − 1)/2
multiplications et n divisions.
Étant donné la simplicité de la résolution d’un système triangulaire,
de nombreuses méthodes se ramènent à la résolution d’un système
triangulaire. Le problème est alors de construire par un
changement de base une matrice triangulaire.
(2) (2)
Ensuite, en supposant que a22 6= 0, on élimine le terme a32 x2
(2)
(2) (2) a32 (2)
dans L3 grâce à la combinaison L3 − (2) L2 , ce qui donne le
a22
système A(3) X = C (3) équivalent au système initial:
(1)
a11 x1 + a12 x2 + a13 x3 = c1
: L1
(2) (2) (2) (2)
a22 x2 + a23 x3 = c2 : L2
(3) (3) (3)
a33 x3 = c3 : L3
(2) (2)
(3) (2) a32 (2) (3) (2) a32 (2)
où a33 = a33 − (2) a23 et c3 = c3 − (2) c2 .
a22 a22
Le système obtenu est donc triangulaire. On le résout grâce à
l’algorithme du paragraphe précédent.
Exemple
Considérons le système linéaire
2 8 4 x 1
2 10 6 y = 1
1 8 2 z 1
Exemple
À la deuxième étape, on poursuit la triangulation en annulant les
termes situés sous la diagonale. On divise la deuxième ligne par 2
(a22 est pris comme pivot) et on retranche la deuxième ligne
multipliée par 4 à la troisième, de façon à faire apparaı̂tre un zéro
en troisième ligne et deuxième colonne
1 4 2 x 1/2
0 1 1 y = 0
0 0 −4 z 1/2
À la troisième étape, on divise la troisième ligne par -4 (a33 ) afin
d’avoir une matrice triangulaire n’ayant que des 1 sur la diagonale
1 4 2 x 1/2
0 1 1 y = 0
0 0 1 z −1/8
On résout le système enZ. remontant
EL ALLALI les équations
Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Remarque 2.2
(k)
Si à l’étape k le coefficient akk est nul, alors il suffit de choisir
(k)
un coefficient aik (i > k), qui soit non nul et permuter la
ligne k du système avec la ligne i, puis procéder à l’opération
(k)
d’élimination de Gauss . Le coefficient non nul aik existe car
la matrice est inversible.
Pour une matrice d’ordre n, la méthode de Gauss nécessite
n(n − 1)(2n + 5)/6 additions, n(n − 1)(2n + 5)/6
multiplications et n(n + 1)/2 divisions, soit au total
(4n3 + 9n2 − 7n)/6 opérations élémentaires.
En utilisant les formules de Cramer, on aurait (n + 1)(n! − 1)
additions, (n + 1)(n! − 1) multiplications et n divisions. Pour
n = 10, la méthode de Gauss nécessite 805 opérations contre
399168000 opérations pour la résolution par les formules de
Gabriel Cramer (1704-1752).
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Exemple
Dans la méthode de Gauss-Jordan, on cherche non pas à trianguler
A comme dans la méthode de Gauss, mais à remplacer A par
l’identité.
Reprenons l’exemple proposé précédement .
À la troisième étape, on fait apparaı̂tre le vecteur (0, 0, 1) dans la
dernière colonne. On divise la troisième ligne par (−4). Puis, on
retranche (−2) fois la troisième ligne à la première et une fois la
troisième ligne à la deuxième. On obtient ainsi directement la
solution du système.
1 0 0 x 1/4
0 1 0 y = 1/8
0 0 1 z −1/8
Remarque 2.3
Le même algorithme est utilisé pour calculer l’inverse d’une
matrice. On écrit A sous la forme AI et on applique à l’identité I
toutes les manipulations que subit A.
Si A est une matrice réelle, la méthode de Gauss-Jordan nécessite
n(n2 − 1)/2 additions , n(n2 − 1)/2 multiplications , n(n + 1)/2
divisions.
Proposition 2.1
Pour 1 ≤ k ≤ n − 1 , la matrice A(k+1) et le vecteur C (k+1) sont
obtenus à partir de la matrice A(k) et du vecteur C (k) pour la
relation suivante A(k+1) = M (k) A(k) et C (k+1) = M (k) C (k)
où la matrice M (k) est donnée par:
1 0 ... 0 0 ... 0
0 1 ... 0 0 ... 0
.. .. . . .. .. . . ..
. . . . . . .
0 0 ... 1 0 ... 0
(k)
M = (k)
a
0 0 . . . − k+1k (k) 1 . . . 0
akk
. . . .. .. . . ..
. . . . .
. . . . .
(k)
ank
0 0 . . . − (k) 0 . . . 1
akk
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Proposition 2.2
La matrice A(n) et le vecteur C (n) sont données par:
Proposition 2.3
Pour tout 1 ≤ k ≤ n − 1, on a
1) det(M (k) ) = 1.
2) La matrice inverse (M (k) )−1 de M (k) est donnée par:
1 0 ... 0 0 ... 0
0 1 ... 0 0 ... 0
.. .. . . .. .. . . ..
. .
. . . . .
0 0 ... 1 0 ... 0
(M (k) )−1 = (k)
ak+1k
0 0 ... (k) 1 ... 0
akk
.. .. .. .. .. . . ..
. . . . . . .
(k)
ank
0 0 ... (k) 0 ... 1
akk
Preuve:
1) La matrice M (k) est triangulaire inférieure et tous les
coefficients de sa diagonale sont égaux à 1, ainsi
det(M (k) ) = 1.
2) Si on note la matrice donnée dans la proposition ci-dessus par
N (k) , alors on vérifie aisément que M (k) N (k) = I . Par suite ,
N (k) = (M (k) )−1 .
Théorème 2.1
(k)
Si tous les coefficients akk , 1 ≤ k ≤ n, sont non nuls, alors la
matrice A peut être décomposée sous la forme A = LU, U = A(n)
est une matrice triangulaire supérieure et
L = (M (1) )−1 (M (2) )−1 . . . (M (n−1) )−1 est une matrice triangulaire
inférieure.
Remarque 2.4
1) On vérifie aisément que la matrice L est donnée par:
1 0 ... 0 0 ... 0
a21 (1)
(1)
a11 1 ... 0 0 ... 0
. .. .. .. .
.. .. .
.
. . . . . . .
(1) (2)
ak1 ak2
... 1 0 ... 0
(1) (2)
L = a11 a22
a(1) (2) (k)
k+11 ak+12 ak+1k
a(1) (2) ... (k) 1 ... 0
a22 akk
11
.. .. .. .. .. .
.. .
.
. . . . . .
a(1) (2) (k) (k+1)
a ank ank+1
n1
(1)
n2
(2) ... (k) (k+1) ... 1
a11 a22 akk ak+1k+1
Exemple
Soit
2 −1 3 2
2 2 4 −1
A = A(1) = −6 6 −6 −1
−4 −4 −7 4
1 0 0 0 1 0 0 0
−1 1 0 0
M (1) (1) −1 1 1 0 0
=
3 0 1 0 , (M ) = −3 0
1 0
2 0 0 1 −2 0 0 1
2 −1 3 2
0 3 1 −3
A(2) = M (1) A(1) =
0 3
3 5
0 −6 −1 8
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Exemple
1 0 0 0 1 0 0 0
0 1 0 0 0 1 0 0
M (2) =
0 −1 1
, (M (2) )−1 =
0 0 1 1 0
0 2 0 1 0 −2 0 1
2 −1 3 2
0 3 1 −3
A(3) = M (2) A(2) = M (2) M (1) A(1) =
0 0 2 8
0 0 1 2
1 0 0 0 1 0 0 0
0 1 0 0
M (3) = , (M (3) )−1 = 0 1 0 0
0 0 1 0 0 0 1 0
0 0 −1/2 1 0 0 1/2 1
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Exemple
2 −1 3 2
0 3 1 −3
U = A(4) = M (3) A(3) =
0 0 2 8
0 0 0 −2
donc L = (M (1) )−1 (M (2) )−1 (M (3) )−1
1 0 0 0
1 1 0 0
L= −3 1
1 0
−2 −2 1/2 1
Exemple
x1
x2
Pour résoudre le système Ax = c , où x = x3 et
x4
−1 y1
0 y2
c = 22 , on pose y = y3
4 y4
et on résout les deux systèmes triangulaires suivantes Ly = c et
Ux = y .
1 0 0 0 y1 −1
1 1 0 0 y2 = 0
Ly = c ⇔ −3 1 1 0 y3 22
−2 −2 1/2 1 y4 4
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Exemple
y1 = −1
y1 = −1
y1 + y2 = 0 y2 = 1
⇔
−3y1 + y2 + y3 = 22 y = 18
3
−2y1 − 2y2 + (1/2)y3 + y4 = 4 y4 = −5
La solution
de Ax = c est celledu
système
Ux = y .
2 −1 3 2 x1 −1
0 3 1 −3 x2 1
Ux = y ⇔ 0 0 2 8 x3 = 18
0 0 0 −2 x4 −5
1
2x1 − x2 + 3x2 + 2x4 = −1
x1 = 12
3x2 + x3 − x4 = 1 x2 = 19
⇔ 6
2x3 + 8x4 = 18
x3 = −1
−2x4 = −5 x4 = 52
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
n min(i,j)
X X
aij = lik ljk = lik ljk , 1 ≤ i, j ≤ n
k=1 k=1
Remarque 2.5
Coût des méthodes de Gauss et Cholesky pour une matrice
d’ordre n :
Gauss Cholesky
(n3 −n) n3
Additions 3 6
(n3 −n) n3
Multiplications 3 6
n(n−1) n2
Divisions 2 2
Racine n
2n3 n3
Total 3 3
Résoudre le système linéaire Ax = C se ramène à résoudre
successivement les 2 systèmes linéaires à matrices
triangulaires: Ly = C et LT x = y .
Yn
Calcul du déterminant de A: det(A) = ( lii )2 .
i=1
Z. EL ALLALI Chapitre I: Résolution numérique des systèmes linéaires
Méthode de remontée
Élimination de Gauss
Introduction
Méthode de Gauss-Jordan
Méthodes directes
Méthode de Crout. Factorisation LU
Matrice symétrique définie positive: Méthode de Cholesky
Exemple
1 1
1 2 3
1 1 1
A= 2 3 4
, la factorisation de Cholesky de A est:
1 1 1
3 4 5
1 1
1 0
√
0 1 √2 √3
1 3 3 3
A= 0 0 = LLT .
2 √6 √ 6 √6
1 3 5 5
3 0 0
√6 √ 30 30
det(A) = ( 63 305 )2 .
1
Pour résoudre Ax = b avec b = 1 :
1
√ √
Ly = b ⇒ y1 = 1, y2 = 3, y3 = 5
LT x = y ⇒ x1 = 3, x2 = −24, x3 = 30.