Université Paris Dauphine DEMI2E 2e année Année 2010-2011 Calcul différentiel et optimisation I ...

107 Pages·2011·0.62 MB·French

Universit´e Paris Dauphine
DEMI2E 2e ann´ee
Ann´ee 2010-2011
Calcul diff´erentiel et optimisation I
Fran¸cois BOLLEY

3
Chapitre 1 - L’espace Rn
Soit R l’ensemble des nombres r´eels. Cet ensemble R est muni de structures alg´ebrique
et topologique construites `a partir des op´erations d’addition x+y et de multiplication xy,
de la valeur absolue x et de la relation d’ordre x y avec les propri´et´es et notations
| | ≤
classiques que l’on ne rappellera pas. Dans le cadre de ces structures on a ´etudi´e certains
aspects des fonctions d’une variable r´eelle `a valeurs r´eelles
f : U R R : x f(x).
⊂ → 7→
Pour n 1, soit Rn l’ensemble des n-uplets de nombres r´eels de la forme
≥
x = (x ,...,x )
1 n
ou` x ,...,x sont des nombres r´eels appel´es les composantes de x.
1 n
Onse propose d’´etudier dans ce cours certains aspects des fonctions de nvariables r´eelles
`a valeurs vectorielles
f : U Rn Rp : x f(x)
⊂ → 7→
etpourceladanscepremierchapitre,onvad´efinirsurcesensembles Rn etRp desstructures
qui prolongent les structures de l’ensemble R.
1. Propri´et´es alg´ebriques de Rn
1.1. Structure d’espace vectoriel sur Rn
Pour x et y Rn on d´efinit
∈
x+y = (x +y ,...,x +y )
1 1 n n
que l’on appelle l’addition de x et y, et pour x Rn et λ R on d´efinit
∈ ∈
λx = (λx ,...,λx )
1 n
que l’on appelle la multiplication de x par le scalaire λ.
Pour i = 1,...,n on d´efinit l’´el´ement e de Rn de composantes e = 0 si j = i et e = 1.
i ij ii
6
Proposition 1. Muni des deux op´erations d’addition et de multiplication par un scalaire,
l’ensemble Rn est un espace vectoriel sur le corps R de dimension n dont une base, dite
base canonique, est form´ee par la famille e ,...,e .
1 n
{ }
L’´el´ement neutre pour l’addition (0,...,0) sera not´e simplement 0 et un ´el´ement de Rn
sera appel´e soit un vecteur, soit un point.
Tout ´el´ement x de Rn se d´ecompose donc de mani`ere unique sous la forme
x = x e +...+x e
1 1 n n
pour des cœfficients r´eels x ,...,x : ces cœfficients x sont en fait les composantes de x
1 n i
qu’on appellera aussi les composantes de x sur la base canonique de Rn.
4
Ainsi un ´el´ement x de Rn sera repr´esent´e suivant le contexte
- soit par ses composantes sous la forme du n-uplet
x = (x ,...,x )
1 n
- soit par sa d´ecomposition sur la base canonique de Rn sous la forme de la combinaison
lin´eaire
x = x e +...+x e .
1 1 n n
1.2. Applications lin´eaires
Aveclastructurealg´ebriquedeRn d´efiniepr´ec´edemment, lesapplicationslin´eairesjouent
un rˆole particulier.
D´efinition 2. Une application f de Rn dans Rp est dite lin´eaire si pour x, y Rn et
λ R on a ∈
∈
f(x+y) = f(x)+f(y)
f(λx) = λf(x).
Une application lin´eaire de Rn dans R est dite une forme lin´eaire.
L’ensemble des applications lin´eaires de Rn dans Rp est not´e (Rn,Rp).
L
La lin´earit´e est conserv´ee par les op´erations de multiplication par un scalaire, d’addition,
de composition et d’inversion des applications lin´eaires. Pour l’inversibilit´e on a le r´esultat
particulier suivant :
Proposition 3. Une application lin´eaire f de Rn dans Rn est bijective si et seulement si
elle est injective, et si et seulement si elle est surjective.
Dans ce cas l’application inverse, dite aussi r´eciproque, f−1 est alors une application
lin´eaire de Rn sur Rn, et on dit que f est inversible ou est un isomorphisme de Rn sur Rn.
L’application inverse f−1 est l’unique application g de Rn dans Rn telle que
f g = g f = Id
◦ ◦
ou` Id est l’application identit´e de Rn dans Rn.
1.3. Matrices
Une matrice A de taille (p,n) est un tableau `a p lignes et n colonnes de cœfficients r´eels
de la forme
A ... A
11 1n
. . .
A = .. .. ..
 
A ... A
p1 pn
qu’on note aussi  
A = A ou A = A
ij i=1,...,p ij
j=1,...,n
le premier indice i ´etant celui de (cid:2)la lig(cid:3)ne et le second j c(cid:2)elui(cid:3)de la colonne.
5
On d´efinit les op´erations de multiplication par un scalaire, d’addition, de multiplication
et d’inversion des matrices.
En particulier le produit d’une matrice A de taille (p,n) et d’une matrice B de taille
(n,q) est la matrice not´ee AB de taille (p,q) dont les cœfficients sont d´efinis par
n
(AB) = A B .
ij ik kj
k=1
X
Exemple. Etant donn´ees une matrice colonne X de taille (n,1) de la forme
x
1
.
X = ..
 
x
n
 
et une matrice A de taille (p,n), la matrice produit AX est la matrice colonne de taille
(p,1) donn´ee par
A x +...+A x
11 1 1n n
.
AX = .. .
 
A x +...+A x
p1 1 pn n
 
Quant `a l’inversibilit´e des matrices, en notant I la matrice unit´e de taille (n,n) telle que
I = 0 pour i = j et I = 1, on pose la d´efinition suivante :
ij ii
6
D´efinition 4. Une matrice A de taille (n,n) est dite inversible s’il existe une matrice B
de taille (n,n) telle que
AB = BA = I.
La matrice B est alors unique, not´ee A−1 et appel´ee inverse de A.
Cette propri´et´e peut se traduire `a l’aide du d´eterminant de la matrice A. Le d´eterminant
d’une matrice A de taille (n,n) est le nombre r´eel not´e d´etA et d´efini par
d´etA = ε A ...A
σ σ(1)1 σ(n)n
σX∈Σn
ou` Σ est le groupe des permutations de l’ensemble 1,...,n et ε est la signature de la
n σ
{ }
permutation σ.
Proposition 5. Une matrice A de taille (n,n) est inversible si et seulement si d´etA = 0.
6
Dans ce cas, la matrice inverse est donn´ee par
A−1 = d´etA −1A˜
ou` A˜ est la matrice de taille (n,n) de cœ(cid:0)fficien(cid:1)ts A˜ij = ( 1)i+jd´etaji et ou` aji est la
−
matrice de taille (n 1,n 1) obtenue en supprimant la ligne j et la colonne i de la
− −
matrice A .
6
1.4. Repr´esentations matricielles
On convient d’identifier le vecteur (x ,...,x ) de Rn et la matrice colonne de taille (n,1)
1 n
x
1
.
.
.
 
x
n
 
et de dire que cette matrice colonne est la repr´esentation matricielle du vecteur (x ,...,x )
1 n
de Rn relativement `a la base canonique de Rn.
Suivant le contexte, on pourra noter par la mˆeme lettre x soit le n-uplet (x ,...,x ) de
1 n
Rn, soit la matrice colonne de taille (n,1)
x
1
.
.
.
 
x
n
 
et onpourra utiliser la repr´esentation matricielle duvecteur `ala placeduvecteur lui-mˆeme.
Onnotepluspr´ecis´ement en; j = 1,...,n labasecanoniquedeRn et ep; i = 1,...,p
la base canonique de Rp. { j } { i }
Si y pour j = 1,...,n sont n vecteurs de Rp de composantes A pour i = 1,...,p dans la
j ij
base ep; i = 1,...,p de Rp, c’est-`a-dire de la forme
{ i }
p
y = A ep
j ij i
i=1
X
on note A la matrice A = A appel´ee la matrice repr´esentative de la famille
ij i=1,...,p
j=1,...,n
y ,...,y dans la base ep; i = 1,...,p de Rp.
{ 1 n} { i (cid:2) (cid:3) }
Sixest unvecteur deRn et f une applicationlin´eaire deRn dans Rp,ona parla lin´earit´e
de f
n p n
f(x) = x f(en) = A x ep
j j ij j i
j=1 i=1 j=1
X X(cid:0)X (cid:1)
ou` pour j = 1,...,n, on a not´e pour i = 1,...,p
A = f(en)
ij j i
les p composantes du vecteur f(en) de Rp su(cid:0)r la ba(cid:1)se canonique ep; i = 1,...,p de Rp.
j { i }
Autrement dit la matrice A = A est la matrice repr´esentative de la famille
ij i=1,...,p
j=1,...,n
f(en), ,f(en) dans la base ep; i = 1,...,p de Rp.
{ 1 ··· n } { i(cid:2) (cid:3) }
Par cons´equent l’application f est d´etermin´ee de fac¸on unique par la matrice A de taille
(p,n) dont les cœfficients sont ces A .
ij
On peut donc ´enoncer :
7
Proposition 6. Soit f une application lin´eaire de Rn dans Rp. Alors il existe une unique
matrice A de taille (p,n) telle que pour x Rn la matrice produit Ax est la repr´esentation
matricielle du vecteur f(x) de Rp relativem∈ent `a la base canonique de Rp.
Cette matrice A est appel´ee la matrice repr´esentative de l’application lin´eaire f relati-
vement aux bases canoniques de Rn et de Rp.
Autrement dit on pourra noter
A x +...+A x
11 1 1n n
.
f(x) = Ax = .. .
 
A x +...+A x
p1 1 pn n
 
Notant de fac¸on g´en´erale A(f) la matrice repr´esentative de l’application lin´eaire f, on a
dans des cadres convenables
1 - A(λf) = λA(f),
2 - A(f +g) = A(f)+A(g),
3 - A(f g) = A(f)A(g),
4 - f est◦un isomorphisme de Rn sur Rn si et seulement si A(f) est inversible, et dans
ce cas A(f−1) = A(f) −1.
(cid:0) (cid:1)
1.5. Formes bilin´eaires - Formes quadratiques
D´efinition 7. Une forme bilin´eaire f sur Rn Rn est une application
×
f : Rn Rn R : (x,y) f(x,y)
× → 7→
telle que pour tous a et b Rn, les applications partielles
∈
f(a, ) : Rn R : y f(a,y)
· → 7→
f( ,b) : Rn R : x f(x,b)
· → 7→
soient lin´eaires.
La forme bilin´eaire f est dite sym´etrique si f(x,y) = f(y,x) pour x et y Rn.
∈
Le premier exemple fondamental de forme bilin´eaire est le produit scalaire euclidien.
D´efinition 8. Le produit scalaire euclidien des vecteurs x et y de Rn est le nombre r´eel
not´e < x,y > et d´efini par
< x,y >= x y + +x y .
1 1 n n
···
Le produit scalaire pourra aussi ˆetre ´ecrit sous la forme d’un produit matriciel
< x,y >= xT y = yT x
ou` xT est la matrice ligne de taille (1,n)
xT = x ...x
1 n
(cid:2) (cid:3)
8
appel´ee matrice transpos´ee de la matrice colonne de taille (n,1)
x
1
.
x = .. .
 
x
n
 
De fac¸on g´en´erale la matrice transpos´ee de la matrice A de taille (p,n) est la matrice de
taille (n,p) not´ee AT dont les cœfficients sont d´efinis par
AT = A .
ij ji
Pour x Rn et y Rp on a alors
∈ ∈
< Ax,y > =< x,ATy >
p n
ou` < , > est le produit scalaire euclidien de Rp et < , > est le produit scalaire
p n
euclidi·en· de Rn. · ·
Comme pour les applications lin´eaires on a la repr´esentation matricielle suivante :
Proposition 9. Soit f une forme bilin´eaire sur Rn Rn. Alors il existe une unique matrice
A de taille (n,n) telle que pour x et y Rn on ait×
∈
f(x,y) =< Ax,y > .
Cette matrice A est alors appel´ee la matrice repr´esentative de l’application bilin´eaire f
relativement `a la base canonique de Rn.
La forme bilin´eaire f est sym´etrique si et seulement si sa matrice repr´esentative A est
sym´etrique, c’est-`a-dire si A = A pour i,j = 1,...,n.
ij ji
La matrice A est la matrice de taille (n,n) ayant pour cœfficients
A = f(e ,e ).
ij j i
Ainsi pour x et y Rn
∈ n
f(x,y) = A x y .
ij j i
i,j=1
X
Exemple. La matrice repr´esentative du produit scalaire euclidien est la matrice identit´e.
D´efinition 10. Une forme quadratique f sur Rn est une application
f : Rn R : x f(x)
→ 7→
telle que
1 - f(λx) = λ2f(x) pour λ R et x Rn,
∈ ∈
2 - l’application
φ : (x,y) f(x+y) f(x) f(y)
7→ − −
est une forme bilin´eaire sur Rn Rn.
×
9
On a la repr´esentation matricielle suivante :
Proposition 11. Soit f une forme quadratique sur Rn. Alors il existe une unique matrice
sym´etrique A de taille (n,n) telle que pour x et y Rn on ait
∈
f(x) =< Ax,x > .
Cette matrice A est alors appel´ee la matrice repr´esentative de la forme quadratique f
relativement `a la base canonique de Rn.
2. Propri´et´es topologiques de Rn
2.1. Normes sur Rn
D´efinition 12. Une norme sur Rn est une application de Rn dans R not´ee
: Rn R : x x
k·k → 7→ k k
telle que
1 - (positivit´e) x 0 pour x Rn et x = 0 si et seulement si x = 0,
2 - (in´egalit´e trkiankg≥ulaire) x+∈y xk +k y pour x et y Rn,
3 - (homog´en´eit´e) λx = kλ x kp≤oukr xk Rknket λ R. ∈
k k | |k k ∈ ∈
L’espace vectoriel Rn muni d’une norme sera dit un espace vectoriel norm´e (e.v.n.
en abr´eg´e) et not´e (Rn, ). k·k
k·k
En particulier l’in´egalit´e triangulaire implique l’in´egalit´e suivante souvent utilis´ee
x y x y .
|k k−k k| ≤ k − k
D´efinition 13. Deux normes et ∗ sur Rn sont dites ´equivalentes s’il existe deux
constantes C et C > 0 telles qku·ekpourkx·k Rn
1 2
∈
C x x ∗ C x .
1 2
k k ≤ k k ≤ k k
Exemples. Pour x = (x ,...,x ) on pose
1 n
n n 1
kxk1 = |xi|, kxk2 = x2i 2 =< x,x >12 , kxk∞ = sup |xi|.
i=1,...,n
Xi=1 (cid:16)Xi=1 (cid:17)
Alors les applications sont des normes sur Rn pour p = 1, 2, et ces normes sont
p
´equivalentes car pour tko·ukt x Rn on a ∞
∈
1
x x x ,
1 2 1
√nk k ≤ k k ≤ k k
x x n x ,
∞ 1 ∞
k k ≤ k k ≤ k k
x x √n x .
∞ 2 ∞
k k ≤ k k ≤ k k
10
Pour la norme , appel´ee norme euclidienne, on a en particulier
2
k·k
Proposition 14. Pour x et y Rn on a
∈
1 - (in´egalit´e de Cauchy-Schwarz) < x,y > x y ,
2 2
2 - (´egalit´e) < x,y > = x y| si et seu|l≤emkenkt ski,kpour x = 0, il existe λ R tel
2 2
| | k k k k 6 ∈
que y = λx.
D´emonstration. On suppose que x = 0 et donc x = 0. Pour λ R on a
2
6 k k 6 ∈
λx+y 2 = λ2 x 2 +2λ < x,y > + y 2.
k k2 k k2 k k2
Par suite pour tout λ R on a
∈
λ2 x 2 +2λ < x,y > + y 2 0.
k k2 k k2 ≥
Le discriminant de ce trinˆome est donc n´ecessairement 0, ce qui implique l’in´egalit´e de
≤
Cauchy-Schwarz.
Si l’´egalit´e a lieu dans cette in´egalit´e, c’est-`a-dire si le discriminant du trinˆome est nul, il
existe alors λ R pour lequel ce trinˆome est nul, c’est-`a-dire λx+y 2 = 0 soit y = λx.
∈ k k2 − ⋄
Il est tr`es commode de pouvoir traduire certaines propri´et´es d’un e.v.n. (Rn, ) `a l’aide
de suites de points de Rn.On suppose connues les propri´et´es sur les suites de nokm·kbres r´eels.
D´efinition 15. Une suite de Rn est une application de l’ensemble N des nombres entiers
naturels dans Rn
N Rn : k x .
k
→ 7→
Une telle suite est not´ee (x ) ou (x ) ou (x ).
k k≥0 k k k
Si (k ) est une suite strictement croissante de nombres entiers, la suite (y ) d´efinie
j j≥0 j j≥0
par y = x est dite une sous-suite ou suite extraite de la suite (x ) et not´ee (x )
j kj k k≥0 kj j≥0
ou (x ) ou (x ).
kj j kj
D´efinition 16. Soit (x ) une suite de Rn. On dit que la suite (x ) est convergente dans
k k k k
l’e.v.n. (Rn, ) s’il existe x appartenant `a Rn tel que pour tout ε > 0 il existe un entier
k·k
K > 0 tel que x x ε pour tout k K.
k
k − k ≤ ≥
Cet ´el´ement x est alors unique. On dit que la suite (x ) converge vers x dans l’e.v.n.
k k
(Rn, ), que x est la limite de la suite (x ) et on note
k k
k·k
lim x = x.
k
k→∞
Autrement dit la suite ( x x ) converge vers 0 dans (R, ).
k k
k − k |·|
On va ´etendre le th´eor`eme de Bolzano-Weierstrass pour les suites born´ees de nombres
r´eels au cas des suites de points de Rn born´ees dans l’e.v.n. (Rn, ).
∞
k·k