ECOLE NATIONALE DES PONTS ET CHAUSS´EES COURS DE STATISTIQUE et ANALYSE des ...

213 Pages·2012·1.85 MB·French

(cid:19)
ECOLE NATIONALE
(cid:19)
DES PONTS ET CHAUSSEES
Ann(cid:19)ee universitaire 2006 { 2007
COURS DE STATISTIQUE
(cid:19)
et ANALYSE des DONNEES
13 f(cid:19)evrier 2007
ii
Pr(cid:19)eambule
LemotStatistiquevientdel’allemandStatistik,quid(cid:19)esignedesdonn(cid:19)eesutilesa(cid:18)l’E(cid:19)tat,
der Staat (dix-huiti(cid:18)eme si(cid:18)ecle). Ce premier sens renvoie donc a(cid:18) ce que nous appelons aujour-
d’hui, au pluriel, \des statistiques", c’est-a(cid:18)-dire des donn(cid:19)ees chi(cid:11)r(cid:19)ees, g(cid:19)en(cid:19)eralement de
grande ampleur, avec un accent sur le fait que ces donn(cid:19)ees ne sont pas a(cid:18) transmettre brutes
a(cid:18) l’utilisateur (\le prince" dans le sens initial) mais doivent^etre tri(cid:19)ees, clari(cid:12)(cid:19)ees et organis(cid:19)ees
en fonction d’usages bien pr(cid:19)ecis.
On peut se mettre a(cid:18) parler, historiquement de \Statistique"(au singulier) en tant que
science quand, dans le courant du dix-neuvi(cid:18)eme si(cid:18)ecle, on prend en compte le fait que ces
donn(cid:19)ees sont entach(cid:19)ees d’al(cid:19)eatoire (en particulier en recourant au tirage d’(cid:19)echantillons) et
que donc on mod(cid:19)elise leur recueil par l’usage des m(cid:19)ethodes math(cid:19)ematiques du calcul des
probabilit(cid:19)es. Ce point de vue conna^(cid:16)t un grand essor dans la premi(cid:18)ere moiti(cid:19)e du vingti(cid:18)eme
si(cid:18)ecle.
Dans la deuxi(cid:18)eme moit(cid:19)e du vingti(cid:18)eme si(cid:18)ecle le progr(cid:18)es des moyens de calcul permet de
faire subir des traitements simpli(cid:12)cateurs a(cid:18) des masses de donn(cid:19)ees de plus en plus grandes,
et ce (cid:19)eventuellement pr(cid:19)ealablement a(cid:18) la mise en place de mod(cid:18)eles probabilistes; c’est alors
qu’(cid:19)emerge la terminologie \Analyse des donn(cid:19)ees", qui ne doit pas ^etre vue comme s’op-
posant a(cid:18) \Statistique" mais compl(cid:19)ementaire, les deux points de vue s’(cid:19)etant largement in-
terp(cid:19)en(cid:19)etr(cid:19)es dans leur progression commune jusqu’en ce d(cid:19)ebut du vingt-et-uni(cid:18)eme si(cid:18)ecle.
Dans tout ce cours nous d(cid:19)esignerons du vocable \statisticien" le praticien dont nous
d(cid:19)ecrirons et justi(cid:12)erons les techniques qu’il emploie face aux donn(cid:19)ees qui lui sont fournies.
iii
iv PRE(cid:19)AMBULE
Table des mati(cid:18)eres
Pr(cid:19)eambule iii
A Introduction 1
I L’activit(cid:19)e du statisticien 3
I.1 Le contexte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
I.2 La d(cid:19)emarche . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
I.3 Le mod(cid:18)ele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
B Statistique d(cid:19)ecisionnelle 7
II Rappels sur le mod(cid:18)ele param(cid:19)etrique 9
II.1 Un exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
II.1.1 Pr(cid:19)esentation d’un jeu de donn(cid:19)ees . . . . . . . . . . . . . . . . . . . . 9
II.1.2 Remarques sur la mod(cid:19)elisation . . . . . . . . . . . . . . . . . . . . . 9
II.1.3 Quels questionnements peut-on soulever? . . . . . . . . . . . . . . . 11
II.2 D(cid:19)e(cid:12)nitions et rappels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
II.2.1 Les mod(cid:18)eles param(cid:19)etriques . . . . . . . . . . . . . . . . . . . . . . . . 12
II.2.2 Rappels sur la LFGN et le TCL . . . . . . . . . . . . . . . . . . . . . 13
II.3 Estimation ponctuelle : les estimateurs . . . . . . . . . . . . . . . . . . . . 13
II.3.1 Propri(cid:19)et(cid:19)es des estimateurs . . . . . . . . . . . . . . . . . . . . . . . . 14
II.3.2 L’estimateur du maximum de vraisemblance . . . . . . . . . . . . . . 16
II.4 R(cid:19)esum(cid:19)e des donn(cid:19)ees : les statistiques exhaustives . . . . . . . . . . . . . . 18
II.5 Pr(cid:19)ecision de l’estimation : l’intervalle de con(cid:12)ance . . . . . . . . . . . . . . 19
II.6 Proc(cid:19)edure de d(cid:19)ecision : les tests . . . . . . . . . . . . . . . . . . . . . . . . 23
II.7 Utiliser des donn(cid:19)ees ext(cid:19)erieures : l’approche bayesienne . . . . . . . . . . . 29
II.8 R(cid:19)esum(cid:19)e des proc(cid:19)edures de test . . . . . . . . . . . . . . . . . . . . . . . . . 31
II.8.1 Le mod(cid:18)ele de Bernoulli . . . . . . . . . . . . . . . . . . . . . . . . . . 31
III Mod(cid:18)ele lin(cid:19)eaire gaussien 33
III.1 G(cid:19)en(cid:19)eralit(cid:19)es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
III.1.1 Plans d’exp(cid:19)eriences . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
III.1.2 Le mod(cid:18)ele g(cid:19)en(cid:19)eral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
III.1.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
v
vi TABLE DES MATIE(cid:18)RES
III.2 Lois associ(cid:19)ees aux (cid:19)echantillons gaussiens . . . . . . . . . . . . . . . . . . . 37
III.2.1 Th(cid:19)eor(cid:18)eme de Cochran . . . . . . . . . . . . . . . . . . . . . . . . . . 37
III.2.2 Statistiques fondamentales . . . . . . . . . . . . . . . . . . . . . . . . 38
III.3 Le mod(cid:18)ele gaussien . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
III.3.1 Un exemple de donn(cid:19)ees r(cid:19)eelles a(cid:18) loi gaussienne . . . . . . . . . . . . 39
III.3.2 E(cid:19)tude du mod(cid:18)ele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
III.3.3 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
III.3.4 Intervalle de con(cid:12)ance et tests pour la moyenne . . . . . . . . . . . . 41
III.3.5 Intervalle de con(cid:12)ance pour la moyenne . . . . . . . . . . . . . . . . 41
III.3.6 Intervalles de con(cid:12)ance et tests pour la variance . . . . . . . . . . . . 43
III.3.7 Analyse des donn(cid:19)ees r(cid:19)eelles . . . . . . . . . . . . . . . . . . . . . . . 44
III.3.8 Approche bayesienne . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
III.4 Comparaison de moyennes de deux (cid:19)echantillons gaussiens . . . . . . . . . . 45
III.5 Analyse de la variance a(cid:18) un facteur . . . . . . . . . . . . . . . . . . . . . . 46
III.5.1 Comparaison de plusieurs (cid:19)echantillons gaussiens . . . . . . . . . . . . 46
III.5.2 Cadre g(cid:19)en(cid:19)eral du mod(cid:18)ele lin(cid:19)eaire gaussien . . . . . . . . . . . . . . . 48
III.5.3 R(cid:19)epartition de la variation . . . . . . . . . . . . . . . . . . . . . . . . 48
III.5.4 Test pour l’(cid:19)egalit(cid:19)e des moyennes de k (cid:19)echantillons gaussiens . . . . . 49
III.6 R(cid:19)egression lin(cid:19)eaire multiple . . . . . . . . . . . . . . . . . . . . . . . . . . 52
III.6.1 D(cid:19)e(cid:12)nition du mod(cid:18)ele . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
III.6.2 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
III.6.3 Test de l’utilit(cid:19)e des r(cid:19)egresseurs . . . . . . . . . . . . . . . . . . . . . 55
III.6.4 Interpr(cid:19)etation g(cid:19)eom(cid:19)etrique . . . . . . . . . . . . . . . . . . . . . . . . 57
III.7 R(cid:19)esum(cid:19)e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
III.7.1 Le mod(cid:18)ele gaussien a(cid:18) variance connue . . . . . . . . . . . . . . . . . 58
III.7.2 Le mod(cid:18)ele gaussien a(cid:18) variance inconnue . . . . . . . . . . . . . . . . 59
III.7.3 Comparaison de moyennes de deux (cid:19)echantillons gaussiens . . . . . . 59
III.7.4 Analyse de la variance a(cid:18) un facteur . . . . . . . . . . . . . . . . . . . 60
III.7.5 R(cid:19)egression multiple . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
IV Mod(cid:18)eles discrets 63
IV.1 Probl(cid:19)ematique des mod(cid:18)eles discrets . . . . . . . . . . . . . . . . . . . . . . 63
IV.2 Tests du (cid:31)2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
IV.2.1 Test d’ad(cid:19)equation a(cid:18) une loi discr(cid:18)ete . . . . . . . . . . . . . . . . . . . 64
IV.2.2 Test d’ad(cid:19)equation a(cid:18) une famille de lois discr(cid:18)etes . . . . . . . . . . . . 67
IV.3 La r(cid:19)egression logistique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
IV.3.1 Exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
IV.3.2 Une solution raisonnable : la r(cid:19)egression logistique . . . . . . . . . . . 71
IV.3.3 Comment tester l’in(cid:13)uence de la variable explicative? . . . . . . . . 73
IV.4 Comparaison de proportions . . . . . . . . . . . . . . . . . . . . . . . . . . 75
IV.4.1 Pr(cid:19)esentation de la probl(cid:19)ematique sur un exemple . . . . . . . . . . . 75
IV.4.2 E(cid:19)chantillons non appari(cid:19)es . . . . . . . . . . . . . . . . . . . . . . . . 75
IV.4.3 E(cid:19)chantillons appari(cid:19)es . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
IV.5 R(cid:19)esum(cid:19)e des tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
IV.5.1 Test d’ad(cid:19)equation a(cid:18) une loi discr(cid:18)ete : le test du (cid:31)2 . . . . . . . . . . 80
IV.5.2 Test d’ind(cid:19)ependance entre deux variables qualitatives . . . . . . . . . 81
TABLE DES MATIE(cid:18)RES vii
IV.5.3 R(cid:19)egression logistique . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
IV.5.4 Comparaison de deux proportions sur (cid:19)echantillons non appari(cid:19)es . . . 82
IV.5.5 Comparaison de deux proportions sur (cid:19)echantillons appari(cid:19)es . . . . . 83
V Tests non param(cid:19)etriques 85
V.1 Pourquoi la statistique non param(cid:19)etrique? . . . . . . . . . . . . . . . . . . 85
V.1.1 Se lib(cid:19)erer du mod(cid:18)ele param(cid:19)etrique . . . . . . . . . . . . . . . . . . . 85
V.1.2 Quand faut-il utiliser du non param(cid:19)etrique? . . . . . . . . . . . . . . 85
V.1.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
V.2 Les outils statistiques du non param(cid:19)etrique . . . . . . . . . . . . . . . . . 88
V.3 Probl(cid:18)emes a(cid:18) un seul (cid:19)echantillon . . . . . . . . . . . . . . . . . . . . . . . . 90
V.3.1 Ajustement a(cid:18) une loi : le test de Kolmogorov . . . . . . . . . . . . . 90
V.3.2 Un exemple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
V.3.3 Test de normalit(cid:19)e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
V.4 Probl(cid:18)emes a(cid:18) deux (cid:19)echantillons . . . . . . . . . . . . . . . . . . . . . . . . . 93
V.4.1 Que signi(cid:12)e (cid:19)echantillon appari(cid:19)e, non appari(cid:19)e ? . . . . . . . . . . . . . 93
V.4.2 Deux (cid:19)echantillons appari(cid:19)es : le test de Wilcoxon . . . . . . . . . . . . 94
V.4.3 Deux (cid:19)echantillons non appari(cid:19)es . . . . . . . . . . . . . . . . . . . . . 97
V.4.4 Tests param(cid:19)etriques ou tests non param(cid:19)etriques? . . . . . . . . . . . 102
V.5 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
V.6 Annexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
V.7 R(cid:19)esum(cid:19)e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
V.7.1 Test de Kolmogorov . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
V.7.2 Test de Wilcoxon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
V.7.3 Test de Kolmogorov-Smirnov . . . . . . . . . . . . . . . . . . . . . . 104
V.7.4 Test de Mann et Whitney . . . . . . . . . . . . . . . . . . . . . . . . 105
VI Mod(cid:19)elisation statistique des valeurs extr^emes 107
VI.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
VI.2 Mod(cid:18)eles de valeurs extr^emes . . . . . . . . . . . . . . . . . . . . . . . . . . 110
VI.2.1 La loi g(cid:19)en(cid:19)eralis(cid:19)ee des extr^emes (la loi du maximum par blocs) . . . . 111
VI.2.2 La loi des d(cid:19)epassements (mod(cid:18)ele POT) . . . . . . . . . . . . . . . . . 114
VI.3 Inf(cid:19)erence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
VI.3.1 Inf(cid:19)erence du mod(cid:18)ele GEV . . . . . . . . . . . . . . . . . . . . . . . . 118
VI.3.2 Inf(cid:19)erence du mod(cid:18)ele POT . . . . . . . . . . . . . . . . . . . . . . . . 122
VI.4 Traitement d(cid:19)ecisionnel de la construction d’une digue . . . . . . . . . . . . 123
VI.5 Conclusions et perspectives . . . . . . . . . . . . . . . . . . . . . . . . . . 125
VI.6 Sur la p(cid:19)eriode de retour et la loi de Poisson . . . . . . . . . . . . . . . . . 126
VI.6.1 P(cid:19)eriode de retour . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
VI.6.2 La loi de Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
VII S(cid:19)eries chronologiques 131
VII.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
VIII Apprentissage statistique 133
VIII.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133
viii TABLE DES MATIE(cid:18)RES
C Analyse exploratoire 135
IX Analyse des donn(cid:19)ees 137
IX.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
IX.1.1 Objectif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
IX.1.2 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
IX.1.3 Exemple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
IX.2 L’Analyse en Composantes Principales . . . . . . . . . . . . . . . . . . . . 143
IX.2.1 Probl(cid:19)ematique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
IX.2.2 Choix de la m(cid:19)etrique . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
IX.2.3 Moindre d(cid:19)eformation du nuage . . . . . . . . . . . . . . . . . . . . . 144
IX.2.4 Principales relations entre variables . . . . . . . . . . . . . . . . . . . 149
IX.2.5 Dualit(cid:19)e : imbrication des deux objectifs. . . . . . . . . . . . . . . . . 150
IX.2.6 Nombre d’axes (ou de composantes) a(cid:18) analyser . . . . . . . . . . . . 151
IX.2.7 El(cid:19)ements suppl(cid:19)ementaires . . . . . . . . . . . . . . . . . . . . . . . . 151
IX.2.8 Aides a(cid:18) l’interpr(cid:19)etation . . . . . . . . . . . . . . . . . . . . . . . . . . 152
IX.3 Classi(cid:12)cation automatique . . . . . . . . . . . . . . . . . . . . . . . . . . . 153
IX.3.1 Probl(cid:19)ematique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153
IX.3.2 Mesure de dissimilarit(cid:19)e . . . . . . . . . . . . . . . . . . . . . . . . . . 153
IX.3.3 Inerties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
IX.3.4 Algorithmes de partitionnement : les \centres mobiles" . . . . . . . . 155
IX.3.5 Classi(cid:12)cation ascendante hi(cid:19)erarchique (CAH) . . . . . . . . . . . . . 156
IX.3.6 M(cid:19)ethodes mixtes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
IX.3.7 Caract(cid:19)erisation des classes . . . . . . . . . . . . . . . . . . . . . . . . 158
IX.4 Compl(cid:19)ementarit(cid:19)e des deux techniques . . . . . . . . . . . . . . . . . . . . . 159
IX.5 Limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
D Annexe 163
X Rappels et compl(cid:19)ements de probabilit(cid:19)es 165
X.1 D(cid:19)e(cid:12)nitions et rappels g(cid:19)en(cid:19)eraux . . . . . . . . . . . . . . . . . . . . . . . . 165
X.1.1 Probabilit(cid:19)e et loi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
X.1.2 Variables al(cid:19)eatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
X.1.3 Esp(cid:19)erance-Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
X.1.4 Conditionnement, ind(cid:19)ependance . . . . . . . . . . . . . . . . . . . . . 178
X.2 Lois de variables al(cid:19)eatoires remarquables . . . . . . . . . . . . . . . . . . . 183
X.2.1 Variables al(cid:19)eatoires discr(cid:18)etes . . . . . . . . . . . . . . . . . . . . . . . 183
X.2.2 Variables al(cid:19)eatoires absolument continues . . . . . . . . . . . . . . . 186
X.3 Th(cid:19)eor(cid:18)emes limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191
X.3.1 Convergences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191
X.3.2 Th(cid:19)eor(cid:18)eme central limite . . . . . . . . . . . . . . . . . . . . . . . . . 192
X.3.3 Convergences en loi remarquables . . . . . . . . . . . . . . . . . . . . 192
TABLE DES MATIE(cid:18)RES ix
XI Tables statistiques 195
XI.1 Quantiles de la loi (0;1) . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
N
XI.2 Fonction de r(cid:19)epartition de la loi (0;1) . . . . . . . . . . . . . . . . . . . 196
N
XI.3 Quantiles de la loi du (cid:31)2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
XI.4 Quantiles de la loi de Student . . . . . . . . . . . . . . . . . . . . . . . . . 198
XI.5 Quantiles de la loi de Fisher-Snedecor . . . . . . . . . . . . . . . . . . . . . 199
Bibliographie et logiciels 201
x TABLE DES MATIE(cid:18)RES