Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

Statistiques mathématiques E. Moulines, F. Roueﬀ, A. Sabourin mise à jour: sept

Statistiques mathématiques E. Moulines, F. Roueﬀ, A. Sabourin mise à jour: septembre 2017 Table des matières 1 Analyse statistique des données 4 1.1 Objectifs de l’analyse statistique, exemples . . . . . . . . . . . . . . . . . . . . 4 1.2 Formalisation statistique d’un problème . . . . . . . . . . . . . . . . . . . . . 6 1.2.1 Cadre probabiliste, notations . . . . . . . . . . . . . . . . . . . . . . . 6 1.2.2 Modèle statistique et paramétrisation . . . . . . . . . . . . . . . . . . 7 1.3 Modèles paramétriques, non-paramétriques ; identiﬁabilité. . . . . . . . . . . . 8 1.4 Modèles dominés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.5 Nombre d’observations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 1.6 Actions, procédures de décision, fonction de perte et risque . . . . . . . . . . 13 1.7 Règles randomisées (règles mixtes)∗. . . . . . . . . . . . . . . . . . . . . . . . 17 1.8 Résumé du chapitre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2 Estimation ponctuelle 20 2.1 M et Z–estimateurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 2.2 Méthode des moindres carrés . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 2.3 Méthode des moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 2.4 Méthode du Maximum de vraisemblance . . . . . . . . . . . . . . . . . . . . . 27 2.5 Famille exponentielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 2.6 Maximum de vraisemblance pour la famille exponentielle∗. . . . . . . . . . . 31 3 Risque quadratique 33 3.1 Risque quadratique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 3.2 Information de Fisher, Borne de Cramér-Rao . . . . . . . . . . . . . . . . . . 35 3.2.1 Modèle statistique régulier, information de Fisher . . . . . . . . . . . . 35 3.2.2 Borne de Cramér-Rao : paramètre scalaire . . . . . . . . . . . . . . . . 37 3.2.3 Borne de Cramér-Rao : paramètre vectoriel . . . . . . . . . . . . . . . 39 3.2.4 Cas des famille exponentielle . . . . . . . . . . . . . . . . . . . . . . . 40 4 Optimalité des décisions : cadre classique et cadre bayésien 42 4.1 Diﬃcultés liées à la minimisation uniforme du risque . . . . . . . . . . . . . . 42 4.2 Optimalité du risque sous contrainte . . . . . . . . . . . . . . . . . . . . . . . 43 4.3 Risque minimax . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 4.4 La modélisation bayésienne . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 4.4.1 Modèle bayésien . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 4.4.2 Loi jointe, loi marginale des observations . . . . . . . . . . . . . . . . 46 1 4.4.3 Conditionnement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46 4.4.4 Loi a posteriori . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 4.4.5 Espérance a posteriori . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 4.5 Familles conjuguées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53 4.6 Risque bayésien, risque intégré . . . . . . . . . . . . . . . . . . . . . . . . . . 54 5 Tests statistiques 58 5.1 Tests statistiques et théorie de la décision . . . . . . . . . . . . . . . . . . . . 58 5.1.1 Risques et puissance d’un test . . . . . . . . . . . . . . . . . . . . . . . 58 5.1.2 Tests randomisés∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61 5.1.3 Approche de Neyman–Pearson . . . . . . . . . . . . . . . . . . . . . . 62 5.2 Test de Neyman-Pearson (Rapport de vraisemblance) : cas d’hypothèses simples 63 5.3 Existence d’un test U.P.P. avec randomisation∗. . . . . . . . . . . . . . . . . 64 5.4 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65 5.5 Rapport de vraisemblance monotone . . . . . . . . . . . . . . . . . . . . . . . 70 5.6 Approche bayésienne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75 5.7 Lien entre approche bayésienne et approche de Neyman-Pearson . . . . . . . 78 6 Intervalles et régions de conﬁance 82 6.1 Régions et intervalles de conﬁance . . . . . . . . . . . . . . . . . . . . . . . . 82 6.2 Lien avec la théorie de la décision . . . . . . . . . . . . . . . . . . . . . . . . . 83 6.3 Construction à l’aide de fonctions pivotales . . . . . . . . . . . . . . . . . . . 84 6.4 Dualité entre régions de conﬁance et tests d’hypothèse de base simple . . . . 89 6.5 Le cas du rapport de vraisemblance monotone . . . . . . . . . . . . . . . . . . 91 A Rappels de probabilité 93 A.1 Espace de probabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 A.2 Probabilité . . . uploads/Management/ 4-poly.pdf