Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

appgen Apprentissage et Généralisation Philippe Leray insa-rouen fr CIntroduction ? On a un modèle f ? Erreur commise par un modèle erreur théorique EP w ? ? y ?? f x w P x y dxdy ? mL'ainpipmreisnatnistsla'egreresuerfeamit psiurriquunee bicaisaevdec'euxn

Apprentissage et Généralisation Philippe Leray insa-rouen fr CIntroduction ? On a un modèle f ? Erreur commise par un modèle erreur théorique EP w ? ? y ?? f x w P x y dxdy ? mL'ainpipmreisnatnistsla'egreresuerfeamit psiurriquunee bicaisaevdec'euxneme fpolensct ixoin ydi een coût quadratique ? J w n n i yi ?? f xi w ? L'erreur en apprentissage est-elle un bon indicateur de la qualité du modèle f Ph Leray CIntroduction ?n ? L'erreur en apprentissage est-elle un bon indicateur de la qualité du modèle f ? J f Réponse Non Ph Leray xi yi - - - modèle théorique - - modèle f CPlan ? Notion de sur-apprentissage ? Une méthode pour éviter le sur- apprentissage ?? Ensemble de validation early stopping ? Comment bien apprendre ?? Complexité d'un modèle Le rasoir d'Occam ?? Dilemme biais variance ?? Comment diminuer la variance ? Régularisation ? Bootstrap committees ? Comment estimer autrement l'erreur en généralisation Ph Leray CLe sur-apprentissage ? Apprentissage par c ?ur le modèle ne conna? t que les points utilisés pour l'apprentissage et fait n'importe quoi ailleurs modèle f xi yi - - - modèle théorique - Ph Leray - CNotion de généralisation ? Bien apprendre ce n'est pas apprendre par c ?ur mais être capable de bien se comporter devant des points quelconques ?? C'est la généralisation ? Comment éviter le sur-apprentissage ? Comment bien apprendre ? Comment estimer l'erreur en généralisation autrement Ph Leray CSur-apprentissage le retour ? Comment déterminer que le choix de f n'est pas bon ? J f l'erreur en apprentissage ne convient pas Ph Leray xi yi - - - modèle théorique - - modèle f CEnsemble de Validation ? On va prendre des points di ?érents de ceux de l'ensemble d'apprentissage l'ensemble de validation Qualité du modèle Jval w Ph Leray modèle f x x xx - - - modèle théorique x x - - ici Jval w est vraiment mauvais CEnsemble de Validation ? Algorithme d'apprentissage itératif Quand arrêter l'apprentissage pour éviter le surapprentissage ? On sépare les exemples disponibles en ou bases ?? apprentissage ? Japp w n n i yi ?? f xi w ?? validation ? Jval w n' n' i y'i ?? f x'i w ?? test pour calculer une erreur indépendante des données qui ont servi à faire et à arrêter l'apprentissage Ph Leray CEnsemble de Validation ? Jval w est une meilleure estimation de EP Ph Leray Jval w Japp w itérations CEnsemble de Validation ? On peut s'en servir pour arrêter l'apprentissage EARLY STOPPING Ph Leray Jval w Japp w itérations CTransition ?? On vient de voir un moyen d'arrêter l'apprentissage avant le sur-apprentissage ? Comment bien apprendre ? Comment calculer l'erreur en généralisation sans ensemble de validation Ph Leray CComplexité d'un modèle ? Principe général le rasoir d'Occam ème siècle Shave away all that is unnecessary ?? Il faut toujours préférer un modèle simple à un modèle complexe ? Comment déterminer la complexité d'un modèle ?? Nb de paramètres