Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

Svm algoritomo classificacioin

Support Vector Machines Support Vector Machines S ?eparateurs a vaste marge Arnaud Revel revel arnaud gmail com CSupport Vector Machines Plan Introduction Formalisation Utilisation des noyaux Cas multi-classes Applications des SVM Bibliographie CSupport Vector Machines Introduction Plan Introduction Formalisation Cas s ?eparable Cas non-s ?eparable Utilisation des noyaux Cas multi- classes Applications des SVM Bibliographie CSupport Vector Machines Introduction Qu ? est-ce que l ? apprentissage En psychologie Toute acquisition d ? un nouveau comportement ala suite d ? un entra nement habituation conditionnement En neurobiologie Modi ?cations synaptiques dans des circuits neuronaux regle de Hebb regle de Rescorla et Wagner Apprentissage automatique construire un modele g ?en ?eral a partir de donn ?ees particulieres But pr ?edire un comportement face a une nouvelle donn ?ee approximer une fonction ou une densit ?e de probabilit ?e CSupport Vector Machines Introduction Formalisation Soit un ensemble d ? apprentissage S xi yi n dont les ?el ?ements ob ?eissent a la loi jointe P x y P x P y x On cherche a approcher une loi sous- jacente f x telle que yi f xi par une hypothese h x aussi proche que possible Les sont les parametres du systeme d ? apprentissage Si f est discrete on parle de classi ?cation Si f est une fonction continue on parle alors de r ?egression Mais que veut-on dire par ??aussi proche que possible ? CSupport Vector Machines Introduction Calcul du risque Pour mesurer la qualit ?e d ? une hypothese h on va consid ?erer une fonction de cou t Q z x y ?? a b que l ? on cherchea minimiser Exemple de fonction de cou t Cou t vaut lorsque les ?etiquettes pr ?evues et observ ?ees co ? ncident sinon utilis ?e en classi ?cation Erreur quadratique f x ?? y utilis ?e en r ?egression On cherche a minimiser R Q z dP z Comme on ne peut acc ?eder directement a cette valeur on construit donc le risque empirique qui mesure les erreurs r ?ealis ?ees par le mod ele Remp m n i Q zi Mais quel est le lien entre Remp et R CSupport Vector Machines Introduction Th ?eorie de l ? apprentissage de Vapnik Vapnik a pu montrer l ? expression suivante ??m avec une probabilit ?e au moins ?egale a ?? R m ? Remp m b ?? a dVC ln m dVC ?? ln m La minimisation du risque d ?epend du risque empirique un risque structurel li ?e au terme dVC qui d ?epend de la complexit ?e du mod ele h choisi VC- dimension a a Dimension de Vapnik et Chervonenkis CSupport Vector Machines Introduction CSupport Vector Machines Introduction Ainsi si pour construire un bon modele d ? apprentissage il est n ?ecessaire de minimiser les erreurs sur la base d ? apprentissage c ? est le principe d ? induction na ? f utilis ?e dans les r ?eseaux de neurones de construire un systeme capable de