Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

1 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Antoine Cornué

1 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Antoine Cornuéjols Introduction à l l’ ’Apprentissage Artificiel Apprentissage Artificiel AgroParisTech et L.R.I., Université de Paris-Sud, Orsay (France) antoine@lri.fr http://www.lri.fr/~antoine/ 2 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Cours : objectifs • Qu’est-ce que l’apprentissage artiﬁciel • Les problèmes étudiés • Les méthodes • Les questions théoriques 3 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Cours : Le programme 1- Introduction à l’induction (09-10-09) 2- Les réseaux connexionnistes (16-10-09) 3- Aspects méthodologiques (23-10-09) 4- Autres méthodes d’apprentissage (6-11-09) (Yves Lechevallier) (13-11-09 ; 20-11-09 ; 27-11-09 ; 4-12-09) (CC : 18-12-09) Codage des données, classiﬁcation automatique, arbres de décision, analyse factorielle Représentation des connaissances sous forme de données symboliques- numériques 4 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Le cours • Documents ! Le livre "L'apprentissage artiﬁciel. Concepts et algorithmes" A. Cornuéjols & L. Miclet. Eyrolles. 2002. ! Les transparents sur www.lri.fr/~antoine/ …cours apprentissage 5 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Cours 1 : principes généraux de l’induction 1- Introduction à l’induction 2- Approche(s) de l’induction 3- Apprentissage guidé par relation de généralité 4- Les réseaux de neurones multicouches 5- La validation empirique de l’apprentissage 6- Le boosting / Les SVMs 6 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1.1- Quel objectif ? (1) • Association • Imitation • Apprentissage de comportement : ! Apprendre à marcher (insectoïdes de Brooks) ! Apprendre à se comporter sur une planète • Apprendre à mieux jouer ! S'adapter à l'adversaire ! Ne pas répéter ses fautes ! Apprendre à jouer en équipe – Équipes de robots 7 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1. 1- Quel objectif ? (2) • Apprentissage pour la navigation ! Apprentissage de trajets (fourmis, abeilles) ! Robots • Discrimination ! Identiﬁcation de sous-marins vs. bruits naturels ! Identiﬁcation de locuteur / de signature ! Reconnaissance de l'écriture manuscrite, de la parole ! Code postal • Catégorisation ! SKY SURVEY 8 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1. 1- Quel objectif ? (2') • Systèmes autonomes avec apprentissage 9 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1. 1- Quel objectif ? (3) • Apprendre les préférences d'un utilisateur • Apprendre à ﬁltrer l'information • Apprendre à faire des résumés • Apprendre à communiquer (e.g. Steels, …) • Révision de théorie • Découverte scientiﬁque ! Découverte de régularités (en biochimie, …) ! Découverte de réseaux de causalité ! Modéliser le monde (invariants, …) • ... 10 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1. 1- Quel objectif ? (4) Et aussi Mieux comprendre l'apprentissage : • Pour ne pas avoir à programmer ! Programmation par la démonstration ! Programmation par l'exemple (e.g. l'EBL) ! Programmation par échantillon d'apprentissage : induction • Pour mieux enseigner • Pour savoir ce que d'autres intelligences pourraient apprendre : théorie générale de l'apprentissage 11 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Qu’est-ce que l’apprentissage ? «!Machine!» = système autonome = collectivité ! Pas (peu) d’intervention humaine (?) ! Ordinateur, robots, agents logiciels, … Machine Machine Learning Learning 12 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Qu’est-ce que l’apprentissage ? Changements dans un système lui permettant de réaliser le même type de tâche avec une meilleure performance à l’avenir 13 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Qu’est-ce que l’apprentissage ? Meilleure compréhension du monde à partir d’observations en vue de prédiction 14 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Spéciﬁcation d’un problème d’apprentissage • Déﬁnition de la tâche d’apprentissage ! Objectif ; protocole ; mesure de performance ; échantillon d’apprentissage • Apprentissage ! Étude des exemples ; utilisation de connaissances a priori ! Formulation d’hypothèses • Évaluation ! Prédiction / généralisation à de nouvelles situations 15 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Exemples • Apprendre à reconnaître une maladie ! Exemples : patients atteints / patients non atteints ! Performance : fraction de patients correctement «!étiquetés!» • Apprendre à conduire ! Exemples : séquences de situations de conduite avec les bonnes commandes ! Performance : distance parcourue avant un accident • Apprendre à jouer aux échecs ! Exemples : parties jouées contre un adversaire / contre soi-même ! Performance : fraction de parties gagnées 16 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Exemples (2) • Apprendre à recommander des ﬁlms ! Exemples : ﬁlms aimés / pas aimés par des clients ! Performance : fraction de ﬁlms correctement «!étiquetés!» pour un client donné • Apprendre à prédire la consommation électrique dans 3 jours ! Exemples : historique de la consommation sur une période donnée pour un pays donné ! Performance : exactitude des prédictions • Apprendre à optimiser un système d’intelligence ambiante ! Exemples : historique du fonctionnement passé ! Performance : gain en temps / consommation / … 17 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Généralisation / Induction Passage de situations particulières à une connaissance / compétence générale ! Mémorisation ! Apprentissage • Versus autres types de raisonnements ! Déduction (du général au spéciﬁque) ! Abduction (cause la plus probable) ! Analogie (?) 18 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Types d’apprentissages 1. Apprentissage supervisé supervisé À partir de l’échantillon d’apprentissage S = {(xi, ui)}1,m on cherche une loi de dépendance sous-jacente – Par exemple une fonction h aussi proche possible de f (fonction cible) tq : ui = f(xi) – Ou bien une distribution de probabilités P(xi, ui) aﬁn de prédire l’avenir 19 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Induction 20 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1 - L'induction supervisée • Si f f est une fonction continue ! Régression ! Estimation de densité • Si f f est une fonction discrète ! Classiﬁcation • Si f f est une fonction binaire (booléenne) ! Apprentissage de concept 21 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1- Types d’apprentissages 2. Apprentissage non supervisé non supervisé De l’échantillon d’apprentissage S = {(xi)}1,m on cherche des régularités sous-jacentes – Sous forme d’une fonction : régression – Sous forme de nuages de points (e.g. mixture de gaussiennes) – Sous forme d’un modèle complexe (e.g. réseau bayésien) aﬁn de résumer, détecter des régularités, comprendre … 22 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Action Perception 1- Types d’apprentissages 3. Apprentissage par renforcement par renforcement Environnement Récompense Les données d’apprentissage ! Une séquence de perceptions, d’actions et de récompenses : (st, at, rt)t = 1, ! – Avec un renforcement rt – rt peut sanctionner des actions très antérieures à t Le problème Le problème : inférer une application : situation perçue ! action aﬁn de maximiser un gain sur le long terme Apprentissage de réﬂexes ... -> … apprentissage de planiﬁcation 23 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Notion de protocole Le protocole règle les interactions entre les acteurs règle les interactions entre les acteurs ! Environnement : – Données fournies incrémentalement ou non (apprentissage en-ligne / batch) – Dans un ordre indifférent / hostile / favorable ! Oracle : – Données semi-supervisées semi-supervisées – Apprentissage multi-instances – Étiquettes vraies fournies avec les exemples ou seulement après prédiction de l’apprenant (risque mesuré par le nombre d’erreurs de l’apprenant : mistake-bound learning) (ou relativement au meilleur expert d’un comité : relative loss-bound models) – Peut fournir un contre-exemple quand l’apprenant propose une hypothèse candidate h non équivalente à la fonction cible (equivalence queries) ! Apprenant : – Complètement passif : données i.i.d. – Peut poser des questions : fournir un exemple et demander son étiquette (membership queries) – Peut poser des questions sur les statistiques des exemples étiquetés (statistical queries) – – Apprentissage actif Apprentissage actif : organise son exploration du monde 24 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Grandes approches • Modèles génératifs • Modèles discriminatifs • Apprentissage transductif 25 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Autres types d’apprentissages • Apprentissage par transfert ! Apprentissage à long-terme, continu (long-life learning) ! Séquence de problèmes et de situations d’apprentissage ! Appliquer ce qui a été appris précédemment à la résolution du nouveau problème 26 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Des questions … • • Induction Induction ! 1 2 3 5 … ! 1 1 2 1 1 2 1 1 1 1 1 2 2 1 3 1 2 2 1 1 … ! 1 1 2 1 1 2 1 1 1 1 1 2 2 1 3 1 2 2 1 1 … ! Comment ? ! Pourquoi serait-il possible de faire de l’induction ? ! Est-ce qu’un exemple supplémentaire doit augmenter la conﬁance dans la règle induite ? ! Combien faut-il d’exemples ? 27 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 … sans arrêt des questions • Séquences d’analogies ! Quelles situations sélectionner ? ! Dans quel ordre ? ! Est-ce de l’apprentissage ? a b c a b d a a b a b c ? i j j k k k ? 28 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 Introduction à l’induction • Induction : Proposer des Proposer des lois générales lois générales à partir de l à partir de l’ ’observation de observation de cas cas particuliers particuliers 29 Cornuéjols 1-Introduction à l’Apprentissage Artiﬁciel 05/12/05 1.1- Un exemple • Soient deux exemples dont les descriptions pourraient être : uploads/Management/ tr-m-isi-1-2009-pdf.pdf