Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

04/11/2016 1 1 01. Intro 04/11/2016 Systèmes Intelligents & AM- Master TI, © 20

04/11/2016 1 1 01. Intro 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi Systèmes Intelligents & Apprentissage Machine Master Traitement de l’Information (2016-2017) Prof. Abdelaziz Bouroumi a.bouroumi@gmail.com 2 01. Intro 01. Présentation du Module + Introduction 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 2 3 01. Intro Présentation générale • SIAM est un cours d’algorithmique et de programmation avancées. • Il concerne: – l’étude, – la programmation, et – le test sur des données réelles (benchmark) d’algorithmes couramment utilisés dans le domaine de l’apprentissage machine. • L’apprentissage machine (ou apprentissage automatique, ou apprentissage à partir de données, ou machine learning) est un domaine de recherche en plein essor. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 4 01. Intro Apprentissage machine (AM) • AM est une branche de l’intelligence artificielle qui s’intéresse à l’extraction de connaissances à partir de bases de données en vue de les utiliser pour faire des prédictions, prendre des décisions, etc. • AM est utilisé pour apporter des solutions approchées à des problèmes difficiles du monde réel qu’on ne sait pas résoudre par des méthodes traditionnelles. • Ces problèmes se posent généralement en termes de: – Optimisation, – Recherche, – Décision. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 3 5 01. Intro Types de problèmes du monde réel 1. Problèmes de recherche: peuvent être formulés mathématiquement sous forme d’un point dans un espace de recherche (ensembles des solutions possibles). 2. Problèmes d’optimisation: recherche de la meilleure façon possible de faire quelque chose  nécessité d’un critère objectif à maximiser ou à minimiser. 3. Problèmes de décision: peuvent se poser sous forme d’une question à laquelle on peut répondre par oui ou non. Exemples: – spam? – tumeur maligne? 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 6 01. Intro Systèmes intelligents (SI) • Un SI est un système qui implémente, matériellement ou sous forme logicielle, de l’intelligence naturelle. • Une machine ou un programme intelligent est capable d’interagir dynamiquement avec son environnement ou son utilisateur. • Les SI peuvent avoir différentes formes: – Robots industriels, ménagers, domestiques, … – Programmes de reconnaissance de formes (visages, spams, intrusions, maladies, pannes, …) – Systèmes de recommandation (films, musique, livres, informations, pages web, …) 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 4 7 01. Intro SI • Logiciels de jeux: cartes, échecs, … • Jeux vidéos, • Voitures intelligentes: – détection automatique de piétons, obstacles, … – freinage automatique, – stationnement automatique, – échange d’informations avec d’autres véhicules, • Villes intelligentes: – transport en commun (minimisation du temps d’attente, maximisation du confort, de la sécurité, etc.), – services hospitaliers (optimisation de l’exploitation des ressources, optimisation du rendement global, minimisation du coût, …) 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 8 01. Intro Casablanca: ville intelligente? Source: 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi (http://www.e-madina.org/ ) 04/11/2016 5 9 01. Intro Conception d’un SI • Nécessite la modélisation de la tâche intelligente à automatiser. • Modéliser une tâche intelligente c’est décrire sous forme mathématique ou algorithmique la méthode utilisée par l’opérateur humain pour réaliser cette tâche, ce qui constitue la principale difficulté. • Ceci revient à modéliser deux aptitudes fondamentales qui caractérisent l’intelligence humaine: 1. l’apprentissage , supervisé ou non, à partir d’exemples, 2. la généralisation des compétences apprises à de nouveaux exemples non vus durant la phase d’apprentissage  • La conception de SI passe par l’apprentissage machine. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 10 01. Intro Exemple simple • Comment détermine-t-on le prix d’un mouton de l’aïd? • Réponse: par apprentissage à partir d’exemples. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi Prix Poids x x x x x x x x 04/11/2016 6 11 01. Intro Méthodes heuristiques • Les algorithmes d’AM sont des méthodes heuristiques qui se basent sur: – l’intuition, et – l’expérience. • L’intuition permet de faire des hypothèses. • L’expérience permet de tester, de raffiner et de valider les hypothèses avant de les utiliser dans le monde réel. • La conception d’une solution heuristique d’apprentissage machine à un problème donné nécessite l’existence de données qui servent d’entrées pour l’algorithme d’apprentissage. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 12 01. Intro Exemple • Hypothèse: le prix y d’un mouton est une fonction linéaire de son poids x. • Formulation mathématique: y = ax + b où a et b sont des paramètres (ou poids) à déterminer par apprentissage à partir des données disponibles. • Nature du problème: problème de recherche. – Grandeur recherchée: paire (a,b); – Espace de recherche: 2. • Mais le problème est aussi un problème d’optimisation car on veut la meilleure paire (a*,b*)  – Quel critère optimiser? – Quel algorithme utiliser pour trouver (a*,b*)? 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 7 13 01. Intro Apprentissage et généralisation • Connaissant la relation entre les prix des moutons (sorties désirées) et leurs poids (entrées), on peut utiliser cette relation pour: – prédire le prix d’un nouveau mouton, non vu durant la phase d’apprentissage, – décider d’accepter on non un prix. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi Prix Poids x x x x x x x x 14 01. Intro Apprentissage et généralisation 1. Apprentissage X: base d’apprentissage = ensemble des moutons pour lesquels on connait à la fois les poids xi et les prix yi. 2. Généralisation x: nouveau mouton, non vu durant la phase d’apprentissage, pour lequel on veut prédire le prix f(x). 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi Algorithme d’apprentissage Données d’apprentissage X={x1,y1), …, (xn,yn)} Modèle hypothétique (prédicteur) Prédicteur Nouvelle donnée x  X f(x) 04/11/2016 8 15 01. Intro Définition 1 (Wilipedia, ++) Source: https://en.wikipedia.org/wiki/Machine_learning 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 16 01. Intro Définition 2 • « Machine learning is the field of study that gives computers the ability to learn without being explicitly programmed » Arthur Samuel, 1959. • 1956: programme de jeu de dames, conçu par Arthur Samuel sur une machine IBM; 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 1962: ce programme bat un joueur humain (qui se considérait comme le champion du jeu). 04/11/2016 9 17 01. Intro 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi http://www-03.ibm.com/ibm/history/ibm100/us/en/icons/ibm700series/impacts/ 18 01. Intro Définition 3 • « A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experiment E. » Tom Michell, 1998. • Exemple: – T: jouer aux dames, – P: pourcentage de jeux gagnés, – E: Tournoi. • Exemple de tâche très difficile à automatiser: – T: mentir – P: pourcentage de mensonges non détectés par les autres – E: occasion de mentir. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 10 19 01. Intro Exemple d’application classique (1987) Source: http://yann.lecun.com/exdb/publis/pdf/lecun-90e.pdf 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 20 01. Intro Autre exemple datant de 1987 Source: https://en.wikipedia.org/wiki/Sendai_Subway_1000_series 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 11 21 01. Intro Exemple plus récent (2013) 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi • Stationnement automatique https://www.youtube.com/watch?v=GIa1mWr1kNs 22 01. Intro Modes d’apprentissage • Apprentissage machine = analyse d’une base de données dans le but d’en extraire des connaissances qui peuvent servir à réaliser des tâches de prédiction ou de décision. • La nature des connaissances à apprendre des données dépend du mode d’apprentissage envisagé, qui dépend de la nature des données disponibles. • Les deux principaux modes d’apprentissage sont: – apprentissage supervisé (ou avec professeur): les sorties associées aux données d’entrée sont connues  analyse explicative, – apprentissage non supervisé: disponibilité de données d’entrée mais pas des sorties correspondantes  analyse descriptive. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi 04/11/2016 12 23 01. Intro Apprentissage supervisé • Les données d’apprentissage se présentent sous la forme d’un ensemble de paires: où – : vecteur de p paramètres représentant le ième exemple de donnée d’entrée, – : sortie associée à l’entrée i. • Rôle d’un algorithme d’apprentissage supervisé: construire un modèle hypothétique de la relation supposée entre les entrée et les sorties, et qui permet de faire des prédictions ou des décisions concernant les sorties de données X. 04/11/2016 Systèmes Intelligents & AM- Master TI, © 2016 A. Bouroumi   ) , ( ),..., , ( ), , ( 2 2 1 1 n n y x y x y x X  p p i i i i x x x x    ) ,..., , ( , 2 , 1 ,   i y 24 01. Intro Apprentissage non supervisé uploads/Industriel/ 01-siam-master-ti-20162017-intro-03-nov-2016.pdf