Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

L E S R E S E A U X D E N E U R O N E S A R T I F I C I E L S Introduction au c

L E S R E S E A U X D E N E U R O N E S A R T I F I C I E L S Introduction au connexionnisme - Seconde édition - ~ Claude Touzet Du même auteur disponible sur : www.machotte.fr C. Touzet, Hypnose, sommeil, placebo? Les réponses de la Théorie neuronale de la Cognition – tome 2, 168 pages, éd. la Machotte, 2014, ISBN 978-2-919411-02-3. C. Touzet, Conscience, intelligence, libre-arbitre ? Les réponses de la Théorie neuronale de la Cognition, 156 pages, éd. la Machotte, 2010, ISBN 978-2-919411-00-9. Les réseaux de neurones artificiels ~ Introduction au connexionnisme - Seconde édition Claude Touzet « Le Code de la propriété intellectuelle interdit les copies ou reproduc- tions destinées à une utilisation collective. Toute représentation ou repro- duction intégrale ou partielle faite par quelque procédé que se soit, sans le consentement de l’auteur ou de ses ayant droits est illicite et constitue une contrefaçon, aux termes des articles L.335-2 et suivants du Code de la propriété intellectuelle. » « Lorsque l'œuvre a été divulguée, l'auteur ne peut interdire : … La représentation ou la reproduction d'extraits d'œuvres, sous réserve des œuvres conçues à des fins pédagogiques, des partitions de musique et des œuvres réalisées pour une édition numérique de l'écrit, à des fins exclusives d'illustration dans le cadre de l'enseignement et de la recherche, à l'exclusion de toute activité ludique ou récréative, dès lors que le public auquel cette représentation ou cette reproduction est destinée est composé majoritairement d'élèves, d'étudiants, d'enseignants ou de chercheurs directement concernés, que l'utilisation de cette repré- sentation ou cette reproduction ne donne lieu à aucune exploitation commerciale » (Art. L 122-5). © (Claude Touzet, 2016) Editions la Machotte 155 impasse d'Oû Pèbre, F–13390 AURIOL, France (www.machotte.fr) Remerciements Il y a 25 ans, je terminais la rédaction du second ouvrage en langue française sur les réseaux de neurones artificiels1. L'éditeur fit faillite peu après sa parution, ce qui me permis d'en diffuser gratuitement la version électronique (pdf). De ce fait, ce livre connu un certain succès auprès des étudiants. Aujourd'hui, avec le recul que confèrent 30 années d'expérience dans la compréhension du cerveau et la mise en œuvre de réseaux de neurones artificiels, je pense qu'il est temps de proposer une version complètement mise à jour de cette « introduction au connexionnisme ». Je me dois d'ailleurs de remercier mes nombreux étudiants et élèves-ingénieurs qui – tant par leurs questions que par leurs copies d'examen – m'ont aidé à cerner les points délicats de cette discipline. 1 C. Touzet, Les réseaux de neurones artificiels : introduction au connexionnisme, 150 pages, Préface de Jeanny Hérault, EC2 éd., Paris, 1992. Table des matières Avertissement..........................................................................................10 I. Historique des RNA.............................................................................14 1. Le neurone biologique........................................................................18 2. Modélisation du neurone.....................................................................34 3. Apprentissage et Perceptron................................................................44 4. Les réseaux de neurones multicouches (RMC) ..................................58 ANNEXE 1 : Les 190 chiffres manuscrits .............................................67 ANNEXE 2 : BA.py................................................................................73 Avertissement Avant de plonger dans le vif du sujet, je voudrai assurer le lecteur de ma conviction qu'à court terme (10 ans) une nouvelle industrie va émerger – de la taille de l'industrie automobile. La Théorie neuronale de la Cognition2 (TnC) fait de la colonne corti- cale l'unité de traitement de l'information par le cerveau. Une colonne corticale agrège environ 100 000 neurones. On compte seulement 160 000 colonnes corticales dans le cortex, réparties au sein d'environ 160 cartes corticales – dont la moitié déjà sont connues. La TnC explique suffisamment précisément le fonctionnement du cerveau pour que l'on puisse le simuler complètement – et donc construire un robot intelligent et conscient. Nous aurons donc bientôt, en plus d'une voiture au garage, un robot à la maison... Dix pour cent de notre économie sera liée à cette nouvelle robotique, et les ingénieurs qui construiront les cerveaux artificiels devront comprendre et manipuler les réseaux de neurones artificiels. Il paraît que la moitié des jobs de 2030 ne sont pas encore inventés – en voici quelques uns ! Bonne lecture 2 que j'ai présentée dans deux ouvrages à destination du grand public parus aux éditions la Machotte en 2010 et 2014. S'agissant d'un ouvrage de vulgarisation à l'usage des étudiants de tous les âges, nous avons tenu, en nous basant sur notre expérience d'enseignant, à proposer les outils pédagogiques que sont les exercices et les travaux pratiques. Il s'agit bien entendu d'aider le lecteur à vérifier sa compréhension des concepts, des modèles et de le familiariser à la manipulation des algorithmes. Nous espérons que vous vous impliquerez dans ce "surplus" de travail proposé. Toutes les réponses se trouvent évidemment dans ce livre. « Les réseaux de neurones artificiels (RNA) sont des réseaux fortement connectés de processeurs élémentaires fonctionnant en parallèle. Chaque processeur élémentaire calcule une sortie unique sur la base des informations qu'il reçoit. Toute structure hiérarchique de réseaux est évidemment un réseau. » Définition Introduction L’informatique est la science du traitement automatique de l’informa- tion. Son développement est souvent confondu avec celui des machines de traitement : les ordinateurs. Depuis les débuts (ENIAC 1946) jusqu’à aujourd’hui, les ordinateurs sont de plus en plus puissants. Cependant, cette augmentation de puissance ne permet pas de toujours résoudre les problèmes d’une application informatique dans un domaine particulier. L’idée s’est donc installée que ce n’était peut être pas tant le matériel que le logiciel qui pêchait par manque de puissance. Le développement logiciel s'appuie sur plusieurs approches. Deux parmi les plus utilisées sont l'approche algorithmique et l'approche basée sur la connaissance. 1. Une approche algorithmique nécessite l’écriture (avant la trans- cription dans un quelconque langage de programmation) du processus à suivre pour résoudre le problème. Lorsque le problème est complexe, ce peut être une étape coûteuse ou impossible. D’autre part, les ordinateurs sont des machines complètement logiques (et même binaires) qui suivent à la lettre chacune des instructions du programme. C’est un avantage lorsque tous les cas ont été prévus à l’avance par l’algorithmi- cien. Ce n’est hélas pas toujours possible. Dans ce cas, dixit l'informaticien : "c'est une faute de la machine". Rien de plus faux ! Ainsi les systèmes informatiques embarqués (à bord des avions, de la navette spatiale, etc.) tentent de pallier à ce manque (prévisible) de clairvoyance de l’algorithmicien en triplant les logiciels, chacun étant développés indépendamment par une équipe différente, dans des langages différents. Les risques de laisser l’ordinateur aux prises avec une situation imprévue, où son comportement ne serait pas adapté, sont ainsi considérable- ment réduits. Rappelons nous le haro lancé sur les programmes boursiers lors de la chute de la bourse en 1987. 2. La seconde approche possible est celle de l’intelligence artifi- cielle (appelée IA par commodité), avec pour applications les plus connues les systèmes experts. Ici, la résolution du problème est confiée à un ensemble de règles données par l’expert humain du domaine. Ici encore toutes les règles doivent avoir été expri- mées préalablement au traitement, et le programme demeure binaire dans son exécution. Les cas qui n’ont pas été prévus par l’expert ne seront pas correctement traités. L’introduction de la logique floue ne change pas la nature des limitations d’emploi du programme : l'exécution reste totalement déterministe. En fait, l’approche basée sur la connaissance se limite à des domaines d’application où la modélisation de la connaissance, par exemple sous forme de règles, est possible. Ces domaines sont souvent ceux des sciences dites "dures" comme l'électronique, la mécanique, la physique, etc. – par opposition aux sciences dites "molles" comme la médecine, la psychologie, la philosophie, etc., où la connaissance est plus empirique. L’IA se révèle donc être principalement un moyen commode de stocker de la connaissance sous forme explicite. Ces deux approches ne suffisent pas à répondre à tous les problèmes existants comme par exemple dans le domaine de la reconnaissance de formes (images ou signaux), celui du diagnostic, du contrôle moteur, de la traduction automatique, de la compréhension du langage... Tous sont depuis longtemps explorés à l’aide des approches algorithmiques (et à base de connaissances) et n'ont pas rencontré le succès escompté. Pourtant, des êtres vivants relativement simples sont capables de réaliser certaines de ces opérations apparemment sans difficulté. Il suffit pour s’en rendre compte de lever les yeux, suivre le vol de la mouche et essayer de la capturer. Que dire alors du déplacement au sonar de la chauve souris, etc. ? Une troisième approche au traitement automatique de l’information s’offre à nous, où l’on cherche à s’inspirer du traitement de l'information effectué par le cerveau. 3. L’hypothèse principale, à la base de l’essor des RNA, est que les réseaux de neurones biologiques sont à la base des fonctions cognitives, et que nous pensons qu'en utilisant les mêmes compo- sants (le neurone), dans la même configuration (en réseaux), alors nous sommes plus proches d'obtenir une « intelligence artificielle ». Ce qui nous intéresse réellement, c'est l'intelligence, la capacité à répondre correctement alors même que la question est nouvelle, qu'elle n'a jamais été posée auparavant. Les réseaux de neurones artificiels s'inspirent donc de la biologie, non par obligation uploads/s3/ id-11452.pdf