Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

Éthique de la recherche en apprentissage machine Edition provisoire, juin 2017

Éthique de la recherche en apprentissage machine Edition provisoire, juin 2017 Préambule Composition du groupe de travail et personnalités auditionnées Introduction I. Qu’est-ce que l’apprentissage machine ? II. Exemples d’applications de l’apprentissage machine III. Questions éthiques IV. Les préconisations sur les systèmes apprenants en six thèmes 1. Les données des systèmes d’apprentissage 2. L’autonomie des systèmes apprenants 3. L’explicabilité des systèmes d’apprentissage et leur évaluation 4. Les décisions des systèmes d’apprentissage 5. Le consentement lors de l’apprentissage machine 6. La responsabilité dans les relations homme-machine apprenantes V. Contexte national et international VI. Conclusion VII. Liste des préconisations Annexes Présentation d’Allistene Présentation de la CERNA ********************** Préambule Dans le numérique, le foisonnement et la rapidité de déploiement des usages issus de l’innovation contribuent à la complexité de l’interaction entre l’offre technologique et l’appropriation par la société, et réduit de ce fait la portée des prévisions scientifiques sur les conséquences de la recherche. Cette relative imprévisibilité des usages ne doit pas dédouaner les scientifiques, mais doit au contraire motiver la réflexion éthique et la recherche d’attitudes et de méthodes adaptées. En effet les chercheurs doivent avoir à l’esprit que leurs travaux contribuent de facto à transformer la société et peut-être l’Homme, comme l’ont fait beaucoup d’outils et de techniques depuis des millénaires, même si ce processus n’est pas toujours prévisible. Ainsi si l’on ne saurait attribuer aux seuls chercheurs la responsabilité de l’impact potentiel de leurs travaux, ceux-ci doivent être conscients qu’ils sont partie prenante d’une responsabilité collective. Le monde de la recherche doit organiser en son sein et d’une manière transdisciplinaire la prise en compte de la dimension éthique, et éclairer ses choix vis-à-vis de la société en contribuant aux débats publics, afin que la science demeure un facteur de progrès et que les croyances infondées et l’irrationnel ne conduisent pas à une défiance à son égard. Dans ce contexte, les réflexions de la CERNA - dont la vocation est de se prononcer sur l’éthique de la recherche en sciences et technologies du numérique - visent à inciter et aider les chercheurs à la vigilance éthique « chemin faisant » plutôt qu’à émettre des prescriptions normatives qui seraient vite obsolètes. Elles n’envisagent que des perspectives plausibles du point de vue scientifique, afin de ne pas nourrir la confusion avec ce qui relève de la science-fiction. Conçu dans un esprit pratique en premier lieu à l'attention des chercheurs et développeurs dans le numérique, le document aborde les questions sous l'angle des sciences et technologies. Des questions de société que le concepteur doit avoir à l'esprit sont évoquées sans être approfondies. Le présent travail n'est qu'une contribution à une réflexion qui doit être plus vaste au sein du monde de la recherche, notamment avec les sciences humaines et sociales, et au niveau de la société toute entière, comme l'évoque la conclusion. Composition du groupe de travail Apprentissage Machine Laurence Devillers, Professeur Paris-Sorbonne 4, LIMSI-CNRS, CERNA, animatrice du groupe, Serge Abiteboul, Directeur de recherche INRIA, ENS-Paris, Membre de l’Académie des sciences Danièle Bourcier, Directrice de recherche émérite au CNRS, CERSA, CERNA Nozha Boujemaa, Directeur de recherche INRIA, Direction Générale Inria Raja Chatila, Professeur UPMC, directeur de l’ISIR, CERNA, Gilles Dowek, Directeur de recherche INRIA, ENS-Saclay, CERNA, Max Dauchet, Professeur émérite, Université de Lille, président de la CERNA Alexei Grinbaum, Chercheur CEA, IRFU/LARSIM, CERNA Avec la collaboration de Christophe Lazaro, chercheur à l’Université de Namur, CERNA, et de Jean-Gabriel Ganascia, Professeur UPMC Paris 6, LIP6, CERNA Personnalités auditionnées (groupe restreint) Alexandre Allauzen, Maître de conférences, Université Paris 11, LIMSI Edouard Geoffrois, Responsable de programme du département de l’Information et des sciences et technologies de la communication, ANR Mathieu Lagrange, Chercheur CNRS, LS2N Arnaud Lallouet, Ingénieur en chef, Huawei Technologies Ltd. Olivier Teytaud, Chargé de recherche, Inria Personnalités auditionnées lors de la journée CERNA Apprentissage et IA du 13 juin 2016 à Paris1 Tristan Cazenave, Professeur, Paris-Dauphine, LAMSADE Milad Doueihi, Chaire d'humanisme numérique, Paris-Sorbonne ; co-titulaire de la Chaire des Bernardins L'humain au défi du numérique Benoît Girard, Directeur de recherche CNRS, ISIR Jean-Baptiste Mouret, Chercheur Inria, Equipe Larsen Expert relecteur Léon Bottou, Chercheur Facebook AI : Machine learning, artificial intelligence Introduction L’apprentissage automatique, aussi appelé apprentissage statistique ou apprentissage machine (machine learning), a récemment fait des progrès spectaculaires, popularisés en 2016 par la victoire du programme AlphaGo face au champion de Go, Lee Sedol. Ses applications sont multiples : moteurs de recherche, reconnaissance d'images et de parole, traduction automatique, agents conversationnels par exemple. Elles commencent à émerger dans des secteurs comme la santé, l'énergie, les transports, l’éducation, le commerce et la banque. Les succès de l’apprentissage machine, champ d’études de l’intelligence artificielle (IA), s’appuient sur l’accroissement des capacités de calcul, de stockage et de traitement des données (Big data), et font resurgir avec une médiatisation autant excessive qu’approximative l’idée que la machine - parfois un robot - pourrait apprendre à s’affranchir de l’homme. Si cette question est hors du champ de la science actuelle, il n’en demeure pas moins qu’une réflexion éthique doit éclairer le bon usage d’algorithmes d’apprentissage, et de masses de données de plus en plus complexes et disséminées. Des initiatives en ce sens, publiques ou privées, aux niveaux national, européen ou international, voient le jour depuis 2015. Dans ce contexte, le présent travail vise à ● Sensibiliser, donner des éléments de réflexion et des repères au « chercheur ». Par commodité le terme « chercheur » désigne ici la ou les personnes - concepteurs, ingénieurs, développeurs, entrepreneurs - leurs communautés ou institutions. ● Contribuer plus largement au débat sur les questions éthiques et sociétales liées au développement de l’intelligence artificielle. afin que l’apprentissage machine soit mis en œuvre au bénéfice de la société. Ce regard de la CERNA est donc conçu pour une double lecture : celle du spécialiste et celle de toute personne intéressée, décideur ou simple citoyen. La partie I introduit des notions de base de l’apprentissage et les illustre à travers la méthode particulière des réseaux multicouches et de l’apprentissage profond. La partie II énumère des cas d’usage déjà répandus ou appelés à le devenir. Ces deux parties fournissent un support technologique pour les réflexions éthiques et s’adressent particulièrement aux non spécialistes. La partie III présente les questions éthiques générales liées aux systèmes numériques et pointe les spécificités liées à l’apprentissage. 1http://cerna-ethics-allistene.org/journ%C3%A9e+apprentissage/ La partie IV analyse ces questions éthiques et émet des préconisations à l’attention des scientifiques et des communautés qui conçoivent et développent les systèmes apprenants. Ces préconisations sont des points d’attention et de vigilance pour susciter la réflexion éthique individuelle et collective, elles ne sauraient être des « recettes ». Elles sont articulées autour de six questions : 1. Quelles sont les données sélectionnées/utilisées à partir desquelles la machine apprend ? 2. Peut-on s'assurer que la machine effectuera uniquement les tâches pour lesquelles elle a été conçue ? 3. Comment peut-on évaluer un système qui apprend ? 4. Quelles décisions peut-on déléguer, ou non, à un système apprenant ? 5. Quelle information doit-on donner aux utilisateurs sur les capacités des systèmes apprenants ? 6. Qui est responsable en cas de dysfonctionnement de la machine : le concepteur, le propriétaire des données, le propriétaire du système, son utilisateur ou peut-être le système lui-même ? Les initiatives évoquées dans la partie V illustrent l’actualité des questionnements éthiques liés aux développements de l’apprentissage machine et plus généralement de l'intelligence artificielle. La partie VI conclut par des préconisations générales à l’attention des opérateurs scientifiques et des décideurs de la société. I. Qu’est-ce que l’apprentissage machine ? Construire des systèmes capables de fonctions de perception, d'apprentissage, d'abstraction et de raisonnement est un des buts des chercheurs en intelligence artificielle. Pour ce faire, les algorithmes d'apprentissage utilisent différentes méthodes statistiques en se basant sur des données d'apprentissage, par exemple pour construire des règles de déduction, des arbres de décision ou pour paramétrer des réseaux de neurones, puis les appliquent à de nouvelles données. Prédire un phénomène à partir d’observations passées présuppose un mécanisme causal. Expliquer ce mécanisme n’est pas toujours facile. L’apprentissage machine est une approche statistique permettant de découvrir des corrélations significatives dans une masse importante de données pour construire un modèle prédictif quand il est difficile de construire un modèle explicatif. La reconnaissance de l'écriture manuscrite est un exemple de problème difficile pour une machine. Pour reconnaître une lettre, ou un chiffre, certains algorithmes utilisent des règles préétablies, mais d'autres algorithmes « apprennent » à reconnaître les lettres de l'alphabet, à partir d'un grand nombre d'exemples. Ces algorithmes, qui utilisent des données pour apprendre à résoudre un problème, sont appelés « algorithmes d'apprentissage machine ». Ils se développent dans de nombreux champs d'application, comme la finance, le transport, la santé, le bien-être ou encore l’art . Par exemple, dans le domaine du transport, des systèmes obtenus par apprentissage machine sont utilisés pour reconnaître visuellement l’environnement routier des voitures autonomes. Dans un tout autre domaine, la reconnaissance faciale popularisée par GoogleFace et Facebook est utilisé dans les réseaux sociaux pour identifier des personnes dans des photos. Dans le domaine du jeu, le uploads/Science et Technologie/ ethique-de-la-recherche-en-apprentissage-machine-rapport-provisoire-juillet-2017-cerna.pdf