Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

1 Quelle éthique pour l’IA ? Colloque de l’Académie Delphinale Grenoble, 19/10/

1 Quelle éthique pour l’IA ? Colloque de l’Académie Delphinale Grenoble, 19/10/2019 Thierry Ménissier Professeur des Universités, philosophie Responsable de la chaire « éthique & IA », Multidisciplinary Institute in Artificial Intelligence https://miai.univ-grenoble-alpes.fr/ Institut de Philosophie de Grenoble https://iphig.univ-grenoble-alpes.fr/ Université Grenoble Alpes Bâtiment ARSH, BP 47, Domaine Universitaire, 1281, avenue Centrale 38400 Saint-Martin d’Hères Thierry.menissier@univ-grenoble-alpes.fr « Le monde était si récent que beaucoup de choses n’avaient pas encore de nom et pour les mentionner, il fallait les montrer du doigt. » Gabriel Garcia Marquez, Cent ans de solitude, trad. Claude et Carmen Durand, Paris, Editions du Seuil, 1968. Nous entendons souvent par « intelligence artificielle » l’activité des algorithmes dont les opérations de calcul sont nourries par des flux de méga-données (big data) eux-mêmes engendrés par des capteurs variés. Ces technologies de calcul se complètent de deux prolongements qui engagent des éléments a priori étrangers à elles, prolongements qu’il est souvent difficile de distinguer ce qui relèverait de l’IA conçue en un sens restreint, c’est-à- dire seulement le travail algorithmique, et en un sens large, c’est-à-dire l’IA complétée : elles se fondent d’un côté sur les technologies de l’information et de la communication et appuient l’essor du numérique, et de l’autre elles s’expriment sous les diverses formes actuelles de la robotique. Ce système technique qu’aujourd’hui nous appelons IA, nous pourrions simplement le nommer « informatique avancée » ou « informatique augmentée par les données » ; ce n’est pas encore une véritable « intelligence artificielle » comme il existe des intelligences naturelles, c’est-à-dire des entités capables de prendre des décisions de manière autonome en fonction d’une réflexion consciente. Sur un sujet technologique comme celui de l’IA ainsi définie, il peut sembler incongru d’inviter un philosophe à parler (plutôt qu’un sociologue par exemple), et plus encore de l’inviter à parler en dernier, comme si, pour clore les débats, il fallait convoquer une parole pleine de « sagesse », la philosophie étant la recherche de la sophia, et, puisqu’on la convoque à la fin du colloque, une parole capable d’avoir le dernier mot. Et de fait, sur bien des sujets contemporains où s’expriment des formes d’inquiétude vis-à-vis de l’avenir, il existe aujourd’hui une sorte de tentation : la parole philosophique paraît interpellée dans un rôle particulièrement difficile à tenir pour elle (la chouette, l’animal d’Athéna, se levant au crépuscule, comme le rappelait Hegel), celui de clore tous les débats relatifs aux technologies 2 nouvelles qui engagent un futur non seulement par nature inconnu, mais dont on dit de plus que, du fait des nouvelles technologies, il sera différent de tout ce qu’on a connu par le passé. D’un autre côté, lorsqu’on veut associer les termes « éthique » et « IA », il apparaît en effet impossible de ne pas convoquer la philosophie, tant la situation semble complexe, confuse et paradoxale. Si par rapport aux autres disciplines académiques, la philosophie n’a pas le monopole de la complexité, à l’instar des autres elle vise à dissiper la confusion sur les sujets qu’elle aborde (en clarifiant les concepts, en formulant des problèmes et en proposant des argumentations cohérentes), et elle présente l’avantage (sans doute est-ce dû à son fondateur Socrate, un Athénien ironique) d’être plus que tout autre disposée à assumer les paradoxes, ces tensions indépassables entre des thèses à la fois essentielles et irréductiblement contradictoires les unes avec les autres. Or, concernant notre situation actuelle face à l’IA, la confusion apparaît réelle, et on pressent qu’elle peut nourrir certains paradoxes. Dans cette contribution, je veux surtout m’attacher à dissiper la première en clarifiant successivement trois points. J’aborderai successivement les relations entre éthique et IA dans l’expression « éthique de l’IA », puis le besoin d’éthique vis-à-vis des situations contemporaines où des solutions d’IA sont déployées, enfin le type d’éthique propre à satisfaire ces besoins. Ce cheminement me conduira à souligner la nécessité de se positionner sur un autre plan, où on attend également quelque chose du philosophe sur les sujets, même technologiques, qui engagent l’avenir : celui de la réflexion sur les enjeux, les valeurs et les finalités poursuivies par l’action humaine. 1. Clarifier la confusion de relations entre éthique et IA : que signifie « éthique de l’IA » ? Aujourd’hui, de nombreux acteurs de la société en expriment le besoin ou affirment qu’il y a un besoin urgent ou qu’il est nécessaire de réfléchir éthiquement à l’IA, voire de constituer une « éthique de (ou pour) l’IA » : des citoyens [Montréal 2018], des ONG [Toronto 2018], des institutions politiques [CNIL, 2017 ; European Commission 2019], et même des sociétés productrices d’IA [Google 2018 ; Microsoft 218] en ont récemment exprimé le besoin. Mais la notion même d’une « éthique de l’IA » est tout sauf évidente. Car comment entendre ce « de » ? Rigoureusement parlant, l’orientation même du questionnement change en fonction de l’acception de la particule dans l’expression « éthique de l’IA ». Et de fait nous pouvons évoquer deux acceptations possibles de la particule, qui engagent des types assez différents de réflexion. Premièrement, l’éthique appliquée à l’IA ou éthique pour l’IA dont on parle relève-t- elle de l’éthique générale, ou bien est-elle spécifique ? Si elle relève de l’éthique générale, alors nous serions aujourd’hui dans le cas, bien connu, de ce qui se produit quand apparaît une nouvelle technologie, par exemple lorsque l’électricité a commencé à révéler son potentiel, au XIXe siècle, ce qui a engendré des émotions fortes et contradictoires, jusqu’à créer une nouvelle mythologie, ou du moins une sorte d’amendement ou de révision de la mythologie héritée1. Dans ce cas, le contexte se traduit à la fois par une tout à fait normale incertitude (car on ignore les applications possibles d’une découverte ou d’une invention prometteuses mais trop récentes pour être maîtrisée) et par une non moins légitime inquiétude (personne en effet ne peut dire ce que l’innovation qui surgit va modifier dans les usages ou les mœurs). Dans un tel contexte, toutefois, les questions supposées éthiques qui viennent à être formulées 1 Cas intéressant, le récit Frankenstein de Mary Shelley [Shelley, 1818] qui évoque une créature artificiellement constituée de chair inerte et d’organes empruntés à des défunts ranimés, se présente comme le symptôme d’une telle émotion qui s’est cristallisée avec l’apparition de l’intérêt scientifique pour l’électricité, et il a au fil de ses déclinaisons cinématographique et romanesque dans ce mouvement émotionnel reformulé la mythologie héritée des Grecs (l’histoire de Prométhée) et des Juifs (la créature du Ghetto de Prague appelée le Golem). 3 concernent seulement ce qu’on pourrait nommer le « réglage » des usages sociaux et des mœurs qui se trouvent modifiés (cela peut être en profondeur ou superficiellement) par le déploiement de la technologie. À cet égard, il convient de remarquer, en convoquant l’histoire des techniques, que l’apparition de certaines technologies à la fois révolutionnaires, fondatrices de nos sociétés et objectivement meurtrières n’a pas suscité un tel émoi ; on peut penser ici à l’apparition puis à la diffusion rapide du moteur thermique fonctionnant à l’énergie fossile non renouvelable et à sa déclinaison massive dans les transports routiers, notamment sous forme de véhicule privatifs. Mais, deuxièmement, si l’éthique de l’IA est spécifique, jusqu’où l’est-elle ? Peut-on imaginer que l’éthique de l’IA soit entendue comme l’ensemble des règles partagées par une corporation professionnelle, celle des informaticiens, ou l’ensemble des questions non directement informatiques examinées et débattues par les informaticiens, à l’instar de la bioéthique pour les médecins ? L’éthique de l’IA pourrait alors être perçue comme une sous- branche de l’informatique, de même que la bioéthique peut, à certains égards, être considérée comme une branche de la médecine. Ce qu’on appelle la Computer Ethics serait, rapportée à l’IA, l’équivalent de la bioéthique rapportée à la médecine. On peut souligner deux aspects très intéressants de cette manière d’envisager les choses, (1) elle indique que dans les sujet « éthique et IA », il y a une forte dimension scientifique et technique : si l’on veut réellement entendre quelque chose en bioéthique, cela implique une certaine connaissance médicale, pareillement en éthique de l’IA, il convient de se familiariser avec l’état de l’art informatique ; (2) ce qu’on pourrait nommer l’attraction de l’éthique par les informaticiens spécialistes d’IA engendre elle-même une conséquence. Le médecin peut ici donner quelques conseils à l’informaticien, car il a en quelque sorte une longueur d’avance sur lui : cette nouvelle situation induit pour les gens de l’art un accroissement de leur responsabilité, car ce sont eux qui devront, face aux usagers, rendre raison des règles et du sens général qui aura été donné à tel ou tel développement technique. Les deux acceptions de l’expression « éthique de l’IA » que je viens d’évoquer renvoient-elles à ce qu’on définit généralement comme éthique, à savoir, le type de pensée visant à établir des relations entre le sens qu’un humain attribue à ses décisions ou à ses actions et les règles qui découlent de ce sens ? C’est que ce je vais examiner à présent. 2. Clarifier le besoin d’éthique vis-à-vis des développements de uploads/Philosophie/ menissier-quelle-ethique-pour-lintellige.pdf