Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

INFORMATIQUE ET SOCIÉTÉ Les informaticiens et l'éthique du numérique Max Dauche

INFORMATIQUE ET SOCIÉTÉ Les informaticiens et l'éthique du numérique Max Dauchet 1 L’approche est ici faite par et pour le scientiﬁque et Lucas Cranach, Adam and Eve, 1526 Courtauld Institute of Art Gallery non par les usages. D’autre part, l’objet est la réﬂexion éthique, et non les considérations générales sur la dé- ontologie ou sur l’intégrité scientiﬁque 2. Que deviendra la notion de vie privée dans notre société numérique ? L’hyper-mnésie et l’hyper- connectivité du net sont-elles des facteurs d’asser- vissement ou de libération de l’homme 3 ? Quelle sera notre responsabilité vis-à-vis de robots commandés par la pensée, quelle sera notre cohabitation avec les robots ? Que devient le courage patriotique dans une guerre entre robots 4 ? Construire des robots res- semblant à l’homme est-il tabou 5 ? Faut-il souhaiter ou redouter le transhumain, cet homme augmenté de capacités intellectuelles et physiques 6 dans un tourbillon effréné 7 ? L’évolution 1. Max Dauchet est Professeur émérite à l’Université de Lille 1, membre du LIFL, et Président de la CERNA (Commission de réﬂexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene). 2. À ce sujet, le COMETS vient de sortir un guide pour une recherche intègre et responsable, http: //www.cnrs.fr/comets/spip.php?article89 3. http://ec.europa.eu/digital-agenda/en/onlife-initiative 4. Théorie du drone, Grégoire Chamayou, éditions La Fabrique, 2013. 5. http://fr.wikipedia.org/wiki/Vall%C3%A9e_d%C3%A9rangeante 6. http://fr.wikipedia.org/wiki/Transhumanisme 7. http://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique 1024 – Bulletin de la société informatique de France, numéro 2, janvier 2014, pp. 143–151 144 MAX DAUCHET ◦◦◦◦◦◦•◦ passera-t-elle le relai de l’homme à la machine autoreproductrice 8 ? Peut-on sans précautions utiliser des données personnelles, génétiques ou comportementales, à des ﬁns de recherches ? Cet échantillon d’interrogations – dont certaines re- Couverture de The Economist décembre 2009 lèvent encore de la ﬁction – illustre l’ampleur et la di- versité des questions éthiques que pose l’explosion du numérique 9. Le propos n’est pas ici de traiter ces questions. Le faire en quelques lignes serait en effet présomptueux, et donnerait l’impression fallacieuse que l’on peut en débattre entre informaticiens seulement. Le propos est plutôt ici de dessiner comment le monde aborde actuel- lement ces problèmes, et quel statut leur est donné. La connaissance du contexte est en effet préalable à toute réﬂexion éthique, celle-ci étant par nature en surplomb. Dans cet esprit de nécessaire ouverture, cette note met l’accent sur l’approche interdisciplinaire des questions éthiques, et leur inscription dans l’espace public au-delà des seuls « savants » 10 et conclut qu’une sensibilisa- tion et une formation des jeunes – et des moins jeunes – scientiﬁques est nécessaire. Par ailleurs, elle se focalise sur l’éthique – et non sur la déontologie – à l’attention des producteurs de sciences et de technologies plus que des usagers. Éthique et déontologie En gros l’éthique – qu’elle soit générale ou particulière à un objet ou un champ – relève de la philosophie, l’humain est en son centre. L’éthique se déﬁnit classique- ment comme la science de la morale. La déontologie déﬁnit les bonnes règles de pratiques d’une profession, en accord 8. http://en.wikipedia.org/wiki/Grey_goo 9. Le COMETS, comité d’éthique du CNRS, avait procédé à un recensement ﬁn 2009, http://www. cnrs.fr/comets/IMG/pdf/08-rapportcomets091112-2.pdf 10. « le scientiﬁque a, pour moi, un triple rôle : d’abord un rôle de professionnel, être un bon scien- tiﬁque. Ensuite, il est engagé vis-à-vis de la société car il est payé par elle. Ainsi, j’utilise l’impôt des contribuables pour, à leur place, participer à la grande aventure du savoir. Donc, deuxième rôle : rendre compte. Troisième rôle, très important : compte tenu de ma spéciﬁcité professionnelle, je suis en quelque sorte juché sur un point éminent d’où je peux voir les conséquences néfastes, les dangers éventuels. J’ai donc la responsabilité d’avertir la société quand c’est nécessaire. Enﬁn, il existe un quatrième rôle qui n’est pas propre au scientiﬁque : je suis un citoyen et avec la société je participe naturellement à la dis- cussion consistant à connoter positivement ou négativement un risque ou une action. Vous voyez que la science n’a pas à déterminer de valeurs morales, mais le scientiﬁque ne doit pas pour autant se comporter de manière parfaitement immorale car il est aussi un citoyen. » Axel Kahn : interview à “La Croix” 18/03/2002. 1024 – Bulletin de la société informatique de France – numéro 2, janvier 2014 ◦◦◦◦◦◦•◦ LES INFORMATICIENS ET L’ÉTHIQUE DU NUMÉRIQUE 145 avec l’éthique et le droit. La plus connue est la déontologie médicale. En informa- tique, le CIGREF 11 et le Syntec ont déﬁni des codes de déontologie. Elle engage moralement, sinon juridiquement, les membres de la profession, comme le serment d’Hippocrate 12. L’intégrité 13 (integrity) est également de l’ordre de l’attitude per- sonnelle, elle consiste en un exercice honnête au sens courant de sa profession. On trouvera sur le site de l’ANR 14 une charte de déontologie des acteurs des projets ANR qui énumère les éléments de déontologie suivants : Développer une recherche sérieuse et ﬁable ; Honnêteté dans la communication ; Objectivité ; Impartialité et in- dépendance ; Ouverture et accessibilité ; Devoir de précaution ; Équité dans la four- niture de références et de crédits ; Responsabilité vis-à-vis des scientiﬁques et des chercheurs à venir. En résumé, l’éthique scientiﬁque s’intéresse au « pour quoi ? », aux conséquences pour l’humanité du déploiement des connaissances et des savoir-faire ; la déontologie et l’intégrité s’intéressent au « comment ? ». Bien entendu, les choses ne sont pas si simplistes, et en réalité les différents niveaux interagissent. Une approche scientiﬁque nécessairement large et multidisciplinaire Partout dans le monde les réﬂexions éthiques sont multidisciplinaires, le regard croisé des philosophes, historiens, sociologues, juristes voire économistes s’impose 11. Pour les systèmes d’information (SI) des entreprises, voir la charte du CIGREF, élabo- rée conjointement avec le CEA. Les SI s’avérant être les systèmes nerveux des entreprises, la déontologie des usages des SI rejoint la question plus large de l’identité de l’entreprise et de ses valeurs. http://www.cigref.fr/cigref_publications/RapportsContainer/Parus2006/ 2006_-_Deontologie_des_usages_des_SI_CIGREF_-_CEA-CED_Rapport_Web.pdf 12. Le philosophe Michel Serres préconise (dans son « Temps des cerises », éditions Manifestes ! Le Pommier !, 2009) un tel serment généralisé à l’ensemble des sciences : « Pour ce qui dépend de moi, je jure : de ne point faire servir mes connaissances, mes inventions et les applications que je pourrais tirer de celles-ci à la violence, à la destruction ou à la mort, à la croissance de la misère ou de l’ignorance, à l’asservissement ou à l’inégalité, mais de les dévouer, au contraire, à l’égalité entre les hommes, à leur survie, à leur élévation et à leur liberté. » 13. La déontologie met l’accent sur les règles collectives de bonne conduite, l’intégrité met plus en avant le libre-arbitre individuel, c’est l’acception du libéralisme anglo-saxon de la déontologie. Les deux notions sont pour l’essentiel équivalentes. 14. http://www.agence-nationale-recherche.fr/fileadmin/documents/2012/ charte-deontologie-acteurs-projets-ANR-Edition-2013.pdf 1024 – Bulletin de la société informatique de France – numéro 2, janvier 2014 146 MAX DAUCHET ◦◦◦◦◦◦•◦ sur tous les sujets. On peut même dire qu’ « élargir ses horizons » est inhérent à la démarche éthique, car on ne peut en général pas « isoler » les réﬂexions. Par exemple, en informatique, les considérations sur le Big Data ne peuvent être considérées que dans le contexte scientiﬁque ou industriel qui a produit les données. Des sujets incontournables Dans le but fort louable de ﬁnancer équitablement les cultes, les Pays-Bas avaient mis en cartes perforées IBM les données confessionnelles de leur population dès les années 30. Cela aida considérablement le funeste projet des envahisseurs nazis. Certes, on ne peut pas aveuglément incriminer les seules technologies, on pourrait soutenir que la délation par la peur et l’oppression est arrivée au même résultat avec du papier et des crayons seulement. Il reste qu’au-delà des controverses, on voit que l’on peut difﬁcilement se laver les mains de tels sujets : in ﬁne, il s’agit des rapports entre la démocratie et les totalitarismes, et de l’avenir de notre monde. À propos des Pays-Bas, il est intéressant de voir comment ce pays intègre main- tenant la préoccupation éthique dans ses programmes scientiﬁques, faisant du lien entre recherche et impact sociétal un sujet d’enrichissement 15. Le procès de Nuremberg a mis en lumière à quel point une biomédecine pervertie pouvait ébranler l’idée qu’on peut se faire de l’homme, et a placé en conséquence la bioéthique à l’avant-garde de l’éthique technoscientiﬁque actuelle. Depuis quelques années les débats éthiques se sont élargis, et la sécurité alimentaire, l’environnement et bien entendu le numérique suscitent à leur tour des questionnements croissants. Un exemple simple illustre cette préoccupation au niveau européen : le ERC Fron- tier Research Grants Guide for Applicants for the Starting Grant 2013 Call compte 105 occurrences de “ethic(s)” ! De plus, les candidats doivent remplir un question- naire éthique de 26 items, et chaque item concernant le projet donne lieu à évalua- tion. Notons encore qu’une douzaine de ces 26 points est susceptible de concerner les projets en numérique, notamment à travers l’usage de données personnelles (dont génétiques ou biométriques), la vie privée (la surveillance et maintenant la sous- veillance, qui consiste en la possibilité pour chacun uploads/Philosophie/informaticiens-et-ethique.pdf