Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

DANS LA BOÎTE NOIRE DES ALGORITHMES Comment nous nous sommes rendus calculables

DANS LA BOÎTE NOIRE DES ALGORITHMES Comment nous nous sommes rendus calculables Claire Richard La Découverte | « Revue du Crieur » 2018/3 N° 11 | pages 68 à 85 ISSN 2428-4068 ISBN 9782348040726 DOI 10.3917/crieu.011.0068 Article disponible en ligne à l'adresse : -------------------------------------------------------------------------------------------------------------------- https://www.cairn.info/revue-du-crieur-2018-3-page-68.htm -------------------------------------------------------------------------------------------------------------------- Distribution électronique Cairn.info pour La Découverte. © La Découverte. Tous droits réservés pour tous pays. La reproduction ou représentation de cet article, notamment par photocopie, n'est autorisée que dans les limites des conditions générales d'utilisation du site ou, le cas échéant, des conditions générales de la licence souscrite par votre établissement. Toute autre reproduction ou représentation, en tout ou partie, sous quelque forme et de quelque manière que ce soit, est interdite sauf accord préalable et écrit de l'éditeur, en dehors des cas prévus par la législation en vigueur en France. Il est précisé que son stockage dans une base de données est également interdit. Powered by TCPDF (www.tcpdf.org) © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) Comment nous nous sommes rendus calculables DANS LA BOÎTE NOIRE DES ALGORITHMES © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) PAR CLAIRE RICHARD 2017 aura été « l’année où nous avons cessé d’aimer les algorithmes ». Du moins, c’est ce qu’affirmait en décembre un article du maga- zine américain Wired, pourtant connu pour sa technophilie. Aux États-Unis, le débat sur le rôle joué par Facebook dans l’élection de Donald Trump en 2016 et son instrumenta- lisation par des agences russes a entraîné une critique sans précédent des effets de ses algo- rithmes. « Si la campagne menée par les Russes sur les réseaux sociaux a aussi bien marché, c’est en partie parce qu’ils ont compris que vos algorithmes tendent à mettre en avant les contenus qui reposent sur la peur ou la colère », a lancé à un avocat de la firme un élu démocrate à la tête de la commis- sion d’enquête sur les interférences russes. Jadis loués pour leur capacité à mobiliser et informer les foules, les algorithmes de Facebook sont désormais accusés d’enfermer les utilisateurs dans les « bulles de filtre » partisanes, de favo- riser la montée des contenus extrêmes et de diffuser largement des fake news qui ébranlent les fondements même de la sphère publique. En France, c’est avec l’éducation que les algo- rithmes sont devenus un sujet de société. De tribunes en débats, d’actions menées par des lycéens en audits commandés par la ministre, l’« affaire APB », du nom de la plateforme La tentation est grande, lorsque l’on souhaite comprendre l’influence des algorithmes sur nos sociétés, d’élaborer une critique qui se contenterait de pointer du doigt les géants du Net, responsables de notre dérive vers un monde entièrement soumis à l’arbitraire numérique, depuis le système judiciaire jusqu’aux secteurs de l’éducation et de la santé en passant par les rencontres amoureuses. Ou d’accuser les progrès incessants de la rationalité technique et de la domination néolibérale sans se donner la peine d’entrer dans les calculs. Car les algorithmes sont des objets complexes, que l’on ne peut dissocier de leurs conditions de production et des volontés politiques qui les prédéterminent. Interroger la culture algorithmique dans laquelle nous baignons revient à mettre en perspective les motivations, les idéologies et les biais inconscients d’une société qui a su se rendre intégralement calculable. © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) 70 — Dans la boîte noire des algorithmes Admission Post-Bac, qui recourait à un algo- rithme développé par l’Éducation nationale en vue d’affecter les étudiants dans les différents établissements universitaires, a posé pour la première fois des questions centrales. Est-il acceptable de déléguer certaines opérations à des processus automatisés en ignorant tout de leur fonctionnement ? Que signifie « rendre public » un algorithme ? Comment le faire sous une forme compréhensible par les non-spécia- listes ? Et comment élaborer une critique des algorithmes qui prenne en compte leur spé- cificité technique sans pour autant oublier les volontés politiques qu’ils incarnent ? Ces débats récents, qui portent autant sur la « fabrique » des algorithmes ( quels critères prennent-ils en compte et de quelle manière ? ) que sur la place que nous voulons leur donner dans la société ( que peuvent-ils arbitrer et dans quelle mesure ? ), sont appelés à se multiplier. Médecine, information, culture, justice, éduca- tion… les algorithmes interviennent dans un nombre croissant de secteurs. Ils produisent de nouvelles formes de connaissance et de nou- veaux effets de pouvoir, qui sont encore trop souvent mal compris. Ce n’est pas faute d’en parler : depuis quelques années, les dossiers sur le « Le pouvoir des algorithmes » ou « Ces algo- rithmes qui nous gouvernent » se multiplient dans la presse. Mais ils demeurent souvent à un niveau de généralité qui rend la critique peu opérante. Les algorithmes sont en passe de devenir des « mythes modernes 1 », des entités à la fois insaisissables et toutes-puissantes, dont l’influence sur nos vies est d’autant plus forte qu’elle est difficilement compréhensible. Et ceci n’est pas réservé à la presse : « Il y a une cer- taine incompétence à entrer dans la technique, en sciences humaines, qui fait que l’on dit beaucoup de choses inexactes ou lointaines sur les algorithmes », reconnaît le sociologue Dominique Cardon, qui étudie les algorithmes du Web depuis plusieurs années. Or une critique qui cerne mal son objet a peu de chances d’être opérante. Elle produit des généralités qui, bien que parfois réconfortantes, ne permettent ni de comprendre ni de lutter contre les effets de pouvoir des algorithmes. Car ce « pouvoir » ne se résume pas à la domination du réel par la logique calculatrice de la machine ou par l’imposition directe d’une logique capi- taliste à des sujets dépossédés. Il se déploie autrement, via le renforcement de certains com- portements, la reproduction ou l’imposition de certaines logiques qui peuvent intensifier les inégalités existantes tout en les naturalisant. Si l’on veut saisir comment opèrent ces effets de pouvoir, il faut entrer dans les calculs, ouvrir la « boîte noire », selon l’expression du juriste américain Frank Pasquale. Et comprendre, au-delà de la dimension technique, « à quoi ils rêvent 2 », quels mondes ils dessinent, quelles LES ALGORITHMES SONT EN PASSE DE DEVENIR DES « MYTHES MODERNES », DES ENTITÉS À LA FOIS INSAISISSABLES ET TOUTES-PUISSANTES. © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) © La Découverte | Téléchargé le 07/02/2022 sur www.cairn.info (IP: 109.0.235.234) 71 — Dans la boîte noire des algorithmes représentations ils propagent – afin d’éviter que les écarts sociaux ne se creusent inlassablement et que les dominations à l’œuvre ne se perpé- tuent aveuglément. La « culture algorithmique » Un algorithme, c’est une simple séquence de commandes à effectuer afin d’obtenir un résultat déterminé. On le compare souvent à une recette de cuisine : en suivant à la lettre toutes les étapes, on obtient le plat désiré. Le terme « algorithme » vient du mathématicien perse al-Khwârizmî, qui a établi, au ixe siècle, une classification des algorithmes existants. Les algorithmes sont en effet utilisés depuis l’Antiquité : on en trouve des exemples gravés sur des tablettes d’argile babyloniennes. « Voici à peu près soixante-dix ans que les informaticiens s’intéressent aux algorithmes : la notion est l’un des quatre grands concepts de l’informatique. Mais plus généralement, il y a au moins cinq mille ans que l’on travaille avec des algorithmes », explique Gilles Dowek, informaticien et chercheur à l’Institut national de recherche en informatique et en automatique ( Inria ). Le problème des algorithmes tel qu’il se pose aujourd’hui est lié au vaste mouvement de « mise en données » de la société. Celui-ci remonte à l’essor de la statistique, mais il a récemment pris des dimensions inédites avec le big data 3. La statistique est longtemps restée un outil des acteurs publics, qui l’utilisaient afin de mesurer la société et de dégager des régularités, des catégories, des tendances et des moyennes. Elle servait à décrire et mesurer, était faite pour observer la société et non intervenir dessus. Dans les années 1980, avec le tournant néoli- béral, elle s’est progressivement transformée en outil visant à « conduire les conduites », fixer des objectifs et modifier des comportements. Au début des années 2000, de nouveaux dispositifs de capture et de récolte des données, plus précis, plus sophistiqués, ont fait exploser la quantité d’informations disponibles. Il est devenu pos- sible de recueillir très rapidement des quantités phénoménales de données sur des phénomènes de plus en plus divers et de plus en plus fins, moyennant un coût de stockage toujours plus faible. Par ailleurs, l’augmentation continue de la puissance des ordinateurs a permis d’ex- ploiter ce matériau comme jamais auparavant. Car les données brutes ne disent rien : ce sont les algorithmes uploads/Science et Technologie/ dans-la-boite-noire-des-algorithmes.pdf