Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

Justice + IA + blockchain = ? pr. vincent gautrais directeur du CRDP titulaire

Justice + IA + blockchain = ? pr. vincent gautrais directeur du CRDP titulaire de la chaire LR Wilson www.gautrais.com @gautrais Première quesFon… justice prédictive: cela marche? Blockchain en preuve: cela marche? Conclusion 1 Hourra pour le numérique de première génération Conclusion 1 Miche Serres Et les « grands papas ronchons » Conclusion 1 Conclusion 2 Hourra pour le numérique qui revisite la pertinence du droit Conclusion 2 particulièrement les technologies de génération subséquente Conclusion 2 • Qu’est-ce qu’une personne? • Qu’est-ce qu’un juge? • Qu’est-ce que la jus=ce? • Ordonnancement de règles? (Aristote) • Processus? (Platon) • Qu’est-ce qu’un contrat? • Etc. Plan Question 1: Justice prédictive 1. Enjeux sur la justice prédictive 1. QUI est en charge de la contrôler? 2. QUOI – l’IA est-elle neutre? 3. COMMENT la réguler ? 2. Justice prédictive et illustrations Question 2: blockchain et preuve 1. Quid de la BC en général 2. Quid de la possibilité de la BC en preuve JusFce prédicFve – enjeux •QUI ? •QUOI ? •COMMENT ? 1 Justice avec acteurs multipliés 1. Juges 2. État 3. Justiciable 4. Public 5. Entreprises David G. Post, Anarchy, State, and the Internet: An Essay on Law- Making in Cyberspace, 1995 J. ONLINE L. art. 3, par. 1 1.1 Juges et hiérarchie des professions juridiques • Indépendance statutaire • Indépendance financière • Paradoxe judiciaire • Crédibilité élevée • Nomination assez « obscure » • Subjectivité déléguée • « license to judge » • Tendance au renforcement de son rôle (EX: CPC - 2016) 1.1.1 État en retrait volontaire • Budget de la jusace (0.7%) • Faveur technologique mais… • Exemple: 26 CPC • Dans l’applicaaon du Code, il y a lieu de privilégier l’u=lisa=on de tout moyen technologique approprié qui est disponible tant pour les paraes que pour le tribunal en tenant compte, pour ce dernier, de l’environnement technologique qui souaent l’acavité des tribunaux. • Faiblesse des organismes de contrôle (EX: contrôle de la vie privée) • Imputabilité déléguée • EX: RGPD => audit • EX: sécurité => ceraﬁcaaon 1.1.2 Justiciable • Jusaciable comme par=e au liage • Grande autonomisaaon de la parae au liage • Approche individualisée • Jusaciable comme parae à l’intérêt public • Disposi=on préliminaire (CPC). Le Code vise à permeore, dans l’intérêt public, la prévenaon et le règlement des diﬀérends et des liages, par des procédés adéquats, eﬃcients, empreints d’esprit de jus=ce et favorisant la par=cipa=on des personnes. Il vise également à assurer l’accessibilité, la qualité et la célérité de la jusace civile, l’applicaaon juste, simple, propor=onnée et économique de la procédure et l’exercice des droits des paraes dans un esprit de coopéraaon et d’équilibre, ainsi que le respect des personnes qui apportent leur concours à la jusace. 1.1.3 Public • Rôle ? • Principe démocraaque • Principe de transparence • Plus important qu’en Europe • Canaliser l’État • Contrôler l’État • Exemple: publicité des jugements • Plus publics • Plus moavés • Plus didacaques • Plus accessibles 1.1.4 Entreprises • Nouveaux acteurs • Faire travailler ensemble acteurs traditionnels et nouveaux acteurs • Nouveaux liens • Dans tous les domaines • Commerce électronique • Santé • Responsabilisation accrue • À la différence des premières lois sur le commerce électronique • Non-responsabilité anachronique • Plus en rapport avec la capacité de contrôle • EX: récent rapport (livre blanc) européen sur l’IA (02/2020) 1.1.5 JusFce pas neutre • Neutralité technologique • Ce que l’on perd • Ce que l’on gagne • Pas de neutralité sur toutes les composantes de la justice • Valeurs • Institutions • Normes 1.2 Technologies ne sont pas neutres • Notion « marketing » de neutralité technologique • Notion assez simple de rédaction législative • Notion qui ne doit pas faire oublier que • Les technologies influencent les comportements « Because technical objects and processes have a promiscuous utility, they are taken to be fundamentally neutral as regards their moral standings. (...) If the experience of modern society shows us anything, however, it is that technologies are not merely aids to human activity, but also powerful forces acting to reshape that activity and its meaning. » Langdon Winner (1986) (The Whale and the Reactor: A Search for Limits in an Age of High Technology) 1.2.1 Remise en cause des composantes de la justice • Valeurs de justice reconsidérées • Mobilisation augmentée de la justice • EX: accès démesuré au droit • EX: droit corrompu par les médias sociaux • Critiques des valeurs de justice • EX: efficacité; capitalisme judiciaire; etc. • EX: Accès augmenté • Institutions de justice concurrencées • EX: autonomisation des individus • Normes de justice complexifiées • EX: normes techniques; preuve à soi-même; etc. 1.2.2 Justice à réguler Le « bon droit » selon Vittorio Villa c’est … • Droit positif est en accord avec ce qui EST (réalité) • Droit positif est en accord avec ce qui DEVRAIT (principes de justice) Vittorio VILLA, « La science juridique entre descriptivisme et constructivisme », dans Paul AMSELEK, Théorie du droit et science, Paris, P.U.F., 1994, p. 288. 1.3 Justice prédictive conforme à ce qui EST 1. Réalité technologique 2. Réalité culturelle 3. Réalité économique 1.3.1 Réalité technologique 1. Mesurer les apports 2. Éviter la « techno-magie » 3. Frugalité numérique 1.3.1.1 Réalité technologique – Mesurer les apports 1.3.1.1 Réalité technologique – Frugalité numérique 1.3.1.1 Réalité culturelle • Différences selon les pays 1.3.1.2 Réalité culturelle • EX: Chine = pays de l’IA • Tolérance à la surveillance (culturelle) • Main d’œuvre bon marché (économique) • Montant élevé de données (techno) 1.3.1.2 Réalité économique • Raao données / véracité • Banque de données juridiques => pas tant de données que cela • Disanguer ceux qui ont de la donnée et dont c’est le modèle d’aﬀaires • Coûts pour « taguer » les données • Débat sur la « propriété » des données • Etc. 1.3.1.3 Principes de cyberjustice • Fonc=ons de principe • Foncaon normaave où juger = interpréter (étymologie = dire le droit) (Clare Dalton) • Droit « oual » (rôle mécanique) • Droit « censeur » (équilibre entre des intérêts catégoriels contraires) • Foncaon symbolique (aoentes sociétales) • Principes de fonc=onnement 1. Documenter 2. Rendre transparent 3. Responsabiliser 4. … (jusace (fairness)) Danielle K. Citron & Frank Pasquale, The Scored Society: Due Process for Automated Predicaons, (2014) 90 Wash. U. L. Rev. 1, 20 => 1) transparency, 2) accuracy, 3) accountability, 4) par=cipa=on, 5) fairness 1.3.2 Principes de cyberjustice – Documenter • « Couteau suisse » normaaf du numérique • EX: RGPD • EX: Normes techniques • Cacophonie des normes applicables • Doutes associées aux normes techniques • Trop molles • Trop nombreuses / diﬀérentes • Trop ﬂoues • Trop vides de sens • Généralisaaon de la « preuve à soi-même » 1.3.2.1 Principes de cyberjusFce – Rendre transparent • Quoi rendre transparent? • Documentation? • « Audit trail » • Résistance de l’industrie • Sur la base de la sécurité • Sur la base du secret commercial (COMPAS) • Qui contrôle? • Interne ou externe? • Question de coût Kehl Danielle L. & Samuel A. Kessler, “Algorithms in the Criminal Justice System: Assessing the Use of Risk Assessments in Sentencing” (2017) Berkman Klein Centre for Internet & Society – Harvard Law School. 1.3.2.2 Principes de cyberjusFce – Rendre transparent 1.3.2.2 Principes de cyberjusFce – Rendre transparent 1.3.2.2 internal external public public internal Principes de cyberjusFce – Responsabiliser loyauty of plaforms informational asymetry technological due process algorithmic transparency more imputability 1.3.2.3 1.3.2.3 Principes de cyberjusFce – Responsabiliser pas de responsabilité = pas d’IA responsable 1.3.2.3 DéclaraFon de Montréal pour une IA responsable 1.3.2.3 Principes de cyberjustice – Responsabiliser 1.3.2.3 Principes de cyberjustice – Responsabiliser 1.3.2.3 Conséquences sur la régulation • Évaluer les formes de régulaaon • Normaavité formelle • Normaavité jurisprudenaelle • Normaavité contractuelle • Norma=vité technique • Évaluer les formes d’applicaaon de la régulaaon • Balkaniser le droit? (retour des fronaères) • Revaloriser le rôle des États? Grégoire Chamayou, La société ingouvernable: une généalogie du libéralisme autoritaire, 2018, La Fabrique édiaons, Paris. 1.3.3 Justice prédictive – illustrations • Mise en contexte des prononcés des peines • Subjecavité des prononcés de peine • « Algorithmisaaon » du processus • Avantages • Inconvénients 2 Mise en contexte: les prononcés sur la peine • Seconde des deux étapes • Analyse de risques souhaitée • Analyse de risques imparfaite • Pratiques courantes de délégation aux algorithmes • PSA • COMPAS • LSI-R 2.1 Mise en contexte: les prononcés sur la peine • Initialement pour la détention provisoire • Question précise => risque pour la société • « There is little question that well-designed risk assessment tools “work,” in that they predict behavior better than unaided expert opinion. » Matthew Conlen, Reuben Fischer-Baum & Andy Rossback, Should Prison Sentences Be Based on Crimes that Haven’t Been Committed Yet?, FiveThirtyEight Politics (Aug. 4, 2015) • Ensuite pour le prononcé de la peine • Plus compliqué • Comment punir quelqu’un? • Combien de temps? 2.1.1 Mise en contexte: les prononcés sur la peine 718 Code criminel 718 Le uploads/S4/ justice-ia-et-blockchain.pdf