Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

La Singularité Vernor Vinge http://www.mindstalk.net/vinge Département des Scie

La Singularité Vernor Vinge http://www.mindstalk.net/vinge Département des Sciences Mathématiques San Diego State University Traduit de l'anglais par Emmanuel Mie http://www.alchimie-web.com 1993 Vernor Vinge Cet article peut être reproduit à des fins non commerciales à condition d'être copié dans son intégralité, y-compris cette note La version originale de cet article a été présentée au Symposium VISION-21 parrainé par le Lewis Research Center de la NASA et l'Ohio Aerospace Institute, les 30 et 31 mars 1993. Une version légèrement remaniée a paru dans le numéro de l'hiver 1993 de la revue Whole Earth Review. Résumé D'ici trente ans, nous aurons les moyens de créer une intelligence superhumaine. Peu de temps après cela, l'ère humaine s'achèvera. Peut-on éviter une telle éventualité ? Si on ne peut l'éviter, peut-on orienter les événements de façon à assurer la survie de l'Humanité ? Ces questions font l'objet d'investigations. Voici quelques-unes des réponses possibles (et quelques risques connexes). Table des matières Qu'est-ce que la Singularité ?.......................................3 La Singularité peut-elle être évitée ?............................8 D'autres chemins vers la Singularité : l'Intelligence Amplifiée...............................................11 La superhumanité forte et ce que nous pouvons attendre de mieux.................17 Bibliographie annotée (et, au passage, un appel à candidats pour le travail bibliographique...)......................................................19 Qu'est-ce que la Singularité1 ? L'accélération du progrès technologique est une des caractéristiques centrales de ce siècle. Dans cet article, j'avance que nous sommes à la veille d'un changement comparable à l'émergence de la vie humaine sur Terre. La cause précise de ce changement est la création imminente d'entités technologiques possédant une intelligence supérieure à celle de l'humain. Il existe plusieurs chemins par lesquels la science pourrait réussir cette percée (et c'est une raison de plus pour être certain que cet événement va se produire) :  Ce pourraient être des ordinateurs évolués qui parviendraient à l'éveil et à l'intelligence superhumaine. (À ce jour, la question de savoir s'il est possible de créer une machine d'intelligence équivalente à l'humain reste controversée. Mais si la réponse est oui, il ne fait pas de doute que des êtres plus intelligents peuvent être construits peu de temps après.)  De vastes réseaux informatiques (et leurs utilisateurs associés) pourraient s'éveiller en tant qu'entités dotées d'intelligence superhumaine.  Les interfaces humain / ordinateur pourraient devenir si intimes qu'il ne serait pas déraisonnable d'en considérer les utilisateurs comme superhumainement intelligents.  La science biologique pourrait fournir des moyens d'améliorer les capacités intellectuelles naturelles de l'humain. Les trois premières possibilités dépendent en grande partie du perfectionnement du matériel informatique. Le progrès en la matière a suivi une courbe remarquablement régulière ces dernières décades [17]. En m'appuyant sur cette tendance, je crois que l'émergence d'une intelligence supérieure à celle de l'humain aura lieu dans les trente 1 http://www.aleph.se/Trans/Global/Singularity/ La Singularité Vernor Vinge page 3 prochaines années. (Charles Platt [20] fait remarquer que les enthousiastes de l'IA * ont émis de telles prévisions au cours des trente dernières années. Pour qu'on ne m'accuse pas d'ambiguité temporelle, je vais être plus spécifique : je serais surpris si cet événement survenait avant 2005 ou après 2030.) Quelles sont les conséquences d'un tel événement ? À partir du moment où une intelligence supérieure à celle de l'humain prendra les commandes du progrès, ce dernier va connaître une forte accélération. En fait, il ne semble pas y avoir de raison qui empêcherait le progrès de susciter la création d'entités encore plus intelligentes et dans – un temps toujours plus court. La meilleure comparaison que je puisse faire est celle de l'évolution naturelle dans le passé : les animaux sont capables de s'adapter aux problèmes et d'inventer des solutions, mais au rythme de la sélection naturelle ; dans le cas de la sélection naturelle, le monde constitue son propre simulateur. Nous autres humains, en revanche, sommes capables d'intérioriser le monde, de nous poser la question : « Qu'est- ce qui se passe si... ? » Cela nous permet de résoudre les problèmes des milliers de fois plus vite que par sélection naturelle. Ainsi, en créant les moyens d'éxécuter ces simulations à des vitesses bien supérieures à celle de l'esprit humain, nous entrons dans un régime aussi éloigné de notre réalité humaine que les animaux inférieurs le sont de la nôtre. Du point de vue humain, ce changement entraînera la remise en cause de toutes les règles existantes, presque instantanée, une fuite en avant à une vitesse exponentielle, hors de tout contrôle. Des développements dont on pensait qu'ils n'arriveraient pas avant 1 million d'années (voire jamais) sont susceptibles d'arriver dans le prochain siècle. (Greg Bear dépeint le tableau des principaux changements qui adviendraient en quelques heures. [5]) Il me semble pertinent d'appeler cet événement une singularité * (LA Singularité, pour notre propos). C'est le point où les vieux schémas de pensée doivent être écartés parce qu'une * Intelligence Artificielle (NdT) * En mathématiques, une singularité est en général un point, une valeur ou un cas dans lequel un certain objet mathématique n'est pas bien défini. Pour approfondir, Wikipedia, évidemment ! (NdT) La Singularité Vernor Vinge page 4 nouvelle réalité prévaut. Au fur et à mesure que nous nous rapprochons de ce point, cette notion va s'immiscer de plus en plus intimement dans nos vies quotidiennes, jusqu'à devenir un lieu commun. Pourtant, quand nous l'atteindrons, nous risquons néanmoins d'être confrontés à une grande surprise, et à un inconnu plus grand encore. Dans les années 1950, ils étaient très peu nombreux à être conscients de tout cela ; Stan Ulam évoque une conversation avec John Von Neumann : [Cette] conversation [était] centrée sur l'accélération infinie des progrès de la technologie et leur influence sur les modes de vie humains, qui donnerait l'impression d'approcher une singularité essentielle dans l'histoire de la race au- delà de laquelle les considérations humaines actuelles n'auraient plus lieu d'être. [28] Von Neumann lui-même emploie le terme "singularité", bien qu'il semble parler du progrès normal et non de l'émergence d'un intellect superhumain. (Pour moi, le caractère superhumain est l'essence même de la Singularité. Sans ce caractère, nous ne parviendrons qu'à une surenchère d'avancées technologiques que nous resterons incapables d'assimiler. [25]) Dans les années 1960, quelques-unes des implications de l'intelligence superhumaine ont commencé à être perçues. L.J. Good écrit : Soit une machine ultraintelligente, à savoir une machine capable de surpasser de loin toutes les activités intellectuelles de n'importe quel humain, aussi intelligent soit-il. Puisque la conception de telles machines est une de ces activités intellectuelles, une machine ultraintelligente serait capable de concevoir des machines encore plus performantes ; on aboutirait alors indubitablement à une "explosion d'intelligence", qui laisserait lon derrière elle l'intelligence humaine. C'est pourquoi, la conception d'une telle machine est la dernière chose dont l'homme aura jamais besoin, à supposer que la machine soit suffisamment docile pour nous expliquer comment la garder sous notre La Singularité Vernor Vinge page 5 contrôle. Le plus probable est que, dans le courant du XXè siècle, une machine ultraintelligente sera construite, et que ce sera la dernière chose dont l'Humanité avait besoin. [11] Good a perçu l'essence de la fuite, mais les conséquences les plus troublantes lui échappent. Une machine telle qu'il la décrit ne saurait être un "outil" pour l'Humanité pas – plus que les humains ne sont les outils des lapins, des rouge-gorges ou des chimpanzés. Entre les années 1960 et 1990, l'intuition du cataclysme est devenue plus courante [29] [1] [31] [5]. Ce sont sans doute les auteurs de Science-Fiction qui en ont ressenti les premiers symptômes concrets. Après tout, les auteurs de Science-Fiction pure et dure s'efforcent de décrire tout ce que la technologie pourrait faire pour nous. De plus en plus, ces auteurs se sont heurtés à un mur opaque qui barre le futur. Auparavant, ils pouvaient situer leurs fictions à des millions d'années dans le futur [24]. Dorénavant, ils s'aperçoivent que leurs extrapolations les plus poussées résultent dans l'inconnu... à court terme. Ils pouvaient imaginer la post-Humanité loin dans le futur, au temps des empires galactiques. Dans la Science-Fiction d'aujourd'hui, tristement, les post-Humains * sont cantonnés aux empires interplanétaires. Qu'en est-il des années 1990 à 2010, qui nous rapprochent de la limite ? Comment l'Humanité va-t-elle prendre conscience de l'imminence de la Singularité ? Pendant un temps, les critiques habituelles sur la sapience des machines vont continuer de fleurir. Après tout, tant que nous ne disposons pas de matériel aussi puissant que le cerveau humain, il peut sembler idiot d'imaginer que nous serons un jour capables de produire une intelligence équivalente (ou supérieure) à celle de l'homme. (Il y a bien la possibilité un peu tirée par les cheveux de créer un équivalent avec moins de puissance matérielle, en acceptant de laisser la vitesse de côté, en acceptant de créer un être artificiel littéralement lent [30]. Mais il est bien plus probable que le codage du logiciel sera un processus délicat, * La post-Humanité est un concept issu de la Science-Fiction et de la philosophie transhumaniste. Un post-Humain est un être hypothétique du futur, "dont les aptitudes de base dépassent si radicalement celles des humains actuels qu'on ne peut plus le considérer comme humain uploads/Industriel/ singularite.pdf