Pourquoi le futur n'a pas besoin de nous 2ème partie

Depuis 1947, The Bulletin of Atomic Scientists fait figurer sur sa couverture une “  horloge du Jugement dernier ” . Ce baromètre reflétant les variations de la situation internationale donne depuis plus de cinquante ans une estimation de la menace nucléaire relative qui pèse sur nous. A quinze reprises, les aiguilles de cette horloge ont bougé. Calées sur minuit moins neuf, elles indiquent aujourd'hui une menace continuelle et réelle de l'arsenal atomique. La récente entrée de l'Inde et du Pakistan dans le club des puissances nucléaires porte un coup sévère à l'objectif de non-prolifération, comme l'a souligné le mouvement des aiguilles, lesquelles, en 1998, se sont rapprochées de l'heure fatidique.

A ce jour, quelle est au juste la gravité de ce danger qui pèse sur nous, pas exclusivement en termes d'armes atomiques, mais compte tenu de l'ensemble de ces technologies ? Quels sont, concrètement, les risques d'extinction qui nous menacent ?

Le philosophe John Leslie, qui s'est penché sur la question, évalue le risque minimum d'extinction de l'espèce humaine à 30%¹⁵. Ray Kurzweil, quant à lui, estime que “  notre chance de nous en sortir est supérieure à la moyenne ”, en précisant au passage qu'on lui a “  toujours reproché d'être un optimiste ”. Non seulement de telles estimations sont peu engageantes, mais elles écartent les événements, multiples et horribles, qui préluderaient à l'extinction.

Face à de telles assertions, certains individus dignes de foi suggèrent tout simplement de se redéployer loin de la Terre, et cela dans les meilleurs délais. Nous coloniserions la galaxie au moyen des sondes spatiales de von Neumann, qui, bondissant d'un système stellaire à l'autre, s'autoreproduisent en quittant les lieux. Franchir cette étape sera un impératif incontournable dans les cinq milliards d'années à venir (voire plus tôt, si notre système solaire devait subir l'impact cataclysmique de la collision de notre galaxie avec celle d'Andromède, prévue d'ici trois milliards d'années) ; mais si l'on prend au mot Kurzweil et Moravec, cette migration pourrait se révéler nécessaire d'ici le milieu du siècle.

Quelles sont, ici, les implications morales en jeu ? Si, pour la survie de l'espèce, il nous faut quitter la Terre dans un futur aussi proche, qui assumera la responsabilité de tous ceux qui resteront à quai (la plupart d'entre nous, en fait) ? Et quand bien même nous nous éparpillerions dans les étoiles, n'est-il pas vraisemblable que nous emmènerions nos problèmes avec nous, ou que nous nous apercevions ultérieurement que ceux-ci nous ont suivis ? Le destin de notre espèce sur la Terre semble inextricablement corrélé à notre destin dans la galaxie.

Une autre idée consiste à ériger une série de boucliers préventifs contre les diverses technologies à risque. L'initiative de défense stratégique¹⁶ proposée par l'administration Reagan, se voulait une tentative de bouclier de ce type pour parer à la menace d'une attaque nucléaire de l'Union soviétique. Mais, comme l'a observé Arthur C. Clarke, dans le secret des discussions entourant le projet, “  s'il est concevable, moyennant des coûts faramineux, de bâtir des systèmes de défense locale qui ne laisseraient passer “que” quelques centièmes des missiles balistiques, l'idée racoleuse d'un parapluie couvrant les Etats-Unis en totalité était essentiellement une sottise. Luis Alvarez, peut-être le plus grand chercheur en physique expérimentale de ce siècle, m'a fait remarquer que les promoteurs de projets de ce type étaient “des individus extrêmement brillants, mais dénués de bon sens” ”.

“  Quand je lis dans ma boule de cristal souvent bien opaque, poursuit Arthur C. Clarke, je n'exclus pas la possibilité qu'une défense intégrale puisse être mise au point d'ici un siècle ou deux. Mais la technologie que cela supposerait générerait des sous-produits si redoutables que, dès lors, plus personne ne songerait à perdre son temps avec des choses aussi primitives que des missiles balistiques. ¹⁷ ”

Dans Engines of Creation, Eric Drexler proposait la construction d'un bouclier nanotechnologique actif - une sorte de système immunitaire pour la biosphère - nous protégeant des “  réplicateurs ” dangereux de toutes sortes, susceptibles de s'échapper des laboratoires, ou de naître d'éventuelles inventions malveillantes. Mais le bouclier qu'il propose est en lui-même extrêmement dangereux : rien, en effet, ne pourrait l'empêcher de développer des problèmes “  auto-immunes ” et d'attaquer lui-même la biosphère¹⁸.

Des difficultés similaires vont de pair avec la construction de boucliers destinés à nous protéger de la robotique et du génie génétique. Ces technologies sont trop puissantes pour qu'on puisse s'en prémunir dans les délais ; au surplus, quand bien même le déploiement de boucliers défensifs serait envisageable, les effets collatéraux seraient au moins aussi redoutables que les technologies dont ils étaient censés nous garantir.

En conséquence, toutes ces possibilités sont soit peu souhaitables, soit irréalisables, voire les deux à la fois. La seule alternative réaliste, à mes yeux, est d'y renoncer, de restreindre la recherche dans le domaine des technologies qui sont trop dangereuses, en posant des limites à notre quête de certains savoirs.

Oui, je sais, le savoir est une chose bénéfique, et il en va de même s'agissant de la quête de vérités nouvelles. Aristote ouvre La Métaphysique avec ce constat tout simple : “  Tous les hommes désirent naturellement savoir. ” Depuis longtemps, nous avons reconnu comme une valeur fondamentale de notre société le libre accès à l'information, et convenu que les problèmes surgissent dès lors qu'on tente d'en limiter l'accès et d'en brider le développement. Dernièrement, nous en sommes arrivés à placer la connaissance scientifique sur un piédestal.

Mais si, dorénavant, malgré des précédents historiques avérés, le libre accès et le développement illimité du savoir font clairement peser sur nous tous une menace d'extinction, alors le bon sens exige que ces convictions, fussent-elles fondamentales et fermement ancrées, soient examinées de nouveau.

Nietzsche, à la fin du XIX^e siècle, non seulement nous a avertis que “  Dieu est mort ”, mais en outre que “  […] la foi en la science, cette foi qui est incontestable, ne peut pas avoir tiré son origine d'un pareil calcul d'utilité, au contraire elle s'est formée malgré la démonstration constante de l'inutilité et du danger qui résident dans la “volonté de vérité”, dans la “vérité à tout prix”¹⁹ ”. C'est précisément ce danger - les conséquences de notre quête de vérité - qui nous menace aujourd'hui de tout son poids. La vérité que recherche la science peut incontestablement passer pour un dangereux substitut de Dieu si elle est susceptible de conduire à notre extinction.

Si, en tant qu'espèce, nous pouvions nous accorder sur nos aspirations, sur ce vers quoi nous allons, et sur la nature de nos motivations, alors nous bâtirions un futur significativement moins dangereux. Alors nous pourrions comprendre ce à quoi il est non seulement possible, mais souhaitable, de renoncer. Autrement, on imagine aisément une course aux armements s'engager autour des technologies GNR, comme cela s'est produit au XX^e siècle autour des technologies NBC. Le plus grand danger réside peut-être là, dans la mesure où, une fois la machine lancée, il est très difficile de l'arrêter. Cette fois-ci - contrairement à l'époque du projet Manhattan -, nous ne sommes pas en guerre, face à un ennemi implacable constituant une menace pour notre civilisation ; cette fois, nous sommes mus par nos habitudes, nos désirs, notre système économique et par la course au savoir.

Nous souhaiterions tous, je le crois, que notre chemin s'inspire de valeurs collectives, éthiques et morales. Si, au cours des derniers millénaires, nous avions acquis une sagesse collective plus profonde, alors engager un dialogue à cette fin serait plus aisé, et cette puissance formidable sur le point de déferler serait loin d'être aussi préoccupante.

On pourrait penser que l'instinct de conservation nous conduise à un tel dialogue. Or si, en tant qu'individu, nous manifestons clairement ce désir, en revanche notre comportement collectif en tant qu'espèce semble jouer en notre défaveur. En composant la menace nucléaire, nous nous sommes souvent comportés de façon malhonnête, tant vis-à-vis de nous-mêmes que les uns envers les autres, démultipliant ainsi grandement les risques. Raisons politiques, choix délibéré de ne pas voir plus avant, ou comportement mû par des peurs irrationnelles découlant des graves menaces qui pesaient alors sur nous, je l'ignore, mais cela ne présage rien de bon.

Que les nouvelles boîtes de Pandore, génétique, nanotechnologies et robotique, soient entrouvertes, nul ne semble s'en inquiéter. On ne referme pas le couvercle sur des idées ; contrairement à l'uranium ou au plutonium, une idée n'a besoin ni d'être extraite, ni d'être enrichie, et on peut la dupliquer librement. Une fois lâchée, on ne l'arrête plus. Churchill, dans un compliment ambigu resté célèbre, observait que les Américains et leurs dirigeants “  finissent toujours par agir honorablement, une fois qu'ils ont bien examiné chacune des autres solutions ”. Reste qu'en ce cas précis, il convient d'intervenir plus en amont, dans la mesure où n'agir honorablement qu'en dernier recours pourrait bien nous condamner.

Thoreau l'a dit, “  ce n'est pas nous qui prenons le train, c'est le train qui nous prend ”. Et c'est là tout l'enjeu maintenant. De fait, la vraie question est de savoir lequel dominera l'autre, et si nous survivrons à nos technologies.

Nous sommes propulsés dans ce nouveau siècle sans carte, sans maîtrise, sans freins. Sommes-nous déjà engagés trop avant dans cette voie pour corriger notre trajectoire ? Je ne le pense pas ; pour autant, aucun effort n'a encore été fourni en ce sens, et nos dernières chances de reprendre le contrôle, c'est-à-dire notre point de non-retour, approchent rapidement. Nous disposons déjà de nos premiers animaux domestiques de synthèse²⁰, et certaines techniques de génie génétique sont désormais disponibles sur le marché ; quant à nos techniques à l'échelle “ nano ”, elles progressent rapidement. Si leur développement suppose un certain nombre d'étapes, le palier ultime d'une démonstration n'est pas forcément quelque chose d'aussi énorme et aussi difficile que le projet Manhattan ou l'essai Trinity. La découverte capitale de la capacité d'autoreproduction incontrôlée dans le domaine de la robotique, du génie génétique ou des nanotechnologies pourrait survenir brutalement, renouvelant l'effet de surprise du jour où est tombée la nouvelle du clonage d'un mammifère.

Il n'en demeure pas moins qu'il nous reste, je le crois, de solides et puissantes raisons d'espérer. Les efforts déployés pour régler la question des armes de destruction massive au cours du siècle dernier fournissent un exemple éclatant de renonciation qui mérite attention : l'abandon unilatéral et inconditionnel par les Etats-Unis du développement des armes biologiques. Ce désengagement fait suite à un double constat : d'une part, un effort considérable doit être fourni pour mettre au point ces armes redoutables ; d'autre part, elles peuvent aisément être dupliquées et tomber entre les mains de nations belliqueuses ou de groupes terroristes.

Tout cela a clairement laissé apparaître que développer ces armes ne ferait qu'ajouter de nouvelles menaces, et qu'y renoncer accroîtrait notre sécurité. Cet engagement solennel à s'interdire le recours à l'arme bactériologique et chimique a été consigné dans la Biological Weapons Convention (BWC)²¹, en 1972, et dans la Chemical Weapons Convention (CWC)²², en 1993²³.

Quant à la menace persistante et assez considérable des armes atomiques, sous le poids de laquelle nous vivons aujourd'hui depuis plus de cinquante ans, il ressort clairement du récent rejet par le Sénat américain du traité d'interdiction globale des essais nucléaires que se désengager des armes atomiques ne sera pas une tâche politiquement facile. Mais la fin de la guerre froide nous offre une possibilité exceptionnelle de prévenir une course aux armements multipolaire. Dans la foulée de l'abandon des BWC et des CWC, arriver à abolir les armements atomiques pourrait nous inciter à renoncer aux technologies dangereuses (de fait, commencer par se débarrasser de cent armes atomiques disséminées de par le monde - approximativement, la puissance de destruction totale de la deuxième guerre mondiale ; une tâche considérablement moins lourde - suffirait à éliminer cette menace d'extinction²⁴)

Vérifier la réalité du désengagement sera un problème délicat, mais pas insoluble. Par chance, un important travail similaire a déjà été accompli dans le contexte des BWC et d'autres traités. Notre tâche essentielle consistera à appliquer cela à des technologies qui, par nature, sont résolument plus commerciales que militaires. Se fait ici sentir un besoin substantiel de transparence, dans la mesure où la difficulté de la vérification est directement proportionnelle à la difficulté de distinguer une activité abandonnée d'une activité légitime.

Je pense honnêtement qu'en 1945, la situation était plus simple que celle à laquelle nous nous trouvons aujourd'hui confrontée : il était relativement simple de tracer la frontière entre les technologies nucléaires à usage commercial et militaire. En outre, le contrôle était facilité par la nature même des tests atomiques et la facilité avec laquelle on pouvait mesurer le degré de radioactivité. La recherche d'applications militaires pouvait être menée dans des laboratoires gouvernementaux tels que Los Alamos, et les résultats tenus secrets le plus longtemps possible.

Les technologies GNR ne se divisent pas clairement en deux familles distinctes, la militaire et la commerciale ; compte tenu de leur potentiel sur le marché, on a peine à imaginer que leur développement puisse rester cantonné à des laboratoires d'Etat. Dans le contexte de leur développement commercial à grande échelle, contrôler le caractère effectif du désengagement exigera l'instauration d'un régime de vérification similaire à celui des armes biologiques, mais à une échelle sans précédent à ce jour. Inéluctablement, le fossé va se creuser : d'un côté, la volonté de protéger sa vie privée ainsi que certaines données confidentielles, et de l'autre, la nécessité que ces mêmes informations restent accessibles dans l'intérêt de tous. Devant cette atteinte à notre vie privée et à notre marge de manœuvre, nous nous heurterons sans aucun doute à de fortes résistances.

Le contrôle de l'arrêt effectif de certaines technologies GNR devra intervenir sur des sites tant virtuels que physiques. Dans un monde de données confidentielles, l'enjeu crucial consistera à rendre acceptable la nécessaire transparence, vraisemblablement en produisant des formes renouvelées de protection de la propriété intellectuelle.

La vérification d'un tel respect exigera en outre des scientifiques et ingénieurs qu'ils adoptent un code de conduite éthique rigoureux, similaire au serment d'Hippocrate, et qu'ils aient le courage de rendre public tout manquement, et cela aussi souvent que nécessaire, quand bien même il faudrait en payer le prix fort sur le plan personnel. Ceci répondrait - cinquante ans après Hiroshima - à l'appel lancé par Hans Bethe, lauréat du prix Nobel, l'un des plus vénérables membres du projet Manhattan encore en vie, appelant les scientifiques à “  cesser et se désister de toute activité de conception, développement, amélioration, et fabrication d'armes nucléaires et autres armes au potentiel de destruction massive ²⁵ ”. Au XXI^e siècle, cela supposera vigilance et responsabilité personnelle de la part de ceux qui pourraient travailler tant sur les technologies NBC que GNR, pour prévenir le déploiement d'armes et d'ingénierie de destruction massive accessible par la seule connaissance.

Thoreau a également dit que nous ne serons “  riches qu'à proportion du nombre de choses auxquelles nous pourrons nous permettre de renoncer ”. Chacun d'entre nous aspire au bonheur, mais est-il bien raisonnable d'encourir un si fort risque de destruction totale pour accumuler encore plus de savoir, et encore plus de biens ? Le bon sens pose qu'il y a une limite à nos besoins matériels. Certains savoirs sont décidément trop dangereux : mieux vaut y renoncer.

Nous ne devrions pas non plus caresser des rêves de quasi-immortalité sans, au préalable, en estimer les coûts, et sans prendre en compte un risque d'extinction grandissant. L'immortalité constitue peut-être l'utopie originelle ; pour autant, elle n'est assurément pas la seule.

J'ai récemment eu le privilège de faire la connaissance du distingué écrivain et érudit Jacques Attali, dont le livre Lignes d'horizons (Millennium, dans sa traduction anglaise) m'a en partie inspirée l'approche Java et Jini des effets pervers de la technologie informatique des années à venir. Dans son dernier ouvrage, Fraternités, Attali explique comment, au fil du temps, nos utopies se sont transformées :

"A l'aube des sociétés, les hommes, sachant que la perfection n'appartenait qu'à leurs dieux, ne voyaient leur passage sur Terre que comme un labyrinthe de douleur au bout duquel se trouvait une porte ouvrant, via la mort, sur la compagnie des dieux et sur l'Eternité. Avec les Hébreux puis avec les Grecs, des hommes osèrent se libérer des exigences théologiques et rêver d'une Cité idéale où s'épanouirait la Liberté. D'autres, en observant l'évolution de la société marchande, comprirent que la liberté des uns entraînerait l'aliénation des autres, et ils cherchèrent l'Egalité."

Jacques Attali m'a permis de comprendre en quoi ces trois objectifs utopiques existent en tension dans notre société actuelle. Il poursuit avec l'exposé d'une quatrième utopie, la fraternité, dont le socle est l'altruisme. En elle-même, la fraternité allie le bonheur individuel au bonheur d'autrui, offrant la promesse d'une croissance autonome.

Cela a cristallisé en moi le problème que j'avais avec le rêve de Kurzweil. Une approche technologique de l'Eternité - la quasi-immortalité que nous promet la robotique - n'est pas forcément l'utopie la plus souhaitable. En outre, caresser ce genre de rêve comporte des dangers évidents. Peut-être devrions nous reconsidérer nos choix d'utopies.

Vers quoi nous tourner pour trouver une nouvelle base éthique susceptible de nous guider ? J'ai trouvé les idées qu'expose le dalaï-lama dans Sagesse ancienne, monde moderne²⁶ très utiles à cet égard. Comme cela est largement admis mais peu mis en pratique, le dalaï-lama fait valoir que le plus important pour nous est de conduire notre vie dans l'amour et la compassion pour autrui, et que nos sociétés doivent développer une notion plus forte de responsabilité universelle et d'interdépendance ; il propose un principe pratique de conduite éthique destiné tant à l'individu qu'aux sociétés, lequel s'accorde avec l'utopie de fraternité d'Attali.

Au surplus, souligne le dalaï-lama, il nous faut comprendre ce qui rend l'homme heureux, et se rendre à l'évidence : la clé n'en est ni le progrès matériel, ni la recherche du pouvoir que confère le savoir. En clair, il y a des limites à ce que science et recherche scientifique, seules, peuvent accomplir.

Notre notion occidentale du bonheur semble nous venir des Grecs, qui en donnaient comme définition : “  vivre de toutes ses forces, guidé par des critères d'excellence, une vie leur permettant de se déployer ²⁷ .

Certes, il nous faut trouver des enjeux chargés de sens et continuer d'explorer de nouvelles voies si, quoi qu'il advienne, nous voulons trouver le bonheur. Reste que, je le crois, nous devons trouver de nouveaux exutoires à nos forces créatives, et sortir de la culture de la croissance perpétuelle. Si, des siècles durant, cette croissance nous a comblés de bienfaits, elle ne nous a pas pour autant apporté le bonheur parfait. L'heure est venue de le comprendre : une croissance illimitée et sauvage par la science et la technologie s'accompagne fatalement de dangers considérables.

Plus d'un an s'est aujourd'hui écoulé depuis ma première rencontre avec Ray Kurzweil et John Searle. Je trouve autour de moi des raisons d'espérer dans les voix qui s'élèvent en faveur du principe de précaution et de désengagement, et dans ces individus qui, comme moi, s'inquiètent de la situation difficile dans laquelle nous nous trouvons. J'éprouve moi aussi un sentiment de responsabilité personnelle accru - non pas pour le travail réalisé jusqu'ici, mais pour celui qui pourrait me rester à accomplir, au confluent des sciences.

Cependant, un grand nombre de ceux qui ont connaissance des dangers semblent se tenir étrangement cois. Lorsqu'on les presse, ils ripostent à coups de “ cela n'est pas une nouveauté ” - comme si l'on pouvait se satisfaire de la seule conscience du danger latent. “  Les universités sont pleines de bioéthiciens qui examinent ces trucs à longueur de journée ”, me disent-ils. Ou encore, “  tout cela a déjà été dit et écrit, et par des experts ”. Et enfin : “  Ces craintes et ces raisonnements, c'est du déjà vu ”, râlent-ils.

J'ignore où ces gens-là dissimulent leurs peurs. Au titre d'architecte de systèmes complexes, je descends dans cette arène avec des yeux de généraliste. Mais pour autant, devrais-je moins m'alarmer ? J'ai conscience qu'on a beaucoup écrit, dit et enseigné à ce sujet, et avec quel panache. Mais cela a-t-il atteint les gens ? Cela signifie-t-il que nous pouvons ignorer les dangers qui frappent aujourd'hui à notre porte ?

Il ne suffit pas de savoir, encore faut-il agir. Le savoir est devenu une arme que nous retournons contre nous-mêmes. Peut-on encore en douter ?

Les expériences des chercheurs du nucléaire laissent clairement apparaître qu'il est temps d'assumer la pleine responsabilité de nos actes, que les choses peuvent s'emballer, et qu'un processus peut échapper à notre maîtrise et devenir autonome. Il se peut que, comme eux, sans même avoir le temps de nous en apercevoir, nous déclenchions des problèmes insurmontables. C'est maintenant qu'il faut agir si nous ne voulons pas nous laisser surprendre et choquer, comme eux, par les conséquences de nos inventions.

Sans relâche, j'ai toujours travaillé à améliorer la fiabilité de mes logiciels. Les logiciels sont des outils ; par conséquent, étant un fabricant d'outils, je dois lutter contre certains usages des outils que je fabrique. Ma conviction a toujours été que, compte tenu de leurs utilisations multiples, produire des logiciels plus fiables contribuerait à bâtir un monde meilleur et plus sûr. Si j'en arrivais à la conviction inverse, alors je me verrais dans l'obligation morale de donner un coup d'arrêt à mon activité. Aujourd'hui, je n'exclus plus une telle perspective.

Tout cela ne me laisse pas en colère, juste un peu mélancolique. Dorénavant, le progrès aura pour moi un je ne sais quoi d'aigre-doux.

Vous souvenez-vous de la merveilleuse avant-dernière scène de Manhattan où l'on voit Woody Allen, allongé sur son divan, parler dans le micro de son magnétophone ? Il est en train de rédiger une nouvelle avec pour sujet ces gens qui s'inventent des problèmes inutiles, névrotiques, parce que cela leur évite d'affronter des problèmes encore plus insolubles et terrifiants concernant l'univers.

Il en arrive à se poser la question “  Qu'est-ce qui fait que la vie vaut d'être vécue ? ”, et de passer en revue les choses qui, dans son cas, l'y aident : Groucho Marx, Willie Mays, le deuxième mouvement de la symphonie Jupiter, le  Potatoe Head Blues  de Louis Armstrong, le cinéma suédois, L'Education sentimentale de Flaubert, Marlon Brando, Frank Sinatra, les pommes et les poires de Cézanne, les crabes de chez Sam Wo, et, pour finir, le clou : le visage de sa petite amie Tracy.

Chacun d'entre nous aime certaines choses par-dessus tout, et cette disposition pour autrui n'est autre que le substrat de notre humanité. En dernière analyse, c'est du fait de cette indéniable aptitude que je reste confiant : nous allons relever, j'en suis sûr, les défis redoutables que nous lance l'avenir.

Mon espoir immédiat est de participer à une discussion beaucoup plus vaste traitant des questions soulevées ici, avec des individus d'horizons divers, et dans une disposition d'esprit échappant tant à la crainte qu'à l'idolâtrie de la technologie, et ce au nom d'intérêts particuliers.

En guise de préliminaires, j'ai par deux fois soulevé un grand nombre de ces questions lors d'événements parrainés par l'Aspen Institute et proposé par ailleurs que l'American Academy of Arts and Sciences les intègre à ses activités concernant les conférences de Pugwash. Ces dernières se consacrent depuis 1957 au contrôle des armements, en particulier de type nucléaire, et formulent des recommandations réalistes.

Ce qu'on peut regretter, c'est qu'elles n'aient été amorcées que bien après que le génie du nucléaire se soit échappé de sa bouteille - disons, environ, quinze ans trop tard. De la même manière, nous sommes bien tardifs à entamer une réflexion de fond sur les enjeux que soulèvent les technologies du XXI^e siècle, et prioritairement la prévention d'une ingénierie de destruction massive accessible par la seule connaissance. En repousser plus loin le coup d'envoi serait inacceptable.

Je continue donc mon exploration ; il reste un grand nombre de choses à apprendre. Sommes-nous appelés à réussir ou à échouer, à survivre où à tomber sous les coups de ces technologies ? Cela n'est pas encore écrit.

Ça y est, me revoilà debout à une heure avancée ; il est presque 6 heures du matin. Je m'efforce d'imaginer des réponses plus adaptées, et de “ percer le secret ” de la pierre pour les libérer. •

Traduit de l'anglais par Maxime Chavanne

Voir ci-dessous, la bibliographie (en français) des ouvrages cités par Bill Joy.

ARISTOTE (384 av. - 322 av.) La métaphysique, Vrin, 1986 (en poche, 1991)

Dans La métaphysique, Aristote s'attache à l'étude des premiers principes de l'être et de la science et affirme l'existence de Dieu comme cause efficiente et finale de la nature.

ASIMOV Isaac (1920-1992) I, Robot, 1950 (Les Robots - J'ai Lu n°453)

Auteur de plus de 400 ouvrages, dont seul un tiers touche à la science-fiction (le reste étant constitué de romans policiers, de livres pour la jeunesse, et d'ouvrages de vulgarisation scientifique), Isaac Asimov est le père des lois de la robotique en littérature.

ATTALI Jacques (1943- )

Fraternités, Fayard, 1990

Lignes d'horizon, Fayard, 1999

Personnage public de premier plan, conseiller spécial de François Mitterrand de 1981 à 1991, fondateur et premier président de la BERD, Jacques Attali a toujours eu une intense activité littéraire. Dans Fraternités comme dans Lignes d'horizon, il s'interroge sur le futur de notre société, en accordant notamment une grande place au rôle des utopies. Le site officiel de Jacques Attali : www.attali.com

BETHE Hans Lettre à Bill CLINTON

www.fas.org/bethecr.htm.

CLARKE Arthur C. (1917- )

"Presidents, Experts, and Asteroids " in Science, June 5, 1998. Réédité sous le titre "Science and Society" dans Greetings, Carbon-Based Bipeds! Collected Essays, 1934-1998, St. Martin's Press, 1999.

Rédacteur en chef adjoint d'un journal scientifique anglais, Arthur Charles Clarke se consacre pleinement à la science-fiction à partir des années 50. Reconnu pour ses talents de vulgarisateur scientifique (il continuera à ce titre à écrire de nombreux articles dans la presse), il est surtout l'auteur du scénario de 2001, l'odyssée de l'espace (1968), le film de Stanley Kubrick.

DREXLER Eric

Engines of creation, Doubleday, 1986. http://www.foresight.org/EOC/index.html

Unbounding the future : the nanotechnology revolution, Morrow, 1991.

Spécialisé dans les nanotechnologies, Eric Drexler est le fondateur du MIT Nanotechnology Study Group et le “ chairman ” du Foresight Institute, centre ultra-documenté qui regroupe près de 1000 membres.

DYSON Freeman (1923- )

Physicien à l'Institut d'études avancées de Princeton (NJ), Freeman Dyson fut l'un des premiers à étudier les conséquences sur la vie d'une expansion perpétuelle de l'univers. Voir Lawrence Krauss et Glenn Starkman, “ Le destin ultime de la vie ”, in Pour la science, n°269 (http://www.pourlascience.com/numeros/pls-269/art-9.htm)

DYSON George (1953- )

Darwin among the machines, Addison Wesley Longman, 1997.

Fils du physicien Freeman Dyson, George Dyson présente dans ce livre une réflexion sur les technologies contemporaines fondées sur les travaux de philosophes et de scientifiques du XXe siècle.

EASTERBROOK Gregg

“Food for the future : someday, rice will have built-in vitamin A. Unless the Luddites win”, New York Times, (www.nytimes.com) 19/11/1999

ELSE Jon

The day after trinity : J. Robert Oppenheimer and the atomic bomb

(www.pyramiddirect.com)

Le documentaire produit par Jon Else revient sur les évènements dramatiques entourant l'élaboration de la première bombe atomique, et sur le rôle joué par J. Robert Oppenheimer.

FEYNMAN Richard P. (1918- )

There's plenty of room at the bottom (http://www.zyvex.com/nanotech/feynman.html )

Prix Nobel de physique en 1965 pour ses travaux sur l'électrodynamique quantique, Richard P. Feyman s'est illustré au cours de la seconde guerre mondiale en apportant une importante contribution au projet Manhattan. Pédagogue reconnu, on lui doit de nombreux ouvrages scientifiques, ainsi que d'autres livres plus personnels, de réflexion sur le rôle de la science.

FORREST David (1956- )

"Regulating Nanotechnology Development," disponible sur www.foresight.org/NanoRev/Forrest1989.html

Ingénieur en métallurgie, président de 1987 à 1989 du MIT Nanotechnology Study Group, membre du Foresight Institute, il a participé en 1991 aux sélections du NASA Astronaut Candidate Program.

GARRETT Laurie (990)

The coming plague : newly emerging diseases in a world out of balance, Penguin, 1994

Journaliste américaine de formation scientifique (études en immunologie), elle obtient le prix Pulitzer en 1996 pour son enquête au Zaïre sur le virus Ebola. Dans The coming plague, elle s'interroge sur les nouveaux virus et les maladies qui pourraient apparaître dans le futur.

GELERNTER David

Drawing life : surviving the Unabomber, Free Press, 1997.

David Gelertner fut l'un des scientifiques victimes des attentats perpétrés par Theodore Kackzynski.

GILDER George (1939- )

Etudiant à Harvard, George Gilder a très tôt approché les cercles du pouvoir, en écrivant notamment des discours pour Nixon. Plus tard, il effectuera une importante enquête sur les origines de la pauvreté, puis surtout une étude sur les nouvelles technologies (Microcosm-1989)

HAMILTON Edith (1867-1963)

The greek way, W. W. Norton & Co, 1993 (nouvelle édition)

Directrice d'école pendant toute sa carrière, Edith Hamilton a publié, une fois à la retraite, plusieurs ouvrages destinés à la jeunesse. Le premier d'entre eux, The greek way, dresse un parallèle entre la Grèce ancienne et le monde contemporain.

HEINLEIN Robert Anson (1907-1988)

Have spacesuit will travel, 1958 (Le Vagabond de l'espace - Pocket n°5153)

Officier de l'U.S. Navy, Robert A. Heinlein doit interrompre sa carrière en raison d'une tuberculose. Il commence alors à publier des nouvelles et romans de science-fiction. Fer de lance de “ l'histoire du futur ”, il est notamment l'auteur de Starship Troopers (1960). On le considère comme le premier auteur à vivre de ce type de littérature.

HERBERT Franck (1920-1986)

The white plague, 1982 (La mort blanche - Livre de Poche n°7087)

Journaliste de formation, Frank Herbert s'est rapidement consacré à l'écriture de romans et nouvelles de science-fiction. Il est surtout connu pour avoir composé Dune, l'imposante fresque qui inspira le film de David Lynch.

KACKZYNSKI Theodore

Ancien professeur de mathématiques à Berkeley, Theodore Kackzynski fut arrêté en 1996, puis reconnu coupable en 1998 d'une série d'attentats perpétrés dans des laboratoires. Voir l' Unabomber Manifesto sur http://www.courttv.com/trials/unabomber/manifesto

KAUFFMAN Stuart

Self replication : even peptides do it”, in Nature, 383, 8/8/1996

Disponible sur http://www.santafe.edu/sfi/people/kauffman/index.html

Biologiste, professeur de biochimie à l'université de Pennsylvanie et au Santa Fe Institute.

KURZWEIL Ray

The age of spiritual machines, Viking, 1999 (voir http://www.penguinputnam.com/kurzweil/excerpts/exbotframe.htm )

Ray Kurzweil est à l'origine de nombre d'inventions telles que la Kurzweil Reading Machine (un ordinateur capable de lire un texte manuscrit grâce à un système de reconnaissance optique). Dans The age of spiritual machines, il évoque le dépassement de l'intelligence humaine par la machine.

LESLIE John

The end of the world : the science and ethics of human extinction, Routledge, 1996.he américain, John Leslie s'intéresse particulièrement à la cosmologie (théorie de la formation et de la nature de l'univers).

LOVINS Amory & Hunter

A l'origine de la fondation du Rocky Mountain Institute, Amory. Lovins travaille avec Hunter Lovins (Chief Executive Officier de l'institut) pour une gestion plus rationnelle et plus écologique des énergies. (voir http://www.rmi.org/)

MORAVEC Hans

Robot : mere machine to transcendent mind, Oxford University Press, 1998.

Chercheur au Mobile Robot Laboratory de l'institut de robotique de la Carnegie Mellon University, il travaille au développement de robots autonomes. Dans Robot : mere machine to transcendent mind, il prévoit que le robot égalera l'intelligence humaine d'ici moins de cinquante ans. Voir : http://www.frc.ri.cmu.edu/~hpm/book97/index.html

NIETZSCHE Friedrich (1884 - 1900)

Le Gai Savoir (Gallimard, Folio Essais, Philosophie)

Dans cet ouvrage philosophique, Nietzsche développe l'idée de l'Eternel Retour.

OPPENHEIMER Robert (1904 - 1967)

Physicien américain, auteur de travaux sur la théorie quantique, Robert Oppenheimer dirigea l'équipe qui élabora la première bombe atomique à Los Alamos. Il est aussi l'auteur d'ouvrages sur le rôle de la science dans le monde contemporain tels que The open mind ou Science and the common understanding.

RHODES Richard

Visions of technology : a century of debates about machines, systems and the human world, Simon & Schuster Trade, 1999

Lauréat 1988 du Prix Pulitzer pour son ouvrage The making of the atomic bomb, Richard Rhodes est l'auteur de quinze livres mêlant généralement histoire et science. Dans Visions of technology, il retrace les principales évolutions technologiques et scientifiques du XXe siècle.

SAGAN Carl (1934 - 1962)

Pale blue dot : a vision of the humane future in space, New York, Random House, 1994.

Cet astronome américain, figure de proue dans la recherche de formes d'intelligence extraterrestre, a été associé à la plupart des missions d'exploration spatiale. Il a également été un grand vulgarisateur en la matière, notamment grâce à la série des émissions “ Cosmos ” sur la chaîne américaine PBS.

SEARLE John (1959 - )

Philosophe américain spécialisé dans les questions de la conscience, du langage et de l'éthique. Certains de ses ouvrages sont disponibles en français tels que Les Actes du langage (éd. Hermann) ou L'Intentionnalité, essai de philosophie des états mentaux (Editions de Minuit).

STONE Irving

The agony and the extasy, New American Library, 1996.

L'auteur fait revivre Michel-Ange dans une fiction souvent nourrie d'éléments réels de la vie de l'artiste.

THOREAU ­(1817 - 1862)

Essayiste, mémorialiste et poète américain qui mena une vie ascétique qu'il évoque dans Walden ou la vie dans les Bois (1954).

VONNEGUT Kurt (1922 - )

Cat's Craddle, 1963 (Editions du Seuil-1970)

Ecrivain américain, il combine la science-fiction, la satire sociale et l'humour noir dans des romans qui s'inspirent souvent des horreurs de ce siècle. Dans Cat's Craddle, il évoque la déshumanisation engendrée par les progrès de la technologie.

Physicien et mathématicien de formation, Stephen Wolfram a très tôt saisi l'intérêt de l'informatique pour le scientifiques. Ses travaux l'ont amené à éditer Mathematica, l'un des logiciels de calcul les plus réputés sur le marché.

www.stephenwolfram.com

1 Cofondateur et chief scientist de Sun Microsystems, Bill Joy a coprésidé la commission américaine sur l'avenir de la recherche sur les technologies de l'information. Il est le coauteur de The Java Language Specification. Son travail sur les effets pervers de la technologie informatique Jini a fait l'objet d'un article publié par Wired en avril dernier. Une version anglaise de l'article présent est sur http://www.wired.com/wired/archive/8.04/joy.html

2 Ces technologies concernent aussi la chimie, la biologie et la physique. Leur seule particularité est de s'intéresser à ce qui se passe à l'échelle moléculaire, voire particulaire. D'où le préfixe “  nano ” qui signifie milliardième, ou 10¯^9, et peut s'accoler à n'importe quelle unité de mesure : litre, mètre, seconde... (NDT)

3 Emules de John Ludd, passé à la postérité pour avoir brisé des machines à tisser à la fin du XVIII^e siècle, les “  luddistes ”” étaient des ouvriers anglais qui firent de même au début du XIX^e siècle, en réaction au chômage dans lequel les mettait l'installation de ces machines. (NDT)

4 Ce passage cité par Kurzweil est extrait du Unabomber Manifesto de Kaczynski, publié sous contrainte judiciaire par le New York Times et le Washington Post pour tenter de marquer un coup d'arrêt à sa campagne terroriste. Je rejoins David Gelernter, qui, sur ce point, a déclaré :

“  Rude épreuve pour un quotidien. Dire oui, c'était céder au chantage terroriste, d'autant que jusqu'à plus ample informé, il mentait. D'un autre côté, cela mettrait peut-être fin au massacre. En outre, il ne fallait pas exclure la possibilité que la publication de ce tract puisse mettre la puce à l'oreille d'un lecteur. C'est précisément ce qui s'est passé. Le propre frère du suspect l'a lu, et cela a éveillé ses soupçons. Je leur aurais dit de ne pas le publier. Par chance - si l'on peut dire -, on ne m'a pas consulté. ”

(In Drawing Life: Surviving the Unabomber,Free Press, 1997, p. 120.)

5 Du grec topos (“  lieu ”) : une dystopie est le contraire d'une utopie, c'est-à-dire le pire des mondes possibles. (NDT)

6 Loi dite “  de l'emmerdement maximum ”. (NDT)

7 Laurie Garrett, The Coming Plague: Newly Emerging Diseases in a World Out of Balance.Penguin, 1994, p. 47-52, 414, 419, 452.

8 Isaac Asimov a défini dès 1950, dans  les “ trois règles de la robotique ”, énoncées dans son livre I, Robot, ce qui est devenu la référence en termes de règles éthiques régissant le comportement des robots : 1. Un robot ne doit pas blesser un être humain, ni, par force d'inertie, laisser un être humain se faire mal. 2. Un robot doit obéir aux ordres des êtres humains, sauf dans le cas où ceux-ci viendraient contredire la règle n°1. 3. Un robot doit veiller à sa propre survie, dans la mesure où celle-ci n'entre en conflit ni avec la règle n°1 ni avec la règle n°2.

9 Michel-Ange est l'auteur d'un sonnet qui débute ainsi :

Non ha l' ottimo artista alcun concetto

Ch' un marmo solo in sè non circonscriva

Col suo soverchio ; e solo a quello arrivaLa man che ubbidisce all' intelleto.

Stone en donne la traduction suivante :

Le plus talentueux des artistes n'a rien à exprimer
Que le bloc minéral, sous sa gangue superflue,
Ne recèle déjà ; rompre le sortilège du marbre est l'unique pouvoir de la main, au service de l'esprit.

Stone décrit le processus en ces termes : “  Il ne travaillait pas à partir d'esquisses ou de modèles en plâtre ; ils avaient tous été mis à l'écart. Il laissait les images de son esprit le guider. Ses yeux, ses mains, savaient à quel endroit chaque trait, chaque cambrure, chaque masse, devait surgir, et jusqu'où aller au cœur de la pierre pour donner vie au bas-relief ” (in The Agony and the Ecstasy, Doubleday, 1961 : 6, 144).

10 Extrait d'un discours intitulé “ The Future of Computation ”, prononcé en octobre 1989 à la First Foresight Conference on Nanotechnology, paru dans Nanotechnology: Research and Perspectives, Crandall, B. C. et James Lewis, éditeurs. MIT Press, 1992, p. 269. Voir également www.foresight.org/Conferences/MNT01/Nano1.html.

11 Dans un roman paru en 1963, Cat's Cradle, Kurt Vonnegut a imaginé un accident de type “  gray goo ” où une forme de glace nommée  “  ice-nine ”, qui se solidifie à une température beaucoup plus élevée, gèle les océans.

12 Stuart Kauffman, “  Self-replication : Even Peptides Do It ”, dans le n°382 de Nature, 8 août 1996, p. 496. Voir http://www.santafe.edu/sfi/People/kauffman/sak-peptides.html.

13 Condamnant sa propre invention, Oppenheimer, en larmes, citera la Bhagavad-Gîta en reprenant les termes de Vishnu : “  Now I am become death, the destroyer of worlds. ” (NDT)

14 Jon Else, The Day After Trinity : J. Robert Oppenheimer and The Atomic Bomb http://www.pyramiddirect.com.

15 Cette estimation figure dans The End of the World : The Science and Ethics of Human Extinction, ouvrage dans lequel John Leslie observe que cette probabilité croît en proportions significatives si l'on accepte le Doomsday Argument de Brandon Carter. Concrètement, et brièvement, “  nous devrions montrer quelque défiance face à la croyance voulant que nous soyons très exceptionnellement précoces, croyance selon laquelle nous ferions par exemple partie des premiers 0,001 pour cent d'êtres humains de toute l'Histoire. Cela laisserait à penser que les siècles restant à vivre à la race humaine sont comptés, sans parler d'une colonisation de la galaxie. Si, en soi, la thèse du Jugement dernier de Carter ne donne pas une estimation précise du risque, elle va dans le sens d'une révision des estimations qui ressortent de notre examen des divers dangers potentiels ” (Routledge, 1996, pp. 1, 3, 145).

16 Dite “ guerre des étoiles ”. (NDT)

17 Arthur C. Clarke, “  Presidents, Experts, and Asteroids ”, dans le numéro du 5 juin 1998 de Science. Reproduit sous le titre “  Science and Society ” dans Greetings, Carbon-Based Bipeds! Collected Essays, 1934-1998. St. Martin's Press, 1999, p. 526.

18 En outre, comme le suggère David Forrest dans un article intitulé “  Regulating Nanotechnology Developmenté ” http://www.foresight.org/NanoRev/Forrest1989.html, “  au cas où l'on retiendrait la stricte responsabilité comme alternative à une réglementation, aucun développeur, quel qu'il soit, ne serait en mesure d'intégrer le coût du risque (l'anéantissement de la biosphère) ; en conséquence, s'engager dans le développement des nanotechnologies est une activité qui, théoriquement, ne devrait jamais être entreprise ”. L'analyse de Forrest ne nous laisse, comme seule aile protectrice, la régulation gouvernementale - une idée au demeurant peu rassurante.

19 Nietzsche, Le Gai Savoir, livre cinquième, § 344, in Œuvres, Bouquins, Laffont, 1993, t. II., p. 207; traduit de l'allemand par Henri Albert, trad. révisée par Jean Lacoste. (NDT)

20 Les Tamagotchi. (NDT)

21 Traité sur l'expérimentation, l'utilisation et la destruction des armes bactériologiques . (NDT)

22 Convention sur la guerre chimique, portant sur l'interdiction de la fabrication, du stockage et de l'utilisation d'armes chimiques. (NDT)

23 Matthew Meselson, “  Le problème des armes biologiques ”, présentation au 1 818e Stated Meeting of the American Academy of Arts and Sciences, le 13 janvier 1999. http://minerva.amacad.org/archive/bulletin4.htm

24 Paul Doty, “  The Forgotten Menace: Nuclear Weapons Stockpiles Still Represent the Biggest Threat to Civilization ”, in Nature n° 402, 9 décembre 1999, p. 583.

25 Voir également la lettre adressée en 1997 par Hans Bethe au président Clinton. http://www.fas.org/bethecr.htm

26 Sa Sainteté le quatorzième dalaï-lama, Sagesse ancienne, monde moderne : Ethique pour le nouveau millénaire, Fayard, 1999.

27 Edith Ham