NEWSYOUNG
Now Reading:

James Hughes : portrait d’un citizen cyborg

James Hughes : portrait d’un citizen cyborg

James J. Hughes est un sociologue et bioéthicien américain. Vice-recteur délégué de l’Université de Massachusetts Boston, il est également directeur exécutif de l’Institute for Ethics and Emerging Technologies (IEET), institut qu’il a fondé en 2004 avec le philosophe suédois Nick Bostrom. Celui qui se définit comme un « techno-progressiste de gauche » a bien voulu répondre à nos questions sur Skype. Interview d’un citizen cyborg.


Comment avez-vous découvert le transhumanisme ?

Au début des années 1990, alors que j’enseignais la bioéthique à l’Université de Chicago, j’ai réalisé que mes opinions étaient bien plus « techno-optimistes » que celles de mes collègues bioéthiciens. Je suis alors parti à la recherche de personnes partageant mes idées futuristes et techno-optimistes, et c’est là que j’ai découvert ce mouvement émergent qu’était alors le transhumanisme. Cependant, beaucoup des transhumanistes de l’époque avaient des opinions politiques bien différentes des miennes — j’étais alors, et je le suis toujours, un homme de gauche —, leurs idées étaient plus radicales, voire capitalistes. C’est pour cette raison que je n’étais d’abord pas très proche du courant transhumaniste.

Mais par la suite, à la fin des années 1990, Nick Bostrom, David Pearce et d’autres transhumanistes européens ont fondé la World Transhumanist Association (WTA), ce qui a renouvelé mon intérêt pour le mouvement, dans la mesure où la WTA envisageait un véritable cadre politique inclusif, fondé sur un idéal social-démocrate. En 2001, nous avons exporté la WTA aux Etats-Unis et j’en suis devenu le directeur exécutif .

Tout cela a duré jusqu’en 2007, puis nous avons chacun pris des chemins différents, même si la majorité des membres du conseil d’administration de la WTA m’a suivi et a rejoint l’IEET. Je pense en effet que nous avions besoin d’adopter un point de vue plus philosophique. A la WTA, afin d’embrasser toute la diversité du transhumanisme, il nous fallait composer avec des marxistes, des anarchistes, des capitalistes, des radicaux, des religieux… il était très difficile d’aller de l’avant dans ces conditions ! (Rires) L’IEET se veut plus homogène politiquement, et je le conçois plus comme un think tank que comme une organisation politique.


Dans votre jeunesse, vous vous étiez converti au bouddhisme et aviez même été ordonné moine. Le transhumanisme est-il un courant de pensée spirituel selon vous ?

James Hughes au début des années 1980.

Je pense que le transhumanisme s’intéresse aux buts ultimes de l’Homme, et tout courant de pensée s’intéressant aux buts ultimes de l’Homme est d’une certaine manière teinté de spiritualité. Donc oui, je pense que le transhumanisme a une dimension spirituelle. Malheureusement, de nombreux transhumanistes oublient l’influence que peut avoir la religion sur l’imaginaire du transhumanisme, ce qui n’aide en rien, car ils répètent alors à leur tour les erreurs qu’a pu commettre la religion à travers l’Histoire. Je pense notamment au millénarisme (doctrine religieuse soutenant l’idée d’un retour du Messie sur terre afin de chasser l’Antéchrist, NDLR). On retrouve cette même attente de l’Apocalypse chez les singularitaristes (croyant en la singularité technologique, c’est-à-dire le point de l’évolution technologique humaine où l’intelligence artificielle dépassera l’intelligence humaine, NDLR), bien qu’ils nient toute influence religieuse : ils répètent cependant inconsciemment la tradition millénaire chrétienne de l’Apocalypse.

Mon attrait personnel pour le bouddhisme, pendant mon adolescence, tenait je pense au fait que j’étais à la recherche d’un système de valeurs et de pratiques spirituelles, non théiste, et fondé sur un certain empirisme, ce que le bouddhisme occidental tente de mettre en place. J’ai toujours pensé — et par certains côtés c’est objectivement le cas — qu’il existe une affinité entre bouddhisme laïc et transhumanisme. Le transhumanisme en lui-même n’apporte aucune réponse aux grandes questions sur le sens de la vie ou sur la vertu. Beaucoup de transhumanistes laïcs sont des utilitaristes, qui débattent notamment de conséquentialisme ; mais quand il s’agit de savoir comment mener sa vie, ils échouent à trouver des réponses satisfaisantes. Pour résumer je dirais que le bouddhisme laïc est, de mon point de vue, complémentaire à l’idéal transhumaniste.


Le techno-progressisme est une expression
de la philosophie des Lumières.


 Vous êtes le fondateur du transhumanisme dit « démocratique ». Pouvez-vous nous expliquer ce dont il s’agit ?

J’ai proposé pour la première fois le terme de « transhumanisme démocratique » il y a dix ans dans mon livre Citizen Cyborg, mais celui-ci a rapidement été supplanté par la notion de « techno-progressisme ».

Pour donner une définition de ce dernier terme, définition somme toute assez proche de celle que j’aurais pu donner il y a dix ans du transhumanisme démocratique, nous pouvons nous référer à la Déclaration Techno-Progressiste, adoptée à Paris il y a seize mois — il faut dire que l’Association Française de Transhumanisme est l’un des groupes transhumanistes les plus marqués à gauche et par conséquent techno-progressiste. Lors du meeting de novembre 2014 étaient notamment présents des représentants du Royaume-Uni, d’Allemagne, des Etats-Unis, et de bien d’autres pays, et nous avons élaboré cette Déclaration ensemble. Un des points principaux de ce texte est l’affirmation des idées transhumanistes et techno-progressistes comme une expression de la philosophie des Lumières.

Il est important de rappeler cela car le transhumanisme est souvent réduit à un simple mouvement de technophiles obnubilés par le progrès, ne réfléchissant pas aux implications morales de ces technologies. Par exemple le Parti Communiste Chinois pourrait utiliser les nanotechnologies ou l’ingénierie génétique dans un but totalitaire, on ne considérerait pas cela pour autant comme un progrès ! (Rires) Il est important d’établir un cadre politique autour des valeurs qui nous semblent relever du techno-progressisme.

Un autre point important du mouvement techno-progressiste est que nous sommes convaincus que la technologie en elle-même n’est pas libératrice, mais nécessite liberté individuelle et égalité sociale. Liberté, égalité, fraternité* doivent être intégrées au sein de l’imaginaire techno-utopiste et rationnel qu’incarne le transhumanisme.

Nous pensons qu’il existe certaines causes spécifiquement techno-progressistes dans le contexte actuel. L’une d’entre elles serait par exemple l’immanence du chômage technologique et la nécessité de mettre en place un revenu de base universel. Cependant, beaucoup de sociaux-démocrates et d’hommes de gauche en général ne sont pas encore prêts à envisager un futur sans travail, qu’ils considèrent comme une utopie — au sens péjoratif du terme —, pas plus qu’ils ne sont prêts à envisager la mise en place d’un revenu de base universel en lieu et place de l’Etat-providence. Nous pensons que le chômage technologique est inévitable, et que la mise en place d’un revenu de base est la solution la plus logique pour remédier à ce problème.

Un autre exemple serait la gestion des risques. Selon nous, les risques doivent être pris au sérieux et les nouvelles technologies encadrées à l’échelle internationale, et ce afin d’embrasser l’aspect positif et libérateur de la technologie. Par exemple, certaines mesures doivent être prises pour encadrer l’ingénierie génétique, mais d’autres non : nous avons besoin d’agences de régulation qui décident des pratiques acceptables et de celles qui ne le sont pas, sans chercher à interdire entièrement la pratique de l’ingénierie génétique. Cette approche de l’Etat comme organe de régulation est également, je pense, une des caractéristiques du techno-progressisme.

* en français dans l’interview


Toute entité subjective, quelle que soit sa forme,
doit être considérée comme une personne à part entière.


Nous n’avons pu nous empêcher de remarquer votre pseudonyme sur Skype, citizencyborg. Qu’entendez-vous par là ? Comment imaginez-vous ces citoyens mi-hommes mi-robots ?

Il faut être extrêmement prudent avec les prédictions. Qui aurait cru, il y a un an, que Donald Drumpf arriverait en tête aux primaires du parti républicain ? (Rires) De même, peu de personnes avaient prédit la chute du mur de Berlin. Le futur est très difficile à prévoir. Cependant, ce que j’entends par citizen cyborg est la vision de ce qu’une démocratie transhumaniste pourrait être et des valeurs qu’elle devrait adopter, dans le but de bâtir une société idéale.

L’argument principal de mon livre est qu’un certain nombre de valeurs du transhumanisme, héritées des Lumières, portent sur ce qu’un citoyen devrait être. Ces valeurs sont radicalement opposées aux valeurs antérieures aux Lumières : on en revient au débat entre racisme et spécisme d’une part, et d’autre part une citoyenneté fondée sur la personnalité propre de chaque individu, ce que je nomme la citoyenneté cyborg. Plus simplement, l’idée que je défends est celle selon laquelle toute entité subjective, quelle que soit sa forme — animale, humaine, posthumaine, robotique, extraterrestre, virtuelle — doit être considérée comme une personne à part entière, et donc disposer de droits et d’un statut moral et politique ; que vous possédiez ou non de l’ADN humain importe peu. A l’inverse, certains considèrent que toute chose possédant de l’ADN humain, un fœtus ou un embryon par exemple, constitue une personne morale, et à cette seule condition. C’est un débat très intéressant que nous avons avec les bioconservateurs. Nous transhumanistes pensons que dans le futur existera une démocratie où chaque entité subjective devra être respectée et jouir de certains droits inaliénables.

Se pose alors la question des inégalités de pouvoir existantes aujourd’hui et qui ne manqueront pas de se maintenir dans le futur. L’enjeu principal d’une démocratie transhumaniste est le suivant : que faire quand un groupe d’individus devient infiniment plus puissant que les autres ?


Affiche du film  La Machine à explorer le temps (1960)

H. G. Wells, qui dans son roman La Machine à explorer le temps imagine une espèce humaine divisée en deux sous-espèces distinctes, les Morlocks (descendants des classes ouvrières) et les Eloïs (descendants des classes oisives). Ne craignez-vous pas qu’une démocratie transhumaniste ne dérive vers un tel scénario, avec une division entre humains « archaïques » et humains « améliorés » ?

Nous le craignons, effectivement, et je pense que nous avons raison de le craindre. Mais un tel scénario ne serait que le reflet des inégalités déjà existantes : certaines populations dans le monde n’ont jamais vu de téléphone portable et n’ont pas accès à l’eau potable, tandis que d’autres passent leur temps à acheter des crèmes pour paraître vingt ans plus jeunes ou à envisager l’achat de leur prochain ordinateur portable.

Le monde dans lequel nous vivons est marqué par l’inégalité, et les individus peinent déjà à se reconnaître aux uns et aux autres le statut moral d’êtres humains. Améliorer notre monde actuel pour que tous les hommes soient respectés est une cause noble et indispensable. Cependant, nous devons déjà réfléchir à la prochaine étape, c’est-à-dire un monde où les droits de toutes les personnes sont respectés, et par « personnes » j’entends également les grands singes, les dauphins, et éventuellement la prochaine étape dans l’évolution humaine. Nous ne souhaitons évidemment pas une guerre civile entre humains améliorés et non améliorés.


Comprenez-vous la crainte que peut parfois inspirer le transhumanisme ?

Absolument. Vous savez, cette même crainte s’appliquait déjà à l’égalité raciale, et à l’intégration des personnes de couleur dans notre société. Je ne partage pas ces inquiétudes. Je pense que ce qu’il faut craindre ce sont surtout les inégalités déjà existantes : il peut arriver qu’un groupe s’approprie tout à coup plus de pouvoir qu’il ne le devrait, et commence alors à exploiter les autres, et c’est cela que nous devons éviter dans le futur. Si les gens ont peur que le transhumanisme mène à cela, alors leurs craintes sont légitimes, mais portent sur l’exploitation en elle-même et non sur le transhumanisme. De la même manière que dans nos sociétés certaines personnes souffrant de handicaps peuvent être exploités ou discriminés par celles n’en souffrant pas, dans le futur ce pourrait être la même chose : les humains 1.0 seraient « handicapés » par rapport aux humains 2.0, et c’est pour cela qu’il doit y avoir un respect mutuel.


Ray Kurzweil

Ray Kurzweil, le futurologue américain considéré comme le pape du transhumanisme, a émis son souhait de devenir immortel quand les technologies le permettront. L’immortalité est le but ultime de nombre de transhumanistes. En faites-vous partie ?

Ecoutez, il s’avère que je vais bientôt avoir 55 ans et que je ne pense pas être encore de ce monde quand de telles technologies seront développées. Cependant, je fais beaucoup de sport, comme vous pouvez le voir (il tourne sa webcam pour nous montrer son « bureau / tapis roulant ») : je marche environ 20 000 pas par jour, je mange sain, je prends des compléments alimentaires — bien moins que Ray je pense (à une certaine époque, Ray Kurzweil prenait plus de 250 comprimés par jour afin de sauvegarder son corps en vue de son immortalité, NDLR). J’aimerais bien vivre indéfiniment, mais vous savez, il y a beaucoup de cancers dans ma famille, et on ne peut lutter contre les gènes. J’espère simplement que mes deux enfants pourront plus tard profiter de ces technologies.


A propos de Ray Kurzweil : ce dernier a fondé en 2008 sa propre université, la Singularity University (voir notre article sur Google). Comptez-vous également sur l’éducation pour diffuser vos idées ?

Tout à fait. L’IEET est une organisation à but non lucratif et à visée éducative, nous cherchons par son intermédiaire à promouvoir le techno-progressisme. Cependant, quant à créer une véritable université, nous n’en avons pas les moyens financiers. De plus la Singularity University n’est pas particulièrement techno-progressiste, elle relève plutôt d’un transhumanisme libéral que nous essayons de combattre. D’aucuns diront même que son but premier est la recherche du profit à travers des opportunités commerciales, et que transhumanisme et singularitarisme n’en sont que le vernis.


Justement, quelle est votre opinion sur la singularité technologique ? Vous nous avez dit que vous n’aimiez pas faire de prédictions, mais quand pensez-vous que celle-ci pourrait avoir lieu (si elle a lieu) ? Comment imaginez-vous notre monde après la singularité ?

Je ne suis pas singularitariste, je ne crois pas en la singularité technologique telle que la prédit Kurzweil. Je suis convaincu que nous allons vivre une évolution technologique exponentielle, avec le développement des interfaces cerveau/machine et de l’intelligence artificielle. Cependant il existe de nombreuses limites, notamment sociologiques et psychologiques, à la pensée singularitariste. Ceux-là ont parfois, comme je vous l’ai dit, une pensée apocalyptique, fondée sur un imaginaire religieux : ils croient en une lutte finale entre le bien et le mal, en l’émergence d’un héros dont la mission serait de défaire un monstre surgi de nulle part grâce à son épée magique ! (Rires)

Certes, le monde devient de plus en plus étrange, c’est un fait, et l’évolution technologique sera de plus en plus rapide. Mais je pense par exemple que nous vivrons dans un monde d’intelligence artificielle multipolaire, je ne crois pas en l’émergence d’une unique intelligence artificielle qui dominerait le monde. Déjà aujourd’hui certaines entreprises, agences gouvernementales ou armées représentent une forme d’intelligence artificielle, de plus en plus évoluée grâce à la collecte de données. Il y a une sorte de progression naturelle, ce n’est pas comme si l’intelligence artificielle devait nécessairement prendre la forme d’une machine programmée pour penser comme un être humain, il s’agit d’une progression globale de l’intelligence artificielle dans le monde.

La croyance selon laquelle l’intelligence implique forcément un comportement égoïste est peu inspirée. L’origine de l’illusion du soi est un point fondamental, que la pensée bouddhiste, par exemple, examine en détails. Je pense que nous serons capables de construire des systèmes intelligents sans que l’illusion du soi ne soit tangible. La plupart des gens ne le souhaitent pas : personne n’a envie de se disputer avec son grille-pain car celui-ci ne veut pas lui griller ses tartines ! (Rires) Nous serions même prêts à payer pour un grille-pain qui justement ne discuterait PAS avec nous. Vous pensez que les militaires ont envie d’armes dotées d’une conscience propre ? Non ! (Rires) De la même manière, les compagnies de trading refusent d’utiliser des systèmes dotés de leur propre intelligence. Beaucoup d’argent et de temps devront être investis pour s’assurer que l’intelligence artificielle ne serve que nos intérêts et non pas les siens propres.


Le roman Revelation Space d’Alastair Reynolds nous présente une caste de posthumains améliorés par la technologie

Vous êtes un grand fan de science-fiction. Quels sont vos auteurs préférés ?

J’apprécie particulièrement les auteurs de science-fiction politique, tels Charles Stross, Cory Doctorow, Ken McLeod… J’aime quand les romanciers de science-fiction imaginent un futur transhumaniste d’un point de vue non seulement sophistiqué mais également positif : Alastair Reynolds est un des maîtres dans ce domaine. Tous les genres de science-fiction en général me plaisent, j’ai d’ailleurs eu l’occasion de donner des cours sur ce thème au début des années 1990, qui ont nourri mon intérêt pour le transhumanisme. Donc oui, c’est une de mes passions, bien que mes goûts soient très diversifiés.

Comment cela se fait-il que le transhumanisme soit un thème peu traité par la science-fiction aujourd’hui, surtout d’un point de vue positif ?

Charles Stross a un jour affirmé que la singularité technologique notamment était problématique en science-fiction. Ce qu’il pointe du doigt est la difficulté de raconter ce qui, par définition, est impossible à comprendre pour les pauvres humains que nous sommes. H. G. Wells disait que pour écrire de la science-fiction, il faut mettre en scène un personnage familier dans un endroit inconnu, ou un personnage inconnu dans un endroit familier. Avec la singularité, on place une personne inconnue dans un endroit inconnu ! (Rires) Certains auteurs tentent malgré tout d’imaginer cela, comme Greg Egan dans son roman Diaspora — un roman formidable —, qui décrit une intelligence artificielle s’éteignant et se rallumant sans cesse, éditant sa propre conscience, etc. Cependant, il est très difficile de s’identifier à un tel personnage émotionnellement, l’identification ne peut se faire que sur le plan intellectuel.

Il est donc presque impossible d’imaginer un futur radicalement différent, que vous soyez singularitariste ou non. Prenez Star Trek, par exemple. J’adore Star Trek, mais dans cet univers les hommes sont capables par la téléportation de désassembler leurs atomes et de les réassembler sur d’autres planètes… et ils se réalisent pas que cela leur permettrait de vivre éternellement ! Pour n’y ont-ils jamais pensé ? (Rires) La raison en est que dans un tel univers de science-fiction, dès que qu’un gentil se ferait tirer dessus par les méchants extraterrestres, il suffirait de le « rebooter » à partir de la sauvegarde de l’ordinateur ! Qui voudrait de ce futur ? (Rires) C’est pour cela je pense qu’il est difficile d’écrire sur le transhumanisme des romans que des gens liront, et les auteurs qui y parviennent sont peu nombreux.

« Hé Spock, tu sais quoi ? On est immortels ! » (Star Trek, 2009)


Au début de cette interview, vous nous parliez de votre vision techno-optimiste du futur. Selon vous, les utopies ont-elle un rôle à jouer dans le futur ?

Depuis la seconde guerre mondiale, nous avons assisté à un mouvement de rejet massif de l’utopisme en général. En Chine par exemple, on ne peut imaginer émettre des idées utopistes depuis la Révolution culturelle. Je peux comprendre d’où vient cette répulsion, cette allergie envers la pensée utopiste dans certaines sociétés. Cependant, je pense que l’idée même de l’Etat libéral EST une utopie : l’idée que nous puissions vivre ensemble, jouir d’une certaine liberté, être égaux les uns les autres. La société n’a pas toujours été envisagée comme telle, il s’agit d’un idéal utopique que nous avons construit.

Je suis convaincu que nous avons besoin d’un utopisme libéral, et que toutes les utopies ne mènent pas forcément au totalitarisme, contrairement à ce que défendent certains auteurs comme John Gray (professeur britannique d’économie à la London School of Economics, NDLR). Je pense sincèrement qu’une forme d’utopisme héritier des Lumières est un besoin vital : c’est cela qui aide les gens à sortir du lit le matin, c’est cela qui légitime leur sacrifice pour la cause que nous défendons. Dans la Bible, il est écrit : « Sans vision, le peuple périt ». Selon moi, sans utopie, le peuple périt.


Pour nos lecteurs anglophones, retrouvez l’intégralité de l’interview en vidéo ci-dessous :

Share This Articles
Written by

Etudiant en double cursus "Sciences et sciences sociales" à Sciences Po Paris et à l'Université Pierre et Marie Curie. Passionné de politique et de nouvelles technologies.

1 comment

  • Kristof

    Un article de grande qualité qui donne envie d’en savoir plus et les références proposées sont nombreuses pour y par venir. Bravo, c’est de l’excellent travail de journaliste…

Leave a Reply

Your email address will not be published. Required fields are marked *

Input your search keywords and press Enter.