Fin Août 2018 la liste des activités dans lesquelles l’être humain exerce sa supériorité a risqué de se réduire une fois de plus. C’est en effet à cette date, lors de la compétition annuelle dédiée au jeu DOTA 2, que l’intelligence artificielle OpenAI 5 s’est mesurée aux meilleures équipes mondiales, pour finir vaincue, au moins jusqu’à une prochaine tentative l’année prochaine.

DOTA 2 est un jeu vidéo en ligne aux stratégies complexes et qui possède une des communautés d’e-sport les plus développées. OpenAI s’était déjà illustré lors de l’édition 2017 de la compétition en battant les meilleurs joueurs mondiaux en 1 contre 1, mais s’était mesurée pour la première fois à des équipes de 5 joueurs humains.

Comme à chaque combat entre la machine sur l’humain, le résultat a été abondamment commenté, et a quitté rapidement son caractère purement technique et anecdotique pour revêtir une dimension anthropologique, métaphysique, voir quasi-mystique.

C’est que le sujet est sensible. Dans un contexte de compétition économique, dans l’industrie, entre l’homme et le robot, une défaite à DOTA 2, après celles connues aux échecs, après le jeu de Go, risquait de prendre rapidement des airs de repli d’une humanité privée par sa propre technologie de toute source de fierté ou de spécificité.

Cette peur du dépassement réactive des mythes anciens, du Golem et de Frankenstein. Elle manifeste un glissement de la perception de l’ingénieur qui rejoint, dans l’imaginaire collectif, les inquiétantes figures du mage, de l’alchimiste ou du sorcier. Il faut dire que de sympathique constructeur de machines complexes, l’ingénieur s’est progressivement transformé, au début du XXIème siècle, en un fossoyeur entêté du « propre de l’homme ». A travers les destins fulgurants de Steve Jobs, Mark Zuckerberg, Jeff Bezos ou d’Elon Musk, l’ingénieur-entrepreneur génial est perçu soit comme une nouvelle divinité, soit comme un mal absolu qui provoquera la fin de l’humanité.

Un mémorial pour Steve Jobs, en Octobre 2011

Cette relation ambiguë illustre bien l’importance prise par la technique au coeur de notre culture, et de la place toute particulière que tiennent ceux qui y sont initiés, cet immense clergé qui répond aujourd’hui aux titres évocateurs de data-scientists, chat-bot masters ou computational linguists.

Que ce soit au nom d’un monde meilleur, par maladresse, accident ou bien tombée entre les mains de puissances malfaisantes, la technologie promet un cataclysme d’un ordre nouveau comparé à la peur de l’anéantissement nucléaire qu’elle avait déjà inventée au milieu du XXème siècle: la portée de son pouvoir symbolique est aujourd’hui telle qu’elle semble transgresser tous les ordres anciens, et paraît menacer désormais la notion même d’humanité.

A en croire les défenseurs ou les détracteurs d’un tel projet, nous nous trouvons en effet à l’aube d’une rupture qui risque d’effacer l’être humain tel que nous l’avons toujours connu, pour le remplacer par d’inquiétants hybrides ou par des créatures virtuelles aux pouvoir époustouflants. De nouveaux modes d’existences si éloignés des nôtres que nous ne saurions plus y reconnaître ce qui nous est pourtant la certitude la plus intime, la plus naturelle puisqu’elle nous définit: ce que signifie être humain.

Cette perspective de nous voir dépassés, transformés par notre propre création au point d’y perdre notre identité individuelle et collective, témoigne d’une crise qui ouvre une brèche immense dans le concept fondamental qui cimente la culture occidentale moderne.

Voici que vacillent, libres pour un court moment, les limites où commence et où termine l’être humain.

«Dieu créa l’homme à son image, il le créa à l’image de Dieu, il créa l’homme et la femme» (Genèse, 1)

Avec le genre, l’identité et la conscience, la définition de l’humanité fait partie de ces tâches aveugles dans lesquelles la culture toute entière semble se refléter et s’engloutir dans une vertigineuse mise en abime. Trop importante pour ne pas être résolue, mais bien trop mystérieuse pour être accessible, elle marque un point de convergence au dynamisme extrême, autour duquel gravitent les édifices de notre vie spirituelle, scientifique, artistique ou sociale.

Être humain ne sera jamais un constat, mais toujours un projet dans lequel se révèlent les forces à l’oeuvre dans la culture d’une époque et d’une communauté. L’Humanité camouflera toujours derrière une transcendance l’impénétrable immanence de sa propre définition.

Dans ce jeu de reflets, si la technologie apparaît aujourd’hui capable de déborder l’humain, c’est une marque du pouvoir immense que lui confère la culture moderne. L’Homme a quitté l’inaccessible « image de Dieu » pour devenir le terrain d’exploration de la science objective. Aux médecins, ingénieurs, scientifiques, neurochirurgiens, biologistes la mission, donc, de dresser la nouvelle cartographie de l’humain.

Affiche de la série Westworld, HBO

Les champs de la technique

C’est donc naturellement vers quelques uns de ces représentants de ce que Michel Henry appelle « la science seule » (La Barbarie, 1987), que Monique Atlan et Roger Pol Droit se sont tournés. Dans Humain, une enquête philosophique sur ces révolutions qui changent nos vies (Flammarion, 2012), les deux auteurs tentent de donner une description des nouveaux territoires qui se déploient depuis quelques dizaines d’années dans nos cerveaux, notre corps, notre métaphysique et notre psychisme. On y rencontre ceux qui, dans leurs laboratoires, leurs livres, derrière leurs écrans, s’évertuent à vouloir effacer les anciennes limites, à repenser nos existences, ou carrément à engendrer le successeur de l’humanité, une forme hybride d’intelligence supérieure censée à même d’accomplir enfin le destin de coloniser l’Univers.

On y voit surtout se réactiver des débats éternels, entre matérialistes et partisans d’une forme de dualité selon laquelle l’homme est quelque chose « en plus » qu’un corps à régénérer ou un cerveau à simuler. Que ce soit par le langage, la morale, le psychisme, la relation aux autres, être humain semble toujours signifier vouloir s’échapper, ailleurs, hors de toute réduction. Cela devient même le cas, à l’extrême et de façon absurde, pour les matérialistes purs et durs ou les transhumanistes: si nous ne sommes que matière ou algorithmes, il semble en tout cas que nous ayons « en plus » pour mission de le démontrer, de nous dépasser nous-même.

La discussion est ancienne, et aucun des interlocuteurs interrogés par M. Atlan et R. Pol Droit n’y apporte évidemment une conclusion. Si beaucoup font référence à un horizon où le « problème » humain sera enfin résolu, celui-ci se situe toujours à distance, et risque fort de s’éloigner au fur et à mesure qu’on avance vers lui. Tout, alors, devient affaire de vitesse, et les avis semblent partagés sur l’accélération du progrès technologique: la résolution des machines utilisées par l’imagerie médicale s’améliore lentement, l’intelligence artificielle s’appuie majoritairement sur des avancées théoriques qui n’ont que très peu évolué depuis les années 1980, quant à l’informatique, si cette science a indéniablement pris un rôle majeur dans notre vie quotidienne, elle reste soumise aux constantes de temps humaines des chercheurs, des développeurs et des consensus internationaux qui l’animent en principe.

Quelles ruptures?

Si le progrès exponentiel vanté par Ray Kurzweil n’est qu’une utopie moderne, une propagande ou un simple effet de loupe temporelle, la rupture, attendue ou redoutée, de l’humain avec lui-même pourrait ne jamais avoir lieu.

Un changement majeur, cependant, s’est d’ores et déjà produit, silencieux, en arrière-plan. Il se distingue clairement dans la liste des professions exercées par les interlocuteurs de M. Atlan et R. Pol Droit. Si on y retrouve quelques philosophes, ils sont grandement minoritaires, symbole d’une réflexion qui s’est déplacée sur un autre terrain: celui de l’expérimentation.

Ce que ce glissement révèle, c’est qu’être humain aujourd’hui s’expérimente, se fait, pratiquement, avant de se penser théoriquement. La réponse à la question de notre humanité ne vient plus des idées mais du terrain: elle vient des médecins, des informaticiens, des anthropologues, des ingénieurs, des psychanalystes, de ceux qui pratiquent l’humanité et ses frontières avant de la penser.

Si l’on doit se réjouir de cette ouverture d’un champ d’exploration jusque là réservée à une minorité et des découvertes importantes qu’elle a permis dans le développement de l’humanité, il faut également souligner ses limites intrinsèques. Elle conserve notamment un caractère d’exclusion fort: si l’être humain est entre les mains des seuls techniciens experts qui le transforment, une bonne partie de la population humaine, incapable de parler leurs langages, est privée de parole dans un débat pourtant fondamental.

Cette solitude du technicien constitue une responsabilité proportionnelle aux pouvoirs immenses qu’elle lui confère par des effets d’échelles nouveaux. Si le travail d’invention et d’ingénierie a toujours impliqué l’acceptation d’un risque inhérent à l’expérimentation, comment anticiper, mesurer et accepter les risques liés à l’utilisation massive d’un réseau social par une population ou la contribution d’une activité sur le réchauffement climatique planétaire?

Lumières et obscurité

Ces changements de dimension, qui découlent de l’immensité du territoire que la culture moderne a livré à l’activité scientifique, couplés à l’absence de contre-pouvoirs crédibles ou possibles hors du domaine scientifique, constituent un danger fort: celui de l’aveuglement d’une science « hors-sol », qui oublierait les limites de ses propres axiomes de base (souvent simplificateurs du réel) et glisserait progressivement vers une catastrophe invisible car impossible à penser ou à nommer avant qu’il ne soit trop tard, qu’elle ne se soit déjà produite.

Cet aveuglement est d’autre part amplifié par le caractère expérimental de l’avancée des techniques qui, toutes, produisent des effets, visibles, palpables, à même d’impressionner à défaut d’être questionnés. Cette alliance caractéristique de la Modernité entre la technologie, le progrès et les développements du capitalisme est certes très efficace d’un point de vue économique, mais elle peut constituer, à grand renfort de marketing, une perception utopique verrouillant un peu plus toute contestation, ou toute remise en question des avancées du travail scientifique.

Le risque, alors, n’est pas pour l’être humain de se voir déborder par une rupture soudaine, brutale, issue des neurosciences, de la robotique ou de l’intelligence artificielle. La catastrophe semble plutôt avancer imperceptiblement, en silence, par un effet d’accumulation de biais à la fois si anodins et profondément ancrés dans l’esprit de celles et de ceux qui font progresser la technique quotidiennement qu’ils passent inaperçus.

Le milieu des gamers de DOTA 2 est, pour de nombreuses raisons, majoritairement masculin. En remportant sa victoire au jeu vidéo, OpenAI 5 contribuera sûrement assez peu à faire avancer l’humanité vers son dépassement. Elle ancrera cependant un peu plus solidement la conviction que l’intelligence, artificielle ou humaine, reste une affaire d’hommes, et de compétition.

Il appartient aux ingénieurs et aux scientifiques de comprendre leurs propres limites, et de rendre visible leurs propre tâches aveugles, cette ignorance que nous devons partager dans la plus large communauté, de ce que signifie être humain.