Organisé à l’initiative de la Commission Nationale Française pour l’UNESCO (CNFU) conjointement avec le Programme MOST (Management Of Social Transformation), cet échange de vues s’est tenu le 21 novembre en marge de la 40ème Conférence générale de l’UNESCO.

Une heure trente de discussion dense animée par M John Crowley responsable de la section « Études, Philosophie et Prospective ».

Outre la Sous-Directrice Générale en charge du département « Sciences Humaines et Sociales », Mme Nada Al-Nashif, ont pris part au débat des chercheurs, philosophes : M Jean-Yves Goffi (Professeur honoraire de l’Université de Grenoble), Mme Nathalie Nevejans (Maître de Conférence de l’Université Artois), Mme Volba Litvinets (Doctorante en Philosophie à la Sorbonne), Yasmina Benhaai (Master en Sciences cognitives Philosophie) ainsi qu’un représentant du monde des Assurances Mutuelles, M Eric Chenut (vice-Président de la MGEN).

La discussion a fait ressortir un certain nombre d’idées qui viennent opportunément nourrir les réflexions qu’il nous faut tous avoir aujourd’hui sur l’Essence et l’Avenir de l’Homme dans un Monde de plus en plus technique ou technicisé. Dans ce qui suit on donne en résumé les faits saillants d’une conversation inspirante.

Premières idées avancées par Mr John Crowley pour amorcer le débat :

Il faut véritablement s’interroger sur la portée de la mutation qu’opère la 4ème révolution industrielle : après celle de la vapeur, l’électricité, l’internet, celle de la convergence des technologies de la biologie jusqu’aux robots. Dans cette nouvelle ère, que devient la singularité de l’Homme dans son rapport à la machine ? Avec l’intrusion des nouvelles technologies que peut-on dire de notre Identité ? Sommes-nous réduits à la condition d’un simple élément avec l’Intelligence Artificielle qui viendrait de plus en plus empiéter sur, ou répliquer l’Intelligence Humaine dans tous les aspects de la vie ?

On franchit manifestement une nouvelle étape de notre évolution, rien de nouveau pourrait-on dire. L’Humanité n’a cessé d’évoluer au fil du temps mais, cette fois-ci, avec l’emprise fantastique de la Machine, et un développement qui semble faire prévaloir (s’insinuer) une culture techno-centrée, nos consciences sont interpellées. C’est une injonction qui nous est ainsi adressée : quelle réponse responsable donnons-nous face au défi de la Technique qui peut mettre en cause l’Homme en son essence ? S’il faut bien prendre la mesure des impacts que génèrent les découvertes des Sciences et les innovations technologiques, il est plus important encore de réfléchir aux causes de tous les phénomènes observés et au sens qu’on entend leurs donner : la source de la modernité qui nous caractérise n’est-elle que d’ordre technique et par là ne va-t-elle pas envahir tout l’univers de nos vies ? Regardons les faits qui peuvent nous dire quelque chose à ce sujet et posons-nous alors la question du risque d’un totalitarisme technique qui finirait par rendre l‘homme obsolescent.

Pour aider à répondre à des questions qui touchent à tout ce qui « fait humanité » (nos cultures, nos organisations, nos mœurs, nos civilisations) et qui peuvent bouleverser l’homme en son essence (homme augmenté, métamorphosé) dans des conditions qui peuvent accentuer les différences (inégalités d’accès aux techniques innovantes) ou créer des dépendances, M Eric Chenut, après avoir à son tour exprimé ses vues sur l’avenir de l’Humain, a évoqué le projet que la MGEN a engagé avec la Commission Nationale Française pour l’UNESCO sous la forme d’une consultation sur une grande échelle. L’ambition de cette enquête est de pouvoir éclairer les débats et faire des propositions, car, pour les promoteurs de l’opération, il n’est plus possible de rester indifférent au changement d’apparence radicale – on parle d’un tournant pour l’homme  – qui semble se dessiner.

Mme Nada Al-Nashif, a rappelé toute l’importance qu’attache l’UNESCO à la philosophie qui rend la société plus au fait d’elle-même. L’UNESCO s’y intéresse dans le cadre des activités du programme MOST, mais avec la perspective de devoir réfléchir à l’éthique de l’Intelligence Artificielle pour envisager l’élaboration d’une norme (décision que vient de prendre la Conférence générale), il faudra à l’évidence mobiliser les ressources de cette science humaine car le sujet à traiter amènera inévitablement à se poser la question de la singularité physique et intellectuelle de l’humain dans son rapport à la technique. S’agissant d’un thème d’une grande complexité, l’approche qu’il faudra adopter appellera à croiser les regards, elle devra être ouverte, multidisciplinaire et transgénérationnelle.

Les échanges qui ont suivi ces deux interventions liminaires ont permis de dégager plusieurs idées fortes :

L’Identité : la Reconnaissance de l’Humain essentiellement différent de la Machine

Pourquoi demande-t-on souvent avant de s’engager dans une application si le consultant est un Robot ? Ne devrait-on pas plutôt poser la question inverse ? Présumer qu’il est humain ?

Bonne manière de poser l’un des principaux problèmes auxquels on va devoir se confronter de plus en plus : quelle est la certitude d’avoir (de préserver) un trait distinctif de l’être humain par rapport à la machine (qu’ici on ramène au robot) ? Se pose ici la question de l’Identité, une identité que l’on pourrait ne plus reconnaître spécifiquement, et même qui pourrait être falsifiée si d’aventure on prenait le robot pour un être humain.

C’est là qu’il faut bien clarifier les choses pour se préserver d’un risque qui amènerait l’homme à s’abandonner progressivement à la machine au point qu’il renoncerait à ce qu’il est en tant qu’être humain, unique en son genre, ou dit autrement spécifique ontologiquement (N.D.L.R. on aurait pu ajouter « supérieur en son essence »).

De l’importance alors de l’Ethique, fondée sur une Pensée distinctive propre à l’humain, avec des règles, principes, limites à assigner à tout système artificiel, robotisé ou automatisé.

La Relation Homme-Machine : « garder la main »

La question à poser est celle de « l’échange avec l’Autre », apprendre de l’autre et apprendre à l’autre, avec la parole et en acte. Une bonne façon de montrer la spécificité de l’humain, et de comprendre ce qui rend humain est de s’intéresser à l’enfant, ce jeune qui, quoiqu’on en ait, a un besoin vital de repères, des repères qu’il doit pouvoir construire dans le temps – le temps long de l’apprentissage ou plutôt de l’éducation – au travers d’échanges avec l’autre et les autres, pour développer sa nature humaine. Dans le contexte actuel, avec l’omniprésence de la tentation du recours à « la machine », il est très important de bien préciser les choses : positionner les systèmes (automatisés, interactifs etc) à leur juste place et savoir mettre l’Éducation (notion à prendre dans son sens le plus large) en capacité d’enseigner à être humain, ce qui impose de bien cantonner ou cibler ce qu’on délègue à la machine.

Il faut être capable de maîtriser la relation « homme-machine », ce qui vaut pour l’éducation s’applique à tous les processus techniques qui impactent les personnes, comme par exemple les applications ou dispositifs divers qui visent à améliorer les performances, alléger les tâches.

La définition de l’Humain : le risque de l’indistinction « homme-animal-machine »

Dans un monde où tout semble remis en cause, embrouillé ou exposé à des risques de radicalisation, il faut bien préciser la définition de l’Humain pour être au clair. On en revient au thème de l’identité avec la nécessité de bien qualifier ce qui nous différencie foncièrement de l’animal – lorsque certains tendent à parler du vivant sans distinguer les espèces – et de la machine. Poser certaines questions qui peuvent sembler absurdes permet d’entrevoir ce qui fait le « côté » unique de l’humain dans les réponses qu’on tendrait à leur donner : Peut-on penser être créé par la technique ? La technique va-t-elle nous absorber intégralement et forger nos identités ? Que se passerait-il si tout devait basculer dans un monde technicisé ?

On sent là comme une évidence l’impossibilité d’un tel univers, mais on doit constater une sorte d’inévitabilité des progrès techniques et scientifiques, aussi bien devient-il impératif que soient fixées des limites selon des critères communs d’une valeur universelle et aussi en tenant compte de la diversité qui caractérise notre humanité.

L’universalité d’une vision de l’Homme : l’Homme être de projet, être responsable

Il y a une complexité de l’Humain dans sa manière d’être comme Personne ou comme membre d’un groupe (corps social, cité, communauté etc.) mais, au-delà de la diversité qui en découle, on relève une valeur (caractéristique) universelle distinctive de l’Homme : une faculté toute particulière qui lui donne sa dignité (N.D.L.R « grandeur »), une dignité inaltérable/inaliénable, avec une conscience de soi et une capacité à intégrer en soi une loi morale.

Deux visions de l’Homme dans son rapport au monde peuvent être avancées dans cet esprit :

  • Celle qui se rattache à l’Humanisme, notamment celle de la Renaissance, avec l’idée d’un Homme créé placé au centre de l’Univers pour forger son essence et progresser notamment par la Science et les Techniques ;
  • La vision transhumaniste, où l’Homme est un élément dans le monde avec une essence qui ne lui est pas donnée mais qui tient à la technique qui génère des progrès et étend son emprise.

On discerne à ce stade de la réflexion deux piliers essentiels pour caractériser l’humain : la centralité (l’Homme dans son rapport au monde) et la construction de soi, avec deux autres notions tout à fait déterminantes : la liberté et la responsabilité.

Sous cet angle de vue, le transhumanisme montre ses limites dans la figure de l’humain dans la mesure il tend à ramener l’Être humain à un processus sans fin où l’on ne cesse de se construire sans poser assez la question des conséquences de ses actions et de la société où nous voulons vivre. Or l’homme a besoin de se reconnaître (se préserver ?) pour se projeter dans le monde avec l’image qu’il a en lui.

Mais plus que l’impact des actions de l’homme, ce sont leurs causes qu’il faut analyser pour y trouver ce qui lui donne une singularité puissante totalement différente de ce qui caractérise l’animal ou tout système automatisé visant une réplique de l’homme (les robots humanoïdes), et là, conjointement avec la notion de responsabilité, on peut ouvrir une nouvelle piste pour distinguer l’originalité de l’humain, à savoir : l’intention, ce qui explique nos comportements, ce qui nous donne une raison d’être.

L’intention sous-jacente à ses actions et une conscience responsable (individuelle mais aussi collective) font la différence.

Quelques autres observations

Si l’Homme parait bien pouvoir préserver sa qualité d’être humain face à la Machine, il n’en reste pas moins certains courants de pensée qui veulent en quelque sorte consolider l’assise du non humain en voulant donner par exemple un statut de personne aux Robot. Une réflexion a été menée à ce sujet au niveau européen, et la communauté scientifique s’est élevée contre un tel projet.

Il y a certainement à rester vigilant au sujet des innovations qui peuvent aller très loin et rendre possible l’impensable ou enfoncer tous les interdits de la société. On peut voir émerger des systèmes qui, de plus en plus, seront susceptibles de s’approprier ou de comprendre nos gestes, nos expressions ou nos physionomies, mais à quelles fins ? Avec quels risques ? Ces questions doivent toujours être posées.

Imaginer que la machine puisse comprendre nos intériorités parait impossible, tout comme la capacité à conceptualiser ou à intégrer l’inattendu, ou encore à donner du sens à ce qu’elle fait (N.D.L.R. « le robot pensant ?! ») : cela préserve l’humain mais rien n’assure qu’il en soit toujours ainsi. Il faut assurément rester attentif à tout ce qui se fait et se préparer à faire face à des sauts technologiques problématiques dans toutes les disciplines et composantes de nos sociétés. De l’importance à propos des sciences et technologies de toujours se poser les questions éthiques et de s’interroger sur les finalités.

Les questions posées par l’auditoire ont porté sur l’Âme, la Conscience et la signification d’évolutions qui parfois s’opèrent insidieusement.

A aussi été abordée la question du Beau (on parvient maintenant à « faire » du Rembrandt par ordinateur interposé fait-on observer… mais de quelle esthétique parle-ton ? N.D.L.R.), de l’imaginaire, du sens avec ici insistance à donner sur deux points : tenir compte des contextes, culturels notamment, et de l’importance des mots que l’on utilise pour éviter des confusions tenant à de mauvaise compréhension des vocabulaires.