LIBRE PROPOS

---

INSPIRÉ DE LA JOURNÉE D’ÉTUDE ORGANISÉE
PAR LE CCIC ET L’ACADÉMIE CATHOLIQUE DE FRANCE

---

« PUISSANCES TECHNOLOGIQUES ET ÉTHIQUE
DE LA FINITUDE HUMAINE »

---

Comment concilier grandeur de l’Homme et homme augmenté

---

Six heures d’échanges, regards croisés, neuf coups de projecteurs donnés sur un thème essentiel par un panel de personnalités aux profils différents : des universitaires, un chirurgien, des philosophes et des théologiens, un financier, un expert informaticien devenu romancier, un écrivain penseur de l’esthétique, un expert des réseaux de neurones… une riche et belle diversité d’angles de vue , mais aussi – sans doute est-ce là le principal enseignement de cette journée bien remplie – émergence de quelques idées que l’on retrouve dans toutes les contributions et qui aident à se forger comme un message pour garder un espoir pour notre monde, ce monde qui, plus que jamais, est affecté par les technologie avec des impacts qu’il faut savoir mesurer et penser en connaissance de cause, raisonnablement, lucidement, pour préserver notre confiance en l’avenir, l’avenir de l’humanité.

---

Premier constat : La question de la technique par rapport à la société n’est pas nouvelle, c’est un thème qui a toujours « fait débat », mais de nos jours et pour les temps à venir, elle se pose en des termes radicalement nouveaux : il y a un « inédit » des technologies qui bouleverse les repères traditionnels, changement d’échelles, accélération des progrès à grande vitesse, abolition des frontières, extension des espaces explorés, explosion des capacités de traitement des données, émergence du phénomène NBIC (nanotechnologie, biologie, informatique, sciences cognitives) avec, un peu comme le grand fédérateur, le numérique : ces différents domaines interagissent entre eux pour produire des effets spectaculaires, qui finissent par toucher l’humain au plus profond de son être.

---

Il y a dans ces avancées de la science et des techniques de réels progrès à saluer mais avec toutes les innovations, notamment celles qui découlent du séquencement du génome et des travaux sur les cellules vivantes. On voit qu’il faut absolument aller au-delà de la seule description de ces découvertes majeures, pour s’interroger sur les effets que l’on poursuit : « meilleurisme », culte de la performance… Est-ce la tendance dominante ? Quelle conséquence ? Il y a là des questions d’ordre éthique qui doivent être posées, nous dit M^me Parizeau, présidente de la COMEST de l’UNESCO.

L’irruption de l’Intelligence Artificielle dans nos vies risque d’être massive : dans nos vies privées, dans les entreprises, mais aussi dans l’activité des administrations et des États.

Sans nier tout ce que peuvent apporter ces nouvelles techniques, il faut rester vigilant quant aux exploitations abusives qui peuvent être tirées de ces systèmes qui pourraient amener une sorte d’obsolescence de l’homme.

---

Sur ce même thème, mais avec le regard de l’expert ingénieur en neuroscience, M. Alexandre a évoqué, au-delà de l’intelligence artificielle mais en lien étroit avec elle, la question des robots, et plus particulièrement des robots humanoïdes (cyborg…) pour appeler à ne pas fantasmer tout en faisant preuve de discernement. In fine, l’important est de conserver la main, de bien définir les valeurs et règles qu’on s’assigne et qu’on intègre dans ce qui reste de l’ordre de la machine. Si, incontestablement, de grands progrès sont enregistrés avec des « appareils » qui font plus que répondre à de simples sollicitations (cf les machines apprenantes, les rétroactions, la précision des mouvements, etc.), on ne doit pas surestimer les performances. Il y a des fragilités ou limites qui pèsent sur le fonctionnement de ces « créatures artificielles » (bruits, parasites, dépendances énergétiques, faible capacité à l’induction, à l’interprétation dans des contextes changeants).

Pour relativiser les discours excessivement positifs autour de l’intelligence artificielle et des robots/systèmes automatisés, M. Alexandre rappelle que, quand bien même ces innovations produisent de réelles prouesses, elles ne font que saisir de la donnée, reproduire ou répliquer des schémas programmés, même s’ils comportent des fonctions d’ajustement et ignorent complètement ce qui fait toute la singularité de l’humain : l’émotion, l’imagination, la spiritualité, l’intériorité… Il reste néanmoins à aborder le domaine de l’intelligence artificielle embarquée sur des machines avec précaution, notamment dans la médecine. L’important est de préserver l’extraordinaire richesse d’une humanité faite de diversité où chaque personne a sa richesse, son identité qui, à la différence de ce qui gouverne les robots, ne se réduit pas à un code.

---

Le Père T. Magnin, à la fois comme scientifique et comme théologien, nous invite à réfléchir au monde vivant qui est d’une infinie complexité, une complexité que nous révèlent de plus en plus les nouvelles technologies. La science semble avoir fait un immense bond en avant avec les découvertes autour de l’ADN ou des cellules vivantes, et, de fait, on parvient à réaliser des progrès salvateurs (ex : reconstitution de tissus détruits), mais on est loin de pouvoir apprécier ce que recouvre le vivant, dans toutes ses vulnérabilités et sa robustesse. On ne peut s’en tenir au seul « état de l’art » aujourd’hui si on le réduit à des données de laboratoires sur des codes : il y a dans ce qui constitue le vivant une plasticité en lien avec la psychologie ou avec l’environnement externe qui exerce son influence et dont les technologies ne captent pas tout l’impact. Même si on ne peut pas forcément en apprécier tous les effets, ces éléments sont à prendre en compte dans le domaine de la recherche ou des traitements médicaux, pour éviter les erreurs, les simplifications abusives ou l’utilisation de thérapeutiques coûteuses et inadaptées. Dans ces conditions, il importe pour les chercheurs ou les praticiens de ne pas se laisser aller à recourir à des « outils » qui seraient incomplets ou excessivement simplificateurs. Face à ces difficultés, il importe que soit entretenu le débat pour partager les connaissances et aussi, surtout, permettre que les actions soient conduites de façon responsable et éthique en ayant tout particulièrement le souci des plus démunis.

Puissance des technologies qui peuvent déboucher sur la création de cellule vivante ou opérer des tris sélectifs à haute intensité : attention aux effets collatéraux, dangers de choc génétiques que pourrait provoquer la bio-ingénierie, des observations que doit justifier un principe de précaution.

On risque de se prendre pour des « designers de l’humain », mais où donc veut on aller ? Il y a de vrais risques, on doit absolument s’interroger sur l’utilité, le bien fondé de certaines innovations qui pourraient laisser penser qu’on s’achemine vers la réalisation d’un homme nouveau, un être modèle qui approcherait la perfection : mais jusqu’où pourra-t-on rester nous même ? Cette interrogation de Jürgen HABERMAS peut être complétée par une autre question d’ordre éminemment éthique : « tous les possibles sont ils souhaitables ? »

Face à la machine qui étend son emprise jusqu’à la faire prendre pour notre substitut ou pour accréditer l’idée qu’elle serait en tous points supérieure à l’homme, il nous faut ne pas oublier ce qui fait notre singularité d’être humain, avec nos exceptionnelles propriétés ontologiques, mystérieuses ou merveilleuses combinaisons où s’entremêlent le corps, l’esprit et l’âme. Tout l’homme alors ne saurait se ramener à des fonctions que la technique pourrait totalement ou partiellement prendre en charge  ; notre nature d’être vivant restera bien toujours exposée à ces vulnérabilités que la science ne peut pas totalement corriger… Et puis, il peut y avoir en chaque homme des éléments de robustesse qui se révèlent de façon inattendue, produits de cette alchimie du corps, de l’esprit et de l’âme que rien ne saurait parfaitement remplacer. Attention donc au réductionnisme techniciste nous suggère le Père T. Magnin.

---

Le Professeur Desgrandchamps nous suggère les mêmes observations à partir de son expérience de médecin. Il propose d’engager sa réflexion sur l’irruption des nouvelles technologies dans le domaine de la santé en se référant aux quatre principes éthiques que s’est donné l’Ordre des médecins en janvier 2018 : la bienfaisance, l’autonomie, la dignité, l’égalité d’accès. Très opportunément, il nous rappelle ce que disait PASTEUR du médecin appelé à « guérir parfois, soulager souvent, et écouter toujours ».

De l’analyse des images jusqu’aux robots chirurgicaux, sociaux ou conversationnels, on perçoit le développement impressionnant d’outils dont les performances sont supérieures à celles de l’homme (précision de la vision, geste et capacité d’analyse, prévision et prévention, etc). Il y a aussi tous les travaux sur les cellules qui peuvent aider à « réparer », mais aussi à « manipuler le vivant ».

S’il y a d’incontestables progrès, on doit voir aussi les risques et les dangers : fin des médecins ? Manipulation génétique menant insensiblement à l’eugénisme ? Fin du secret médical ? Mise à disposition de plateformes d’assistance insuffisamment certifiées ?

Quel avenir pour les médecins et chercheurs si les algorithmes et autres systèmes d’intelligence artificielle devaient par trop étendre leur emprise ? Ces questions se posent. Elles ne doivent pas amener au pessimisme : ici comme ailleurs, l’Humain doit continuer de prévaloir, qu’il s’agisse des chercheurs qui doivent continuer d’échanger, et des médecin, ces médecins qui sont essentiels dans tout traitement thérapeutiques : s’il y a à tirer le meilleur parti de ce qu’apportent les technologies – qu’il faut savoir utiliser avec discernement – le plus important n’est pas ce que donnent les robots ou les modèles de données mais l’échange entre le médecin et son patient, par la parole mais plus encore l’empathie, l’écoute, le regard, un partage que ne saurait assurer la machine.

---

Le Père Capelle-Dumont nous a invité à explorer tout ce que la technique peut induire dans le fonctionnement de nos sociétés à tous niveaux, dans tous les domaines. A l’appui de son propos, il a cité de grandes figures de la Pensée qui ont été comme des lanceurs d’alerte tant il est vrai que singulièrement à notre époque les technologies ne sont pas neutres. Heidegger appelait à rester vigilant face à la puissance des technologies. Ricœur notait que notre civilisation était la première à tenir la technique comme essentielle avec un effet d’emprise probablement excessif. J Ellul a pointé l’émergence quasi-obsessionnelle du principe d’efficacité avec comme conséquence la montée de la standardisation, les effets de conditionnement.

Il ne faut pas se nourrir d’illusion. Si les techniques apportent beaucoup, ouvrent de nouveaux horizons, permettent des réalisations que l’on croyait hors d’atteinte, il faut se méfier de la dictature de l’exigence technologique. On doit penser la technique en vérité (Foucault) en ayant le souci et la connaissance de soi et de l’autre, et plus généralement de l’environnement dans lequel se développent les techniques. En considérant les possibles méfaits de la Technique (risque nucléaire, effet de serre, risque OGM, risque de manipulations génétiques, clonage, ciseau ADN, manipulation de l’information, etc.), il ne faut pas céder à des réflexes apeurés. On doit simplement compter sur une « heuristique de la peur » et pouvoir ainsi mieux gérer les risques incontestables que génèrent les nouvelles technologies en ayant une réflexion raisonnable sur tous ces sujets. Hans Jonas a ici été le premier à introduire le principe de précaution dans ses réflexions sur la civilisation technologique.

Au total, tout renvoie au sens des responsabilités dans la conduite de nos vies, au respect d’une éthique de la décision lorsqu’il s’agit d’innovations ou d’utilisation des technologies. Il faut savoir mesurer les impacts sur le moment et pour l’avenir, l’avenir immédiat ou plus lointain, celui des générations futures avec une part d’incertitude qu’il faut prendre en compte.

Deux pistes nous sont offertes pour répondre aux très grands défis de la Technique aujourd’hui et faire face aux menaces qui pèsent sur l’Homme : préserver un horizon de Transcendance, miser sur une saine Alliance de l’homme et de la technique.

Il est souhaitable de ne pas réduire son horizon à celui du monde technique (fonctionnel, utilitaire, opérationnel) car une idolâtrie de la technique enferme. De l’importance pour l’homme de pouvoir toujours voir plus haut, plus loin, au-delà… En son for intérieur ou en communion avec l’autre, c’est cela qui ouvre des horizons de transcendance.

La Technique n’est pas à voir négativement, il faut simplement l’arrimer convenablement à ce qu’est l’homme, ce qui est son essence : l’Alliance de l’homme et son histoire, l’homme qui va à la rencontre de l’autre, l’homme qui vit corps et âme, qui vise la paix, l’harmonie, l’amitié, l’amour.

---

Avec M. de Lauzun on est entré dans le Monde de la Finance pour relever d’abord l’importance des sommes mises en jeu pour financer la Recherche et le Développement. Investissement privé et Fonds publics ont rendu possible la réalisation de grands projets scientifiques et techniques depuis les années 50. Ces mises de fonds indispensables pour l’amorçage de ces opérations tendent à s’amplifier depuis les années 2000, les montants en sont colossaux, elles sont à la hauteur des enjeux et des espoirs mis dans ces entreprises supposément porteuses de progrès… et de profits à venir. La réussite des GAFAM avec l’envolée de leur valeur actionnariale fait rêver et suscite des prises de risques :s’il y a des perdants, l’expérience de ces quelques « mega-entreprises » dominantes et très profitables fait rêver.

Les apporteurs de capitaux ont besoin d’entrevoir les perspectives des projets, avec évidemment à la clef l’attente d’un retour sur investissement. Ils seront sensibles aux récits que les porteurs de projets innovants vont leur soumettre, mais avec quelle sensibilité ? Dans une sorte de course folle aux innovations, il y a peut-être des initiatives excessivement aventureuses, peut-être prometteuses en terme de profit mais peut-être aussi dangereuses pour l’humanité. on n’en est plus au temps des balbutiement de l’internet, simple système de messagerie : on parle d’homme augmenté, on imagine des artefacts, des prothèses qui peuvent modifier la nature de l’humain, on conçoit des systèmes qui vous commandent au mieux des intérêts de leurs promoteurs. Alors là doit se poser la question de la responsabilité de ceux qui concourent à la promotion de ces inventions. Ces dernières sont elles géniales ou portent elles atteinte à terme à l’essence de l’homme dans ce qu’elle a de plus sacré comme le respect de la vie? Dans les grandes mutations que génèrent la science et la technique, le Financier comme partenaire-apporteur de capitaux doit mesurer la conséquence de ses décisions, au-delà du seul critère financier : cette exigence à pour nom « Responsabilité sociétale de l’entreprise » : il faut se méfier des projets mal finalisés, on doit miser sur une intelligence de l’humain qui va bien au-delà de la pure rationalité.

---

M. Augustin Dibi nous a livré le point de vue d’un philosophe venu d’Afrique, un continent qui n’échappe pas aux mutations majeures que génère la propagation des nouvelles technologies, avec tout particulièrement la montée du numérique. Comme préalable à son propos, il nous rappelle que nous faisons tous partie d’une même Humanité avec des valeurs universelles qui sont maintenant « en risque ». On a besoin de liens et de lieux où les uns et les autres peuvent se rencontrer, des liens par la parole, des lieux que l’on habite, or le déploiement des techniques bouleverse les structures et pratiques traditionnelles, l’habitat d’antan est compromis, les liens de proximité disparaissent. Paradoxalement, alors même que se développent les réseaux sociaux, on voit se développer un sentiment d’isolement (dans les grandes métropoles où l’on converge massivement). Destruction des espaces de sociabilité, mais aussi cassure du Temps : on court, les délais sont de plus en plus courts, les cycles rapprochés, le temps réel l’emporte sur le temps long. Le réel devient abstraction et injonction sous l’empire des systèmes gouvernés par des règles, des normes qui dictent votre conduite dans un monde de plus en plus marchand.

Dispersion de l’attention, délitement des liens sociaux, froideur des environnements urbains, emprise des média qui irriguent en informations spectaculaires et souvent violentes venant du monde entier… et font oublier le réel à notre porte, un réel ordinaire et parfois malheureux.

On ne fait plus que caresser le réel, on s’abandonne à la facilité de la consommation, on s’agite et ne fait plus que croiser l’autre à distance.

Plus grave encore, on ne supporte plus sa nature, celle d’être vivant et mortel, on se met à vouloir maîtriser la mort, absurde idée… comme si on pouvait guérir de la mort !

Il est urgent de retrouver certaines vertus qui donnent du sens à la vie, de redonner de la valeur au temps retrouvé, savoir se rencontrer vraiment, prendre de la hauteur, ouvrir des horizons d’espérance, de transcendance.

Pour un continent jeune comme l’Afrique c’est par l’École qu’on peut atteindre ces objectifs, avec éventuellement l’aide de la technique dont il faut faire un meilleur usage qu’actuellement.

Les Technologies modernes sont effet une clef de développement, mais elles comportent de sérieux inconvénients dont l’Afrique n’est pas exonérée, loin s’en faut. Toutes immatérielles qu’elles puissent être, elles restent encore bien souvent utilisées au service des composantes matérielles de notre société, avec parfois des utilisations abusives ou frauduleuses. Il y a toute une délinquance numérique, particulièrement chez les jeunes qui profitent des bouleversements technologiques pour accumuler des gains à bon compte par le racket, les abus de confiance.

Toute une Éducation reste encore à prodiguer pour rompre avec l’idée que « l’Être est l’avoir » … et seulement cela. Dans des sociétés encore trop souvent centrées sur un individualisme égoïste et narcissique parfois magnifié par certaines technologies, il est certainement aussi souhaitable d’enseigner cette idée simple : « je dois être dessaisi de moi-même et capable de me retirer » (ECKART).

Les deux dernières interventions nous ont emmenés sur des champs qui pourraient sembler étrangers aux terrains quelque peu arides des technologies : les domaines esthétiques, poétiques et artistiques… Deux précieuses contributions pour conclure cette journée avec des éclairages bienvenus, nous montrant comment situer ces domaines dans nos sociétés qui paraissent devenir de plus en plus techniciennes ou techniques.

---

M^me Christiane Rancé nous a parlé de l’avenir du beau en introduisant son propos par le listage de quelques réalisations de l’art contemporain développées avec le recours à « la » technique moderne, le numérique essentiellement, sculpture commandée par la 3D, peinture réplique de REMBRANDT, issue d’un traitement informatique des œuvres originales, oreille bionique, lapin fluorescent… Bioart, Body art : on parait entrer dans un monde nouveau, par le truchement de nouveaux outils, nouvelle esthétique, provocation, transgression par rapport aux canons de l’art classique ? Est-ce encore de l’art ? Ces formes idéales, lisses, issues de traitements « machine » sont elles de nature artistique ?

A défaut de répondre précisément à ces questions, on doit reconnaître que toutes ces productions dites artistiques sont des créations, et de ce point de vue, elles peuvent relever de l’art, mais sont- elles originales ou bien seulement des répliques façonnées par un instrument programmé ? Nous parlent elles ?Qu’évoquent ces œuvres pour le spectateur ? Y trouve-t-on un souffle, un élan pour l’âme ? C’est à partir des réponses à ces dernières questions qu’on peut trouver matière à fonder nos convictions ou nos préférences sur ce qu’est l’art, ce qui en relève ou non. L’exercice est difficile, singulièrement pour ces œuvres contemporaines qui marquent de sérieuses ruptures par rapport aux canons traditionnels ou classiques de l’esthétique. L’important sans doute est d’éviter les effets d’éviction.

L’art c’est aussi l’Écriture. Il importe d’ailleurs de continuer d’écrire sur l’art pour en perpétuer l’existence, mais la Littérature, l’art littéraire, c’est plus largement une expression traduite sous diverses formes qui aide à donner du sens, de la vie à l’autre , au lecteur. Il est important que subsiste largement un goût pour les livres, non pour se « doper » ou simplement se distraire, mais pour aider à nous soulager des tensions de notre temps. Il faut tout particulièrement faire mention de la Poésie qui a un immense pouvoir esthétique d’évocation par les mots, et qui, malheureusement est en danger.

---

Dernier orateur, M. de Guenyveau, nous a livré ses réflexions et parlé de son premier livre , « le Dissident » avec comme une force de persuasion que lui a donné une expérience professionnelle en plein dans le monde du numérique (notamment passage chez ALIBABA) et la rencontre d’auteurs actuels qui réfléchissent sur les grands phénomènes de notre temps à l’aune des grandes transformations en cours.

Dans ce monde où tout le monde parle d’une révolution en marche avec certains (guru) qui en rajoutent sur l’arrivée prochaine de l’incroyable et la survenance de l’Extrême, M. de Guenyveau nous indique au préalable ce qui l’a interpellé au point de prendre du recul par rapport à son engagement professionnel et de vouloir écrire son roman « Un dissident » à savoir trois innovations – pour ne pas dire avancées – majeures en ce qu’elles touchent l’humain au plus profond de lui-même :

• les manipulations génétiques ;

• l’interface entre le cerveau et l’internet ;

• l’activation de liens neuronaux permettant d’interfacer le cerveau et la machine pour doper la pensée et in fine l’intégrer dans des processus d’intelligence artificielle.

Ces trois déclencheurs ont d’autant plus amené notre orateur à s’engager dans la réflexion qu’ils survenaient dans un environnement en train de puissamment changer avec deux phénomènes majeurs, (inquiétants ?) et liés entre eux, résultant d’une véritable course à l’innovation : combinaison de la science et de l’économie (avec une idéologie à la fois financière et progressiste) et apparition de très grandes entreprises dominantes pour ne pas dire hégémoniques : les GAFAM, NATU (les États-Unis), et BATX (la Chine).

Dans ce monde-là, tout devient modélisable. C’est le règne des « data », l’avènement des algorithmes et de l’Intelligence Artificielle qui vont insidieusement guider les conduites, enfermer dans un avenir contraint… une assignation à résidence avec comme dernier avatar les découvertes du transhumanisme qui feraient croire que tout est possible parce qu’on détiendrait les codes.

Va-t-on vers un monde sans limites ? Sommes nous condamnés à la modélisation en toutes choses ? Il y a toujours eu débat sur les rapports entre la Sciences et ses limites, mais de nos jours ce débat change de dimension : le zéro et l’infini seraient saisissables ou abolis. On est pris de vertige à imaginer une telle issue, c’est en tout cas autour de l’ensemble de ces problématiques que l’idée du roman « le dissident » a émergé.

C’est l’histoire d’une rencontre entre un « Prodige scientifique » plongé dans l’univers virtuel du numérique et un « simple ébéniste » qui travaille la matière avec ses mains. C’est aussi, pour ce geek qui était absorbé par « la technique », la découverte de la lecture, celle du roman de STEINBECK « les raisins de la colère » qui parle de la grande crise, avec les souffrances endurées. Une autre rencontre, celle d’un clochard. Ces expériences font émerger tout un spectre de qualités ou de propriétés qui devraient rester parties intégrantes de la vie mais que le monde excessivement technicisé nous fait perdre de vue : beauté du geste de l’artisan qui s’approprie les imperfections de la matière, émerveillement produit par la nature avec ses vibrations, travail de précision, la patience, la conscience du temps qui passe, de nos limites.

En conclusion, six idées paraissent avoir émergé de ce débat :

• on doit accueillir les progrès technologiques avec un a priori positif ;

• mais on ne saurait s’abandonner à une sorte d’idolâtrie des technologies car il y a d’énormes risques associés, il faut se garder d’emballements qui provoqueraient des ruptures ontologiques menaçant la condition humaine ;

• alors il faut faire preuve de discernement, de sagesse, de modération, de lucidité : les techniques ne sont pas neutres, gardons nous d’asservir l’homme à la machine ou de vouloir façonner un être nouveau qui serait dépourvu de toute humanité ;

• ayons bien conscience de ce que ne saurait résoudre les technologies : la mort, la sensibilité, l’émotion, le mystère de la vie et de la cause première, la combinaison imprévisible et puissante du corps, de l’esprit et de l’âme, l’intériorité, la transcendance, la rencontre et la communion, le respect de l’autre, cet autre considéré comme une Personne dans sa dignité avec ses forces et ses faiblesses ;

• face aux dangers et aux risques inhérents aux nouvelles technologies, sachons apprécier les impacts immédiats et à venir, en intégrant des approches probabilistes, en respectant quelques principes : délibération avec les parties prenantes, définition de cadres législatifs et déontologiques ou éthiques ;

• avant tout avoir une claire vision de ce que l’on vise en parlant de l’Humanité à préserver, quelles sont nos finalités ultimes ? Donnons nous les moyens de les respecter ?

Deux citations bien connues et qui ne datent pas d’hier pourraient constituer notre note finale et résumer à elles seules l’esprit de cette rencontre :

« Science sans conscience n’est que ruine de l’âme »
« l’Homme ce roseau pensant »

Yves Nachbaur