Éthique et Nouvelles technologies – Intelligence Artificielle

Espoir ou Crainte ? Quel avenir pour le Monde ?
UNESCO 22 janvier 2019


Une heure trente d’échanges entre six participants à une Table ronde, menée « tambour battant » par un animateur, M. Roemer, qui, d’entrée, a invité les panélistes à se conformer à un cadre très minuté et « formaté » en quatre « rounds » (Qui je suis ?, Quelles sont mes idées fortes sur le sujet ? Réactions ? et enfin, une double demande adressée à chaque intervenant, à savoir : répondre à une question inspirée par ses propos et donner un ou deux mots clefs qui leur semblent les plus pertinents en rapport avec le thème discuté.


De nombreuses idées ont été évoquées par des orateurs en majorité jeunes et tous très impliqués dans ces nouvelles technologies de l’intelligence artificielle, comme acteurs engagés dans « le Monde réel », sur le terrain (entrepreneurs animateurs de groupes de travail, patron de laboratoire de bio-ingénierie, conseiller d’entreprise ou de gouvernements) et avec, pour tous, une grande expérience internationale.

Au risque de par trop simplifier la discussion, M. Roemer a souhaité d’entrée que l’on ordonne le débat en faisant valoir les points de vue des optimistes face aux idées de ceux qui sont plutôt pessimistes, en montrant tout à la fois les extraordinaires potentiels qu’offrent ces nouvelles technologies et les risques, les espoirs et les craintes qu’elles suscitent.


Avec six participants et la contrainte de temps, l’étendue du sujet et la variété des problématiques qu’il recouvre, une impression de superficialité a pu se dégager. Des thèmes importants n’ont ainsi été qu’à peine abordés, comme tout ce qui touche à « l’Humain dans son essence », mais un certain nombre d’idées fortes ont été posées, intéressantes en elles-mêmes et en ce qu’elles invitent à aller plus loin dans les réflexions et nos prises de conscience que doivent susciter les changements profonds de notre Monde sous l’effet des Technologies avec l’emprise grandissante et accélérée de l’intelligence artificielle.


Les participants à la Table ronde :

L’animateur, Andrès Roemer : diplomate mexicain, ambassadeur de bonne volonté de l’Unesco, intellectuel passionné par les questions touchant aux Droits de l’Homme, le pluralisme, les innovations et la créativité.

Constanza Gomez Mont : « social entrepreneur », créatrice d’un think-tank au Mexique sur « technologie et développement ».

Bummi Banjo : multiples activités de sensibilisation, formation, conseil sur les questions touchant aux nouvelles technologies et singulièrement l’intelligence artificielle en Afrique.

Priscila Chaves : CEO de « 10X » une agence visant à aider à l’appropriation des nouvelles technologies par les acteurs économiques.

Mora Cerf : professeur de neuroscience et économie, chercheur dans le domaine des sciences comportementales appliquées à l’économie.

Luisa Munaretto : fondatrice d’une entreprise de capital-risque, tournée vers le financement de projets utilisant l’intelligence artificielle au service des économies locales dans les pays en développement (Inde notamment).

Floyd Romesberg : professeur de chimie. Son laboratoire de recherche travaille notamment dans le domaine de la bio ingénierie.


L’essentiel des propos tenus peut s’ordonner autour de quelques thèmes que l’on se propose de récapituler ci-après, avec un simple énoncé des idées émises.


L’Éthique :

  • On a de plus en plus de connaissances, l’enjeu (le défi) est de bien savoir comment les mobiliser et surtout ce qu’on ne devrait pas faire de certaines de ces découvertes ;

  • A force de nous aider, les machines risquent de penser à notre place : de l’importance de nos réflexions, il faut penser à ce qu’on donne à faire à ces machines, ne pas se trouver dessaisis, « réifiés » ;

  • Se soucier des marginalisés, déclassés, et des inégalités (voir plus loin la question sociale) ;

  • Les valeurs sociétales sont à pleinement prendre en compte : notre vision du Monde à venir.


L’emploi, l’économique, le social :

  • Avec notre obsession de la performance et de la productivité, la machine pourrait faire demain tout le travail…et, comme le suggère de façon un peu provocatrice l’un des intervenants, vouer l’homme aux loisirs, (mirage de l’homme qui serait libéré de cette peine que représenterait le travail !) ; alors le risque pour l’homme serait « l’ennui » ?… un propos un peu outrancier qui a tout de même le mérite de mettre l’accent sur une question assez fondamentale à propos du travail : n’est-il qu’une fonction « machinale »  auquel cas, il pourrait disparaître de nos préoccupations ? certainement pas, restent néanmoins posées deux questions qui, elles, ne sont pas sans objet, loin de là : la disparition prévisible de nombreuses tâches que nous assumions jusqu’ici et alors interrogation sur les conséquences de ce changement (du temps libéré… mais pour quoi faire à la place ?)

  • Des tendances très nettes se dessinent avec la disparition de certains emplois, mais on est encore loin de pouvoir se figurer l’avenir quantitativement et qualitativement ;

  • Il ne faut pas céder à une vision par trop pessimiste. Comme toujours, les grandes mutations provoquées par les découvertes suscitent des craintes, mais il faut aussi mesurer des retombées positives, avec l’apparition de nouvelles compétences. Simplement, on ne sait pas encore assez bien définir le profil de ces nouveaux postes et ces nouvelles pratiques que vont impliquer ces nouvelles technologies ;

  • On doit tout particulièrement prendre la mesure de l’immense potentiel que représentent les recours aux nouvelles technologies pour les pays en développement, et singulièrement pour l’Afrique. Mais il faut accompagner les populations pour qu’elles puissent s’approprier ces nouveaux outils ; c’est ce que souligne Madame Banjo qui a créé une école du numérique qui rencontre un immense succès et vise à avoir formé plus de 20 millions de personnes d’ici à 2022 ;

  • La pauvreté : il faut se rendre capable de mettre les nouvelles technologies au service de combats contre la pauvreté ou la précarité, et tel n’est pas forcément le cas. Ceci renvoie aux risques d’exploitation de certaines populations vulnérables et aussi à l’inégale répartition des bienfaits des nouvelles technologies (accroissement des inégalités).


Les Sciences :

On est témoin des progrès spectaculaires notamment en biologie, avec le développement de la biologie de synthèse. Ils sont assez souvent le fait de start-ups ou laboratoires que rachètent les grands groupes attirés par les perspectives de gains qu’offrent ces découvertes.

Il y a donc des retombées positives indéniables, notamment dans le domaine médical (lutte contre les épidémies). Les sciences ont toujours été des « moteurs de notre histoire » et on ne saurait contester le rôle positif qu’elles remplissent au service de l’humanité, mais elles ne sont pas à l’abri de possibles dérives. Il ne faut pas qu’elles se « suffisent à elles-mêmes » en cultivant un « entre-soi » fâcheux. Tout particulièrement, lors qu’apparaissent les risques pour l’humain de certaines avancées, il est impératif que les scientifiques soient en lien avec la société, pour que leurs projets s’intègrent dans une vision du monde partagée, une conception de la vie qui ne peut appartenir seulement aux experts. De tels échanges ne peuvent qu’être fructueux tant est trop souvent avérée l’étendue de nos ignorances réciproques.


La diversité culturelle

  • Il faut que la propagation des nouvelles technologies, et singulièrement la montée en régime des systèmes gouvernés par l’Intelligence Artificielle, respecte les cultures… Il y a les techniques de codage mais celles-ci ne sauraient induire une disparition des codes culturels ;

  • Il n’y a pas une unique approche des questions touchant au numérique, mais on ne doit pas sous-estimer le risque de voir abusivement promus des dispositifs conçus à distance par des geek-experts par exemple établis dans la Silicon-valley et bien éloignés des lieux où peuvent se déployer leurs produits.


L’École

Qu’on le veuille ou non, les nouvelles technologies, y compris l’Intelligence Artificielle, vont partout faire irruption, y compris dans les écoles. Il est essentiel que ce thème soit pleinement intégré dans les enseignements et apprentissages avec de réels défis à relever : définition de nouvelles compétences, révisions des pratiques, mais aussi avec des réflexions sur les limites et contenus des usages.

Il y a lieu, ici comme ailleurs, de rester suffisamment prudent, de se garder en tout cas de trop verser dans la pure technique.


La Régulation

Même si cela est difficile à concevoir, l’Intelligence Artificielle ne saurait se développer hors de certaines règles ou de protocoles clairement spécifiés.

La société doit aller de l’avant, mais on ne doit pas se nourrir d’illusions : il y a des risques, il faut en être conscient. De l’importance, alors, de fixer un cadre à tout niveau : le Mexique par exemple, comme un certain nombre d’autres pays, s’est engagé résolument dans cet esprit en définissant pour le pays une stratégie relative au numérique.

Les intervenants se sont tous exprimés en faveur de règlementations pour le Bien commun, non pas un carcan de règles bloquantes, mais plutôt des principes à respecter qui donneraient une certaine vision du souhaitable, un optimum permettant tout à la fois de progresser et d’éviter de se laisser prendre de vitesse par le courant des innovations.


Diverses réponses de chaque intervenant aux questions qui leur étaient posées :

  • Ne pas éliminer les médecins avec la montée des nouvelles technologies (ex la médecine prédictive), ce qui va nécessiter de très gros efforts de formation ;

  • Ne pas oublier les minorités trop souvent marginalisées ;

  • Intensifier les dialogues avec toutes les parties concernées même si cela est difficile à réaliser ;

  • Se soucier du déclassement.


Une Question spécifique : quelle vue (espérance) à privilégier pour le long terme ?

  • mettre les machines à leur juste place, faire émerger l’essentiel : le Beau, l’Amitié ;

  • avoir su prendre des décisions à bon escient en associant pleinement toutes les parties prenantes, notamment les femmes ;

  • pouvoir compter sur de bonnes régulations, promues et garanties par des Tiers de confiance indépendants (trustees) ;

  • ne pas croire à la perfection, cette ambition hors d’atteinte, mais savoir préserver ce qui fait la grandeur de l’Homme toujours en quête de sens, avec une part d’invisible dirigée vers le haut ;

  • intensifier les collaborations pour réduire les risques de catastrophe auxquels l’humanité est exposée.


Vos mots-clefs ?

  • Collaboration ;

  • espérance ;

  • réfléchir ;

  • positiver ;

  • différences, diversité ;

  • travailler pour viser l’utopie ;

  • éducation ;

  • inclusion.

Les orateurs n’étaient appelés qu’à en citer un ou deux, à l’écoute de leurs interventions, on aurait pu aussi proposer quelques autres mots : vérité, paix, pauvreté, vie, conditions humaines, vision du monde, finalité… la transcendance (voir un intervenant qui a parlé d’élévation).

–§–

En guise de conclusion, quelques autres considérations exprimées à retenir un peu comme des termes de référence pour tout débat sur la question des « sciences et technologies dans nos sociétés modernes »

  • L’Homme ne doit pas disparaître ;

  • Se convaincre que l’Homme est d’abord « un être spirituel » en quête de sens ;

  • Un « être social » aussi, appelé à la rencontre de l’autre.