Robots et Éthique

UNESCO Vendredi, 10 Novembre 2017

Quelques échanges de vue sur un thème essentiel


Ambivalence du phénomène, une montée en régime qui fascine, interpelle, inquiète : des avancées indiscutables, mais encore beaucoup de questions à poser… et d’abord celle là : où va l’Homme ?


L’évènement a été organisé conjointement par la délégation des Pays Bas et le MOST qui, est bien entendu très mobilisé sur un phénomène qui est en train de transformer fortement le Monde.

Une centaine de personnes ont suivi avec une grande attention pendant un peu plus d’une heure une discussion où sont intervenus quatre experts (universitaires et/ou ingénieurs) venus livrer leurs expériences ou leurs analyses en posant bien les termes d’un débat auquel l’opinion publique est de plus en plus sensible.

Jugeant à juste titre qu’on peut ainsi assez bien traiter de la question « Robots et Éthique », l’ambassadeur délégué des Pays Bas, dans son introduction, a proposé qu’on conduise l’analyse au travers du prisme UNESCO : En quoi la montée de la robotique affecte t elle la Paix et la Justice ? Y a-t-il ou non une menace pour les Droits de l’Homme ? Quelle Place du Robot dans nos esprits ?

Des messages assez clairs et simples nous ont été délivrés par les spécialistes (de la technique ou de la pensée, en d’autres termes les philosophes). On peut ainsi en lister les principaux qui sont soit la description d’un état de fait, soit des observations voire des conseils, mais aussi parfois des remarques sous forme de questions, tant il est vrai que nous entrons dans un Monde encore pleins d’inconnues.

D’abord nous est rappelée l’évidence : partout et dans de plus en plus de domaines s’invitent les robots, (terme pris au sens large : la machine, ou l’algorithme, tout processus automatisé avec une certaine autonomie pour prendre en charges des fonctions jusque là exercées par l’homme).

Des emplois sont détruits, certes, d’abord parmi les cols bleus et maintenant les cols blancs. Cela nourrit des peurs, mais il ne faut pas avoir une vue unilatérale : il y a une autre façon de travailler, on crée de nouvelles compétences… Les grandes inventions ont toujours eu de tels impacts, mais elles n’ont jamais été que négatives. Les intervenants invitent ici à se garder de verser dans le pessimisme, et à mesurer les grands progrès que permettent les robots dans l’industrie comme dans les services… y compris dans le domaine de la santé.

En même temps, il ne faut pas sous-estimer les dangers, des dangers qui sont loin d’être seulement économiques (le chômage) : on a mentionné le risque d’emprise sur les libertés, la disparition de la relation interpersonnelles, la distanciation des rapports entre l’Homme et la Machine, la prise de contrôle d’activités par de petits groupe (ou grosses sociétés), une dilution des responsabilités… ou une perte de contrôle de la machine, le risque (réel ou fantasmé) de voir les engins humanoïdes ou les processus d’intelligence artificielle dépasser nos présumées limites de pauvres humains.

Au delà des seules idées générales, la présentation d’exemples commentés permet de voir ou les enjeux ou ces risques qui ne sont pas minces.

Par exemple, les dispositifs de surveillance des mouvements de foule dans les aéroports avec la capacité de distinguer automatiquement (sans intervention humaine) les seuls mouvements suspects pour amener des réactions, la surveillance par drones de vestiges s’étendant sur une grande surface, la voiture autonome…

Mais ce sont deux exemples très proches de l’humain intime et affectif qui finalement font émerger les questions les plus sensibles :

travail d’une équipe qui met au point des dispositifs de reconnaissance très fins (mouvements des visages ou des yeux par exemple) susceptibles de faciliter les échanges avec les autistes… une avancée plutôt positive,
une alimentation automatique d’une personne âgée avec une photo peu rassurante.

En réalité, l’important ici est de se poser quelques questions essentielles : quelle responsabilité eston prêt à garder ou à abandonner, quelle relation voulons nous, relation au Monde et surtout relation interpersonnelle ? L’important n’est pas de verser dans de vaines polémiques, mais de bien voir comment on utilise ces robots ou systèmes automatisés, et comment on en garde (ou non) la maîtrise. Ce sont des choix personnels ou sociétaux et cela renvoie à des questions politiques.

Pour répondre à ces questions, des questions par nature complexes il est indispensable d’adopter des approches multidisciplinaires, holistiques où doivent se confronter toutes les parties concernées : l’inventeur, le programmateur, l’utilisateur, les décideurs et au premier rang les politiques, les juristes.

Sur la question spécifique du droit, les sujets à traiter sont assez nombreux et délicats (la propriété des données, la confidentialité, la définition des responsabilités, la place à donner à la régulation et la nature des règles à inventer – certains parlent d’un statut pour les robots qui serait proche ou l’égal du statut de citoyen !

Parmi les acteurs à associer à toutes les nécessaires réflexions à avoir, on a aussi parlé des artistes et des créatifs Peut être aurait-on pu parler de tous ceux qui œuvrent pour les valeurs de fraternité, d’empathie, de bienveillance, d’attention à l’homme dans toutes ses vulnérabilités. Ce dernier point a été souligné par une personne du Bangladesh qui a tenu à appeler l’attention sur le cas de ces pays qui sont en proie à des difficultés (164 millions d’habitants dont bon nombre sont constamment victimes de catastrophes naturelles) qui appellent à rester mesurés quant à l’éventuelle passion que l’on peut avoir pour ce monde des robots.

L’un des intervenants a relié le sujet « robots et éthique » à la question du Bien Commun, et de fait, en transformant radicalement la société sous l’effet principalement des initiatives du secteur privé, il n’est pas sans intérêt de s’interroger sur cette dimension de l’ « intérêt général » aidé ou affecté par ces technologies qui clairement sont à la fois l’illustration des immenses progrès que peuvent apporter les science et les risques qu’ils peuvent générer.

Retenons la conclusion de l’ambassadeur qui nous fait remarquer très justement que in fine on est toujours ramené aux mêmes questions, questions essentielles pour notre Humanité et nos sociétés : celles du sens de l’Humain et de nos Raisons de vivre… Il a posé aussi avec un brin d’esprit critique : ces robots seront-ils un jour capables d’humour ? Et pour son tout dernier mot, il a invité à toujours garder présent à l’esprit qu’on devait absolument séparer/distinguer l’Homme et le monde des machines.