Un des temps fort de la 41ème Conférence générale de l’UNESCO : le 16 novembre, la Commission du secteur des Sciences Humaines et Sociales (SHS) a adopté à l’unanimité la Résolution se rapportant à la Recommandation sur l’Ethique de l’Intelligence Artificielle.

Cette décision de portée universelle est l’aboutissement d’un processus qui aura duré deux ans. Elle est de toute première importance comme cela a été souligné par de nombreux pays pendant le débat introductif de la Conférence générale. A retenir tout particulièrement, tout ce qui a trait à l’Humain dans le texte de la norme comme dans les propos tenus par les délégués qui ont en quelque sorte « plébiscité » le texte soumis à leur appréciation.

Le débat au sein de la Commission SHS

A la suite d’une présentation du projet par Madame Gabriella Ramos, l’Adjointe à la Directrice Générale responsable du secteur SHS, soixante-huit Etats se sont exprimés.

De cette discussion, on aura retenu les points suivants :

Une grande satisfaction pour la qualité du document soumis à l’appréciation de la CG, un document qui vient à point nommé, à un moment où l’IA étend son emprise partout au sein des sociétés avec de forts impacts. Comme l’a dit aussi Madame Azoulay venue au terme de la discussion pour saluer l’adoption de cette norme fondamentale, plusieurs délégués ont qualifié l’évènement comme historique.

Des remerciements appuyés et beaucoup de reconnaissance ont été exprimés à l’adresse de l’ambassadeur du Koweit Monsieur Adam Al Mulla pour sa conduite des délibérations intergouvernementales, et aux collaborateurs du Secrétariat pour le lourd travail accompli.

A propos précisément des travaux menés à bien, quelques données ont été opportunément rappelées pour rappeler l’ampleur du chantier : les fructueuses discussions du groupe d’experts de haut niveau, plus d’une centaine d’heures de négociations intergouvernementales pour mettre au point la version finale du rapport après prise en compte de plusieurs centaines d’amendements issus d’une très large consultation (plusieurs milliers d’avis reçus).

La réussite du processus a été jugée d’autant plus remarquable qu’elle a été obtenue dans le contexte de la crise Covid.

Sur le fond, les délégués ont apprécié le caractère multidimensionnel d’une proposition normative qui couvre bien et à juste titre tous les secteurs de l’UNESCO, et qui rappelle à quel point tous les domaines relevant de ses missions sont concernés par le développement de l’IA et invités à répondre à un besoin d’éthique en la matière.

Pour apprécier la valeur éthique de toute application d’IA, la recommandation préconise de centrer les approches sur les Droits Humains : de nombreux délégués l’ont rappelé pour s’en féliciter.

Ils ont tout particulièrement souligné la nécessité bien mise en valeur par la norme de se préoccuper du respect des libertés fondamentales, et du principe d’égalité

S’agissant du « rapport à l’humain », une dimension bien présente dans le document soumis à appréciation, (appel à assumer pleinement ses responsabilités, insistance sur le respect de la dignité humaine notamment) quelques délégués ont tenu à bien marquer la très grande importance de la dimension humaine, avec parfois des expressions très convaincantes. Ainsi, le représentant du Cameroun , allant au-delà d’un commentaire sur l’IA d’un point de vue technique, a tenu à affirmer des considérations plus philosophiques ou humanistes d’une façon assez percutante  que l’on peut résumer la façon suivante: « ne prenons pas l’IA comme une magie salvatrice ! faisons attention au risque de voir l’IA se substituer à l’Humain ! n’entrons pas dans un monde désincarné et excessivement matérialiste » ; « saluons la production de cette norme à prendre comme une boite à outils qui va permettre d’objectiver les effets de l’IA »

On aura aussi remarqué la contribution originale de l’ambassadeur d’Espagne qui, pour dire toute l’importance à attacher à l’entrée en vigueur de cette norme, a invité l’auditoire à bien voir la profondeur du sens des mots donnant l’intitulé de la norme et leur étroit rapport avec ce qui est l’essence de l’Humain : Ethique, qui invite au discernement et à la conscience du « bien » et du « mal », Intelligence, qui désigne l’une de facultés de « l’esprit humain », et Artificiel, un qualificatif pour illustrer des productions (fabrications) par l’Humain, l’Humain qui, pour produire, mobilise les ressources de son intelligence humaine.

On a aussi appelé l’attention sur les risques de l’IA lorsque les applications s’engagent à reproduire des fonctions cognitives, ou qu’elles en viennent à espionner, asservir, supplanter les personnes.

Autre élément mis en exergue par plusieurs délégués : l’aspect Education/Recherche : plusieurs délégués ont indiqué combien il était important de développer des actions de sensibilisation ou d’enseignement portant sur l’IA, surtout autour des aspects éthiques ; le délégué de la Côte-d’Ivoire a proposé que soit produit un guide sur le sujet ou un syllabus ; plusieurs intervenants ont témoigné des initiatives déjà prises dans leurs pays pour approfondir les études et réflexions sur l’IA.

On aura noté l’insistance de beaucoup sur les aspects pratiques ; on a entendu à de nombreuses reprises l’expression d’une double satisfaction : le fait que la norme donne des éléments concrets, et que l’on insiste pour la rendre opérationnelle dans le cadre de politiques publiques avec une invitation à évaluer les résultats des mesures que les Etats pourront prendre à cet égard.

Quelques délégués ont fait observer que la norme ne devrait pas être considérée comme une référence intangible : la rapidité avec la quelle l’IA et plus généralement le monde numérique pourront induire des changements majeurs appelle à introduire de la flexibilité dans son application, et nécessite que les réflexions sur le sujet se poursuivent à l’UNESCO avec les Etats et la société civile.

La délibération sur la Recommandation et sur la formulation de la Résolution

Compte tenu du large soutien au texte proposé, le Président a proposé qu’il soit adopté par « acclamation », ce qui a été approuvé sans réserve. Décision prise instantanément et accompagnée de longs applaudissements ;

Restait à adopter le texte de la Résolution selon la procédure habituelle ; l’exercice a été laborieux ; s’il est naturel de devoir prendre du temps pour obtenir une formulation consensuelle, pour cette décision – il est vrai très importante – les discussions ont duré plus que d’ordinaire, ce qui pourrait avoir surpris compte tenu de la teneur du débat préalable. Il apparaît en réalité que certains pays, fort peu nombreux, ont souhaité introduire des modifications touchant à la substance du texte,

Les amendements proposés ont été largement refusés, mais des propositions élégantes avancées par quelques délégués ont amené de très légères modifications, évitant d’affecter substantiellement la formulation mise en débat tout en reprenant un peu de l’esprit des amendements qui avaient été demandés.

Sans entrer dans le détail de la longue discussion provoquée par les amendements, on pourra formuler quelques observations :

De façon explicite ou plus nuancée les discussions ou réactions ont porté sur des aspects politiques, sémantiques ou procéduraux.

Sur le contenu de certains des amendements, on aura surtout relevé le souhait de l’un des pays à l’origine de sa proposition de donner plus de précision sur les actions concrètes que pourraient développer l’UNESCO avec les Etats sur la mise en œuvre de la norme (des projets pilotes, des financements volontaires etc) et sur la finalité de ce qui pourrait être entrepris avec l’ajout d’expression comme « pour un meilleur avenir » ou « pour le bien-être des sociétés ».

A propos de sémantique, la discussion a porté sur la proposition de remplacer un mot par un autre (especially remplacé par in particular)…

Quant aux aspects procédures, il s’est agi principalement de traiter de questions touchant à la mise en œuvre de la norme, et plus particulièrement aux aspects « reporting » (rapport des Etats). Le doute ayant été introduit quant aux obligations des pays membres, le Conseiller juridique a très clairement rappelé les principes : il y a bien une obligation de Rapports sur la mise en œuvre des Recommandations par les Etats, étant observés, en revanche, que ces recommandations ne sont jamais contraignantes.

Le texte ainsi légèrement amendé a finalement été approuvé tard en soirée ; la Directrice Générale est venue conclure cette longue journée en disant son émotion de voir ainsi adoptée une Norme aussi importante (« décisive »), elle a salué cet évènement historique, et dit sa satisfaction de voir ainsi consolidée la Boussole Ethique de l’UNESCO qui aura été utilisée pour l’occasion sur un sujet majeur.

Venant un peu rompre cette bonne atmosphère, l’Iran a prononcé une courte déclaration qu’elle a souhaité voir annexée au compte-rendu oral du Président de la Commission SHS lors du débat plénier en clôture de la CG. Elle a ainsi fait savoir qu’elle avait des objections qui n’ont pas pu être introduites dans le texte de la norme portant essentiellement sur les sujets suivants : le respect de la souveraineté des Etats, la question des positions des entreprises commerciales dominantes, la référence à la charte de l’ONU.