L’Intelligence Artificielle : deux sujets importants
traités au cours de la 206^ème session du Conseil Exécutif

I Éthique de l’Intelligence Artificielle : Étude préliminaire sur l’éventualité d’un instrument normatif

Le thème de l’Intelligence Artificielle [IA] est discuté dans de nombreuses instances, notamment à l’OCDE, au Conseil de l’Europe et à la Commission européenne. L’UNESCO, conformément au souhait de ses organes directeurs et de sa Directrice générale est elle aussi bien engagée en la matière, comme beaucoup des États membres. Est ainsi à rappeler toute une série d’événements tenus sous son égide au cours des derniers mois à propos d’un sujet porteur à la fois d’un riche potentiel et de risques avérés : Conférence au siège sur les Principes de l’IA pour une approche Humaniste, la Semaine de l’apprentissage mobile. Des forums internationaux sont aussi organisés (au Maroc pour l’Afrique, en Argentine pour l’Amérique latine).

Au-delà des échanges nombreux qui se tiennent partout dans le monde sur l’essor d’une technique aussi « disruptive » que l’IA, et précisément à cause de certaines idées fortes émergeant de ces débats, le temps semble venu pour que l’UNESCO, envisage l’adoption d’un instrument normatif qui se rapporterait à l’éthique de l’IA .

Une première réflexion conduite par un Groupe de travail relevant de la COMEST (Commission mondiale d’éthique des connaissances scientifiques et des technologies) démontre le bien-fondé d’une telle proposition et son urgence compte tenu de la vitesse à laquelle se propage cette nouvelle technologie et des impacts que cela induit dans tous les domaines que couvre l’UNESCO.

Ce rapport donne de premières indications sur ce que pourrait être le contenu d’une norme (des principes, les domaines à couvrir etc), mais il appelle à être enrichi pour aboutir à une version finale laquelle servira de référence pour que la Conférence Générale adopte une norme.

A ce stade, le Conseil exécutif prend note du document qui lui est présenté, et confirme l’inscription de ce point à l’ordre du jour de la prochaine Conférence Générale.

L’objectif, selon ce que propose la note préliminaire de la COMEST, serait de soumettre à la 40^ème Conférence Générale de novembre prochain un projet, qui, sera complété pour permettre de prendre une décision lors de la 41^ème session de la Conférence Générale en 2021.

A priori, plutôt qu’une déclaration, l’instrument retenu devrait être une Recommandation non contraignante destinée à éclairer le choix des régulateurs.

II Explorer le Potentiel de l’Intelligence Artificielle pour accélérer les progrès vers la réalisation de l’ODD4-Éducation

Le sujet a été ajouté à l’ordre du jour par la République populaire de Chine, appuyée par une vingtaine d’autres États membres. Avec comme référence la Déclaration de Qingdao sur le rôle des technologies de l’information et de la communication (TIC) dans la réalisation de l’agenda 2030, la Chine a proposé une décision qui se rapporte au même sujet « Éducation et les TIC » mais en appelant cette fois ci à se concentrer sur l’introduction de l’intelligence artificielle (IA) dans les systèmes éducatifs. La proposition s’inscrit en cohérence avec l’organisation d’une Conférence internationale sur le même sujet qui aura lieu à Pékin du 16 au 18 mai.

En commission PX les discussion ont été particulièrement nourries et ont permis de clarifier certains points.

Mme Stefania Giannini, Sous-Directrice générale de l’UNESCO pour l’éducation, a rappelé l’importance du sujet, au regard des enjeux, et, en particulier face à l’ampleur de certaines difficultés que l’IA pourrait contribuer à résoudre : « plus de 250 millions de jeunes sont encore déscolarisés et 617 millions encore analphabètes, et, en Afrique subsaharienne moins de 40% des filles suivent neuf années de scolarité ».

La Conférence annoncée sera un lieu d’échanges entre expert, une plateforme de discussion à considérer comme une contribution à un processus qui va se poursuivre et où l’UNESCO tiendra toute sa place pour aider les États à tirer le meilleur parti de cet univers de l’IA qui pourra beaucoup apporter mais qu’il faut savoir maîtriser.

S’agissant du secteur éducatif, l’IA va certainement étendre son emprise, comme l’ont montré beaucoup des intervenants lors de la semaine de l’apprentissage mobile en mars dernier.

La discussion a fait ressortir les points suivants : dans les réflexions qui vont s’engager il y aura lieu d’associer tous les Programmes. Le thème est essentiel, il faut y associer beaucoup d’acteurs. L’UNESCO devra se préoccuper de préserver une approche humaniste dans son traitement des questions éducatives : on ne saurait s’enfermer dans ce qui relève de la pure technique. De l’importance notamment de l’accompagnement des utilisateurs, de la formation des enseignants, de la sensibilisation aux risques que peuvent générer les systèmes à base d’algorithmes.

Beaucoup d’orateurs sont intervenus à propos de la prochaine Conférence avec souvent une interrogation quant à son objectif, et parfois comme une crainte de voir ressortir de ce colloque des conclusions qui pourraient ressembler à une norme. Il a bien été confirmé que l’événement n’avait pas vocation à entrer dans le champ de la régulation au point d’énoncer des recommandations ou de définir précisément des principes directeurs.

S’il est bien reconnu que toute réflexion en vue d’une mise en œuvre effective nécessitera une collaboration entre beaucoup d’acteurs, il est aussi rappelé que, dans le domaine de l’Éducation, les actions à conduire relèvent prioritairement des États.

Dernier point, plus prosaïque : la Conférence sera financée par des ressources extra-budgétaires.