Table ronde organisée dans le cadre de la « Journée des Droits de la Femme » du 8 mars 2021.

A partir de leurs expériences d’expert, neuf Femmes ont livré leurs réflexions sur les discriminations et préjugés révélateurs d’un sexisme persistant dans le monde de l’Intelligence artificielle (IA).

La diversité des origines géographique des participantes à la discussion (Australie, Afrique, Etats Unis, Arabie Saoudite, Amérique Latine) comme celle de leurs profils (CEO d’une entreprises éditrice et distributrice de vidéos, une spécialiste du « deep learning », une chercheuse en Ethique de l’IA, une professeur d’infoscience, une représentante du réseau social Twitter, une consultante…) auront permis une discussion riche d’enseignements.

Au-delà de la mise en évidence de ce défaut avéré tenant au biais du genre très présent dans le monde de l’IA et plus généralement du numérique, les réflexions produites ont fait ressortir d’intéressantes observations générales sur les caractéristiques de l’IA et ont souvent souligné des idées faisant écho à celles émises par le groupe de travail mandaté par la Conférence Générale sur le thème de l’éthique de l’IA et des recommandations qui pourraient être émises en la matière.

On reprend les points qui ont retenu le plus notre attention au cours de deux sessions de l’évènement, la première portant sur « Les Femmes dans le monde de l’IA, le problème de leur formation » et la seconde sur « les préjugés sexistes dans les algorithmes ».

Quelques données statistiques révélatrices d’un déséquilibre flagrant

• 85% des développements d’applications IA sont réalisés uniquement par des hommes (estimation d’un rapport sur le fossé du genre dans le numérique – 2019)

• Moins de 10% des acteurs du codage sont des femmes, on trouve cette même faiblesse de la représentation féminine si l’on s’intéresse aux fondateurs et dirigeants de start ups ou à la composition de leurs instances de direction.

• Le dépôt de brevets dans ces domaines est là aussi essentiellement masculin.

• Il y a partout une majorité d’homme dans les établissements d’enseignement spécialisés dans les TIC.

Toutes les statistiques font ressortir à la fois une sous-représentation féminine et une sous valorisation de la femme : absence ou faible présence dans toutes les composantes du domaine IA, à tous niveaux et particulièrement au niveau des fonctions à fortes valeurs ajoutées (conception, direction).

Une situation fort peu satisfaisante qui tient à de nombreux facteurs (sociaux, culturels notamment) et qui est largement liée à des lacunes éducatives et aux états d’esprits (des politiques, des parents, des dirigeants d’entreprises etc.).

Les risques d’une IA abusivement discriminante à l’égard des femmes

Au fur et à mesure que se développe l’IA, tendance inéluctable, on peut craindre que les inégalités s’accentuent au détriment des femmes comme on a pu le voir avec les précédents développements de l’informatique.

Des études montrent l’existence fréquente de biais dans les algorithmes liés au fait qu’ils sont largement conçus, codés et testés par des hommes. Ces défauts de conception peuvent être insidieux, ils sont aussi porteurs de dérives que pourraient corriger l’apport d’un jugement féminin par exemple pour mieux orienter certains développements touchant les domaines dits des « soft skills » et porter légitimement des appréciations sur le risque très présent d’avoir des applications véhiculant de l’agressivité ou des enchaînements pernicieux susceptibles de porter atteinte à la dignité de la femme ou tout simplement de les exclure abusivement.

Outre une question de compétences qui peuvent leur faire défaut parce qu’elles sont privées d’un large accès aux formations requises, dans le monde de l’IA, les femmes peuvent se voir opposer l’objection de leur disponibilité, le présupposé étant que dans ces domaines il faudrait une agilité ou une flexibilité de ses emplois du temps non compatibles avec les exigences que pourraient souhaiter les femmes.

Les gouvernements peuvent avoir aussi leur part de responsabilité dans les déséquilibres que l’on constate en faisant preuve d’une certaine inertie pour mener en faveur des filles des politiques afin de les inciter à entrer dans des formations au numérique. Les choix budgétaires ne placent pas forcément le financement de ces filières parmi les grandes priorités.

Deux observations ont été formulées en rapport avec la question sensible de l’utilisation de l’IA à des fins de surveillance : il a d’abord été fait remarquer que les systèmes de reconnaissance faciale ne parviennent pas à bien distinguer entre visages masculins et féminins, d’où de possibles mauvaises utilisations si on s’engage sur des actions fondées sur la distinction des genres. Une seconde critique a été émise à juste titre à propos d’un Etat utilisant l’IA pour repérer des manifestantes activistes.

Autre risque très souvent présent, à savoir celui de l’utilisation de faux arguments pour justifier le fait que les femmes ne soient que très peu employées dans L’IA  : leurs dire que ce n’est pas pour elles car c’est très technique, mathématique donc plutôt réservé aux hommes. Affirmation évidemment fausse (c’est un préjugé de dire que les Femmes n’ont pas de disposition pour les sciences), il y a aussi une erreur d’appréciation, car l’IA ne se réduit pas à de la modélisation ou des systèmes calculatoires. L’élaboration d’application « IA » nécessite de mobiliser bien d’autres compétences.

Les défauts de l’IA susceptibles d’accuser les discriminations ou la présence de préjugés sexistes

Plusieurs observations ont fait ressortir tout à la fois l’immense potentiel de l’IA, notamment pour les femmes (voir par exemple tout ce qui a été découvert pour améliorer le traitement du cancer du sein), et des limites (défauts) qui peuvent être très pénalisantes pas seulement pour les femmes.

Ce point a été particulièrement relevé par la représentante de Twitter qui n’a pas dissimulé les difficultés de l’emploi de l’IA lorsqu’il s’agit de « traquer » les dérives des messages dans les réseaux sociaux ; l’IA peut s’avérer délicate à programmer lorsqu’il faut appréhender une situation globale à multifacettes et mouvante avec des effets rétroactifs difficiles à repérer ou à juger.

Un autre problème majeur a trait aux données qui sont essentielles dans les systèmes d’IA : il peut y avoir en amont une insuffisante analyse des modèles conceptuels de ces données, et cela peut induire des raisonnements fallacieux par exemple à propos des femmes ; il peut y avoir aussi, dans le même esprit, la volonté de certains ingénieurs de la donnée (data scientists) de collecter un maximum d’information pour nourrir leurs bases de données et ce faisant prendre le risque d’abuser de leur usage, notamment en ne respectant pas certaines règles fondamentales (consentement, explication de la finalité, délais de conservation).

Dans la course à l’innovation qui caractérise le secteur de l’IA, le risque n’est pas mince de voir les promoteurs livrer leurs applications sans accorder suffisamment d’attention aux possibles évolution des contextes dans lesquels ces produits sont utilisés : bien souvent, la nature de l’IA mise en place est telle qu’on ne peut pas la considérer comme immuable, écrite une fois pour toute.

Dernière considération générale à propos des risques, l’IA doit être conçue de manière à ce que les systèmes qui y ont recours respectent les Droits humains de façon générale et le droit des Femmes en particulier, et qu’ils aident vraiment les utilisateurs; ce qui signifie qu’il faut veiller à ce que l’IA ne vienne pas à cause d’une mauvaise conception miner le développement intellectuel des personnes, et nuire à leur épanouissement.

Quelques Conseils pour une IA plus inclusive, moins étrangère aux préoccupations féminines

• Instiller une culture d’entreprise qui, s’agissant du numérique et de l’IA, ne soit pas le propre d’experts « hommes » ; pour ce faire les dirigeants doivent pleinement jouer un rôle pro actif.

• A l’instar de certains pays, comme le fait l’Arabie saoudite, développer une stratégie offensive pour diffuser largement les nouvelles technologies de l’information dans les administrations, et soutenir le développement de l’éducation numérique notamment dans les universités avec des mesures qui n’établissent aucune discrimination. Ces initiatives engagées par les pouvoirs publics se répercutent positivement sur le secteur privé.

• Miser sur des figures féminines exemplaires qui peuvent témoigner de multiples façons de « success stories » pour attirer des talents féminins.

• Il est important que l’on entende leurs paroles, il y a encore trop de silence sur le sujet des Femmes dans l’IA, trop de timidité pour leurs permettre d’y trouver toute leur place.

• Le « mentoring » est aussi un bon moyen pour convaincre les personnes réticentes à s’engager en leur donnant confiance par le biais de tels accompagnements.

• Aider au financement d’entreprises dirigées par des femmes ; à cet égard, un exemple intéressant a été présenté avec un projet porté Initiative pour l’Afrique qui vise à accompagner des « entrepreneuses africaines » pour lesquelles une ouverture au numérique et à l’IA peut s’avérer un puissant moteur de développement. On a rappelé ici une particularité africaine avec une part des femmes dans le nombre de créations de start ups bien plus importante que dans les pays en développement (24% CONTRE 12% aux Etats-Unis et 6% en Europe. Il y a ici un très grand potentiel, le projet a montré l’existence d’une dynamique (un appel d’offre a suscité 9000 candidatures, 200 d’entre elles ont été accompagnées.

Quelques idées en résonance avec les conclusions du Groupe de travail « éthique de l’IA »

On mentionnera un certain nombre de points que l’on retrouve bien pris en compte dans le rapport de l’UNESCO sur l’éthique de l’IA en cours de discussion :

• L’explicabilité : pour éviter toute défiance à l’égard de l’IA, il est important que les utilisateurs ou promoteurs d’IA comprennent de quoi il retourne (les données, la finalité, les conditions d’usage).

• L’auditabilité (en lien avec le point précédent) : il importe que l’on puisse vérifier le respect de certaines conditions ou de grands principes, et ceci doit être particulièrement le cas concernant la vérification d’une absence de biais tenant au genre.

• La transparence et la redevabilité.

• L’interdisciplinarité et l’association de toutes les parties prenantes dans le déploiement des systèmes d’IA : ici encore, l’implication des femmes doit être pleinement assurée, sur un éventail d’activité aussi large que possible.

• Les exigences éthiques en elles- mêmes : ce sujet est essentiel, il doit être constamment gardé à l’esprit en même temps que l’exigence de respect des droits humains.

• La nécessité de règles (garde fou), la protection des données personnelles

• La prééminence de l’humain qui doit rester au cœur des innovations en matière d’ IA un domaine dont il faut assurer qu’il soit débarrassé des risques d’exclusion ou de discrimination qui caractérisent encore la situation présente.