Appel de Paris pour la Confiance et la Sécurité dans le Cyberespace

Forum de la Gouvernance de l’Internet
L’internet de la Confiance

dans un Monde qui change radicalement,
risques et opportunités du Cyberespace

Du 12 au 14 novembre, Paris et l’UNESCO ont accueilli une manifestation qui est désormais un événement majeur pour le monde du numérique.
Organisé pour la treizième année par l’IFG (Plateforme pour la Gouvernance de l’Internet localisée à Genève) et placé sous l’égide des Nations Unies et de l’UNESCO, ce rendez- vous international est soutenu et accompagné par un grand nombre d’acteurs concernés par des questions devenues de plus en plus présentes et prégnantes : instances gouvernementales, institutions internationales Universités, agences de régulation comme en France l’ARCEP (régulation des réseaux de communication) ou la CNIL (régulation des libertés, opérateurs techniques, réseaux de réflexion spécialisés, ONG.

Le Président Emmanuel Macron et le Secrétaire Général de l’Organisation des Nations Unies António Guterres ont introduit les échanges en mettant bien en évidence les enjeux et les risques que présentent le Monde digital et le Cyberespace, avec une omniprésence de l’internet (expression prise au sens le plus large) qui est en train de nous faire entrer dans une nouvelle ère qu’il faut souhaiter pacifique, espace de liberté, stable, inclusif, rassurant pour reprendre certains des termes mis en exergue et que l’on a retrouvés lors de la séance introductives comme au cours des discussions que l’on a suivies ensuite. Grande affluence très internationale pour assister à une quarantaine de panels, portant sur une grande variété de sujets en lien avec le thème central de ce forum « la Confiance » : questions techniques, juridiques mais aussi éthiques, médiatiques, éducatives…

Cette Rencontre a été l’occasion de lancer « L’Appel de Paris pour la Confiance et la Sécurité dans le Cyberespace » qui a été signé par une cinquantaine d’États – dont les membres de l’Union Européenne – et plus de 300 autres grandes institutions soucieuses de ces questions sensibles.

Cet appel affirme la nécessité d’ancrer les TIC [Techniques de l’information et de la communication] dans le Droit international qui, au travers de tous ses instruments : déclarations, chartes, résolutions, jurisprudence et avec les normes volontaires constitue un des fondements de la Paix. Un énoncé des engagements pris par les signataires et toute une série de principes visant à sécuriser le cyberespace donnent à cette déclaration un contenu fort qui marque une volonté de combattre efficacement les menaces qui pèsent sur le web. Si plus de 350 acteurs ou gouvernements ont souscrit, trois grands États ne figurent pas parmi les signataires (États Unis, Russie, Chine).

Observations générales

Les menaces sont multiples, il faut en avoir conscience et endiguer les risques, risques majeurs touchant à la fois les États, les entreprises et les personnes. In fine, sachant inévitable la montée du Net, c’est de l’avenir de l’Humanité dont il s’agit.

Beaucoup de questions techniques se posent, plus ou moins complexes, à propos de l’internet et plus généralement du numérique, mais là n’est pas ou plus l’essentiel : avec des niveaux de sophistication qui deviennent de plus en plus aisément accessibles au travers de toutes sortes d’innovations, le monde des technologies de l’information appelle de plus en plus à dépasser le niveau de la technique ou plus exactement à s’interroger sur ses éventuels méfaits au-delà des outils.

Ces autres préoccupations – éducatives et éthiques surtout, sociétales aussi – nécessitent d’être prises en charge au travers d’approches coopératives ; elles ne peuvent rester portées par les seuls acteurs « techniques ». Il devient indispensable de considérer la dimension « publique », « universelle » et même politique des sujets et, partant, l’intervention des régulateurs, nationaux et internationaux. S’agissant de l’espace privé, c’est la société civile qui est interpellée dans toutes ses composantes, mais avec un rôle tout à fait central des ONG, et, à cet égard leur présence notable à ce forum montre à quel point elles existent et jouent un rôle positif dans tous les efforts menés pour discipliner voire nettoyer l’internet, et prévenir les risques que représente le numérique pour les populations les plus vulnérables, tout particulièrement les jeunes.

Avec l’explosion des usages, leur internationalisation, leurs dérives aussi, émerge un besoin impérieux de protection et de sécurité. L’Accord de Paris constitue un nouvel exemple des efforts qui peuvent et doivent être conduits pour aider au développement d’un monde de l’internet mieux maîtrisé, conciliant des exigences parfois contradictoires : liberté et sécurité, ouverture et protection des personnes, des données, des souverainetés…

Malgré certaines réticences ou même l’absence de certains acteurs ou États essentiels pour intégrer le droit international dans le numérique et protéger les systèmes et les personnes, on voit d’année en année les choses s’améliorer : les coopérations dans l’ordre opérationnel ou conceptuel se développent, les actions de sensibilisation et de formation s’intensifient comme en témoigne la tenue régulière et très suivie du forum de Gouvernance de l’internet. Les travaux de recherche et développement contribuent à mieux connaître les problématiques et trouver les parades face aux risques. Se multiplient les initiatives destinées à consolider les bases de ce qui est en train de façonner toutes les sociétés… On entend parler d’Alliance, de Coalition, d’Accord. Beaucoup d’États s’emparent du sujet, fédèrent les initiatives, élaborent des stratégies : Appel de Québec pour lutter contre la radicalisation des jeunes par l’internet, Convention de Budapest sur la délinquance dans le monde de numérique et le 12 novembre cet Accord de Paris sur la sécurité dans le Cyberespace. Ces trois exemples parmi beaucoup d’autres viennent illustrer une prise de conscience et un engagement grandissant en faveur d’un internet de qualité, respectueux des valeurs universelles qui fondent notre humanité, et particulièrement des Droits de l’Homme, point sur lequel il a été beaucoup mis l’accent.

Nourris par les contributions d’une palette très diversifiée d’intervenants, les échanges ont été denses. Ils ont été ordonnés autour de huit axes thématiques :

Les innovations, le développement et les questions économiques,
l’inclusivité et l’accessibilité
la Sécurité et la Confiance,
les Technologies émergentes,
les Droits de l’Homme (notamment au regard de la question du genre et de la jeunesse)
les Media et les Contenus
actualité et évolution de la gouvernance de l’internet
sujets opérationnels et techniques.

Des six sessions auxquelles il nous a été donné d’assister on retiendra quelques points saillants.

Droits de l’Homme et Intelligence artificielle, comment limiter les risques ?

De nombreuses questions se posent avec ces applications qui exploitent des données massivement collectées et traitées au travers d’algorithmes susceptibles d’intervenir à notre insu et d’influencer subrepticement nos comportements : atteinte au droit de propriété, manipulation des esprits, propagation d’informations fausses, diffusion d’images violentes souvent fabriquées de toute pièce, utilisation intrusive des données personnelles etc.

Des logiciels peuvent être élaborés avec des biais cognitifs malfaisants susceptibles de générer des sélections éthiquement condamnables, mais ces systèmes de traitement – qui ont souvent recours à l’intelligence artificielle – fonctionnent avec des règles que les utilisateurs ne reconnaissent pas (black box).

On mesure bien l’ampleur des risques venant du Net, qui est, à l’évidence, une arme à double tranchant : apport de services nombreux, mais aussi phénomène en plein essor avec la présence de toutes les dérives possibles.

Face à ces risques avérés, il faut intervenir avec des règles (les lois, voir ici l’importance du Règlement européen sur les données personnelles, les codes déontologiques et éthiques). Il y a lieu aussi d’agir opérationnellement pour surveiller la toile, comme peuvent le faire les services de police, mais aussi les grands opérateurs. Ces actions doivent mobiliser tous les acteurs concernés dans les sphères publique comme au niveau de la Société Civile. Il faut en débattre parce qu’ici sont en jeu des questions sensibles touchant à la liberté, la propriété privée, les données personnelles, les discriminations, et bien d’autres encore.

Les Violences et Abus à l’encontre des enfants par le « net » : Un phénomène d’une extrême gravité

Avis unanime : la violence sur les réseaux existe, brutale, extrême, réaliste avec tout particulièrement les agressions sexuelles ciblées de plus en plus sur les jeunes, jeunes filles particulièrement ; même s’il n’est pas facile de discerner l’âge des consultants, ceux qui sont maintenant visés sont de plus en plus jeunes.

Les volumes de ces « productions perverses » diffusées sur la toile sont en plein essor, la société se doit de réagir pour contrer le phénomène. La gravité de ces agressions -visuelles ou verbales- porte atteinte au mental de ces jeunes qui peuvent être marqués pour la vie, ou même conduits au suicide.

C’est toute la société qui se doit d’intervenir, pas seulement les pouvoirs publics. Il faut prévenir, sensibiliser, neutraliser les agresseurs, aider les victimes et miser massivement sur l’éducation.

Cette menace permanente et avérée est mondiale, d’où la nécessité de coopération internationale pour l’endiguer. Dès 2012 a été lancée entre l’Union européenne et les États Unis une Alliance. Un nouvel élan a été donné avec le Royaume Uni en 2014. L’ONU et l’UNESCO sont aussi très engagées.

Parmi les moyens mis en œuvre, on pourra citer la diffusion de Brochures, la mise en place d’outils de détection des produits toxiques (exercice difficile : le phénomène est diffus, le cryptage est souvent utilisé, passage par le Darknet) la destruction de vidéos ou de messages etc.

Les grands opérateurs type FACEBOOK ou GOOGLE participent activement à ces opérations « d’assainissement », en ayant notamment recours à des outils d’intelligence artificielle pour repérer les dérives mais c’est in fine toujours la décision d’une personne qui doit amener l’élimination des contenus dangereux nous est-il indiqué.

Mais, cela aura été répété à plusieurs reprises, c’est bien par l’Éducation qu’on aura le plus de succès, éducation des jeunes (les cibles), mais aussi des professeurs, de toutes les personnes responsables pouvant avoir un rapport avec ces questions, y compris la police, sachant qu’on est bien là confronté à un phénomène de délinquance d’une exceptionnelle gravité, à dimension internationale (Interpol est bien évidemment concernée).

La Violence et les phénomènes de radicalisation : ampleur et gravité du phénomène, quels remèdes ?

Trois témoignages ont été entendus, venant d’Amérique Latine :Guatemala, Brésil et de Tunisie ainsi qu’une contribution de la responsable d’une chaire UNESCO (attribuée à la SORBONNE) et d’un représentant de GOOGLE.

Les trois cas d’école « Pays » renvoient à des situations tendues, avec une violence existant à l’état endémique, souvent insidieuse, entretenue par des réseaux mafieux, criminels ou terroristes utilisant tous les moyens pour intimider, exploiter physiquement et via le net.

Les TIC ne sont pas la cause principale de cette violence :celle-ci tient d’abord à la persistance d’inégalités criantes et aux effets d’une urbanisation incontrôlée. Elles peuvent néanmoins ajouter au chaos ambiant. Le sujet « méfaits possibles de l’internet » mérite d’être considéré, mais il ne figure pas forcément au rang des toutes premières priorités.

Des expériences sont néanmoins conduites avec un certain succès, notamment dans les pays du pourtour sud-méditerranéen au travers d’un projet NETMED qui vise à mobiliser les jeunes pour leur faire découvrir tout le potentiel et l’apport des outils numériques, susceptibles d’aider localement à développer des dialogues fructueux : plateformes d’échange, blogs. Ce même projet vise aussi à informer et sensibiliser ces jeunes populations à propos des sollicitations à risque (recrutement terroriste) et messages dangereux (discours de haine, instrumentalisation de la religion).

L’intervention au titre de la Chaire UNESCO est venue opportunément compléter les trois discours précédents en rendant compte des résultats d’un travail sur ces thématiques de la violence radicale via les TIC : une cartographie de la violence numérique confirme l’ubiquité du phénomène et son intensité. Autre constat : les propagateurs de ces communications maîtrisent bien les techniques, ils sont d’un professionnalisme indéniable qui leur permet de diffuser des produits de qualité, sur une grande échelle, avec des narratifs adaptés à tous les publics visés, en particulier les jeunes vers lesquels sont acheminés des messages malsains : complotisme, victimisation, perspectives paradisiaques par le sacrifice guerrier, description d’un passé idyllique, violence de guerres injustes ou nécessaires, sentiments d’appartenance exaltés etc.

Dans ce contexte, émergent insensiblement des vocations radicales, tout ne passe pas par le Net et les réseaux sociaux anonymes. Il y a forcément des relations bilatérales qui se nouent pour recruter, mais assurément le web suscite et amplifie les « conversions » à l’extrémisme violent.

Face à ce déferlement de violence et à la séduction que cela peut exercer sur des populations de jeunes vulnérables (isolés, désœuvrés) c’est un réel combat qu’il faut mener sur tous les fronts : production de contre-narratifs face aux propagandes violentes, engagements forts de la société, singulièrement dans les écoles. Beaucoup passe en effet par un enseignement du numérique qui doit comporter une composante « sécurité » non seulement technique, mais aussi comportementale pour éviter les pièges de la Toile…

On aura aussi noté, l’intervention d’un représentant de GOOGLE qui est sensible à ces risques et qui investit ces thématiques en lien avec tous les acteurs de la société civile pour élever des parades face à tous les risques. Ces actions se mènent au travers de Groupes de Travail, de Think-tanks ou d’Ateliers. Des partenariats sont soutenus sur de nombreux sujets en rapport avec les menaces : les contenus (légitimes versus malsains), le contrôle de la véracité des faits, l’alphabétisation numérique (litteracy) etc.

Quelques recommandations ont données en conclusion pour endiguer les menaces, avec un bon usage de l’internet.

L’intervenant de TUNISIE :

Bien associer tous les acteurs pour conduire des actions préventives dans la durée mais aussi assurer une vigilance à tous moments ;
Rendre l’internet accessible au plus grand nombre, mais pas n’importe comment, et là l’éducation doit jouer son rôle ;
Aider les personnes à bien utiliser les outils, avec une capacité d’analyse intelligente, et une sensibilité aux questions éthiques ;
Apprendre à débattre avec une aptitude à confronter les points de vue raisonnablement, sans violence.

L’intervenante du GUATEMALA :

Écouter les jeunes et leur permettre de partager ;
Avoir des approches multidimensionnelles, mais se soucier prioritairement du respect des Droits de l’Homme ;
Se soucier de ceux qui sont les laissés pour compte, les évincés de la société, qui sont aussi les plus vulnérables face au « risque numérique ».

L’intervenante du BRÉSIL :

Encourager les travaux de Recherche par pays, même si l’internet a une dimension globale, restent des spécificités sociales ou culturelles nationales à bien appréhender ;
Propager les « meilleures pratiques » en matière de Sécurité ;
Poursuivre les activistes déstabilisateurs dans le domaine politique, et défendre la démocratie.

Dernier mot de l’animateur du panel (secteur SHS de l’UNESCO)

Assurément, pour porter remède à ces problèmes de violence et de radicalisation, il faut des collaborations et celles-ci n’ont pas toujours lieu ;
Mais c’est l’engagement des forces politiques qui compte le plus.

La santé mentale, le suicide et l’Internet : une menace pour les jeunes, un fait avéré, comment prévenir ?

On perçoit une évolution préoccupante sur les quinze dernières années avec plus de suicides ou de dérangements mentaux chez les jeunes, alors que sur cette même période l’utilisation des réseaux sociaux par les jeunes s’est considérablement développée avec des dérives manifestes : « le Cyber Bullying » (Terrorisme violent/pervers). Il n’est pas facile d’établir un lien entre les deux phénomènes, sachant que la jeunesse est affectée par d’autres facteurs déstabilisants et sources de stress, de dépression et autres pathologies (crise économique, dégradation des liens sociaux, familiaux, montée de la violence dans les cités), mais des enquêtes (notamment dans les écoles) indiquent bien l’existence d’une composante du net susceptible de perturber sérieusement les jeunes fragiles. Ce phénomène ne peut pas être pris à la légère. Il faut en parler ouvertement, et le témoignage d’une représentante de TUMBLER (opérateur gestionnaire d’une plateforme de blogs) permet de se rendre compte de l’existence d’un réel problème avec la diffusion de textes véhiculant des discours violents, traduisant des passions morbides et/ou mobilisant à l’envi les affects ;il y a, plus qu’on ne le pense, la propagation de contenus dangereux qui posent problème. Conscient du caractère pernicieux de ces échanges, TUMBLER est engagé pour contrôler ces débordements, essayer de les modérer, voire éliminer ce qui peut l’être. Son engagement l’amène à travailler étroitement avec le monde de l’École.

FACEBOOK conduit aussi une politique active pour contrer les agissements quasiment criminels de certains utilisateurs de leur réseau social. Une surveillance est assurée 24Heures sur24 pour traquer les messages déviants.

Comme cela a été entendu dans d’autres panels, l’Éducation est présentée comme une évidence pour aider à atténuer cette réelle « pathologie » issue du Net avec toutes sortes de déviances : addiction, provocations pour passer à l’acte (jeux dangereux par exemple), discours de mort, propos haineux etc. L’objectif alors est de rendre les jeunes plus résilients, plus confiants en eux, par la parole, au travers de réelles discussions pour les sortir de ce que l’on pourrait appeler un isolement numérique. Plus généralement, en effet, la meilleure façon d’ obtenir des résultats là où l’on perçoit la montée de risques extrêmes pour la santé des jeunes à cause de l’internet, c’est de développer les échanges, éventuellement par le net (chatbox, soutien des amis etc.), mais aussi en tête à tête, pour des cas particuliers et au niveau de la société. Une intervenante islandaise nous a restitué l’expérience de son pays qui, confronté à de réels problèmes touchant les personnes à cause du net a pu réduire les tensions « mentales » en ouvrant de larges débats à propos du sujet.

On voit ici qu’il s’agit d’une problématique sociétale qui appelle certainement à revoir un peu notre culture numérique en y instillant plus de sens des responsabilités.

Intelligence artificielle : les défis éthiques et juridiques dans les pays émergents

Une universitaire chinoise :

Il faut d’abord bien apprécier tout ce que l’IA [intelligence artificielle] apporte comme bienfaits notamment pour des pays densément peuplés avec des problèmes de grande ampleur à résoudre. Plusieurs exemples sont cités de domaines où ces apports sont conséquents : les systèmes alertes « catastrophe naturelles », la gestion automatisée du traitement des containers dans les ports, les véhicules autonomes, les restaurants ( ?)

Les problèmes existent, il ne faut pas les oublier mais on peut (doit pouvoir) les résoudre. Il faut porter un regard positif sur les avancées de l’IA, et apprendre à s’accommoder de ces dispositifs qui servent l’homme, l’éducation doit ici jouer tout son rôle.

Un témoignage venant du Népal (un expert président d’une association de roboticiens)

L’intelligence artificielle va inévitablement se développer chez nous aussi, et conforter sa présence dans la vie quotidienne, en permanence. Dans ce contexte il faut bien faire attention aux impacts, se soucier de ces systèmes « conduits par la technique » et peut être insuffisamment soucieux du respect des spécificités culturelles locales.

Parmi les défis à relever, il y a celui des inégalités : vont-elles ou non s’accroître ? Comment obtenir des progrès en la matière ? On peut raisonnablement penser que l’IA aide à combler les retards de pays comme le Népal, mais à quel prix ? Les experts manquent. Il faut ainsi aborder l’ensemble des problématiques avec prudence car, par la force des choses, beaucoup viendra de l’étranger, avec deux risques : une grande dépendance technique difficile à réduire, et la mise en place d’algorithmes comportant des biais culturels du fait de leur conception « à distance » en dehors du pays.

Autres problèmes cités : celui de l’emploi (chômage, inexistence de profils qualifiés, opacité des pratiques venant de l’étranger), et des législations inopérantes pour assurer la protection des personnes susceptibles d’être affectées par ces systèmes qui sortent de l’épure des réglementations nationales lesquelles restent traditionnelles.

Pour faire face aux nombreuses questions qui se posent les Gouvernements doivent bâtir un cadre adéquat pour appréhender le sujet IA. Il leur faut aussi travailler en partenariat avec les experts notamment pour traiter des trois thèmes suivants : l’éthique, les accès et les obligations redditionnelles

Un avis coréen :

Le grand défi à relever avec l’Intelligence artificielle ? c’est tout simplement celui de l’Humain:ces systèmes doivent rester sous contrôle. On doit se méfier de dispositifs automatisés qui réduiraient les personnes à l’état d’objets, emprisonnées ou espionnées par les machines. Mais il ne faut pas pour autant nier l’utilité de certains algorithmes de surveillance lorsqu’ils permettent de traquer les « fake news », les trafics illégaux et autres pratiques répréhensibles, nuisibles à l’ordre public.

Il faut reconnaître une ambivalence de l’IA, et sans nier ses avantages, on doit se préoccuper de leurs possibles impacts négatifs : accroissement des inégalités avec destruction d’emplois ou éviction des classes défavorisées, apparition de puissances hégémoniques maîtrisant de mega-bases de données constituées à l’insu et, parfois, au détriment des personnes. Ces risques avérés appellent à réguler le domaine des Data et à imposer plus de transparence, comme le fait l’union européenne avec le RGPD.

Un regard venu d’Afrique :

Pour prévenir tout risque de dérive, il faut « socialiser le domaine », et, ce faisant, sortir des vues principalement techniques (les outils, les connexion etc.) S’agissant d’un sujet sensible en ce qu’il touche l’humain, l’élément central tient aux usages que l’on fait des données qui sont à la base des processus d’intelligence artificielle. Il importe qu’on réponde par leur truchement à de vrais besoins, et là est l’essentiel : quels sont ces besoins que l’intelligence artificielle sera capable de mieux satisfaire ? Tous ceux qui permettront de soutenir ce qu’il y a de mieux en notre humanité, nous dit-on, alors, on pourra mieux s’approprier ou vivre avec une Intelligence artificielle « Amie de l’Homme ». Mais cet objectif ne pourra être atteint avec cette seule affirmation de principe. Les transformations inévitables que va introduire le recours grandissant à l’IA nécessiteront l’élaboration de règles juridiques et éthiques pour assurer précisément une préservation de l’humain.

Intelligence artificielle : Les Droits de l’Homme et les objectifs de développement durable

L’animateur de ce panel a introduit les échanges en rappelant les quatre grands principes que l’UNESCO s’attache à faire prévaloir dans les actions/réflexions sur l’internet et plus généralement le numérique. Ce sont ceux que l’on connaît sous l’acronyme ROAM, moyen mnémotechnique et mobilisateur pour désigner quatre « impératifs » à respecter : Right (respecter le droit) Openness (principe d’ouverture), All (principe d’un large accès), Multistakeholders (approches coopératives et partenariales).

Il a aussi évoqué d’entrée un autre sujet source de débats voire de polémiques tout à fait en rapport avec le thème du panel : la neutralité de l’Internet.

Outre l’ambassadeur du Mexique à l’UNESCO, sept autres orateurs (un représentant de l’OCDE et du Conseil de l’Europe, d’une Fondation spécialisée (GLOBAL PULSE), un ingénieur, , un juriste, une journaliste ont donné leurs vues sur une question essentielle.

Le délégué du Mexique à l’UNESCO a indiqué tout ce que son pays a engagé comme actions pour traiter la Question du numérique de façon ordonnée : une stratégie a été définie, un cadre créé et un Bureau national institué pour favoriser les coopérations. Il a insisté par ailleurs sur la nécessité d’un internet au service de l’Homme, et protégé contre les risques qu’il peut induire (inégalités, violence, exploitations, quasi-monopole des grands opérateurs, captation des données etc). Il a salué le travail conduit par l’UNESCO qui en la matière est un chef de file légitime pour aider internationalement à une meilleure gouvernance du net.

Le représentant de la World Wide Web Foundation a traité trois points :

Les Droits d’accès : beaucoup reste encore à faire (50% de la population mondiale n’est pas connecté), beaucoup de requis pour un juste accès sont loin d’être respectés (les connexions, la question des langues, un juste prix). Doit aussi être mieux traitée la question des contenus (la qualité, leur diffusion plus ou moins sélective) ;
La Confiance : il est impératif que l’on discipline le traitement des données diffusées. Il faut que les acteurs assument leur responsabilité pour que l’on traite comme il convient le problème de la Violence et de la Sécurité (pas seulement technique). On retrouve sur la toile les mêmes dérives comportementales ou cognitives que dans le monde physique (sexisme, racisme, exploitation etc.), et des abus dont sont victimes les populations les plus vulnérables. Là aussi il faut engager massivement l’action pour corriger ces errements ;
Les Données : elles doivent de qualité, protégées si elles sont personnelles, et faire l’objet de traitement selon des règles appropriées. De ce point de vue, la réglementation européenne est donnée en exemple. Il importe aussi que des limites claires soient définies : le monde du numérique n’a pas vocation à s’insinuer dans l’intimité de la vie des gens.

Un ingénieur, chercheur expert en intelligence artificielle :

L’intelligence artificielle n’est pas forcément très compliquée. On ne fait que commencer et beaucoup reste à venir, les machines vont continuer d’étendre leur emprise, l’important sera de bien piloter ces évolutions et de rester équilibré dans les usages.

Le représentant de l’organisation GLOBAL PULSE :

Il faut que les systèmes d’Intelligence Artificielle soient développés et utilisés d’une manière correcte avec des règles et principes à respecter, des standards aussi harmonisés que possible et un souci de rester conforme aux Droits de l’Homme. Il y a un risque de « boite noire », il faut l’éviter et exiger une transparence suffisante.

Les données sont un sujet important, elles sont à gérer sérieusement, avec des règles éthiques. Tout dispositif doit prévoir de traiter avec « due diligence » les sujets suivants : l’intégrité, les sources, le partage, les canaux de diffusion.

Avis d’un juriste à propos des traitements informatiques de type « intelligence artificielle »

La surveillance : s’assurer qu’on est conforme aux lois (ce n’est pas toujours le cas). Le constat est fait que bien souvent la législation est insuffisante dans sa partie « mise en œuvre » (enforcement) ;
Le suivi des Contenus ou Productions issues des systèmes d’IA : il y a un réel manque de transparence, les dispositifs ne peuvent pas être inspectés, les impacts sont impossibles à mesurer ;
Les données : il faut pouvoir s’assurer que la « vie privée » n’est pas mise à mal ( « privacy »).

On doit pouvoir connaître les raisons pour lesquelles l’intelligence artificielle est mobilisée et lier cette question à celle des « données ».

La régulation s’impose pour organiser nationalement le cadre dans lequel peuvent être développés les traitements avec recours à l’IA. Il y a au moins trois domaines pour lesquels des obligations peuvent être envisagés : la protection des Personnes, le régime de la Concurrence, les spécificités de certains secteurs (sensibles).

Finalement, conclut l’animateur de cette table ronde, l’IA est à apprécier à l’aune des principes ROAM, avec une exigence simple : se conformer aux règles juridiques (« Rule of Law »).

La Représentante du Conseil de l’Europe :

Le Conseil de l’Europe étudie le sujet depuis deux ans. L’important est d’éliminer tout ce qui pourrait inquiéter et miner la confiance. Pour ce faire, il faut une discipline, et la bonne approche est celle des Droits de l’Homme. Le souhait est d’avoir une « Human right centred AI ».

Des recommandations sont émises avec une insistance particulière sur les idées de « responsabilité », de « redevabilité ».

On doit se convaincre que beaucoup de questions sont à considérer lato sensu (l’Internet étant par nature un ensemble – relativement – ouvert) mais elles sont à voir aussi dans leurs déclinaisons locales.

Un point particulier est mis en exergue concernant le domaine de l’information, et les possibles dangers que pourraient générer des systèmes d’IA pour fausser les processus électoraux. Le Conseil de l’Europe, soucieux de ce risque, a publié « une déclaration sur la Démocratie et l’Intelligence Artificielle ».

« La Liberté d’expression et l’Intelligence Artificielle » avis d’une journaliste, membre de World Freedom of the Press »

Il y a danger : la liberté de la presse est en risque, avec çà et là, la menace ou l’existence de censures, la surveillance ou la manipulation de l’information.

Le danger vient d’un développement rapide des techniques intrusives, malicieuses, manipulatrices menées sur une grande échelle avec des systèmes automatisés capables de fausser l’information, produire des « trolls ». Insensiblement, une vague inquiétante risque de polluer « la toile » et porter atteinte aux droits de l’homme.

Le journalisme est menacé. Il lui faut des garanties pour immuniser l’espace contre toutes les attaques parfois systématiques et/ ou automatiques dont il fait l’objet. Une déclaration a été produite par 25 personnalités venant de 18 pays en faveur d’un espace commun préservant les droits de l’homme avec l’affirmation de principes à garantir pour tout système d’information journalistique : la neutralité idéologique, politique et religieuse, l’acceptation d’ouvrir ces systèmes à des audits.

En conclusion, l’oratrice insiste sur le bien fondé des débats sur des questions sensibles qui touchent à la liberté, sur la nécessité de bien former les journalistes, et le souhait que soient promus des standards (labels) de qualité. Ce sont autant de mesures ou d’initiatives susceptibles de préserver l’indispensable confiance dans les systèmes d’information que l’on doit avoir pour préserver la démocratie.

23 NovAppel de Paris pour la Confiance et la Sécurité dans le Cyberespace