La gouvernance de l'ia pour les territoires

Publié par Quentin Panissod le 13 juin

©Crédits photo : Jean-Sébastien Cailleux, ANPP, Morlaix

Introduction

La gouvernance de l’intelligence artificielle au sein des organisations est un sujet qui fait beaucoup couler d’encre. A l’occasion des Rencontres Techniques des Pôles territoriaux et des Pays sur l’IA, j’ai été invité à intervenir sur cette dernière. Car en effet, les opportunités et risques issus de la tendance de l’IA dépendent davantage des choix d’organisation des structures y ayant recours, et, par conséquent, de leurs choix de gouvernance.

La gouvernance, soit l’art de gouverner, concerne l’ensemble des pratiques qui affectent l’exercice du pouvoir. Une bonne gouvernance assure que votre organisation satisfasse la mission qui lui est confiée, pour elle et toutes ses parties prenantes. Dès lors, l’utilisation de logiciels dotés d’IA entre les mains de salariés, d’agents, d’élus, de dirigeants, mais aussi la construction de grands data centers dans certains territoires, viennent perturber la gouvernance des organisations. Comment saisir ces nouvelles opportunités et résister aux nouvelles menaces ?

Dans le cas des Rencontres Techniques des Pôles territoriaux et des Pays, nous nous intéresserons à la fois aux territoires dans leur ensemble mais aussi spécifiquement aux territoires de projets, comme défini ci-dessous.

Définition d’un territoire de projet (Association Nationale des Pôles Territoriaux et des Pays) :

Un Territoire de projet c’est : un espace géographique regroupant plusieurs établissements publics de coopération intercommunale (en moyenne 4) autour d’un projet de territoire. Ce regroupement supra-communautaire permet d’instaurer un espace de dialogue, de concertation, de coordination des politiques publiques et de participation citoyenne. Il porte le projet de territoire pour le compte des EPCI membres, il est le support de la mise en œuvre des actions des politiques publiques locales, en lien avec les acteurs privés, associatifs, socio-professionnels et entrepreneurial.

I. Pourquoi investir du temps dans la gouvernance de l’IA ?

Voici 4 raisons concrètes qui témoignent d’enjeux impossibles à traiter sans travailler sa gouvernance de l’IA :

Tout utilisateur d’un smartphone utilise l’IA au quotidien indirectement

Il est dont sujet à de nombreuses influences sur l’exercice de ses pouvoirs.

Tous les décideurs sont régulièrement démarchés ou touchés par des discours publicitaires sur des services basés sur des technologies d’IA

Ils consacrent du temps à la lecture, l’écoute et l’analyse de ces propositions.

Tous les acheteurs sont amenés à évaluer des logiciels ou matériel intégrant de l’IA

Ils doivent donc être capables d’en comprendre et négocier les enjeux, en posant les bonnes questions alignées avec la stratégie de leur organisation.

Tout utilisateur de l’IA a déjà été déçu par les résultats obtenus

Comme pour toute innovation, certains résultats sont loin des promesses effectuées.

Encore plus impactant, le Boston Consulting Group évaluait en 2024 que 74% des entreprises peinaient encore à obtenir de la valeur et passer l’IA à l’échelle, avec pour cause dans 70% des cas des problèmes relatifs aux enjeux humains et organisationnels ! Ce résultat est confirmé sur le cas de l’IA générative par une étude plus récente de la chaire FIT² (Mines – PSL) qui observe que les gains obtenus au sein de deux cabinets de conseil « sont complètement diffus et ne produisent pas de gain d’efficacité globale ». Il ne serait pas surprenant que ces ordres de grandeurs soient similaires dans le secteur public.

Enfin, nos travaux de recherche menés par Pedro Gomes Lopes au sein du Centre de Recherche en Gestion (Ecole Polytechnique) ont permis d’identifier que les imaginaires socio-techniques de l’IA introduisent des tensions profondes dans les organisations :

  • Entre attentes et faisabilité (« l’IA peut tout faire » vs. la réalité des besoins de transformation impliqués par un nouveau logiciel)
  • Entre injonctions à innover et besoins réels du métier (« il faut se mettre à l’IA » vs. une majorité de besoins auxquels l’IA ne peut pas répondre)
  • Entre imaginaires projetés et expériences vécues (déceptions lors de l’utilisation des assistants conversationnels, charge importante des projets managériaux et informatiques nécessaires pour l’IA…)

Alors, pour éviter d’être freinés par les risques engendrés par tous les exemples précédents, créer sa stratégie IA avec un volet sur la gouvernance est essentiel.

II. Quels résultats attendre d’une gouvernance de l’IA ?

Si l’on revient simplement à la définition de la gouvernance, la mise en place d’une gouvernance de l’IA au sein de votre organisation revient à : d’une part, faire en sorte que votre organisation tire parti des opportunités de l’IA pour mieux remplir sa mission et satisfaire ses parties prenantes ; d’autre part, faire en sorte que votre mission ne soit pas freinée par les risques posés par le développement chaotique de l’IA.

De manière très terre à terre, je suis convaincu qu’une bonne gouvernance de l’IA, c’est :

Des économies de ressources

Avec sa « boussole de l’IA », la métropole de Nantes clarifie ses choix en matière d’IA et un protocole est mis en place lors de l’émergence d’un projet. Ce dernier doit respecter 7 critères alignés avec la stratégie numérique responsable de la métropole, et une simple réunion avec les bonnes personnes s’appuyant sur ce document permet d’écarter les projets apparemment risqués ou non conformes et conserver les projets ayant du potentiel.

Une meilleure adéquation avec les besoins réels des citoyens

A Montpellier, la métropole a organisé une convention citoyenne de l’IA pour donner les moyens aux citoyens d’en comprendre les enjeux avant d’exprimer leurs attentes sur leurs sujets. Ce mode dont l’organisation peut demander un effort conséquent peut être décliné de manière plus légère, par exemple sous forme de Cafés de l’IA, une démarche ouverte initiée par le conseil national du numérique.

Une meilleure adéquation avec les besoins réels des agents dans le public et des salariés dans le privé

Par exemple, la MAIF a organisé une convention de trente salariés tirés au sort et a répondu par des engagements et des explications à l’intégralité de leurs propositions. A Nantes, un observatoire encourage les agents publics à témoigner de leurs usages de l’IA pour mieux identifier comment les encourager et les encadrer (pour lutter contre les pratiques de Shadow IT notamment – pratiques qui consistent à utiliser des outils non autorisés et sécurisés par le service informatique et génèrent des risques pour toute l’organisation).

S’éviter des problèmes conséquents

La ville d’Arcachon a été précurseur l’année passée en achetant 10000€ de crédits ChatGPT pour offrir la solution gratuitement à ses habitants, mettant notamment en avant la capacité de ChatGPT à conseiller les seniors en matière de santé. L’intention initiale de fournir un service supplémentaire était louable, la course au marketing technologique l’est probablement moins. A l’époque, l’annonce est faite sans préoccupation quant aux données citoyennes partagées sur ChatGPT (on rappelle qu’il faut paramétrer ChatGPT pour éviter que ses données soient réutilisées lors de son entraînement). D’autre part se posent évidemment les enjeux du choix du fournisseur et des dépendances crées, la transparence sur le choix et les modalités contractuelles, et tout particulièrement le sujet de l’éventuel conseil en santé ! Avec une gouvernance adéquate, ce projet reste possible, mais l’encadrement garantit la bonne compréhension des choix effectués à l’ensemble des parties prenantes.

Saisir les opportunités, intégrer les cas d’usage utiles

Une bonne gouvernance de l’IA, c’est aussi être en capacité de détecter et avoir recours aux cas d’usage les plus pertinents, en adéquation avec votre stratégie : pour les territoires et les collectivités, on peut penser à l’intégration des aléas climatiques aux projets de rénovation, l’auscultation des chaussées des routes, la détection améliorée des fuites d’eau dans les réseaux, l’analyse documentaire sur les documents conséquents (PCAET par exemple). Avec une bonne gouvernance, non seulement les cas d’usage de l’IA seront alignés avec la politique du territoire, mais chaque cas rencontré sera un prétexte à la réflexion qui permettra à l’organisation de s’améliorer.

III. Par où commencer pour mettre en place sa gouvernance de l’IA ?

Comme nous l’avons vu précédemment, de nombreux exemples existent et les artefacts d’une bonne gouvernance sont divers : charte, formations, conventions, groupes de travail, comités, critères, débats, cafés, référents, observatoires, liste de contrôle, comitologie dédiée, etc. Les territoires de projets peuvent être mobilisés autant par leurs conseils d’élus que par le conseil de développement pour faire participer les acteurs de la société civile.

Dans l’ensemble, elle peut s’incarner d’une simple charte à un volet de votre stratégie IA, mais passe nécessairement par :

  • Une étape de formation (non technique) à l’IA et ses enjeux. Elle se réalise idéalement en présentiel avec des spécialistes mais le MOOC Objectif IA de l’INRIA peut aussi être une bonne alternative. Au sein des territoires de projets, élus comme équipe techniques sont concernés ;
  • Une préoccupation qui part de votre stratégie et des métiers à l’IA, et non pas de l’IA vers le métier: l’échange entre vos métiers, vos usagers ou clients, et l’animation par des spécialistes est clef pour ne pas atterrir sur des choix « gadgets » ;
  • Une approche réflexive, un regard critique: l’écart entre nos imaginaires socio-techniques de l’IA et la réalité est tel qu’il faut redoubler de vigilance.

Pour alimenter votre réflexion, nous avons produit deux ressources qui feront sens dans votre documentation :

A l’approche des projets de grands data centers dans plusieurs territoires, suite aux annonces de 109Mds€ d’investissements du début de l’année par le Président de la République, opportunités et tensions émergeront :

  • Des ressources informatiques importantes, locales et moins émissives que la moyenne internationale, pour les projets IA de la région ;
  • Une dynamique économique locale, à nuancer du fait que les investissements sont majoritairement étrangers ;
  • Des tensions sur les ressources: terrains, eau et électricité, du fait des besoins des data centers.

La gouvernance IA mise en place dans les territoires devra être au rendez-vous de ces grands projets !

The Swarm Initiative – votre partenaire conseil pour réaliser vos projets d’IA à impact