Un partenaire gouvernemental demande : l’IA peut-elle ramener de plusieurs semaines à quelques heures le délai de réponse à une demande citoyenne ? Un ministère de l’Énergie veut savoir si l’apprentissage automatique peut maintenir la stabilité du réseau à mesure que les énergies renouvelables montent en puissance. Un service de vulgarisation agricole doit toucher deux fois plus d’agriculteurs sans doubler ses effectifs.
Ces questions ne sont pas théoriques. Elles nous parviennent régulièrement de partenaires d’Afrique, d’Asie, des Balkans et d’Amérique latine. Chacune en porte une seconde, implicite : pouvons-nous le faire de manière responsable ?
GOPA souhaite que la réponse soit oui dans les deux cas, mais à des conditions précises. L’IA doit être ancrée dans les institutions, et pas seulement démontrée dans des projets pilotes. Les solutions doivent fonctionner avec les contraintes réelles : connectivité, diversité linguistique, équipes techniques limitées, systèmes hérités. Et l’expérimentation ne doit pas créer de dette technique, juridique ou éthique cachée.
C’est pourquoi GOPA a créé l’AI Studio en 2023 : un pôle à l’échelle du groupe chargé d’identifier les usages où l’IA apporte une valeur réelle et de veiller à ce que les nouvelles applications soient développées selon des normes de gouvernance exigeantes. Le cadre décrit dans cet article est en cours de déploiement dans les projets de GOPA et continuera d’évoluer avec la réglementation et les pratiques.
Des normes comme boussole
Le travail de GOPA sur l’IA s’appuie sur quatre niveaux de réglementation :
- Règlement européen sur l’IA (AI Act) : classification des risques, exigences de transparence et de conformité
- RGPD : protection des données dès la conception et par défaut
- Principes de l’OCDE sur l’IA : redevabilité, transparence, sécurité, supervision humaine
- Droit des pays partenaires : protection des données locale, réglementation sectorielle, mandats institutionnels
Ces cadres offrent un langage commun aux bailleurs européens et aux organisations internationales. Ils prémunissent aussi les solutions contre un durcissement de la réglementation.
De nombreux partenaires hors de l’UE ne sont toutefois pas soumis au droit européen et ne souhaitent pas s’y confronter. GOPA répond à cela par une approche à deux voies :
- Conformité interne : GOPA conçoit ses politiques, ses processus et ses outils de manière à ce qu’ils soient compatibles avec les exigences de l’AI Act et du RGPD.
- Adaptation externe : GOPA traduit ces principes en garde-fous adaptés au contexte local, afin que les partenaires bénéficient d’une gouvernance solide sans bureaucratie inutile.
Résultat : GOPA effectue le travail réglementaire une fois pour toutes ; les partenaires se concentrent sur la résolution des problèmes.
Le fonctionnement de l’AI Studio
L’AI Studio constitue une infrastructure partagée entre les unités opérationnelles de GOPA. Il apporte :
- une expertise en ingénierie des données et en apprentissage automatique,
- des lignes directrices de sécurité et de gouvernance, et
- des modèles standardisés d’analyse des risques et de documentation.
Les unités opérationnelles apportent la connaissance sectorielle : comment les gestionnaires de réseau équilibrent la charge, quelles étapes comptent dans les procédures judiciaires, comment les systèmes de protection sociale déterminent l’éligibilité, comment les conseillers agricoles atteignent les communautés isolées, comment les stratégies de communication touchent et mobilisent des publics variés.
Lorsqu’une application d’IA se dessine, le Studio et l’équipe sectorielle examinent trois questions :
- L’IA est-elle le bon outil ? Une analyse plus simple ou une refonte du processus produirait-elle le même résultat ?
- Qu’est-ce que cela change pour les personnes et les institutions ? Qui utilise l’outil ? Qui reste responsable des décisions ?
- Que signifie « responsable » dans ce cas précis ? Quelles normes s’appliquent : européennes, locales ou les deux ?
Cette approche ancre l’innovation dans la réalité opérationnelle.
Quatre engagements de conception
Ces engagements ont vocation à définir la manière dont GOPA conçoit et déploie l’IA, quels que soient les secteurs et les zones géographiques.
- La responsabilité humaine dès la conception
L’IA appuie les décisions ; elle n’en porte pas la responsabilité. GOPA applique trois règles :
- Les composants d’IA signalent, suggèrent ou hiérarchisent ; ils ne décident pas de façon autonome dans les contextes sensibles.
- Les rôles sont explicites : quelles étapes sont automatisées, lesquelles restent humaines, où une escalade est possible.
- Les actions significatives assistées par l’IA sont traçables au moyen de journaux et de documentation.
Exemple : l’intégrité de la commande publique
GOPA accompagne la réforme des marchés publics en Asie du Sud-Est, en Afrique et dans les Balkans depuis plus de vingt ans. Dans un système de passation des marchés assisté par l’IA, des algorithmes peuvent signaler des schémas inhabituels sur des milliers d’appels d’offres : anomalies de prix, concentration dans le temps, concentration de fournisseurs. Dans l’approche de GOPA, il s’agit d’alertes destinées aux auditeurs, non de sanctions automatiques. Des experts humains examinent le contexte, appliquent le droit national et décident des suites à donner.
Pour les bailleurs européens, cela correspond aux exigences de l’AI Act relatives aux systèmes à haut risque. Pour les autorités locales, c’est un garde-fou concret : l’IA cible mieux le travail d’audit sans se substituer au jugement juridique.
- Le respect des données et de la vie privée
Les données constituent souvent l’élément le plus sensible d’un projet d’IA. GOPA prend les garanties du RGPD comme référence de qualité pour concevoir ses solutions d’IA et les adapte aux cadres locaux :
- ne collecter que les données réellement nécessaires (minimisation des données),
- indiquer clairement à quelles fins les données sont utilisées (limitation des finalités),
- protéger les données personnelles et sensibles et en contrôler l’accès, et
- supprimer ou anonymiser les données devenues inutiles (limitation de la conservation).
Le rôle de GOPA est de traduire les principes de protection de la vie privée en choix de conception concrets, pour que ses partenaires n’aient pas à devenir des spécialistes du droit européen des données.
Exemple : le conseil agricole
Un outil de conseil numérique destiné aux agriculteurs peut avoir besoin d’informations sur la localisation, les cultures et la taille de l’exploitation, mais pas des noms ni des adresses précises. L’approche de GOPA : traiter les données sur les appareils ou sur des serveurs locaux lorsque c’est possible, pseudonymiser les données qui doivent être transmises, appliquer des règles de conservation claires pour que les historiques détaillés ne soient pas gardés plus longtemps que nécessaire.
- Équité et contexte local
Les modèles d’IA peuvent se comporter différemment selon les langues, les régions ou les groupes de population. GOPA ne s’engage pas à garantir une neutralité parfaite, mais à rendre les biais visibles, gérables et réductibles.
Concrètement :
- tester les outils auprès de différents groupes d’utilisateurs et dans différentes langues lorsque les données le permettent,
- vérifier non seulement la performance technique, mais aussi le ton, l’exhaustivité et la cohérence, et
- documenter les limites connues dans des termes compréhensibles par des décideurs non techniciens.
Exemple : les services aux citoyens multilingues
En testant un agent conversationnel multilingue destiné aux services publics, GOPA pourrait constater que les réponses formulées dans une langue très répandue sont plus détaillées que celles fournies dans une langue locale. Dans l’approche de GOPA, ce constat déclenche une action corrective : ajustement des données d’entraînement, recours à des modèles de langue spécialisés ou mise en place de mécanismes compensatoires, comme un transfert facile vers un agent humain. Il y va autant de l’équité d’accès à l’information et à la communication que de la performance technique.
- Une technologie sobre et durable
L’IA n’est pas automatiquement l’option la meilleure ni la plus durable. Les grands modèles et les architectures complexes peuvent être coûteux, difficiles à maintenir et gourmands en énergie.
GOPA s’engage à :
- commencer par la solution la plus simple qui résout le problème de façon fiable,
- choisir des modèles et des infrastructures que les partenaires locaux peuvent réellement exploiter, et
- prendre en compte les implications énergétiques et financières lors de la comparaison des options techniques.
La bonne réponse n’est parfois pas « plus d’IA », mais un processus plus clair, un modèle plus petit ou un système d’information classique. C’est particulièrement important là où les budgets et les capacités techniques sont limités.
Expertise sectorielle et priorités actuelles
La structure de GOPA rend cette approche possible. L’AI Studio travaille avec des équipes présentes sur le terrain depuis des années, qui connaissent en profondeur les institutions, les secteurs et les publics des pays partenaires.
Sur cette base, les équipes de GOPA explorent et conçoivent des applications d’IA dans cinq domaines :
- Énergie et infrastructures : prévision de la production renouvelable, optimisation des réseaux, maintenance prédictive
- Gouvernance et finances publiques : analyse des données de la commande publique, appui à la rédaction législative, services d’information aux citoyens
- Agriculture et environnement : intégration de données satellitaires au service de la résilience climatique, amélioration des systèmes de conseil
- Éducation et développement social : outils linguistiques, mise en correspondance des compétences, suivi et évaluation fondés sur les données
- Communication et mobilisation des parties prenantes : adaptation multilingue des contenus, synthèse de rapports complexes pour différents publics, exploitation des retours de consultations pour nourrir la communication des programmes
Chaque application permettra de tester et d’affiner l’approche de gouvernance et produira des enseignements pour différents contextes nationaux à mesure que les concepts passeront à la mise en œuvre. Lorsque les bailleurs et les partenaires demandent comment GOPA gère les risques liés à l’IA, la réponse n’est pas un cadre générique, mais un échange ancré dans des institutions, des processus et des contextes juridiques précis.
Conclusion : de l’ambition, avec des garde-fous
GOPA ne considère pas la gouvernance de l’IA comme un frein à l’innovation. Elle en est la condition, pour innover durablement dans des environnements complexes.
Les clients, qu’il s’agisse de ministères, d’institutions européennes, d’organisations internationales, de banques de développement ou d’opérateurs privés, ne devraient pas avoir à choisir entre des applications d’IA ambitieuses et leurs obligations de redevabilité. En s’appuyant sur des normes telles que l’AI Act et le RGPD et en les adaptant aux réalités locales, GOPA entend offrir les deux : une IA qui produit des résultats dans un cadre exigeant.
L’AI Studio commence à concrétiser cette démarche par des évaluations de maturité, des cadres de gouvernance et des pilotes sectoriels. L’approche continuera d’évoluer à mesure que la réglementation avancera et que la pratique produira de nouveaux enseignements, mais la direction est claire.
L’objectif est d’utiliser l’IA là où elle aide véritablement les institutions et les communautés, d’une manière que GOPA et ses partenaires peuvent assumer.