« Gouverner avec l’intelligence artificielle », c’est un rapport de l’OCDE qui cartographie l’adoption de l’IA dans les fonctions essentielles de l’État (justice, fiscalité, aides sociales) et documente que les gains de productivité risque de faire perdre ce qui fonde sa légitimité : la capacité de justifier ses décisions devant les citoyens affectés. Si l’administration délègue son pouvoir de jugement à des IA, elle est privée de sa capacité à expliquer son raisonnement. Pourquoi l’explicabilité est l’infrastructure critique fondamentale de la démocratie européenne au XXIe siècle ?
L’explicabilité, horizon indépassable de la légitimité démocratique
Historiquement, l’État de droit s’est construit sur l’exigence de la motivation des actes. Un juge, un inspecteur des impôts ou un travailleur social n’applique pas seulement une règle ; il doit pouvoir en dérouler la logique, prouver qu’elle s’applique équitablement à un cas particulier, et offrir au citoyen une prise pour la contestation. C’est la condition sine qua non du consentement à l’impôt, de l’acceptation de la peine, ou de la perception de l’aide sociale.
Avec l’irruption de l’intelligence artificielle, et singulièrement de l’apprentissage profond (deep learning), l’État fait face à l’émergence d’une technologie dont la performance prédictive est inversement proportionnelle à sa transparence.
Le rapport de l’OCDE souligne que l’architecture même des réseaux de neurones interdit souvent à leurs propres concepteurs de retracer le cheminement qui a conduit à un résultat spécifique. La machine déduit des inférences à partir de milliards de paramètres. Elle ne « pense » pas le droit, elle calcule des probabilités de non-conformité ou de récidive. En adoptant ces systèmes, l’État intègre des oracles aveugles au cœur de sa décision. L’État ne peut pas se permettre cette désinvolture. Il a l’obligation légale et morale d’optimiser pour la redevabilité.
Si l’État déploie des systèmes d’identification biométrique, de détection de la fraude ou d’allocation des ressources sans pouvoir en expliciter les critères de pondération, il rompt l’équilibre démocratique. Le citoyen se retrouve face à un pouvoir discrétionnaire automatisé, indéchiffrable et donc incontestable. L’Europe doit défendre et produire une « IA d’intérêt général » dont l’explicabilité by design constitue la valeur cardinale.
Les angles morts d’une administration sous perfusion algorithmique
Le diagnostic tiré des 200 cas d’usage analysés par l’OCDE est celui d’une administration séduite par le mirage technologique, mais cruellement démunie face à ses effets pervers. L’analyse met en lumière trois failles systémiques qui menacent l’intégrité de la décision publique.
Le drame de la boîte noire et l’opacité comme arme de destruction sociale
Lorsque l’explicabilité fait défaut, l’erreur algorithmique se transforme en tragédie humaine. Aux Pays-Bas, le scandale des allocations familiales (Toeslagenaffaire) a vu un algorithme biaisé, ciblant des familles binationales sur des critères illisibles, accuser à tort 26 000 foyers de fraude. Quand l’administration ne comprend pas comment la machine a pris sa décision, elle est incapable d’en corriger la dérive avant l’impact.
2. Le piège du « biais d’automatisation » et l’abdication du discernement humain
Le rapport de l’OCDE lève le voile sur un péril cognitif majeur : le biais d’automatisation. Face à la complexité, l’agent public a tendance à s’en remettre excessivement à la recommandation de la machine, parée de l’illusion de la neutralité mathématique. L’OCDE avertit du risque de « délestage cognitif » : la présence théorique d’un « humain dans la boucle » (human in the loop) devient une fiction juridique. Si un fonctionnaire craint d’engager sa responsabilité en contredisant une prédiction algorithmique (comme c’est le cas avec le système espagnol VioGén pour l’évaluation des risques pénaux), l’IA ne vient plus « augmenter » la décision humaine, elle s’y substitue de facto. Sans explicabilité claire des résultats, l’agent public ne peut pas exercer son esprit critique. Il devient l’exécutant passif d’une décision qu’il ne comprend pas, détruisant ainsi l’empathie et la sagesse pratique inhérentes au service public.
3. Le déficit capacitaire et la dépendance systémique
L’adoption de l’IA exacerbe la dépendance de l’État envers le secteur privé. Comment garantir l’explicabilité d’un système lorsque les compétences techniques pour l’auditer font défaut au sein même des ministères ? La fracture n’est pas seulement numérique pour les citoyens, elle est intellectuelle pour les administrations. L’administration perd la souveraineté sur ses propres processus décisionnels. Un État qui ne sait ni coder, ni auditer, ni contester le fonctionnement de son architecture technique est un État qui se prive des moyens d’assurer sa propre redevabilité.
La doctrine de l’intelligibilité publique
Face à ce diagnostic, l’approche européenne ne peut se limiter à une régulation ex-ante comme l’IA Act, certes fondateur mais insuffisant dans sa déclinaison opérationnelle quotidienne. Les pouvoirs publics doivent concevoir une véritable ingénierie de la redevabilité.
Voici trois principes d’action stratégiques pour refonder le contrat social algorithmique.
Principe 1 : Instituer le droit absolu à l’explicabilité et la transparence
L’administration doit renverser la charge de la transparence. Aucun système d’IA ayant un impact sur les droits, les prestations ou les libertés des citoyens ne doit être déployé sans que sa logique puisse être traduite en langage naturel.
Généraliser les « Registres publics d’algorithmes » (sur le modèle embryonnaire testé au Royaume-Uni ou aux Pays-Bas), accessibles, interrogeables et vulgarisés. Ces registres doivent documenter non seulement la finalité de l’IA, mais aussi la provenance des données d’entraînement, les limites connues du modèle, et les mécanismes permettant d’en contester les décisions. L’utilisation de modèles en code source ouvert (open source / open weight) doit devenir la norme pour les fonctions régaliennes afin de garantir l’auditabilité par la société civile.
Principe 2 : Passer de la conformité théorique à l’auditabilité sociotechnique continue
Les évaluations d’impact algorithmique réalisées avant le déploiement ne suffisent pas. L’IA, parce qu’elle apprend et dérive au contact des données réelles, nécessite une vigilance permanente.
Créer des corps d’inspection algorithmique au sein des institutions supérieures de contrôle comme les Cours des comptes. Ces audits ne doivent pas être purement informatiques ; ils doivent être « sociotechniques », évaluant l’impact de la machine sur les usagers dans la durée. Il faut imposer le « red-teaming » institutionnel (tests par des attaques contradictoires) pour identifier les vulnérabilités, les biais de genre ou d’origine, et les conséquences systémiques de long terme avant qu’elles ne se transforment en scandale d’État.
Principe 3 : Réarmer le discernement public face au biais d’automatisation
La technologie ne sauvera pas la bureaucratie si les fonctionnaires perdent leur libre arbitre. L’intégration de l’IA doit s’accompagner d’une revalorisation du jugement humain et d’une conception de l’outil qui encourage la friction intellectuelle saine.
Développer des programmes de formation qui ne se contentent pas d’apprendre aux agents à « utiliser » l’IA, mais qui les entraînent à la « remettre en question ». L’interface des logiciels d’État doit intégrer des niveaux d’incertitude visibles (afficher les marges d’erreur, fournir les sources via des techniques de génération augmentée par récupération). L’agent public doit être protégé juridiquement lorsqu’il décide, sur la base de son discernement professionnel, de déroger à la recommandation de la machine. L’humain ne doit pas être la caution éthique de l’algorithme ; l’algorithme doit rester l’assistant faillible de l’humain.
En guise de conclusion
Gouverner avec l’intelligence artificielle est une épreuve de force politique. En cédant à la tentation de l’opacité au nom de la modernité ou de la rapidité, l’Union européenne et ses États membres courent le risque de briser le lien de compréhension qui l’unit aux citoyens. Faire de l’explicabilité le socle, c’est affirmer une souveraineté augmentée d’un genre nouveau.