Transparence et action administrative à l’ère de l’intelligence artificielle

L’essor de l’intelligence artificielle transforme profondément l’action administrative, notamment en apportant de nouveaux outils permettant d’optimiser la prise de décision administrative. Toutefois, cette évolution soulève des interrogations autour du principe de transparence. L’opacité des algorithmes, souvent comparés à des « boîtes noires », complexifie la compréhension des décisions, aussi bien pour les citoyens que pour les administrations elles-mêmes. La transparence administrative, historiquement conçue comme une communication directe entre l’administration et les administrés, devient aujourd’hui une relation tripartite impliquant également les fournisseurs d’IA. Cette nouvelle configuration génère une asymétrie d’information qui remet en cause la capacité de l’administration à pleinement maîtriser les outils qu’elle utilise, avec des risques de biais discriminatoire. Face à ces évolutions, le droit tente d’adapter les conditions de mise en œuvre de la transparence, notamment en matière d’explicabilité et de loyauté.

 The rise of artificial intelligence is profoundly transforming administrative action, particularly by providing new tools that help optimize administrative decision-making. However, this development also raises important concerns regarding the principle of transparency. The opacity of algorithms, often described as “black boxes,” makes administrative decisions more difficult to understand, both for citizens and for public administrations themselves. Administrative transparency, historically conceived as a direct relationship between public authorities and citizens, has now evolved into a tripartite relationship that also involves AI providers. This new configuration creates an information asymmetry that challenges the administration’s ability to fully control and understand the tools it relies on, while also increasing the risk of discriminatory bias. In response to these developments, the law is seeking to adapt the conditions under which transparency is implemented, particularly with regard to explainability and fairness.

 Dès 2018, Cédric Villani interrogeait la transparence des systèmes d’intelligence artificielle et    alertait sur le fait qu’une « grande partie des considérations éthiques soulevées par l’IA tiennent à l’opacité de ces technologies. En dépit de leur performance accrue dans de nombreux domaines […], il est souvent très difficile d’expliquer leurs décisions de manière intelligible par le commun des mortels ».

En 2025, l’intégration stratégique de l’intelligence artificielle (IA) dans les politiques publiques et la généralisation de son utilisation au sein de l’administration publique offrent l’opportunité de renouveler les interrogations posées par Cédric Villani et de s’interroger sur le concept même de transparence dans le contexte de la gouvernance numérique.

Dans ce scénario, l’intelligence artificielle, entendue comme  « un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels », se présente comme un outil ayant le potentiel de transformer la prestation de services publics et la prise de décision administrative grâce à ses capacités de calcul et d’analyse.

D’après Kelsen, « le droit est un ordre de la conduite humaine » : il est destiné à régir les comportements humains. On peut ajouter qu’il ne peut régir que les comportements humains et que seuls les comportements humains peuvent être régis par le droit. Ces deux formules ne recouvrent pas exactement le même objet. D’une part, le droit ne peut régir que les comportements humains car il ne peut régir les comportements d’autres êtres vivants et d’objets. Lorsqu’il donne l’impression de le faire, le destinataire de la norme est toujours un individu qui commande à l’animal ou qui contrôle l’objet. D’autre part, seuls les comportements humains peuvent être régis par le droit car le droit ne saurait appréhender ce qui échappe à l’entendement humain ou ce qui est inaccessible à l’Homme. Pour autant, les avancées technologiques et, en particulier, les progrès de l’intelligence artificielle pourraient remettre en cause ces préceptes de la théorie du droit. Si, jusqu’à présent, toute norme est encore élaborée directement ou indirectement (parfois) par les individus, il se pourrait qu’un jour, l’IA devienne suffisamment autonome, selon des mécanismes qui nous échappent aujourd’hui mais certains pressentent. Dario Amodei, patron d’Anthropic (entreprise gérant « Claude », l’IA générative française), a récemment demandé une « pause » dans la course à l’IA, afin de mieux contrôler risque de l’auto-amélioration de l’IA. Sur le plan du droit, les normes générées à partir d’algorithmes ont soulevé divers enjeux, notamment au regard de l’accès au code source, par les destinataires de la règle de droit. Il s’agit d’un enjeu de transparence, bénéficiant d’une garantie constitutionnelle. Tant que le code source est maîtrisé par l’Homme, le problème peut être résolu. Mais qu’en serait-il si ce code nous échappait ? Les progrès de l’IA soulèvent ainsi des questions éthiques, techniques, mais aussi juridiques que Hugo Lami, Christian Samaniego et Safia Zaraa ont brillamment analysés dans leur article.

Toutefois, cette transformation n’est pas sans poser de problèmes. Le caractère ambivalent de cette nouvelle technologie est souligné par la Convention cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit, dont le préambule reconnaît « que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent offrir des opportunités sans précédents pour la protection et la promotion des droits de l’homme, de la démocratie et de l’État de droit », mais reste préoccupé «  par le fait que certaines activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent porter atteinte à la dignité humaine et à l’autonomie personnelle, aux droits de l’homme, à la démocratie et à l’État de droit ». C’est cette même opposition entre les bénéfices attendus et le risque que représentent les systèmes d’intelligence artificielle (SIA) qui a motivé l’intervention de l’Union européenne et l’édiction d’un Règlement dédié à l’IA (RIA). Le considérant 6 de ce texte précise que, « compte tenu de l’incidence majeure que l’IA peut avoir sur nos sociétés et de la nécessité de bâtir la confiance, l’IA et son cadre réglementaire doivent impérativement être élaborés dans le respect des valeurs de l’Union ».

L’un des défis cruciaux est la nécessité de concilier les potentiels apports de cette nouvelle technologie avec la maîtrise humaine de son fonctionnement. Cette conciliation se matérialise, pour le législateur européen, par la mise en œuvre des mesures de transparence par les entreprises qui développent et déploient des systèmes d’IA générative. Ces mesures comprennent la mise en place de systèmes d’évaluation des risques, de cadres d’expérimentations sous contrôle de la personne publique préalablement à la mise sur le marché des outils d’IA et l’élaboration de métriques pour évaluer les performances, la sécurité et la conformité éthique des systèmes d’IA dans divers contextes et applications.

La réflexion sur le rôle de l’IA dépasse le cadre économique et politique et pose également des enjeux moraux et éthiques. Si l’IA peut être un outil puissant pour aider les humains à prendre des décisions, il est crucial de se rappeler que les « technologies de l’IA peuvent rendre de grands services à l’humanité et que tous les pays peuvent en bénéficier » mais qu’elles « soulèvent également des préoccupations éthiques de fond » et rendent nécessaires « d’assurer la transparence et l’intelligibilité du fonctionnement des algorithmes et des données à partir desquelles ils ont été entraînés ; et leurs éventuelles conséquences sur, entre autres, la dignité humaine, les droits de l’homme et les libertés fondamentales, l’égalité des genres et la démocratie ». Cette approche permettrait de garantir que l’IA est utilisée dans l’administration publique d’une manière qui profite à la société dans son ensemble, en renforçant la réglementation, tout en interrogeant la manière dont nous devrions comprendre les concepts traditionnels tels que la transparence, l’égalité ou la responsabilité.