L’indispensable transparence des algorithmes publics
⏱ 5 minSimon Chignard, conseiller stratégique chez Etalab (direction interministérielle du numérique, services du Premier ministre)
Calculer le montant de votre impôt sur le revenu, attribuer une place en crèche à une famille ou encore gérer l’accès à l’enseignement supérieur : de nombreux services publics sont rendus par l’État et les collectivités, à partir d‘algorithmes, de puissants outils parfois décriés pour leur opacité et leur complexité. La loi pour une République numérique a introduit un principe de transparence de certains algorithmes publics. Comment est-il mis en œuvre ?
Une brève histoire des algorithmes publics
Depuis les premières « machines à calculer » jusqu’aux technologies les plus récentes de l’intelligence artificielle, les pouvoirs publics ont toujours perçu le potentiel de ces outils pour gouverner la société et les hommes. La « Pascaline », conçue par le mathématicien Blaise Pascal en 1642, est entrée dans l’histoire comme l’une des toutes premières machines arithmétiques. Les motivations du mathématicien, alors âgé de 19 ans, sont moins connues : aider son père, alors surintendant de Haute-Normandie, dans le calcul des impôts et taxes, une tâche particulièrement fastidieuse.
C’est également le secteur public qui a figuré parmi les premiers utilisateurs des grands systèmes informatiques développés dans les années 1960. Là encore, pour le calcul de l’impôt, représentatif du premier usage des traitements algorithmiques dans le secteur public. Le but : appliquer des règles prédéfinies à un très grand nombre de cas – en l’occurrence aujourd’hui près de 37 millions de foyers fiscaux. En l’espèce, la machine exécute la même tâche que l’humain, mais beaucoup plus vite, et surtout à un coût moindre.
Apparier l’offre et la demande
Dans les années 1990 émerge un autre type d’algorithmes : ceux permettant notamment de faire de l’appariement (matching algorithms) entre une « offre » et une « demande ». Par exemple entre un souhait de mobilité d’un agent de la fonction publique (enseignant, militaire…) et un emploi disponible dans telle ou telle région. Ces algorithmes appliquent toujours des règles prédéfinies, mais ils représentent une première rupture : la machine permet de faire des traitements que l’humain ne serait matériellement pas en capacité de faire, à l’instar de la plateforme d’affectation dans l’enseignement supérieur Parcoursup, qui traite les 7 millions de vœux émis par près de 900 000 candidats. Impossible à faire manuellement.
Une nouvelle étape s’ouvre à présent, liée à l’émergence des technologies d’apprentissage automatique (machine learning). Le service La Bonne Boîte proposé par Pôle Emploi permet aux demandeurs d’emploi de cibler leurs candidatures spontanées. L’algorithme utilise l’ensemble des déclarations préalables d’embauche pour prédire le potentiel d’embauche de chaque entreprise de France. Avec des techniques similaires, le service Signaux Faibles permet de repérer les entreprises qui vont présenter des difficultés financières, et pour lesquelles l’intervention précoce des pouvoirs publics (sous la forme d’un report de cotisations, par exemple) peut être salvatrice.
Aide à la décision
Précisons cependant que la plupart de ces algorithmes sont aujourd’hui utilisés pour aider la prise de décision, et non pour décider de manière automatique, sans intervention humaine. Ce risque de perte d’autonomie est d’ailleurs l’un des principaux problèmes identifiés, de même que celui de discrimination ou de biais en ce qui concerne les algorithmes apprenants, parfois qualifiés de « boîtes noires » et dont l’opacité des traitements provoque à juste titre une certaine méfiance, voire une défiance de la société au regard de leur utilisation croissante.
Algorithmes publics vs algorithmes privés : des enjeux spécifiques
Et pour cause : il faut souligner que les algorithmes mis en œuvre par le secteur public présentent deux spécificités principales par rapport à ceux du secteur privé (comme le PageRank de Google ou le Newsfeed de Facebook). Outre le fait qu’ils doivent opérer au service de l’intérêt général et non d’intérêts particuliers, les algorithmes publics ont surtout la caractéristique d’être bien souvent incontournables : nous sommes obligés de les utiliser. Parcoursup par exemple constitue la porte d’entrée obligatoire pour accéder à la très grande majorité de l’offre d’enseignement supérieur en France. A contrario, un individu qui ne serait pas satisfait de l’algorithme de recommandation de Youtube peut tout à fait utiliser les services d’une autre plateforme de vidéo en ligne, voire renoncer à cet usage.
À cet égard, les algorithmes publics constituent bien de nouvelles formes de l’action publique. Or, dans notre pays comme dans la plupart des pays occidentaux, cette dernière doit être redevable. Dès 1789, la Déclaration des droits de l’homme et du citoyen indiquait que « tout agent de l’administration doit rendre compte à la société ». Il convient donc que l’administration rende compte de l’usage des algorithmes.
Encadrer l’utilisation des algorithmes
Plusieurs textes de droit national et européen sont venus récemment encadrer l’utilisation des algorithmes, en particulier quand ils sont utilisés pour prendre des décisions qui affectent les individus. Ainsi, la loi pour une République numérique de 2016 a introduit le principe de transparence des algorithmes publics. En pratique, il s’agit d’offrir aux individus (personnes physiques et morales) de nouveaux droits. Le texte prévoit trois obligations pour les administrations :
1/ la mention explicite : c’est-à-dire l’obligation d’indiquer aux intéressés qu’un algorithme est utilisé et quels sont leurs droits ;
2/ l’information générale : les administrations doivent publier les principes de fonctionnement des principaux traitements quand ils fondent des décisions administratives individuelles ;
3/ l’information individuelle : fournir à l’individu concerné un ensemble d’informations concernant l’algorithme, son fonctionnement en détail et sous forme intelligible ainsi que les données traitées pour son cas spécifique.
Ce droit à l’information individuelle, s’il est revendiqué par les individus et appliqué par les administrations, peut poser les bases d’une relation plus apaisée entre une administration de plus en plus « algorithmisée » et une société qui se défie de plus en plus de ces outils.
Mettre en œuvre le principe de transparence : l’action d’Etalab
Etalab est la mission en charge de l’ouverture et de l’exploitation des données publiques au sein de la Direction interministérielle du numérique (services du Premier ministre). À ce titre, elle accompagne les administrations dans la mise en œuvre du principe de transparence des algorithmes publics, en particulier quand ils sont utilisés pour (aider à) prendre des décisions administratives individuelles.
La première étape consiste à recenser les algorithmes potentiellement concernés par l’obligation de transparence et analyser des cas d’usage de manière détaillée comme l’attribution de places en crèche municipale, la prédiction du potentiel d’embauche d’une entreprise ou encore la gestion des greffons cardiaques par l’Agence de biomédecine. Ce travail d’observation permettra d’identifier les enjeux techniques, juridiques et sociétaux, et de mettre en lumière les bonnes pratiques. Il s’appuie notamment sur des enquêtes auprès d’agents d’administrations qui utilisent des algorithmes dans leur travail quotidien, l’analyse du code informatique quand il est disponible ou l’étude des documents juridiques et techniques qui encadrent un traitement. Ces monographies seront publiées au cours de l’année 2019, conformément aux engagements du Plan d’action national de la France dans le cadre du Partenariat pour un Gouvernement ouvert (partenariat multilatéral regroupant quatre-vingts pays et vingt ONG).
Obligations des administrations
Ensuite, pour faciliter la compréhension d’un cadre juridique qui paraît nouveau pour nombre d’administrations, Etalab publie un guide sur les algorithmes publics. Ce document, disponible en ligne et ouvert aux contributions décrit de manière concrète et opérationnelle les obligations pesant sur les administrations et la façon dont elles peuvent être accompagnées dans la mise en œuvre de ces solutions. Cet outil est évolutif, et sera complété au fil de l’eau par de nouveaux outils (fiches pratiques, retours d’expérience).
Enfin, pour que ce nouveau droit devienne une réalité, il faut que les individus concernés s’en revendiquent. Pour eux aussi, le principe de transparence des algorithmes publics est une nouveauté, même s’il peut être perçu comme une extension du droit d’accès à l’information introduit en France à la fin des années 1970.
Impact des algorithmes sur la société
L’enjeu n’est d’ailleurs pas seulement individuel, il peut donner lieu à des mobilisations collectives. Il dépasse souvent la seule question de la transparence et interroge aussi les impacts des algorithmes sur la société. On constate avec intérêt que des initiatives citoyennes mêlant chercheurs, artistes et militants voient le jour dans plusieurs pays : l’Algorithmic Justice League aux États-Unis, le Data Justice Lab au Royaume-Uni, Algorithm Watch en Allemagne ou encore AlgoTransparency (France / États-Unis). Face à ces outils puissants pour gouverner les hommes et la société, le principe de redevabilité, introduit dans la Déclaration des droits de l’homme et du citoyen, reste d’actualité deux siècles plus tard.