@article{Grévin_2021, title={Les difficultés de mise en conformité de l’administration française avec les obligations relatives aux décisions individuelles prises sur le fondement d’un traitement algorithmique}, volume={7}, url={https://ojs.imodev.org/?journal=RIDDN&page=article&op=view&path[]=405}, abstractNote={<p> </p> <p>En France comme ailleurs, les algorithmes sont utilisés par les administrations depuis longtemps. Il serait même tentant de dire depuis toujours. Au moins s’agissant de toute administration d’une société humaine ayant atteint une taille et une pérennité relativement importantes. En effet, entre 3000 et 500 avant J-C avec l’invention et le développement de l’écriture complète (d’abord en Mésopotamie puis en Égypte, en Chine et partout dans le monde), certaines administrations en sont venues à stocker d’immenses quantités d’informations. Dès lors, ainsi que le montre l’auteur Yuval Noah Harari, afin de rendre les services qui sont attendus d’elle, une telle administration se doit de « garantir un traitement de données efficace, exact et commode. Cela requiert [...] des méthodes rapides et précises (des algorithmes) ». Dès lors, l’algorithme qui peut être défini comme « la description d’une suite finie et non ambiguë d’étapes (ou d’instructions) permettant d’obtenir un résultat à partir d’éléments fournis en entrée », apparaît comme un outil indispensable pour toute administration. En effet, à l’aune de cette définition, toute procédure administrative constitue (par exemple et à l’instar d’une recette de cuisine) un algorithme.</p> <p>Toutefois, ce n’est que relativement récemment que les effets conjugués de deux phénomènes ont conduit à l’évolution, si ce n’est à la création, du cadre juridique du recours à l’algorithme par l’administration.</p> <p>Le premier de ces phénomènes réside dans l’informatisation de l’administration. Cette dernière s’accompagne naturellement de l’informatisation totale ou partielle de nombreux algorithmes intervenant dans un processus de décision pour le citoyen. Or, les premiers usages par l’administration de technologies informatiques dans les années 70, ont tout de suite suscités des interrogations et des craintes. En France, ces derniers ont conduit le législateur à adopter un cadre juridique composé de deux lois afin de « regagner la confiance des citoyens en leur garantissant que l’informatisation de la société n’irait pas à l’encontre de leurs droits fondamentaux ».</p> <p>On peut ainsi faire remonter, en France, l’encadrement juridique du recours aux algorithmes par l’administration à la loi du 6 janvier 1978 dite « informatique et libertés » (s’agissant du droit au respect de la vie privée et plus précisément de la protection des données à caractère personnel) et à la loi du 17 juillet 1978 dite « loi CADA » (s’agissant du droit d’accès à l’information publique et plus précisément du droit d’accès aux documents administratifs). Toutefois, il s’agit alors d’un encadrement indirect puisqu’aucune de ces deux lois ne mentionne explicitement les algorithmes.</p> <p>Il faut attendre le second de ces phénomènes pour que l’application de ce cadre juridique soit explicitement reconnue s’agissant de l’usage des algorithmes par l’administration, d’abord par les décisions d’autorités administratives indépendantes, puis par la jurisprudence, et enfin par la loi.</p> <p>En effet, un second phénomène va progressivement renforcer cette informatisation de l’administration et par conséquent accroître et intensifier continuellement le recours aux algorithmes informatisés. Ce phénomène est décrit par Alain Supiot comme « le renversement du règne de la loi au profit de la gouvernance par les nombres » ou encore « l’asservissement de la loi au calcul d’utilité », que l’auteur situe à la fin du XXème siècle lors des « noces du capitalisme et du communisme » en Europe et en Chine. Il s’agit de la « volonté d’étendre à la société toute entière ce que l’on imagine être une organisation scientifique du travail » sur le modèle des algorithmes informatiques. Ce phénomène qui s’exprime dans tous les domaines de la vie humaine a été mis en œuvre, s’agissant de la gouvernance étatique, à travers le « <em>New public management</em> » ou « la Nouvelle gestion publique », qui « consiste à étendre à l’administration publique les règles et méthodes de l’entreprise privée, au nom d’une science générale des organisations ». Au niveau de l’administration étatique cette « gouvernance par les nombres » a été mise en œuvre en France d’abord avec l’instauration en 1996 d’un objectif national des dépenses d’assurance maladie et surtout avec l’adoption de la loi organique relative aux lois de finances (LOLF) adoptée en 2001. Elle a été poursuivie dans le cadre de la Révision Générale des Politiques Publiques en 2007 puis de la Modernisation de l’Action Publique (MAP) en 2012 et enfin « d’Action Publique 2022 » en 2017. C’est dans ce contexte et pour poursuivre ces objectifs que l’on assiste en France à la mise en place d’une administration électronique puis numérique. Dans ce cadre, l’augmentation exponentielle des usages numériques et des données à disposition de l’administration, ont eu pour conséquence ce que certains auteurs ont pu décrire comme une « algorithmisation de l’administration ».</p> <p>Cette dernière a conduit le législateur à consacrer pour la première fois en 2016 un cadre juridique spécifique au recours à l’algorithme par l’administration dans un domaine spécifique, la prise de décision individuelle.</p> <p>Ce domaine est en effet l’un de ceux pour lesquels les enjeux pour l’administration sont les plus importants. A ce titre, le rapport « Éthique et responsabilité des algorithmes publics » de la promotion Molière (2018-2019) de l’ENA souligne que « les algorithmes pouvant renforcer le sentiment d’éloignement de l’administration et d’isolement du citoyen, les collectivités publiques qui les déploient se doivent d’y recourir de manière exemplaire » car « se joue en partie ici la légitimité du service public ». En effet, à la différence des algorithmes privés, qui servent des intérêts particuliers et dont l’utilisation est rarement obligatoire, les algorithmes utilisés par l’administration « sont régulièrement utilisés afin de faire appliquer une loi, prévoyant des dispositions au service de l’intérêt général » et « s’imposent aux administrés ».</p> <p>Ces enjeux apparaissaient déjà dans le plan d’action national 2015-2017 pour la France dans le cadre du partenariat pour un gouvernement ouvert (OGP) au titre des engagements n°15 (Renforcer la politique gouvernementale d’ouverture et de circulation des données) et n°16 (Favoriser l’ouverture des modèles de calcul et des simulateurs de l’État).</p> <p>Ainsi, le cadre juridique relatif aux décisions individuelles fondées sur un traitement algorithmique posé par la loi pour une République numérique du 7 octobre 2016 impose à l’administration un certain nombre d’obligations destinées à assurer le respect des droits des administrés.</p> <p>Toutefois, le rapport de fin de mandat 2015-2017 pour la France dans le cadre du mécanisme d’évaluation indépendant de l’OGP soulignait que « la Loi pour une République numérique doit encore être pleinement mise en œuvre ; par conséquent, la portée et l’ampleur de l’engagement demeurent limitées et n’ont contribué que de manière négligeable à l’ouverture du gouvernement ». Le même rapport relevait en outre que « étant donné le peu de codes sources et de modèles de simulation qui ont été ouverts, cet engagement reste limité en termes de portée et d’échelle ».</p> <p>Ces engagements ont donc été prolongés dans le plan d’action national 2018-2020, au titre de l’engagement n°6 intitulé « Renforcer la transparence des algorithmes et des codes sources publics ».</p> <p>Par ailleurs, le cadre juridique issu de la loi pour une République numérique et les obligations qu’il comporte ont été complétés, s’agissant des traitements algorithmiques de données personnelles par les droits français et européen de la protection des données à caractère personnel. Les obligations que comportent ces derniers ont récemment été complétées et précisées dans le cadre de l’adaptation du droit français aux obligations issues du Règlement Général sur la Protection des Données à caractère personnel (RGPD) par la loi du 20 juin 2018 et la décision n° 2018-765 DC du Conseil Constitutionnel en date du 12 juin 2018. Ces derniers développements ont encore accru, pour les administrations, l’enjeu de se conformer à leurs obligations. En effet, depuis le 1<sup>er</sup> juillet 2020, les décisions administratives individuelles entièrement automatisées (c’est-à-dire les décisions fondées exclusivement sur un traitement algorithmique) qui ne respectent pas les dispositions introduites par les textes susmentionnés encourent la nullité.</p> <p>Or, malgré cela, force est de constater que l’administration française dans son ensemble connait de grandes difficultés dans sa mise en conformité avec ce cadre juridique et dans le respect des obligations qui en découlent. En témoignent, les nombreux articles à ce sujet dans la presse spécialisée telle que la revue en ligne NextInpact, pour n’en citer qu’une, ou encore les nombreux contentieux, à l’image des recours liés aux algorithmes de Parcoursup, eux aussi largement relayés dans la presse (spécialisée ou non). En témoigne également l’outil de suivi du plan d’action 2018-2020 de la France dans le cadre de l’OGP et dont les indicateurs indiquent en janvier 2021 un avancement à peine supérieur à 50% dans la réalisation des engagements relatifs à la transparence des algorithmes.</p> <p>C’est donc la double question de l’identification et de la résolution des difficultés des administrations dans l’appropriation et la mise en œuvre des normes auxquelles elles sont soumises qui se pose et ce afin de permettre la mise en conformité des pratiques au regard des règles de droit existantes.</p> <p>Les causes des difficultés de l’administration sont nombreuses et complexes. Elles sont à la fois, techniques, politiques, organisationnelles et juridiques.</p> <p>D’un point de vue juridique, il semble que deux sources de difficultés principales peuvent être relevées. La première concerne la complexité et l’imprécision du cadre juridique en lui-même (§1). La seconde concerne les pratiques contractuelles relatives aux méthodes d’acquisition des solutions de traitement algorithmique par l’administration (§2).</p> <p> </p> <p><a href="#_ftnref1" name="_ftn1"></a></p>}, number={1}, journal={Revue Internationale de droit des données et du numérique}, author={Grévin, Olivier}, year={2021}, month={août}, pages={97–117} }