Les algorithmes au cœur du droit et de l’État postmoderne

par Boris BARRAUD, Docteur en droit, Laboratoire interdisciplinaire droit, médias et mutations sociales (LID2MS), Université d’Aix-Marseille).

 

Un algorithme est une suite de formules mathématiques, d’opérations informatiques et de traitements statistiques permettant de solutionner des problèmes ou de réaliser des tâches à partir de grandes masses de données et en un temps record. Il fonctionne à partir d’«entrées» (les données initiales qu’il traite) et aboutit à des «sorties» (les résultats) en suivant différentes étapes qui requièrent des calculs, des opérations logiques, des comparaisons ou des analogies. Souvent assimilés à des «formules magiques», les algorithmes s’expriment généralement dans des programmes exécutables par ordinateur.

Ils donnent lieu à des résultats précis et pertinents grâce au data mining (ensemble d’outils d’exploration et d’analyse des données visant à en extraire les informations les plus significatives), aux progrès du traitement du langage naturel et à l’apprentissage automatique (machine learning et techniques d’apprentissage profond inspirées de la biologie et des réseaux neuronaux interconnectés). Ainsi se perfectionnent-ils par eux-mêmes à mesure qu’ils sont utilisés, sans intervention humaine. Ils apprennent par rapprochements successifs, en dégageant des corrélations.

Les algorithmes sont aujourd’hui omniprésents et inévitables, bien qu’invisibles[1]. Ils sont devenus essentiels en raison de la numérisation des sociétés, des économies, des hommes et des vies. Ils se trouvent surtout au cœur des services du web et des applications pour smartphones. Or le rôle essentiel que le web et les applications pour smartphones jouent désormais ne fait guère de doute : les sociétés, les économies, les hommes et les vies sont chaque jour un peu plus des sociétés, des économies, des hommes et des vies connectés. Les algorithmes envahissent jusqu’à l’univers juridique. Les LegalTechs sont ainsi en train de bouleverser les métiers du droit et de la justice[2].

Les algorithmes deviennent même des producteurs de normes, des sources du droit, parfois dans le cadre de l’État et à son service, parfois loin des appareils publics, des lois, des règlements et des jurisprudences. Cela interroge les juristes habitués au positivisme étatiste moderne[3]. Y compris les droits et libertés fondamentaux se trouvent mis en doute, car prospère insidieusement et progressivement une dictature des algorithmes, soit une régulation technologique mettant en péril le libre arbitre de chacun[4]. Ensuite, la question de la place des algorithmes dans le droit, dans les modes de régulation, dans les formes de normativité n’est pas une autre que celle de la place des algorithmes dans les sociétés contemporaines. Il s’agit certainement d’une problématique cardinale, car les algorithmes ne sont pas neutres ni objectifs, mais, au contraire, très politiques et orientés idéologiquement.

La prise de pouvoir des algorithmes est liée à un autre phénomène : l’explosion du big data, la mégaproduction de données. Ces dernières sont le «nouvel or noir». Créer en premier un algorithme très performant dans un secteur donné revient à découvrir un gisement de pétrole. L’enjeu est de collecter, enrichir et affiner les données, au service des algorithmes. Le pouvoir, dans toutes ses dimensions, dépend désormais dans une large mesure de la maîtrise des données et de la possession d’algorithmes sophistiqués et efficaces.

Ce pouvoir se trouve principalement dans les mains des «réseaux sociaux» et des GAFA (Google, Apple, Facebook, Amazon). Ces derniers ont une connaissance intime de leurs utilisateurs, ceux-ci leur livrant directement ou indirectement d’innombrables informations personnelles et indications touchant à leurs goûts et habitudes de comportement. Ensuite, grâce à leurs savants algorithmes, les réseaux sociaux et les GAFA analysent ces sommes faramineuses de données pour orienter, modeler les conduites de leurs utilisateurs au profit de leurs annonceurs. Ils produisent de la sorte des normes, donc des devoirs-être, des orientations des conduites, d’un nouveau genre et qui, si elles sont bien plus insensibles que, par exemple, l’obligation de s’arrêter à un feu rouge, présentent toutefois une forte effectivité.

Mais la révolution algorithmique n’épargne pas les pouvoirs publics et les institutions. Eux aussi recourent de plus en plus aux nouveaux outils technologiques et, en premier lieu, aux algorithmes. La révolution numérique rend numérique la République elle-même[5]; et les autorités publiques, notamment en France, y voient une nouvelle voie à explorer afin de renforcer l’efficacité des services. C’est ainsi qu’elles ont entrepris d’algorithmiser progressivement l’administration, c’est-à-dire de l’équiper d’algorithmes et d’en faire dépendre de plus en plus largement la gestion et les décisions publiques.

Allant beaucoup plus loin que la simple dématérialisation des services et des relations entre administration et administrés, l’algorithmisation marque une rupture à la fois qualitative et quantitative dans le processus de modernisation technologique des institutions. L’intelligence artificielle démultiplie leur potentiel. Elle va jusqu’à remplacer la décision humaine par une décision informatique ou, dans une moindre mesure, mettre la décision informatique au service de la décision humaine. Au sein de l’appareil étatique, la proposition algorithmique soutient de plus en plus le choix humain; elle en vient aussi à s’y substituer. Les algorithmes s’affirment progressivement — et assez insidieusement — comme les nouveaux déterminants, cadres et vecteurs des politiques publiques et du droit qui les accompagne (I). Au-delà de cet État postmoderne qu’ils dessinent, ils contribuent également à l’affirmation d’un droit postmoderne : les effets normatifs impliqués par les algorithmes des GAFA et autres multinationales de la communication numérique n’ont pas grand-chose à envier à ceux des lois et règlements, même s’ils présentent des caractéristiques bien différentes (II).

§1 – LES ALGORITHMES, OUTILS DE L’ÉTAT POSTMODERNE

L’«État postmoderne»[6] fonctionnera-t-il essentiellement à base d’algorithmes? Déjà de nombreuses administrations se sont ouvertes, plus ou moins entièrement, aux algorithmes, que ce soit en interne ou dans leurs relations avec les administrés (A). Cela pose des questions et suscite quelques critiques, notamment dès lors que jusqu’au service public de la justice pourrait s’en remettre aux algorithmes (B).

A) La réalité des algorithmes étatiques

Les algorithmes permettent d’automatiser et standardiser certains services, certaines procédures et certaines démarches afin de faciliter les relations entre l’administration et les particuliers et entreprises. Des services reposant sur des algorithmes se développent ou sont appelés à se développer dans des matières telles que le surendettement, le droit des étrangers, le contentieux du préjudice corporel, le droit routier, la fiscalité, le droit immobilier, etc. Pour ne prendre qu’un exemple, les algorithmes peuvent aider à lutter contre les fraudes aux impôts : des technologies numériques croisant plusieurs dizaines d’indicateurs reconstituent virtuellement les sommes dépensées et les rapprochent des sommes déclarées; en cas d’écart important entre les unes et les autres, il pourra être procédé à un contrôle fiscal.

L’intérêt pour l’État est principalement l’efficience accrue des moyens qu’il déploie. Les technologies numériques en général et les traitements algorithmiques en particulier permettent de simplifier le travail administratif, de gérer plus efficacement les dossiers, tout en limitant les erreurs. En outre, le coût des services peut être nettement diminué tout en conservant ou même en augmentant leur qualité — par exemple en réduisant les délais de réponse. Ce sont alors aussi les entreprises et les particuliers qui en profitent. Tel est le cas, par exemple, lorsque des services en ligne automatisés et optimisés permettent de diminuer fortement le temps consacré aux démarches fiscales — temps qui se compte en dizaines d’heures par an pour les entreprises.

La numérisation et l’algorithmisation des services changent la relation entre l’administration et l’administré. C’est même la figure de l’État qui évolue. Dans les faits, de plus en plus de décisions publiques dépendent des algorithmes. Ceux-ci sont mis en œuvre afin d’affecter les élèves dans les établissements scolaires et les étudiants dans les facultés, de calculer les montants des impôts, de lutter contre la fraude fiscale, d’attribuer des logements sociaux, de lutter contre le chômage, de calculer le montant d’un crédit impôt recherche, d’identifier d’éventuels passagers à risque, etc. Les algorithmes deviennent surtout indispensables dès lors qu’il faut gérer de grandes masses de données et prendre en compte de multiples facteurs.

L’État algorithmique acquiert une capacité prédictive inédite. Il peut notamment analyser des données de masse à haute fréquence et géolocalisées afin d’orienter les politiques publiques. Cela permet de créer des instruments d’allocation spatiale et temporelle plus efficace des ressources et donc de répondre plus pertinemment aux demandes. Il devient de la sorte plus facile de travailler en adéquation avec les priorités et besoins locaux en matière de circulation, de sécurité ou de distribution des services publics. Et les domaines régaliens n’échappent guère à l’algorithmisation. Spécialement dans les domaines de la défense, de la justice et de l’intérieur, de nouveaux outils basés sur des algorithmes hyperperfectionnés sont mis en œuvre.

Par ailleurs, les algorithmes peuvent aussi être utilisés dans un cadre législatif, donc en matière de production de normes à portée générale. Ils sont surtout utiles lorsqu’ils permettent de simuler les conséquences économiques et sociales d’un nouveau dispositif législatif. Par exemple, avant l’adoption définitive de la loi dite «Travail» du 8 août 2016[7], ses effets ont été évalués au moyen d’un logiciel (Worksim) qui modélise et simule le marché du travail français. Peut-être l’algorithmisation de l’État se traduira-t-elle en premier lieu par l’institutionnalisation de l’évaluation algorithmique des projets de loi, dans le cadre des études d’impact.

Si l’algorithmisation de l’État et des institutions est ainsi un phénomène de plus en plus tangible, cela pose donc de nombreuses questions, de celle de la protection des données personnelles à celle du caractère démocratique d’une gestion des affaires publiques de plus en plus automatisée.

B) Les enjeux des algorithmes étatiques

Le recours de plus en plus massif aux algorithmes, signe de l’entrée dans l’ère de l’État postmoderne, pose question : les hommes sont remplacés par des robots, le gouvernement politique laisse la place à la gouvernance des machines, les prises de décision sont automatisées ou, du moins, très largement assistées par ordinateur, à tel point que l’humain perd son libre arbitre. Ces nouveaux modes d’administration algorithmique peuvent sembler légitimes du fait de leur objectivité, les choix opérés étant simplement les résultats de calculs mathématiques et d’opérations logiques. L’objectivité et la rigueur des algorithmes peuvent conduire les citoyens à les préférer à l’humain, dont les actions apparaissent parfois plus aléatoires et imprévisibles.

Par suite, la protection des données personnelles et de la vie privée des citoyens est peut-être la première des problématiques induites par les algorithmes d’État. Dans le secteur de la justice, par exemple, la solution est l’anonymisation des jugements et arrêts. Cela devrait s’appliquer à toutes les données mises à disposition des algorithmes. Il convient surtout d’empêcher les réidentifications des personnes (rendues possibles grâce aux croisements de données). En outre, la Commission nationale de l’informatique et des libertés (CNIL) alerte depuis longtemps les autorités quant au besoin d’obtenir le consentement à la réutilisation des données personnelles. Il s’agit du principe de finalité : un individu accepte de transmettre des données dans un certain but précisément défini a priori. L’État doit assurer aux administrés la nature de l’usage qui sera fait de leurs données personnelles. Dès lors que les citoyens contribuent par leurs données à la construction de nouveaux services publics, ils transmettent des informations sur leurs déplacements, leur santé, leur vie familiale et leur vie professionnelle. Celles-ci doivent être protégées contre des réutilisations non souhaitées ou non acceptées. L’État algorithmique est donc bridé par le droit de la protection des données personnelles et par le droit au respect de la vie privée.

Une autre problématique est que l’intelligence artificielle, parce qu’elle fournit des résultats en fonction des bases de données qu’elle traite, est susceptible de reproduire et renforcer les erreurs que ces bases de données comportent. Cela risque en particulier d’aboutir à des discriminations involontaires. La loi protège les individus contre les décisions automatisées : l’article 10 de la loi «Informatique et libertés» prévoit qu’«aucune […] décision produisant des effets juridiques à l’égard d’une personne ne peut être prise sur le seul fondement d’un traitement automatisé de données destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité».

L’algorithmisation des institutions publiques pose également question sous l’angle de la transparence des algorithmes, c’est-à-dire de la possibilité pour les citoyens de savoir quand des traitements algorithmiques sont appliqués et de demander des explications quant à leur mode de fonctionnement. Aussi la Commission d’accès aux documents administratifs (CADA) a-t-elle obligé l’administration à faire preuve de transparence quant à ses algorithmes. Surtout, la loi Pour une République numérique du 7 octobre 2016 a élargi la liste des données qui doivent être communiquées par les administrations publiques en modifiant l’article L. 300-2 du Code des relations entre le public et l’administration. Les codes sources des logiciels de l’administration sont désormais appréhendés par la loi tels des documents administratifs comme les autres, communicables dans les mêmes conditions.

La loi Pour une République numérique a également créé un droit à l’information dès lors qu’une administration recourt à un algorithme afin de prendre une décision individuelle : en vertu de l’article R. 311-3-1-2 du Code des relations entre le public et l’administration (issu du décret n° 2017-330 du 14 mars 2017), les administrés doivent savoir que l’administration a utilisé un algorithme, quelle a été la finalité de ce traitement algorithmique, le degré et le mode de contribution du traitement algorithmique à la prise de décision, quelles ont été les données traitées et leurs sources, quels ont été les paramètres du traitement et, éventuellement, leur pondération et quelles opérations ont été effectuées. Les administrés peuvent donc demander la communication des informations permettant de comprendre le fonctionnement des algorithmes, sous réserve que ces informations ne portent pas atteinte à des secrets protégés par la loi.

Enfin, pour produire des résultats satisfaisants, les algorithmes administratifs doivent être connus, mais aussi acceptés par les administrés. Cela accentue le besoin de transparence de ces algorithmes, le besoin de rendre publics leur existence et leur mode de fonctionnement. Sans cela, il semble difficile de rendre les algorithmes acceptables. Comme en droit et dans le domaine politique en général, l’algorithmisation suppose l’existence d’une confiance entre la technologie, ses utilisateurs et ceux qui en subissent les effets. Sans doute cela oblige-t-il à repenser en profondeur l’organisation et même jusqu’à la philosophie et la culture de l’appareil étatique.

Par suite, encore faut-il peut-être adapter nombre de procédés et procédures et, en premier lieu, préférer l’expérimentation et l’horizontalité à l’arbitraire et à l’unilatéralité. Tandis que de plus en plus de nouveaux services sont proposés aux citoyens, leur prescription sans consultation préalable ni possibilité de suggérer des changements empêche de savoir s’ils répondent réellement aux besoins et aux attentes. De nouvelles méthodes, celles de «start-up d’État», permettraient d’éviter que soient lancés, après des années de développement et d’investissement, des instruments inadéquats. Certes, le modèle de l’administration est plutôt éloigné de celui de la start-up, fonctionnant par essais successifs, sur le modèle des petits pas, et s’ajustant en fonction de ses succès et échecs. Reste qu’il semble nécessaire de s’appuyer davantage sur une gestion fine et précise des changements, à base de réunions d’information, de définition collective des besoins, de tests, d’élaboration participative des outils, de formation des utilisateurs, d’écoute et d’intégration de leurs commentaires, d’adaptation et de mise à jour des instruments.

Les algorithmes interrogent également le droit parce que se développe, en marge des algorithmes d’État, une normativité algorithmique façonnée par les multinationales du web et du numérique.

§2 – LES ALGORITHMES, SOURCES DU DROIT POSTMODERNE

Dans le futur, les relations entre les personnes et les décisions de chacun dépendront-elles essentiellement du code informatique? Ce code prédéterminera-t-il et contrôlera-t-il les usages et les comportements? Si la loi et, à travers elle, la démocratie représentative sont actuellement l’objet d’une théorie du déclin et subissent une grave crise de confiance — qui se traduit notamment dans l’essor des CivilTechs —, est-il pour autant possible de leur préférer la loi des algorithmes et son absence de transparence? Certes, les algorithmes utilisés dans le cadre public, avec l’algorithmisation de l’administration et du gouvernement, visent à moderniser et, par là, à renforcer l’État. Mais les algorithmes privés, dont il sera question dans cette seconde partie, ne tendent pas à compléter ou assister l’État; ils le concurrencent et le remplacent. Ce droit algorithmique est une réalité qu’il faut accepter (A); et il faut prendre conscience de ses caractéristiques très particulières et de son caractère éminemment politique, loin de toute objectivité et de toute neutralité, ainsi que des menaces potentielles qu’il véhicule (B).

A) La réalité du droit algorithmique

Les algorithmes, notamment ceux utilisés par les services du web, emportent de puissants effets normatifs. Sous cet angle, s’ils permettent des gains de temps et de productivité considérables, ils ne manquent pas d’orienter tout en même temps les décisions humaines à travers les résultats qu’ils fournissent. Les pages web suggérées par les moteurs de recherche sont dans bien des cas des devoirs-être, tout comme les contenus mis en avant sur les réseaux sociaux ou les suggestions d’achat sur les sites d’e-commerce. Quand des algorithmes trient des contenus, rejettent des messages ou des images, affichent des publicités ciblées, optimisent le prix d’un service, passent des ordres financiers sur les marchés, traduisent des textes, cryptent et décryptent des informations, etc., ce sont autant de normes ou semi-normes plus ou moins directes, plus ou moins impératives, mais souvent performatives, qui sont produites. De fait, l’algorithme choisit pour l’homme qui s’en remet à lui; l’humain suit le robot. Le choix de regarder, d’aimer, de partager, de commenter et de prolonger son expérience n’est que de façade, car les recommandations sont un redoutable outil de fidélisation qui guide largement les parcours en ligne des internautes.

Toutes les plateformes de l’internet recourent à des algorithmes qui emportent de forts effets normatifs. Les hommes élaborent des algorithmes qui, en retour, modèlent les hommes. Les systèmes de filtrage des réseaux sociaux, nourris en permanence par les préférences affichées par les internautes, les enferment dans une certaine conception de la société qui s’autoentretient et donc se renforce, sans contradiction. Les algorithmes des GAFA et autres services de réseautage social, en quête du maximum de clics, enferment les individus sur eux-mêmes. Cette «autopropagande invisible»[8] favorise en particulier la radicalisation. Le pluralisme des courants de pensée et d’opinion et, par suite, la liberté d’opinion se trouvent dangereusement malmenés. S’agirait-il d’une véritable dictature des algorithmes, dont les effets normatifs ne répondent guère aux exigences démocratiques? Ces nouveaux outils technologiques cadrent les conduites, formatent les esprits, décident des goûts, standardisent les besoins, donc favorisent le suivisme, le panurgisme, et s’opposent aux envies et modes de vie alternatifs — ceux-ci étant difficilement monétisables. Les utilisateurs se retrouvent donc placés dans des silos de comportement et de consommation tracés par les algorithmes. Quand la normalité devient normativité.

Le gouvernement algorithmique cherche à anticiper les comportements et à les influencer. Les algorithmes orientent les décisions de chacun et les relations sociales. Ils façonnent ainsi le monde à leur image — l’image de la Silicon Valley[9]. Ils imposent de nouvelles légitimités et font les succès et les échecs commerciaux. Plus encore, ils décident de ce qui est «bien» et de ce qui est «mal». Ils fondent le projet de société de demain.

Les algorithmes sont aujourd’hui un mode de gouvernance à part entière. La technologie tend à remplacer la politique dans son rôle de vecteur de l’association des individus et d’organisation de leur coexistence pacifique. Se produit un mouvement de désymbolisation et de resymbolisation : désymbolisation de la justice et du droit moderne étatiques, resymbolisation en leur substituant la (pseudo-) logique et la (pseudo-) objectivité des algorithmes des multinationales du numérique. Des observateurs vont jusqu’à considérer que la justice et le droit moderne étatique pourraient bientôt se présenter tels des pis-aller historiques, des modes de régulation scientifiques et technologiques les remplaçants — assez soudainement d’ailleurs. La normativité algorithmique est en tout cas une réalité dont les spécificités détonnent et étonnent, une réalité disruptive dont il importe de prendre la mesure.

Le droit algorithmique illustre tout spécialement le passage du gouvernement politique délibéré et vertical à la gouvernance mathématique automatique et horizontale[10]. Il ne s’agit plus d’imposer des devoirs-être à des êtres; à l’inverse, les êtres s’imposent aux devoirs-être, les faits s’imposent aux normes, deviennent normes. Tel est le résultat de la banalisation des pratiques statistiques et des corrélations de données. Le droit des algorithmes est ainsi significatif de la factualisation du juridique[11]. Le droit ne repose plus sur la causalité normative, mais sur la corrélation pratique[12].

Le droit des algorithmes se rapproche de ce point de vue des usages et de toutes les normativités immanentes et spontanées, qui ne s’imposent pas de l’extérieur, mais de l’intérieur. Il dépend d’un jeu d’échanges et d’interactions entre l’utilisateur et l’algorithme : l’utilisateur, par son comportement, influence l’algorithme, lequel en retour, par ses informations, influence l’utilisateur, etc. L’algorithme «autoapprenant» par rapprochements successifs, en dégageant des corrélations, fait émerger des normes à partir des régularités et des coïncidences qu’il identifie. De telles normes sont incomparables aux dispositions législatives ou réglementaires à portée générale, dénuées de toute discrimination, décidée au sein des hémicycles, qui ne prennent que très peu en compte, par souci d’égalité et d’impartialité, les situations particulières de chacun de leurs destinataires. Le droit des algorithmes coïncide en conséquence avec un mouvement d’individualisation des règles de droit.

Ensuite, ainsi que le note le Conseil d’État dans sa dernière étude annuelle,

«la puissance acquise par les principaux réseaux sociaux et les plus grandes plateformes de partage de contenus leur confère un pouvoir de prescription majeur qui soulève des questions essentielles au regard de la protection des libertés fondamentales»[13].

Car il s’agit bien de puissance : une puissance concurrente à la puissance publique.

B) Les enjeux du droit algorithmique

Tout d’abord, en faisant la loi sur des services qui sont, dans le monde actuel, au centre de toutes les activités sociales, politiques et économiques, les algorithmes — et ceux qui les créent et les programment — possèdent une puissance colossale. Les informaticiens disposent d’un pouvoir grandissant à mesure que les algorithmes deviennent des instruments incontournables au sein des mécanismes de prise de décision. La politique des algorithmes est une donnée incontournable pour qui souhaite appréhender le monde d’aujourd’hui et de demain.

Dans des sociétés démocratiques et libérales, la puissance de Facebook ou Google, qui s’exprime normativement, ne peut laisser indifférent. Leur manière d’agir sur les comportements et de les standardiser loin des États et de leurs lois est le symbole d’une époque de défiance à l’égard des institutions publiques. Ainsi le droit algorithmique traduit-il des grands changements parmi les sources du droit : prolifération quantitative et qualitative des sources privées liée à la crise et au retrait des sources publiques — d’autant plus que les institutions internationales, à l’ère de la mondialisation numérique, ne parviennent pas à prendre le relais des institutions nationales.

Ensuite, la programmation du droit que les algorithmes rendent possible, anticipant les faits à venir en même temps qu’ils les font advenir, s’oppose à la caractéristique du droit moderne qui normalement se construit en fonction de motifs factuels donnés à l’avance. Surtout, l’humanité du droit s’efface à mesure que celui-ci se robotise. Or des normes appliquées sans mise en balance réflexive peuvent-elles longtemps demeurer acceptables et acceptées? Ne faut-il pas s’alarmer face à des modes de normativité qui substituent au raisonnement juridique une simple déduction tirée de flux de données?

«Corrélation n’est pas causalité» : cette formule pourrait devenir le slogan de ceux, de plus en plus nombreux, qui s’indignent devant la normativité algorithmique qui capture les vies et les sociétés. En effet, une corrélation peut être le résultat du simple hasard. Tel est d’ailleurs bien souvent le cas. Dès lors, est-il raisonnable d’abandonner le droit au hasard? Avec le gouvernement algorithmique, la méfiance par rapport aux effets de corrélation s’estompe, car ces effets de corrélation sont de moins en moins sensibles, ce qui leur évite d’être remis en question. Il semble cependant nécessaire de s’assurer qu’une corrélation n’exprime pas une injustice et n’est pas, par suite, le facteur d’une discrimination. En outre, une politique publique, qui se traduit par des textes de droit, intervient normalement a priori et non a posteriori. Elle n’a pas vocation à s’appuyer sur des corrélations. Par conséquent, le droit des algorithmes pourrait traduire la tendance du droit à être de moins en moins un instrument au service de l’interventionnisme et de plus en plus un instrument au service du réactionnisme.

Une autre spécificité du droit des algorithmes est de contribuer à l’américanisation du droit européen. Il véhicule une vision particulière de l’homme et de la société — et donc du droit qui les accompagne. Il est un moyen de la colonisation numérique de l’Europe par les États-Unis, ce qui lui confère un aspect très politique. En témoignent les initiatives récemment prises par les institutions de l’Union européenne afin de contrer ou, du moins, limiter ce mouvement.

Une décision prise par un algorithme ou avec l’assistance d’un algorithme peut sembler a priori plus équitable et plus juste qu’une décision humaine potentiellement orientée politiquement et idéologiquement et en tout cas soumise à une subjectivité. La rigueur mathématique et la logique de l’algorithme plaident a priori pour lui. L’algorithme ne pourrait pas être corrompu ou autrement influencé. On ne prête aux robots ni intentions ni opinions; ils obéiraient simplement à une froide objectivité. Les nouvelles pratiques de gouvernement algorithmique assoient leur légitimité sur cette objectivité. On accepte de se laisser guider par des algorithmes en raison de leur neutralité semble-t-il implacable. Mais cette neutralité n’est bien souvent que de façade; ou plutôt l’outil est en soi neutre, mais non l’usage qui en est fait[14]. Les critères, les paramètres et les données faisant qu’un algorithme aboutit à certains résultats sont déterminés par des hommes. Ceux-ci sont en mesure de faire prévaloir certaines valeurs sur d’autres.

Les algorithmes opèrent des pondérations, dont les motivations, et les conséquences ont toujours un aspect politique. Lorsqu’ils décident de ce qui est «tendance», de ce qui est «plus populaire», et plus généralement de ce qui doit s’afficher et de ce qui ne le doit pas, ainsi qu’en organisant les informations d’une certaine manière, ils deviennent prescripteurs, à tel point qu’ils peuvent aller jusqu’à orienter les résultats des élections. Or la Silicon Valley reflète moins les normes sociales en vigueur qu’elle les façonne à sa guise.

Enfin, les buts poursuivis par les algorithmes ne sont guère originaux, malgré l’apparente complexité de leur fonctionnement : il s’agit de centraliser le pouvoir au sein de structures ordonnées et cohérentes, si bien qu’on compare parfois les GAFA à des États[15]. Comme les bureaucraties, les algorithmes — nouvelle forme de technocratie — sont élaborés afin d’être impénétrables. Le droit des algorithmes, ensemble de normes tacites, inexprimées, formalisées seulement dans du code, va donc de pair avec une opacité peu satisfaisante, quel que soit le contenu et la portée des normes en cause. Et cela d’autant plus dès lors que l’effectivité de ces normes repose principalement sur la confiance quasi-aveugle que les utilisateurs des services font aux algorithmes. À l’instar des bureaucraties, les algorithmes refusent la transparence dans le but de protéger leur fonctionnalité. De Facebook à Google, on motive le secret des algorithmes par le secret industriel, technologique ou des affaires; mais l’objectif est également de camoufler les lacunes et défauts et de prévenir d’éventuelles contestations. On construit, à grand renfort de communication, une apparence d’infaillibilité et de superpuissance afin d’éviter les critiques. Le résultat est la constitution de «boîtes noires» qui enregistrent les données et les traitent, dont on peut observer et subir les effets, mais sans en comprendre le fonctionnement[16].

CONCLUSION

L’administration des affaires d’une société donnée serait trop humaine pour que l’on puisse la confier à des robots; et les robots seraient trop intelligents pour que l’on puisse se passer d’eux. Finalement, à l’égard de la problématique de l’algorithmisation du droit comme souvent, tout serait question d’équilibre : équilibre entre technophobie et technophilie. Il ne s’agirait ni de rejeter en bloc les nouvelles possibilités offertes par les algorithmes ni de tout leur abandonner. La révolution numérique, qui est dans une large mesure une révolution algorithmique, implique d’importantes mutations politiques, économiques et sociales. Elle requiert un nouveau contrat social, de nouveaux liens entre l’État et les citoyens. L’algorithmisation est bien plus qu’un projet technique. C’est un projet politique visant à réinventer, dans un contexte de crise de la démocratie représentative, la relation entre administrateurs et administrés. C’est pourquoi il serait important de susciter le plus vaste débat public possible sur ces questions, afin de permettre à chacun d’en prendre conscience et de se positionner. Notamment, les formes du service public et le périmètre de l’action publique seront forcément amenés à évoluer. Alimenter continuellement la réflexion permettrait d’anticiper certaines difficultés et d’évoluer progressivement, mais précautionneusement vers les meilleures solutions, suivant la méthode des petits pas. Or, pour l’heure, ce débat et la transparence qui devrait l’accompagner font encore largement défaut.

Reste que, si le droit est ce qui modèle effectivement les comportements des hommes en société, les algorithmes doivent s’analyser telles des sources du droit. Ils engendrent des effets normatifs semblables à ceux des lois et règlements. Cela incite à revoir la définition du droit et à prendre ses distances avec le droit moderne du XXe s., quand, en théorie et en pratique, droit et État coïncidaient. Les multinationales telles que les GAFA donnent lieu à des objets normatifs ou semi-normatifs plus ou moins bien identifiés que les juristes ne paraissent pas pouvoir ignorer, sous peine d’étudier un droit qui n’aurait plus grand-chose à voir avec la réalité des cadres normatifs en vigueur[17].

Les algorithmes sont les témoins et les moyens d’une transformation majeure des formes de régulation, d’une révision profonde des modes d’élaboration, d’interprétation et d’exécution du droit. Il devient en effet possible de produire des normes qui sont contrôlées automatiquement, car intégrées dans des robots ou dans leur environnement, si bien qu’elles en deviennent inviolables ou systématiquement sanctionnées. Par exemple, les règles du Code de la route, suffisamment précises et claires, peuvent désormais être appliquées automatiquement par des voitures autonomes. La normativité juridique et sa nature délibérée — dans le cadre d’un Parlement et par les représentants des citoyens — pourraient laisser progressivement la place à une normativité algorithmique, combinant des normes dictées par des traitements automatisés de données. Cela interpelle, car la délibération, mode de décision impliquant un temps de réflexion et une mise en balance des arguments, et donnant leur place aux compromis politiques, comporte une part essentielle d’humanité qui est peut-être indispensable à la construction des normes vouées à régir les conduites et relations sociales[18].

Et cela est d’autant plus préoccupant que, avec ce «nouveau droit», des acteurs privés en viennent à concurrencer l’État. Se pose alors la question de la capacité de la société numérique à être une société démocratique et ouverte. Le droit algorithmique ne favorise-t-il pas davantage une société numérique tyrannique et fermée? Le fonctionnement de nombre de plateformes du web fait redouter une large érosion du pouvoir des hommes et des sociétés sur leurs destins individuels et collectifs[19].

Toujours est-il que le droit algorithmique est, parmi les nouveaux phénomènes normatifs, l’un des plus remarquables. Les fondements et les caractéristiques de la normativité juridique, dont les lieux et les acteurs se multiplient, évoluent chaque jour un peu plus. Ce droit algorithmique témoigne du fait que la normativité descendante, issue d’une autorité en surplomb, est mise en ballottage par une normativité immanente provenant de la technologie; alors que la normativité à portée générale et impersonnelle est concurrencée par une normativité individualisée rendue possible par la collecte et l’analyse algorithmique des données personnelles; et tandis que la normativité publique, transparente et consciente, est subrogée par une normativité privée, opaque et inconsciente. En somme, le droit tend à se passer de l’humain, à se robotiser.


 

Bibliographie

Ouvrages

 

S. ABITEBOUL, G. DOWEK, Le temps des algorithmes, coll. Essais, Paris, Le Pommier, 2017.

A. BENSAMOUN (dir.), Les robots – Objets scientifiques, objets de droits, Paris, Mare et Martin, 2016.

A. BENSOUSSAN, Droit des robots, Bruxelles, Larcier, 2015.

Ch.-É. BOUÉE, La chute de l’empire humain – Mémoires d’un robot, Paris, Grasset, 2017.

Conseil d’État, Puissance publique et plateformes numériques : accompagner l’ «ubérisation», Paris, La documentation française, 2017.

M. DAGNAUD, Le modèle californien – Comment l’esprit collaboratif change le monde, Paris, Odile Jacob, 2016.

M. DUGAIN, Ch. Labbé, L’homme nu – La dictature invisible du numérique, Paris, Plon, 2016.

O. ITÉANU, Quand le digital défie l’État de droit, Paris, Eyrolles, 2016

E. PARISER, The Filter Bubble – What the Internet is Hiding from You, Londres, Penguin Books, 2011.

F. PASQUALE, The Black Box Society – The Secret Algorithms That Control Money and Information, Cambridge, Harvard University Press, 2015.

E. SADIN, La siliconisation du monde, Paris, L’Échappée, 2016.

K. SCHWAB, La quatrième révolution industrielle, Paris, Dunod, 2017.

R. SUSSKIND, Tomorrow’s Lawyers – An Introduction to your Future, Oxford, Oxford University Press, 2013.

R. SUSSKIND, The End of Lawyers – Rethinking the Nature of Legal Services, Oxford, Oxford University Press, 2010.

 

Articles

 

L. BABY, « L’algorithme de l’informaticien et le syllogisme du juriste », Dalloz IP/IT, n° 6, 2016, pp. 311 s.

A. BENSOUSSAN, « Droit des robots : science-fiction ou anticipation? », D., n° 28/2015, pp. 1640 s.

M. BERNARD, « L’innovation technologique dans le droit : vers une révolution des pratiques ? », LPA, n° 187, 2016, pp. 4 s.

Th. BERNS, A. ROUVROY, «Gouvernementalité algorithmique et perspective d’émancipation – Le disparate comme condition d’individualisation par la relation», Réseaux, n° 117, 2013, pp. 174 s.

M. BOURGEOIS, G. LOISEAU, «Du robot en droit à un droit des robots», JCP G, n° 48/2014, pp. 1231 s.

G. CHANTEPIE, «Le droit en algorithmes ou la fin de la norme délibérée?», Dalloz IP/IT, n° 10/2017, pp. 522 s.

S. CHASSAGNARD-PINET, «Les usages des algorithmes en droit : prédire ou dire le droit?», Dalloz IP/IT, n° 10, 2017, pp. 495 s.

R. CHATILA, « Intelligence artificielle et robotique : un état des lieux en perspective avec le droit », Dalloz IP/IT, n° 6/2016, pp. 284 s.

G. CONTI, W. HARTZOG, J. NELSON, L. A. SHAY, « Do Robots Dream of Electric Laws? An Experiment in the Law as Algorithm », in Robot Law, R. CALO, M. FROOMKIN, I. KERR (dir.), Camberley, Edward Elgar, 2016, pp. 274 s.

H. CROZE, « La factualisation du droit », JCP G, n° 5/2017, pp. 174 s.

H. CROZE, « Comment être artificiellement intelligent en droit? », JCP G, n° 36/2017, pp. 882 s.

S. DE SILGUY, «Doit-on se méfier davantage des algorithmes?», RLDC, n° 146, 2017, pp. 32 s.

J.-B. DUCLERCQ, « Les effets de la multiplication des algorithmes informatiques sur l’ordonnancement juridique », Comm. com. électr., n° 11/2015, pp. 2 s.

J. GOODMAN, « Legaltech: Innovation and Legacy IT », The Law Society Gazette, 13 juin 2016

N. KATYAL, « Disruptive Technologies and the Law », Georgetown Law Journal, n° 102, 2014, pp. 1685 s.

S. LARRIÈRE, «Confier le droit à l’intelligence artificielle : le droit dans le mur?», RLDI, n° 134, 2017, pp. 38 s.

G. LOISEAU, «La production d’une valeur juridique ajoutée, antidote à l’automatisation des prestations en droit», Comm. com. électr., n° 3/2017, pp. 26 s.

G. LOISEAU, «Des robots et des hommes», D., n° 30/2015, pp. 2369 s.

O. MCGINNIS, R. PEARCE, « The Great Disruption: How Machine Intelligence Will Transform the Role of Lawyers in the Delivery of Legal Services », Fordham Law Review, n° 82, 2014, pp. 3041 s.

M. MEKKI, « If Code is Law, then Code is Justice? Droits et algorithmes », Gaz. Pal., n° 24/27 juin 2017, pp. 10 s.

A. MENDOZA-CAMINADE, « Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques? », D., n° 8/2016, pp. 445 s.


 

 



[1] Cf. S. Abiteboul, G. Dowek, Le temps des algorithmes, coll. Essais, Paris, Le Pommier, 2017 ; K. Schwab, La quatrième révolution industrielle, Paris, Dunod, 2017.

[2] Cf., not., O. Mcginnis, R. Pearce, « The Great Disruption: How Machine Intelligence Will Transform the Role of Lawyers in the Delivery of Legal Services », Fordham Law Review, n° 82, 2014, pp. 3041 s. ; J. Goodman, « Legaltech: Innovation and Legacy IT », The Law Society Gazette, 13 juin 2016 ; R. Susskind, Tomorrow’s Lawyers – An Introduction to your Future, Oxford, Oxford University Press, 2013 ; R. Susskind, The End of Lawyers – Rethinking the Nature of Legal Services, Oxford, Oxford University Press, 2010.

[3] En ce sens, par exemple, G. Conti, W. Hartzog, J. Nelson, L. A. Shay, « Do Robots Dream of Electric Laws? An Experiment in the Law as Algorithm », in Robot Law, R. Calo, M. Froomkin, I. Kerr (dir.), Camberley, Edward Elgar, 2016, pp. 274 s.

[4] En ce sens, par exemple, M. Dugain, Ch. Labbé, L’homme nu – La dictature invisible du numérique, Paris, Plon, 2016.

[5] Loi pour une République numérique, 7 oct. 2016, n° 2016-1321.

[6] Réf. à J. Chevallier, L’État postmoderne, 5e éd. mise à jour, coll. Droit et société, Paris, LGDJ, 2017.

[7] Loi relative au travail, à la modernisation du dialogue social et à la sécurisation des parcours professionnels, 8 août 2016, n° 2016-1088.

[8] E. Pariser, The Filter Bubble – What the Internet is Hiding from You, Londres, Penguin Books, 2011.

[9] Par exemple, N. Katyal, « Disruptive Technologies and the Law », Georgetown Law Journal, n° 102, 2014, pp. 1685 s.

[10] Cf., plus généralement, A. Mendoza-Caminade, « Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques ? », D., n° 8/2016, pp. 445 s.

[11] En ce sens, H. Croze, « La factualisation du droit », JCP G, n° 5/2017, pp. 174 s.

[12] Cf., not., L. Baby, « L’algorithme de l’informaticien et le syllogisme du juriste », Dalloz IP/IT, n° 6/2016, pp. 311 s.

[13] Conseil d’État, Puissance publique et plateformes numériques : accompagner l’ « ubérisation », Paris, La documentation française, 2017, p. 17.

[14] En ce sens, par exemple, S. De Silguy, « Doit-on se méfier davantage des algorithmes ? », RLDC, n° 146, 2017, pp. 32 s.

[15] Par exemple, J.-B. Duclercq, « Les effets de la multiplication des algorithmes informatiques sur l’ordonnancement juridique », Comm. com. électr., n° 11/2015, pp. 15 s.

[16] F. Pasquale, The Black Box Society – The Secret Algorithms That Control Money and Information, Cambridge, Harvard University Press, 2015.

[17] En ce sens, par exemple, M. Mekki, « If Code is Law, then Code is Justice? Droits et algorithmes », Gaz. Pal., n° 24/27 juin 2017, pp. 10 s.

[18] G. Chantepie, « Le droit en algorithmes ou la fin de la norme délibérée ? », Dalloz IP/IT, n° 10/2017, p. 522.

[19] En ce sens, Ch.-É. Bouée, La chute de l’empire humain – Mémoires d’un robot, Paris, Grasset, 2017.

Renvois

  • Il n'y a présentement aucun renvoi.