Les algorithmes au cœur du droit et de l’État postmoderne
par Boris BARRAUD, Docteur
en droit, Laboratoire interdisciplinaire droit, médias et mutations sociales
(LID2MS), Université d’Aix-Marseille).
Un algorithme est une suite
de formules mathématiques, d’opérations informatiques et de traitements
statistiques permettant de solutionner des problèmes ou de réaliser des tâches
à partir de grandes masses de données et en un temps record. Il fonctionne à
partir d’« entrées » (les données initiales qu’il traite) et aboutit à des « sorties » (les résultats) en suivant différentes
étapes qui requièrent des calculs, des opérations logiques, des comparaisons ou
des analogies. Souvent assimilés à des « formules magiques », les algorithmes s’expriment généralement
dans des programmes exécutables par ordinateur.
Ils donnent lieu à des
résultats précis et pertinents grâce au data
mining (ensemble d’outils d’exploration et d’analyse des données visant à
en extraire les informations les plus significatives), aux progrès du
traitement du langage naturel et à l’apprentissage automatique (machine learning et techniques
d’apprentissage profond inspirées de la biologie et des réseaux neuronaux
interconnectés). Ainsi se perfectionnent-ils par eux-mêmes à mesure qu’ils sont
utilisés, sans intervention humaine. Ils apprennent par rapprochements
successifs, en dégageant des corrélations.
Les algorithmes sont
aujourd’hui omniprésents et inévitables, bien qu’invisibles[1]. Ils sont devenus essentiels
en raison de la numérisation des sociétés, des économies, des hommes et des
vies. Ils se trouvent surtout au cœur des services du web et des applications
pour smartphones. Or le rôle essentiel que le web et les applications pour
smartphones jouent désormais ne fait guère de doute : les sociétés, les
économies, les hommes et les vies sont chaque jour un peu plus des sociétés,
des économies, des hommes et des vies connectés. Les algorithmes envahissent
jusqu’à l’univers juridique. Les LegalTechs
sont ainsi en train de bouleverser les métiers du droit et de la justice[2].
Les algorithmes deviennent
même des producteurs de normes, des sources du droit, parfois dans le cadre de
l’État et à son service, parfois loin des appareils publics, des lois, des
règlements et des jurisprudences. Cela interroge les juristes habitués au
positivisme étatiste moderne[3].
Y compris les droits et libertés fondamentaux se trouvent mis en doute, car
prospère insidieusement et progressivement une dictature des algorithmes, soit
une régulation technologique mettant en péril le libre arbitre de chacun[4].
Ensuite, la question de la place des algorithmes dans le droit, dans les modes
de régulation, dans les formes de normativité n’est pas une autre que celle de
la place des algorithmes dans les sociétés contemporaines. Il s’agit
certainement d’une problématique cardinale, car les algorithmes ne sont pas
neutres ni objectifs, mais, au contraire, très politiques et orientés
idéologiquement.
La prise de pouvoir des algorithmes
est liée à un autre phénomène : l’explosion du big data, la mégaproduction de données. Ces dernières sont le « nouvel or noir ». Créer en premier un algorithme très
performant dans un secteur donné revient à découvrir un gisement de pétrole.
L’enjeu est de collecter, enrichir et affiner les données, au service des
algorithmes. Le pouvoir, dans toutes ses dimensions, dépend désormais dans une
large mesure de la maîtrise des données et de la possession d’algorithmes
sophistiqués et efficaces.
Ce pouvoir se trouve
principalement dans les mains des « réseaux sociaux » et des GAFA (Google, Apple, Facebook,
Amazon). Ces derniers ont une connaissance intime de leurs utilisateurs,
ceux-ci leur livrant directement ou indirectement d’innombrables informations
personnelles et indications touchant à leurs goûts et habitudes de
comportement. Ensuite, grâce à leurs savants algorithmes, les réseaux sociaux
et les GAFA analysent ces sommes faramineuses de données pour orienter, modeler
les conduites de leurs utilisateurs au profit de leurs annonceurs. Ils
produisent de la sorte des normes, donc des devoirs-être, des orientations des
conduites, d’un nouveau genre et qui, si elles sont bien plus insensibles que,
par exemple, l’obligation de s’arrêter à un feu rouge, présentent toutefois une
forte effectivité.
Mais la révolution
algorithmique n’épargne pas les pouvoirs publics et les institutions. Eux aussi
recourent de plus en plus aux nouveaux outils technologiques et, en premier
lieu, aux algorithmes. La révolution numérique rend numérique la République
elle-même[5] ; et les autorités publiques, notamment en
France, y voient une nouvelle voie à explorer afin de renforcer l’efficacité
des services. C’est ainsi qu’elles ont entrepris d’algorithmiser
progressivement l’administration, c’est-à-dire de l’équiper d’algorithmes et
d’en faire dépendre de plus en plus largement la gestion et les décisions
publiques.
Allant beaucoup plus loin que
la simple dématérialisation des services et des relations entre administration
et administrés, l’algorithmisation marque une rupture à la fois qualitative et
quantitative dans le processus de modernisation technologique des institutions.
L’intelligence artificielle démultiplie leur potentiel. Elle va jusqu’à
remplacer la décision humaine par une décision informatique ou, dans une
moindre mesure, mettre la décision informatique au service de la décision
humaine. Au sein de l’appareil étatique, la proposition algorithmique soutient
de plus en plus le choix humain ; elle en vient aussi à s’y substituer. Les algorithmes
s’affirment progressivement — et assez insidieusement — comme les nouveaux
déterminants, cadres et vecteurs des politiques publiques et du droit qui les
accompagne (I). Au-delà de cet
État postmoderne qu’ils dessinent, ils contribuent également à l’affirmation
d’un droit postmoderne : les effets normatifs impliqués par les
algorithmes des GAFA et autres multinationales de la communication numérique
n’ont pas grand-chose à envier à ceux des lois et règlements, même s’ils
présentent des caractéristiques bien différentes (II).
L’« État postmoderne »[6] fonctionnera-t-il
essentiellement à base d’algorithmes ? Déjà de nombreuses administrations se
sont ouvertes, plus ou moins entièrement, aux algorithmes, que ce soit en
interne ou dans leurs relations avec les administrés (A). Cela pose des questions et suscite quelques critiques,
notamment dès lors que jusqu’au service public de la justice pourrait s’en
remettre aux algorithmes (B).
Les algorithmes permettent
d’automatiser et standardiser certains services, certaines procédures et
certaines démarches afin de faciliter les relations entre l’administration et
les particuliers et entreprises. Des services reposant sur des algorithmes se
développent ou sont appelés à se développer dans des matières telles que le
surendettement, le droit des étrangers, le contentieux du préjudice corporel,
le droit routier, la fiscalité, le droit immobilier, etc. Pour ne prendre qu’un
exemple, les algorithmes peuvent aider à lutter contre les fraudes aux
impôts : des technologies numériques croisant plusieurs dizaines
d’indicateurs reconstituent virtuellement les sommes dépensées et les
rapprochent des sommes déclarées ; en cas d’écart important entre les unes
et les autres, il pourra être procédé à un contrôle fiscal.
L’intérêt pour l’État est
principalement l’efficience accrue des moyens qu’il déploie. Les technologies
numériques en général et les traitements algorithmiques en particulier
permettent de simplifier le travail administratif, de gérer plus efficacement
les dossiers, tout en limitant les erreurs. En outre, le coût des services peut
être nettement diminué tout en conservant ou même en augmentant leur qualité —
par exemple en réduisant les délais de réponse. Ce sont alors aussi les
entreprises et les particuliers qui en profitent. Tel est le cas, par exemple,
lorsque des services en ligne automatisés et optimisés permettent de diminuer
fortement le temps consacré aux démarches fiscales — temps qui se compte en
dizaines d’heures par an pour les entreprises.
La numérisation et
l’algorithmisation des services changent la relation entre l’administration et
l’administré. C’est même la figure de l’État qui évolue. Dans les faits, de
plus en plus de décisions publiques dépendent des algorithmes. Ceux-ci sont mis
en œuvre afin d’affecter les élèves dans les établissements scolaires et les
étudiants dans les facultés, de calculer les montants des impôts, de lutter
contre la fraude fiscale, d’attribuer des logements sociaux, de lutter contre
le chômage, de calculer le montant d’un crédit impôt recherche, d’identifier
d’éventuels passagers à risque, etc. Les algorithmes deviennent surtout
indispensables dès lors qu’il faut gérer de grandes masses de données et
prendre en compte de multiples facteurs.
L’État algorithmique acquiert
une capacité prédictive inédite. Il peut notamment analyser des données de
masse à haute fréquence et géolocalisées afin d’orienter les politiques
publiques. Cela permet de créer des instruments d’allocation spatiale et
temporelle plus efficace des ressources et donc de répondre plus pertinemment
aux demandes. Il devient de la sorte plus facile de travailler en adéquation
avec les priorités et besoins locaux en matière de circulation, de sécurité ou
de distribution des services publics. Et les domaines régaliens n’échappent
guère à l’algorithmisation. Spécialement dans les domaines de la défense, de la
justice et de l’intérieur, de nouveaux outils basés sur des algorithmes
hyperperfectionnés sont mis en œuvre.
Par ailleurs, les algorithmes
peuvent aussi être utilisés dans un cadre législatif, donc en matière de
production de normes à portée générale. Ils sont surtout utiles lorsqu’ils
permettent de simuler les conséquences économiques et sociales d’un nouveau
dispositif législatif. Par exemple, avant l’adoption définitive de la loi dite
« Travail » du 8 août 2016[7], ses effets ont été évalués
au moyen d’un logiciel (Worksim) qui modélise et simule le marché du travail
français. Peut-être l’algorithmisation de l’État se traduira-t-elle en premier
lieu par l’institutionnalisation de l’évaluation algorithmique des projets de
loi, dans le cadre des études d’impact.
Si l’algorithmisation de
l’État et des institutions est ainsi un phénomène de plus en plus tangible,
cela pose donc de nombreuses questions, de celle de la protection des données
personnelles à celle du caractère démocratique d’une gestion des affaires
publiques de plus en plus automatisée.
Le recours de plus en plus
massif aux algorithmes, signe de l’entrée dans l’ère de l’État postmoderne,
pose question : les hommes sont remplacés par des robots, le gouvernement
politique laisse la place à la gouvernance des machines, les prises de décision
sont automatisées ou, du moins, très largement assistées par ordinateur, à tel
point que l’humain perd son libre arbitre. Ces nouveaux modes d’administration
algorithmique peuvent sembler légitimes du fait de leur objectivité, les choix
opérés étant simplement les résultats de calculs mathématiques et d’opérations
logiques. L’objectivité et la rigueur des algorithmes peuvent conduire les
citoyens à les préférer à l’humain, dont les actions apparaissent parfois plus
aléatoires et imprévisibles.
Par suite, la protection des
données personnelles et de la vie privée des citoyens est peut-être la première
des problématiques induites par les algorithmes d’État. Dans le secteur de la
justice, par exemple, la solution est l’anonymisation des jugements et arrêts.
Cela devrait s’appliquer à toutes les données mises à disposition des
algorithmes. Il convient surtout d’empêcher les réidentifications des personnes
(rendues possibles grâce aux croisements de données). En outre, la Commission
nationale de l’informatique et des libertés (CNIL) alerte depuis longtemps les
autorités quant au besoin d’obtenir le consentement à la réutilisation des
données personnelles. Il s’agit du principe de finalité : un individu
accepte de transmettre des données dans un certain but précisément défini a priori. L’État doit assurer aux
administrés la nature de l’usage qui sera fait de leurs données personnelles.
Dès lors que les citoyens contribuent par leurs données à la construction de
nouveaux services publics, ils transmettent des informations sur leurs
déplacements, leur santé, leur vie familiale et leur vie professionnelle.
Celles-ci doivent être protégées contre des réutilisations non souhaitées ou
non acceptées. L’État algorithmique est donc bridé par le droit de la
protection des données personnelles et par le droit au respect de la vie
privée.
Une autre problématique est
que l’intelligence artificielle, parce qu’elle fournit des résultats en
fonction des bases de données qu’elle traite, est susceptible de reproduire et
renforcer les erreurs que ces bases de données comportent. Cela risque en
particulier d’aboutir à des discriminations involontaires. La loi protège les
individus contre les décisions automatisées : l’article 10 de la loi
« Informatique et libertés » prévoit qu’« aucune […] décision produisant des effets
juridiques à l’égard d’une personne ne peut être prise sur le seul fondement
d’un traitement automatisé de données destiné à définir le profil de
l’intéressé ou à évaluer certains aspects de sa personnalité ».
L’algorithmisation des
institutions publiques pose également question sous l’angle de la transparence
des algorithmes, c’est-à-dire de la possibilité pour les citoyens de savoir
quand des traitements algorithmiques sont appliqués et de demander des
explications quant à leur mode de fonctionnement. Aussi la Commission d’accès
aux documents administratifs (CADA) a-t-elle obligé l’administration à faire
preuve de transparence quant à ses algorithmes. Surtout, la loi Pour une République numérique du 7
octobre 2016 a élargi la liste des données qui doivent être communiquées par
les administrations publiques en modifiant l’article L. 300-2 du Code des
relations entre le public et l’administration. Les codes sources des logiciels
de l’administration sont désormais appréhendés par la loi tels des documents
administratifs comme les autres, communicables dans les mêmes conditions.
La loi Pour une République numérique a également créé un droit à
l’information dès lors qu’une administration recourt à un algorithme afin de
prendre une décision individuelle : en vertu de l’article
R. 311-3-1-2 du Code des relations entre le public et l’administration
(issu du décret n° 2017-330 du 14 mars 2017), les administrés doivent
savoir que l’administration a utilisé un algorithme, quelle a été la finalité
de ce traitement algorithmique, le degré et le mode de contribution du
traitement algorithmique à la prise de décision, quelles ont été les données
traitées et leurs sources, quels ont été les paramètres du traitement et, éventuellement,
leur pondération et quelles opérations ont été effectuées. Les administrés
peuvent donc demander la communication des informations permettant de
comprendre le fonctionnement des algorithmes, sous réserve que ces informations
ne portent pas atteinte à des secrets protégés par la loi.
Enfin, pour produire des résultats
satisfaisants, les algorithmes administratifs doivent être connus, mais aussi
acceptés par les administrés. Cela accentue le besoin de transparence de ces
algorithmes, le besoin de rendre publics leur existence et leur mode de
fonctionnement. Sans cela, il semble difficile de rendre les algorithmes
acceptables. Comme en droit et dans le domaine politique en général,
l’algorithmisation suppose l’existence d’une confiance entre la technologie,
ses utilisateurs et ceux qui en subissent les effets. Sans doute cela
oblige-t-il à repenser en profondeur l’organisation et même jusqu’à la
philosophie et la culture de l’appareil étatique.
Par suite, encore faut-il
peut-être adapter nombre de procédés et procédures et, en premier lieu,
préférer l’expérimentation et l’horizontalité à l’arbitraire et à
l’unilatéralité. Tandis que de plus en plus de nouveaux services sont proposés
aux citoyens, leur prescription sans consultation préalable ni possibilité de
suggérer des changements empêche de savoir s’ils répondent réellement aux
besoins et aux attentes. De nouvelles méthodes, celles de « start-up d’État », permettraient d’éviter que soient
lancés, après des années de développement et d’investissement, des instruments
inadéquats. Certes, le modèle de l’administration est plutôt éloigné de celui de la start-up,
fonctionnant par essais successifs, sur le modèle des petits pas, et s’ajustant
en fonction de ses succès et échecs. Reste qu’il semble nécessaire de s’appuyer
davantage sur une gestion fine et précise des changements, à base de réunions
d’information, de définition collective des besoins, de tests, d’élaboration
participative des outils, de formation des utilisateurs, d’écoute et d’intégration
de leurs commentaires, d’adaptation et de mise à jour des instruments.
Les algorithmes interrogent également le
droit parce que se développe, en marge des algorithmes d’État, une normativité
algorithmique façonnée par les multinationales du web et du numérique.
Dans le futur, les relations
entre les personnes et les décisions de chacun dépendront-elles essentiellement
du code informatique ? Ce code prédéterminera-t-il et contrôlera-t-il les usages et
les comportements ? Si la loi et, à travers elle, la démocratie représentative
sont actuellement l’objet d’une théorie du déclin et subissent une grave crise
de confiance — qui se traduit notamment dans l’essor des CivilTechs —, est-il
pour autant possible de leur préférer la loi des algorithmes et son absence de
transparence ? Certes, les algorithmes utilisés dans le cadre public, avec
l’algorithmisation de l’administration et du gouvernement, visent à moderniser
et, par là, à renforcer l’État. Mais les algorithmes privés, dont il sera
question dans cette seconde partie, ne tendent pas à compléter ou assister
l’État ; ils le concurrencent et le
remplacent. Ce droit algorithmique est une réalité qu’il faut accepter (A) ; et il faut prendre conscience de ses caractéristiques
très particulières et de son caractère éminemment politique, loin de toute
objectivité et de toute neutralité, ainsi que des menaces potentielles qu’il
véhicule (B).
Les algorithmes, notamment
ceux utilisés par les services du web, emportent de puissants effets normatifs.
Sous cet angle, s’ils permettent des gains de temps et de productivité
considérables, ils ne manquent pas d’orienter tout en même temps les décisions
humaines à travers les résultats qu’ils fournissent. Les pages web suggérées
par les moteurs de recherche sont dans bien des cas des devoirs-être, tout
comme les contenus mis en avant sur les réseaux sociaux ou les suggestions
d’achat sur les sites d’e-commerce. Quand des algorithmes trient des contenus,
rejettent des messages ou des images, affichent des publicités ciblées,
optimisent le prix d’un service, passent des ordres financiers sur les marchés,
traduisent des textes, cryptent et décryptent des informations, etc., ce sont
autant de normes ou semi-normes plus ou moins directes, plus ou moins
impératives, mais souvent performatives, qui sont produites. De fait,
l’algorithme choisit pour l’homme qui s’en remet à lui ; l’humain suit le robot. Le choix de
regarder, d’aimer, de partager, de commenter et de prolonger son expérience
n’est que de façade, car les recommandations sont un redoutable outil de
fidélisation qui guide largement les parcours en ligne des internautes.
Toutes les plateformes de
l’internet recourent à des algorithmes qui emportent de forts effets normatifs.
Les hommes élaborent des algorithmes qui, en retour, modèlent les hommes. Les
systèmes de filtrage des réseaux sociaux, nourris en permanence par les
préférences affichées par les internautes, les enferment dans une certaine
conception de la société qui s’autoentretient et donc se renforce, sans
contradiction. Les algorithmes des GAFA et autres services de réseautage
social, en quête du maximum de clics, enferment les individus sur eux-mêmes.
Cette « autopropagande invisible »[8] favorise en particulier la
radicalisation. Le pluralisme des courants de pensée et d’opinion et, par
suite, la liberté d’opinion se trouvent dangereusement malmenés. S’agirait-il
d’une véritable dictature des algorithmes, dont les effets normatifs ne répondent
guère aux exigences démocratiques ? Ces nouveaux outils technologiques
cadrent les conduites, formatent les esprits, décident des goûts, standardisent
les besoins, donc favorisent le suivisme, le panurgisme, et s’opposent aux
envies et modes de vie alternatifs — ceux-ci étant difficilement monétisables.
Les utilisateurs se retrouvent donc placés dans des silos de comportement et de
consommation tracés par les algorithmes. Quand la normalité devient
normativité.
Le gouvernement algorithmique
cherche à anticiper les comportements et à les influencer. Les algorithmes
orientent les décisions de chacun et les relations sociales. Ils façonnent
ainsi le monde à leur image — l’image de la Silicon Valley[9]. Ils imposent de nouvelles
légitimités et font les succès et les échecs commerciaux. Plus encore, ils
décident de ce qui est « bien » et de ce qui est « mal ». Ils fondent le projet de société de
demain.
Les algorithmes sont
aujourd’hui un mode de gouvernance à part entière. La technologie tend à
remplacer la politique dans son rôle de vecteur de l’association des individus
et d’organisation de leur coexistence pacifique. Se produit un mouvement de
désymbolisation et de resymbolisation : désymbolisation de la justice et
du droit moderne étatiques, resymbolisation en leur substituant la (pseudo-)
logique et la (pseudo-) objectivité des algorithmes des multinationales du
numérique. Des observateurs vont jusqu’à considérer que la justice et le droit
moderne étatique pourraient bientôt se présenter tels des pis-aller
historiques, des modes de régulation scientifiques et technologiques les
remplaçants — assez soudainement d’ailleurs. La normativité algorithmique est
en tout cas une réalité dont les spécificités détonnent et étonnent, une
réalité disruptive dont il importe de prendre la mesure.
Le droit algorithmique
illustre tout spécialement le passage du gouvernement politique délibéré et
vertical à la gouvernance mathématique automatique et horizontale[10].
Il ne s’agit plus d’imposer des devoirs-être à des êtres ; à l’inverse, les êtres s’imposent aux
devoirs-être, les faits s’imposent aux normes, deviennent normes. Tel est le
résultat de la banalisation des pratiques statistiques et des corrélations de
données. Le droit des algorithmes est ainsi significatif de la factualisation
du juridique[11].
Le droit ne repose plus sur la causalité normative, mais sur la corrélation
pratique[12].
Le droit des algorithmes se
rapproche de ce point de vue des usages et de toutes les normativités
immanentes et spontanées, qui ne s’imposent pas de l’extérieur, mais de
l’intérieur. Il dépend d’un jeu d’échanges et d’interactions entre
l’utilisateur et l’algorithme : l’utilisateur, par son comportement,
influence l’algorithme, lequel en retour, par ses informations, influence
l’utilisateur, etc. L’algorithme « autoapprenant » par rapprochements successifs, en
dégageant des corrélations, fait émerger des normes à partir des régularités et
des coïncidences qu’il identifie. De telles normes sont incomparables aux
dispositions législatives ou réglementaires à portée générale, dénuées de toute
discrimination, décidée au sein des hémicycles, qui ne prennent que très peu en
compte, par souci d’égalité et d’impartialité, les situations particulières de
chacun de leurs destinataires. Le droit des algorithmes coïncide en conséquence
avec un mouvement d’individualisation des règles de droit.
Ensuite, ainsi que le note le
Conseil d’État dans sa dernière étude annuelle,
« la puissance acquise par les principaux
réseaux sociaux et les plus grandes plateformes de partage de contenus leur
confère un pouvoir de prescription majeur qui soulève des questions
essentielles au regard de la protection des libertés fondamentales »[13].
Car il s’agit bien de
puissance : une puissance concurrente à la puissance publique.
Tout d’abord, en faisant la
loi sur des services qui sont, dans le monde actuel, au centre de toutes les
activités sociales, politiques et économiques, les algorithmes — et ceux qui
les créent et les programment — possèdent une puissance colossale. Les
informaticiens disposent d’un pouvoir grandissant à mesure que les algorithmes
deviennent des instruments incontournables au sein des mécanismes de prise de
décision. La politique des algorithmes est une donnée incontournable pour qui
souhaite appréhender le monde d’aujourd’hui et de demain.
Dans des sociétés
démocratiques et libérales, la puissance de Facebook ou Google, qui s’exprime
normativement, ne peut laisser indifférent. Leur manière d’agir sur les
comportements et de les standardiser loin des États et de leurs lois est le
symbole d’une époque de défiance à l’égard des institutions publiques. Ainsi le
droit algorithmique traduit-il des grands changements parmi les sources du
droit : prolifération quantitative et qualitative des sources privées liée
à la crise et au retrait des sources publiques — d’autant plus que les
institutions internationales, à l’ère de la mondialisation numérique, ne
parviennent pas à prendre le relais des institutions nationales.
Ensuite, la programmation du
droit que les algorithmes rendent possible, anticipant les faits à venir en
même temps qu’ils les font advenir, s’oppose à la caractéristique du droit
moderne qui normalement se construit en fonction de motifs factuels donnés à
l’avance. Surtout, l’humanité du droit s’efface à mesure que celui-ci se
robotise. Or des normes appliquées sans mise en balance réflexive peuvent-elles
longtemps demeurer acceptables et acceptées ? Ne faut-il pas s’alarmer face à des modes
de normativité qui substituent au raisonnement juridique une simple déduction
tirée de flux de données ?
« Corrélation n’est pas causalité » : cette formule pourrait devenir le
slogan de ceux, de plus en plus nombreux, qui s’indignent devant la normativité
algorithmique qui capture les vies et les sociétés. En effet, une corrélation
peut être le résultat du simple hasard. Tel est d’ailleurs bien souvent le cas.
Dès lors, est-il raisonnable d’abandonner le droit au hasard ? Avec le gouvernement algorithmique, la
méfiance par rapport aux effets de corrélation s’estompe, car ces effets de
corrélation sont de moins en moins sensibles, ce qui leur évite d’être remis en
question. Il semble cependant nécessaire de s’assurer qu’une corrélation
n’exprime pas une injustice et n’est pas, par suite, le facteur d’une
discrimination. En outre, une politique publique, qui se traduit par des textes
de droit, intervient normalement a priori
et non a posteriori. Elle n’a pas
vocation à s’appuyer sur des corrélations. Par conséquent, le droit des
algorithmes pourrait traduire la tendance du droit à être de moins en moins un
instrument au service de l’interventionnisme et de plus en plus un instrument
au service du réactionnisme.
Une autre spécificité du
droit des algorithmes est de contribuer à l’américanisation du droit européen.
Il véhicule une vision particulière de l’homme et de la société — et donc du
droit qui les accompagne. Il est un moyen de la colonisation numérique de
l’Europe par les États-Unis, ce qui lui confère un aspect très politique. En témoignent
les initiatives récemment prises par les institutions de l’Union européenne
afin de contrer ou, du moins, limiter ce mouvement.
Une décision prise par un
algorithme ou avec l’assistance d’un algorithme peut sembler a priori plus équitable et plus juste
qu’une décision humaine potentiellement orientée politiquement et
idéologiquement et en tout cas soumise à une subjectivité. La rigueur
mathématique et la logique de l’algorithme plaident a priori pour lui. L’algorithme ne pourrait pas être corrompu ou
autrement influencé. On ne prête aux robots ni intentions ni opinions ; ils obéiraient simplement à une froide
objectivité. Les nouvelles pratiques de gouvernement algorithmique assoient
leur légitimité sur cette objectivité. On accepte de se laisser guider par des
algorithmes en raison de leur neutralité semble-t-il implacable. Mais cette
neutralité n’est bien souvent que de façade ; ou plutôt l’outil est en soi neutre, mais
non l’usage qui en est fait[14].
Les critères, les paramètres et les données faisant qu’un algorithme aboutit à
certains résultats sont déterminés par des hommes. Ceux-ci sont en mesure de
faire prévaloir certaines valeurs sur d’autres.
Les algorithmes opèrent des
pondérations, dont les motivations, et les conséquences ont toujours un aspect
politique. Lorsqu’ils décident de ce qui est « tendance », de ce qui est « plus populaire », et plus généralement de ce qui doit
s’afficher et de ce qui ne le doit pas, ainsi qu’en organisant les informations
d’une certaine manière, ils deviennent prescripteurs, à tel point qu’ils
peuvent aller jusqu’à orienter les résultats des élections. Or la Silicon
Valley reflète moins les normes sociales en vigueur qu’elle les façonne à sa
guise.
Enfin, les buts poursuivis
par les algorithmes ne sont guère originaux, malgré l’apparente complexité de
leur fonctionnement : il s’agit de centraliser le pouvoir au sein de
structures ordonnées et cohérentes, si bien qu’on compare parfois les GAFA à
des États[15].
Comme les bureaucraties, les algorithmes — nouvelle forme de technocratie —
sont élaborés afin d’être impénétrables. Le droit des algorithmes, ensemble de
normes tacites, inexprimées, formalisées seulement dans du code, va donc de
pair avec une opacité peu satisfaisante, quel que soit le contenu et la portée
des normes en cause. Et cela d’autant plus
dès lors que l’effectivité de ces normes repose principalement sur la
confiance quasi-aveugle que les utilisateurs des services font aux algorithmes.
À l’instar des bureaucraties, les algorithmes refusent la transparence dans le
but de protéger leur fonctionnalité. De Facebook à Google, on motive le secret
des algorithmes par le secret industriel, technologique ou des affaires ; mais l’objectif est également de
camoufler les lacunes et défauts et de prévenir d’éventuelles contestations. On
construit, à grand renfort de communication, une apparence d’infaillibilité et
de superpuissance afin d’éviter les critiques. Le résultat est la constitution
de « boîtes noires » qui enregistrent les données et les
traitent, dont on peut observer et subir les effets, mais sans en comprendre le
fonctionnement[16].
L’administration des affaires d’une société
donnée serait trop humaine pour que l’on puisse la confier à des robots ; et les robots seraient trop intelligents
pour que l’on puisse se passer d’eux. Finalement, à l’égard de la problématique
de l’algorithmisation du droit comme souvent, tout serait question
d’équilibre : équilibre entre technophobie et technophilie. Il ne
s’agirait ni de rejeter en bloc les nouvelles possibilités offertes par les
algorithmes ni de tout leur abandonner. La révolution numérique, qui est dans
une large mesure une révolution algorithmique, implique d’importantes mutations
politiques, économiques et sociales. Elle requiert un nouveau contrat social,
de nouveaux liens entre l’État et les citoyens. L’algorithmisation est bien
plus qu’un projet technique. C’est un projet politique visant à réinventer,
dans un contexte de crise de la démocratie représentative, la relation entre
administrateurs et administrés. C’est pourquoi il serait important de susciter
le plus vaste débat public possible sur ces questions, afin de permettre à
chacun d’en prendre conscience et de se positionner. Notamment, les formes du
service public et le périmètre de l’action publique seront forcément amenés à
évoluer. Alimenter continuellement la réflexion permettrait d’anticiper
certaines difficultés et d’évoluer progressivement, mais précautionneusement
vers les meilleures solutions, suivant la méthode des petits pas. Or, pour l’heure,
ce débat et la transparence qui devrait l’accompagner font encore largement
défaut.
Reste que, si le droit est ce
qui modèle effectivement les comportements des hommes en société, les
algorithmes doivent s’analyser telles des sources du droit. Ils engendrent des
effets normatifs semblables à ceux des lois et règlements. Cela incite à revoir
la définition du droit et à prendre ses distances avec le droit moderne du XXe s.,
quand, en théorie et en pratique, droit et État coïncidaient. Les
multinationales telles que les GAFA donnent lieu à des objets normatifs ou
semi-normatifs plus ou moins bien identifiés que les juristes ne paraissent pas
pouvoir ignorer, sous peine d’étudier un droit qui n’aurait plus grand-chose à
voir avec la réalité des cadres normatifs en vigueur[17].
Les algorithmes sont les
témoins et les moyens d’une transformation majeure des formes de régulation,
d’une révision profonde des modes d’élaboration, d’interprétation et
d’exécution du droit. Il devient en effet possible de produire des normes qui
sont contrôlées automatiquement, car intégrées dans des robots ou dans leur
environnement, si bien qu’elles en deviennent inviolables ou systématiquement
sanctionnées. Par exemple, les règles du Code de la route, suffisamment
précises et claires, peuvent désormais être appliquées automatiquement par des
voitures autonomes. La normativité juridique et sa nature délibérée — dans le
cadre d’un Parlement et par les représentants des citoyens — pourraient laisser
progressivement la place à une normativité algorithmique, combinant des normes
dictées par des traitements automatisés de données. Cela interpelle, car la
délibération, mode de décision impliquant un temps de réflexion et une mise en
balance des arguments, et donnant leur place aux compromis politiques, comporte
une part essentielle d’humanité qui est peut-être indispensable à la
construction des normes vouées à régir les conduites et relations sociales[18].
Et cela est d’autant plus
préoccupant que, avec ce « nouveau droit », des acteurs privés en viennent à concurrencer l’État. Se pose
alors la question de la capacité de la société numérique à être une société
démocratique et ouverte. Le droit algorithmique ne favorise-t-il pas davantage
une société numérique tyrannique et fermée ? Le fonctionnement de nombre de
plateformes du web fait redouter une large érosion du pouvoir des hommes et des
sociétés sur leurs destins individuels et collectifs[19].
Toujours est-il que le droit
algorithmique est, parmi les nouveaux phénomènes normatifs, l’un des plus remarquables.
Les fondements et les caractéristiques de la normativité juridique, dont les
lieux et les acteurs se multiplient, évoluent chaque jour un peu plus. Ce droit
algorithmique témoigne du fait que la normativité descendante, issue d’une
autorité en surplomb, est mise en ballottage par une normativité immanente
provenant de la technologie ; alors que la normativité à portée générale et impersonnelle
est concurrencée par une normativité individualisée rendue possible par la
collecte et l’analyse algorithmique des données personnelles ; et tandis que la normativité publique,
transparente et consciente, est subrogée par une normativité privée, opaque et
inconsciente. En somme, le droit tend à se passer de l’humain, à se robotiser.
S. ABITEBOUL,
G. DOWEK,
Le temps des algorithmes, coll.
Essais, Paris, Le Pommier, 2017.
A. BENSAMOUN (dir.), Les robots – Objets scientifiques, objets de
droits, Paris, Mare et Martin, 2016.
A. BENSOUSSAN, Droit des robots, Bruxelles, Larcier, 2015.
Ch.-É. BOUÉE, La chute de l’empire humain – Mémoires d’un robot, Paris, Grasset,
2017.
Conseil d’État, Puissance publique et plateformes
numériques : accompagner l’ « ubérisation », Paris, La documentation française, 2017.
M. DAGNAUD, Le modèle californien – Comment l’esprit collaboratif change le monde,
Paris, Odile Jacob, 2016.
M. DUGAIN, Ch. Labbé, L’homme nu – La dictature invisible du
numérique, Paris, Plon, 2016.
O. ITÉANU, Quand le digital défie l’État de droit, Paris, Eyrolles, 2016
E. PARISER, The Filter Bubble – What the Internet is Hiding from You, Londres,
Penguin Books, 2011.
F. PASQUALE, The Black Box Society – The Secret Algorithms That Control Money and
Information, Cambridge, Harvard University Press, 2015.
E. SADIN, La siliconisation du monde, Paris, L’Échappée, 2016.
K. SCHWAB, La quatrième révolution industrielle, Paris, Dunod, 2017.
R. SUSSKIND, Tomorrow’s Lawyers – An Introduction to your Future, Oxford, Oxford
University Press, 2013.
R. SUSSKIND, The End of Lawyers – Rethinking the Nature of Legal Services,
Oxford, Oxford University Press, 2010.
L. BABY, « L’algorithme
de l’informaticien et le syllogisme du juriste », Dalloz IP/IT, n° 6, 2016, pp. 311 s.
A. BENSOUSSAN, « Droit des
robots : science-fiction ou anticipation ? », D., n° 28/2015,
pp. 1640 s.
M. BERNARD, « L’innovation
technologique dans le droit : vers une révolution des
pratiques ? », LPA,
n° 187, 2016, pp. 4 s.
Th. BERNS,
A. ROUVROY, « Gouvernementalité
algorithmique et perspective d’émancipation – Le disparate comme condition
d’individualisation par la relation », Réseaux, n° 117, 2013, pp. 174 s.
M. BOURGEOIS,
G. LOISEAU, « Du robot en droit à un
droit des robots », JCP G, n° 48/2014,
pp. 1231 s.
G. CHANTEPIE, « Le droit en
algorithmes ou la fin de la norme délibérée ? », Dalloz IP/IT, n° 10/2017, pp. 522 s.
S. CHASSAGNARD-PINET,
« Les usages des
algorithmes en droit : prédire ou dire le droit ? », Dalloz IP/IT, n° 10, 2017,
pp. 495 s.
R. CHATILA, « Intelligence
artificielle et robotique : un état des lieux en perspective avec le
droit », Dalloz IP/IT, n° 6/2016,
pp. 284 s.
G. CONTI,
W. HARTZOG, J. NELSON, L. A. SHAY, « Do Robots Dream of
Electric Laws? An Experiment in the Law as Algorithm », in Robot Law, R. CALO, M. FROOMKIN, I. KERR (dir.),
Camberley, Edward Elgar, 2016, pp. 274 s.
H. CROZE, « La
factualisation du droit », JCP G,
n° 5/2017, pp. 174 s.
H. CROZE, « Comment être
artificiellement intelligent en droit ? », JCP G, n° 36/2017, pp. 882 s.
S. DE
SILGUY, « Doit-on se méfier davantage
des algorithmes ? », RLDC, n° 146, 2017,
pp. 32 s.
J.-B. DUCLERCQ, « Les effets de
la multiplication des algorithmes informatiques sur l’ordonnancement
juridique », Comm. com. électr., n° 11/2015, pp. 2 s.
J. GOODMAN, « Legaltech:
Innovation and Legacy IT », The Law
Society Gazette, 13 juin 2016
N. KATYAL, « Disruptive
Technologies and the Law », Georgetown
Law Journal, n° 102, 2014,
pp. 1685 s.
S. LARRIÈRE, « Confier le droit à
l’intelligence artificielle : le droit dans le mur ? », RLDI, n° 134, 2017,
pp. 38 s.
G. LOISEAU, « La production d’une
valeur juridique ajoutée, antidote à l’automatisation des prestations en droit », Comm. com. électr., n° 3/2017, pp. 26 s.
G. LOISEAU, « Des robots et des
hommes », D., n° 30/2015,
pp. 2369 s.
O. MCGINNIS,
R. PEARCE,
« The Great Disruption: How Machine Intelligence Will Transform the Role
of Lawyers in the Delivery of Legal Services », Fordham Law Review, n° 82, 2014, pp. 3041 s.
M. MEKKI, « If Code is
Law, then Code is Justice? Droits et algorithmes », Gaz. Pal., n° 24/27 juin 2017, pp. 10 s.
A. MENDOZA-CAMINADE, « Le droit
confronté à l’intelligence artificielle des robots : vers l’émergence de
nouveaux concepts juridiques ? », D., n° 8/2016,
pp. 445 s.
[1] Cf.
S. Abiteboul, G. Dowek, Le temps des algorithmes, coll. Essais,
Paris, Le Pommier, 2017 ; K. Schwab,
La quatrième révolution industrielle,
Paris, Dunod, 2017.
[2] Cf.,
not., O. Mcginnis, R. Pearce,
« The Great Disruption: How Machine Intelligence Will Transform the Role
of Lawyers in the Delivery of Legal Services », Fordham Law Review, n° 82, 2014, pp. 3041 s. ; J. Goodman, « Legaltech:
Innovation and Legacy IT », The Law
Society Gazette, 13 juin 2016 ; R. Susskind,
Tomorrow’s Lawyers – An Introduction to
your Future, Oxford, Oxford University Press, 2013 ; R. Susskind, The End of Lawyers – Rethinking the Nature of Legal Services,
Oxford, Oxford University Press, 2010.
[3] En ce sens, par exemple, G. Conti, W. Hartzog, J. Nelson,
L. A. Shay, « Do Robots Dream of Electric Laws? An
Experiment in the Law as Algorithm », in Robot Law, R. Calo,
M. Froomkin, I. Kerr (dir.), Camberley,
Edward Elgar, 2016, pp. 274 s.
[4] En ce sens, par exemple, M. Dugain, Ch. Labbé, L’homme nu – La dictature invisible du
numérique, Paris, Plon, 2016.
[5] Loi pour
une République numérique, 7 oct. 2016, n° 2016-1321.
[6] Réf. à J. Chevallier,
L’État postmoderne, 5e éd.
mise à jour, coll. Droit et société, Paris, LGDJ, 2017.
[7] Loi
relative au travail, à la modernisation du dialogue social et à la sécurisation
des parcours professionnels,
8 août 2016, n° 2016-1088.
[8] E. Pariser,
The Filter Bubble – What the Internet is
Hiding from You, Londres, Penguin Books, 2011.
[9] Par exemple, N. Katyal, « Disruptive Technologies and the
Law », Georgetown Law Journal,
n° 102, 2014, pp. 1685 s.
[10] Cf.,
plus généralement, A. Mendoza-Caminade,
« Le droit confronté à l’intelligence artificielle des robots : vers
l’émergence de nouveaux concepts juridiques ? », D., n° 8/2016,
pp. 445 s.
[11] En ce sens, H. Croze, « La factualisation du droit », JCP G, n° 5/2017,
pp. 174 s.
[12] Cf.,
not., L. Baby,
« L’algorithme de l’informaticien et le syllogisme du juriste », Dalloz IP/IT, n° 6/2016,
pp. 311 s.
[13] Conseil d’État, Puissance publique et plateformes numériques : accompagner
l’ « ubérisation », Paris, La documentation française, 2017,
p. 17.
[14] En ce sens, par exemple, S. De Silguy, « Doit-on se
méfier davantage des algorithmes ? », RLDC, n° 146, 2017, pp. 32 s.
[15] Par exemple, J.-B. Duclercq, « Les effets de la multiplication
des algorithmes informatiques sur l’ordonnancement juridique », Comm. com. électr., n° 11/2015,
pp. 15 s.
[16] F. Pasquale,
The Black Box Society – The Secret
Algorithms That Control Money and Information, Cambridge, Harvard
University Press, 2015.
[17] En ce sens, par exemple, M. Mekki, « If Code is Law,
then Code is Justice? Droits et algorithmes », Gaz. Pal., n° 24/27 juin 2017, pp. 10 s.
[18] G. Chantepie,
« Le droit en algorithmes ou la fin de la norme délibérée ? », Dalloz IP/IT, n° 10/2017, p. 522.
[19] En ce sens, Ch.-É. Bouée, La
chute de l’empire humain – Mémoires d’un robot, Paris, Grasset, 2017.