Question sur la place des algorithmes dans le secteur juridique

Lherbier (Brigitte), Question écrite nº 11629 à la ministre de la justice sur la place des algorithmes dans le secteur juridique [Journal officiel de la République française, édition « Débats parlementaires – Sénat », nº 29 S (Q), 18 juillet 2019, p. 3812].

Brigitte Lherbier (© D.R.)

Mme Brigitte Lherbier attire l’attention de Mme la garde des sceaux, ministre de la justice, sur la place accordée aux algorithmes dans le secteur juridique, notamment sur la fonction « prédictive » de ces outils.

Alors que certains pays de l’organisation de coopération et de développement économiques (OCDE), comme la Finlande ou les États-Unis ont de plus en plus recours à des algorithmes dans leurs systèmes de justice, avec par exemple le logiciel américain compas qui mesure le risque de récidive des prévenus, mais s’est révélé peu précis et peu efficace ; il est fondamental pour la France que les professionnels du secteur mais aussi l’État, se saisissent du sujet de l’intelligence artificielle (IA) dans la justice et définissent les usages qu’ils veulent en faire, afin d’éviter l’avènement d’une justice expéditive et déshumanisée.

Les outils d’IA sont appelés à tort « justice prédictive ». En réalité, ce sont des statistiques sur des décisions de justice qui peuvent faciliter la compréhension des professionnels du droit pour orienter une stratégie : l’IA ne représente qu’une aide complétant l’intelligence humaine dans le processus de décision.

Comme le rappelait le précédent vice-président du Conseil d’État, si les algorithmes dans le droit sont bien « une opportunité », il convient de s’en saisir « en sachant faire preuve d’une grande vigilance sur l’intangibilité d’une justice indépendante, impartiale, transparente, humaine et équilibrée [1] » afin de garantir à tous les citoyens un égal accès à la force du droit. La révolution de l’IA, loin d’être une menace, est une formidable opportunité pour le monde juridique et pour l’État d’assurer un fonctionnement de la justice plus efficient, et de positionner la France comme un champion de l’IA éthique dans le droit.

Le secteur juridique privé en France gagnerait à établir des bonnes pratiques et à respecter une certaine déontologie en matière de transparence des outils : à titre d’exemple, en France, des éditeurs juridiques privés ont déjà créé des algorithmes sans boîtes noires.

Elle lui demande donc de clarifier la position du Gouvernement sur le développement de l’IA dans le secteur du droit et de la justice, et sur la possibilité de travailler avec les legaltech à la mise en place d’une certification qui permettrait le déploiement raisonné et éthique de ces solutions d’IA. La France a une opportunité pour être pionnière dans la justice algorithmique, au service des justiciables.