Tribunaux colombiens, IA et nouvelles normes

En février 2025, la Colombie a marqué un jalon historique en devenant le premier pays à adopter les Directives de l’UNESCO pour l’utilisation de l’Intelligence Artificielle (IA) dans les systèmes judiciaires, une structure conçue pour aider les tribunaux à intégrer l’IA tout en sauvegardant l’éthique et les droits humains. Cette avancée positionne la Colombie en tant que leader mondial dans l’application éthique de l’IA au sein des systèmes judiciaires.

L’IA ne peut pas remplacer le juge dans la prise de décision judiciaire

La route de la Colombie vers une IA éthique avait débuté avec un défi : une décision de la Cour Constitutionnelle avait souligné que l’utilisation non réglementée de l’IA générative par les juges était susceptible de violer le droit à un procès équitable. La Cour avait précisé que bien que l’IA générative ne puisse remplacer le raisonnement judiciaire, elle possède un potentiel significatif pour renforcer les institutions en répondant aux demandes sociétales de justice (arrêt No. T-323 du 2 août 2024, la Cour Constitutionnelle colombienne).

L’utilisation de l’IA dans le domaine de la justice représente un enjeu majeur. Les erreurs ou les biais des systèmes d’IA peuvent compromettre l’équité judiciaire, éroder la confiance du public et mettre en péril les droits fondamentaux. Malgré le potentiel transformateur de l’IA, seulement 9 % des opérateurs judiciaires dans le monde déclarent disposer de lignes directrices ou de formations liées à l’IA, d’après une enquête menée par l’Unesco en juin 2024. L’an dernier, en Inde et en Colombie, des juges ont utilisé ChatGPT pour faciliter leurs décisions judiciaires, suscitant des débats sur sa fiabilité et ses conséquences éthiques.

44 % des acteurs judiciaires, juges, procureurs et avocats compris, utilisent des outils d’IA tels que ChatGPT dans leur travail, mais seulement 9 % ont reçu une formation ou des directives institutionnelles adéquates.

Quel encadrement éthique pour l’utilisation de l’IA dans le système judiciaire ?

C’est la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe, qui avait été pionnière sur le sujet en adoptant en le premier texte européen énonçant des principes éthiques relatifs à l’utilisation de l’IA dans les systèmes judiciaires.

Lancées en décembre 2024 après des mois de consultations d’experts et publiques, les Directives de l’UNESCO vont au-delà des principes éthiques pour offrir des conseils pratiques sur la mise en œuvre éthique de l’IA dans différents cas judiciaires.

L’organisation internationale a collaboré avec le Conseil Supérieur de la Judicature de Colombie pour les adapter et pour créer les lignes directrices colombiennes pour l’utilisation responsable et sûre de l’IA générative dans le pouvoir judiciaire. Cette action s’appuie sur les efforts déployés par l’UNESCO, qui forme les professionnels de la justice à la liberté de la presse depuis plus de dix ans à travers l’Initiative Juges de l’UNESCO et du programme Intelligence artificielle et État de droit :

1. Élaboration de lignes directrices : définition de lignes directrices complètes pour garantir une utilisation éthique des outils d’IA, respectueuse de la dignité humaine et des droits humains, et pour améliorer les processus judiciaires.
2. Renforcement des capacités : par le biais d’ateliers et de formations, l’UNESCO contribue au renforcement des capacités du système judiciaire colombien, en intégrant des cours ouverts à tous à ses programmes de formation.
3. Évaluations de l’impact des algorithmes : créer des lignes directrices pour évaluer l’impact des algorithmes, favorisant ainsi la transparence et la responsabilité dans les applications de l’IA.
4. Transfert de connaissances et socialisation des pratiques et des expériences : accès aux informations pertinentes, aux bonnes pratiques et aux cadres de référence pour les équipes du pouvoir judiciaire et pour d’autres acteurs dans le monde.

À travers son Programme sur l’IA et l’État de Droit, l’UNESCO fournit ainsi aux juges et aux systèmes judiciaires du monde entier des cadres pour exploiter l’IA de manière responsable.

Un meilleur accès à la justice grâce à l’IA ?

En adoptant des réglementations éthiques en matière d’IA, la Colombie rejoint un groupe restreint de pays leaders, garantissant que la technologie serve la justice sans compromettre les droits humains et l’intégrité judiciaire.

Ces directives colombiennes assignent des responsabilités spécifiques aux acteurs judiciaires, exigeant la divulgation claire de l’utilisation des outils d’IA dans les décisions judiciaires afin de garantir la transparence et l’intégrité. De plus, l’Unité de Transformation Numérique et Informatique de la Colombie est chargée d’explorer des solutions d’IA innovantes tout en réalisant des évaluations d’impact pour atténuer les risques liés à la confidentialité, à la dépendance technologique et aux droits fondamentaux.

La promesse et les risques de l’IA dans le domaine de la justice sont évidents. La recherche souligne le potentiel de l’IA pour révolutionner les systèmes judiciaires, comme en témoigne la réduction de 87 % des délais de traitement des affaires par le Tribunal de l’État de São Paulo grâce à l’utilisation d’outils d’IA. Accompagnés de lignes directrices éthiques, de telles avancées peuvent renforcer davantage l’état de droit et l’accès à la justice.

L’étape pionnière de la Colombie n’est que le début. Alors que d’autres pays cherchent à relever des défis similaires, son exemple établit un précédent puissant pour l’intégration éthique et efficace de la technologie dans les systèmes judiciaires.

Interdiction du profilage des juges à des fins de justice prédictive

La France, quant à elle, élabore également une stratégie ambitieuse en matière d’éthique de l’IA. À l’instar de la Colombie, elle s’efforce de concilier l’innovation technologique avec les impératifs éthiques et juridiques pour améliorer l’accès à la justice et renforcer l’état de droit.

La réforme du système judiciaire de mars 2019 constitue une avancée législative notable. L’article 33 de la loi n° 2019-222 du 23 mars 2019 interdit la réutilisation des données identifiant les juges afin d’analyser ou de prédire leurs décisions. Cette mesure préventive contre l’analyse des décisions de justice par l’IA, susceptible de profiler le comportement des juges souligne comment la France agit pour répondre aux préoccupations éthiques soulevées par l’analyse de l’IA.

« Les données d’identité des magistrats et des membres du greffe ne peuvent faire l’objet d’une réutilisation ayant pour objet ou pour effet d’évaluer, d’analyser, de comparer ou de prédire leurs pratiques professionnelles réelles ou supposées. La violation de cette interdiction est punie des peines prévues aux articles 226-18,226-24 et 226-31 du code pénal, sans préjudice des mesures et sanctions prévues par la loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés. »

Sur le même sujet: L’IA au cœur des enjeux éthiques – Nathalie Devillier

Sources :

• CEPEJ, Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires – Commission européenne pour l’efficacité de la justice (CEPEJ), 2018
• Unesco, Global toolkit on AI and the rule of law for the judiciary, 2023
• UK Judiciary, Artificial Intelligence (AI) – Judicial Guidance – Courts and Tribunals Judiciary, 2023
• Conseil Canadien de la Magistrature, Le Conseil canadien de la magistrature publie des Lignes directrices sur l’utilisation de l’intelligence artificielle dans les tribunaux canadiens, 2024