Scandale judiciaire : deux avocates piégées par l’IA et lourdement sanctionnées

L’intégration de l’intelligence artificielle dans les systèmes judiciaires suscite autant d’espoirs que d’inquiétudes. Si ces technologies promettent d’accélérer le traitement des affaires, elles ouvrent aussi la porte à de nouvelles formes de manipulation. Une récente affaire brésilienne illustre parfaitement ces dérives potentielles.

Une manipulation détectée par l’IA elle-même

Deux professionnelles du droit brésiliennes ont tenté de tromper Galileu, l’intelligence artificielle utilisée par la justice brésilienne. Leur méthode ? Une technique sophistiquée baptisée injection de prompt.

Concrètement, elles ont dissimulé des instructions secrètes dans leur requête juridique. Ces consignes étaient rédigées en texte blanc sur fond blanc, invisibles à l’œil humain mais lisibles par les algorithmes.

L’objectif visé était double : obtenir une analyse superficielle de la part de l’intelligence artificielle adverse et empêcher que les documents de leur client ne soient remis en question. Elles espéraient ainsi fausser le projet de décision préparé automatiquement par le système.

Des sanctions financières exemplaires

Mais leur stratagème n’a pas fonctionné. L’IA Galileu a rapidement identifié cette tentative de manipulation et alerté les autorités judiciaires.

Le tribunal n’a pas tardé à réagir. Les deux avocates ont été condamnées à payer une amende de 84 250 reals brésiliens, soit environ 14 000 euros.

Le juge Luiz Carlos de Araujo Santos Junior, qui a présidé l’affaire, a fermement condamné ces pratiques. Il a qualifié cette méthode d’atteinte directe à la dignité de la justice.

Une mobilisation des instances professionnelles

Au-delà de la sanction pécuniaire, l’affaire a pris une dimension institutionnelle. L’Ordre des avocats du Brésil dans l’État du Pará a été saisi du dossier.

L’organe de contrôle du tribunal a également été alerté, témoignant de la gravité des faits reprochés aux deux professionnelles.

Une contestation malgré les preuves

Face à ces accusations, les deux avocates maintiennent leur position. Elles contestent formellement avoir tenté de manipuler le système d’intelligence artificielle.

Leur défense n’a toutefois pas convaincu les instances judiciaires, qui ont maintenu les sanctions prononcées à leur encontre.

Un phénomène qui s’étend au-delà des frontières

Cette affaire brésilienne n’est pas un cas isolé. Des tentatives similaires de manipulation d’IA judiciaires ont été recensées dans d’autres juridictions.

Un incident comparable s’est produit dans le Connecticut, aux États-Unis. Le Brésil lui-même avait déjà connu un autre cas similaire le mois précédent, qui s’était également soldé par des sanctions financières.

Des questions sur la fiabilité des systèmes automatisés

Ces affaires répétées soulèvent des interrogations légitimes sur la vulnérabilité des intelligences artificielles utilisées dans le domaine judiciaire.

L’examen des documents judiciaires par des algorithmes devient une pratique courante. Cette automatisation croissante nécessite des garde-fous pour éviter les tentatives de détournement.

Les professionnels du droit devront s’adapter à cette nouvelle réalité technologique, tandis que les concepteurs d’IA judiciaires devront renforcer leurs systèmes de détection contre ces nouvelles formes de fraude.