Fraude à l’intelligence artificielle démasquée devant la Cour suprême : une première sanction

Au Brésil, les tribunaux font face à une menace inédite : des avocats tentent de tromper les outils d’intelligence artificielle utilisés par la justice. Une pratique insidieuse qui vient d’être sanctionnée pour la première fois par la plus haute juridiction du pays.

Une manipulation invisible détectée par la Cour suprême

Le 25 septembre dernier, le Supremo Tribunal Federal (STF) a franchi un cap historique. Un magistrat rapporteur a condamné l’auteur d’un recours à s’acquitter d’une amende équivalant à deux salaires minimums.

La raison ? Des instructions cachées en caractères blancs, invisibles à l’œil nu, dissimulées dans un document judiciaire. Ces commandes visaient à orienter les systèmes d’intelligence artificielle de la juridiction dans un sens favorable.

Le recours en question avait été rejeté dès le 19 août. Une session virtuelle doit se conclure définitivement le 2 octobre.

Alexandre de Moraes exige des explications

Le magistrat Alexandre de Moraes a également pris position dans cette affaire. Il a rejoint son collègue rapporteur et sommé un avocat de s’expliquer sur cette commande dissimulée.

C’est Maria Shield, la fonction de sécurité intégrée à la plateforme d’IA María, qui a permis de détecter cette tentative de fraude.

Un phénomène qui se répand dans tout le pays

Le STF a publié un communiqué décrivant cet événement comme la première tentative documentée d’utilisation de commandes cachées pour influencer les systèmes d’intelligence artificielle judiciaires.

Pourtant, l’incident n’est pas isolé. Au moins quatre juridictions brésiliennes ont recensé des pratiques similaires sur leur territoire.

Des sanctions variables selon les tribunaux

À Parauapebas, une amende correspondant à 10 % de la valeur du litige a été prononcée. À Salvador, les sanctions se sont révélées plus sévères : 30 000 reais assortis de 10 % supplémentaires pour mauvaise foi.

Le Superior Tribunal de Justiça (STJ) n’a pas mentionné d’amende, mais a transmis le dossier à l’Ordre des avocats du Brésil (OAB) et au Ministère public fédéral (MPF).

Le Conseil national de justice monte au créneau

Face à la multiplication des cas, le Conseil national de justice (CNJ) a élaboré un rapport complet. Ce document établit des mesures préventives et des consignes à destination des juridictions.

L’utilisation de l’intelligence artificielle par les tribunaux est encadrée par la résolution 615/2025 du CNJ. Toutefois, le texte recommande des mesures de sécurité sans imposer d’obligation légale stricte.

Une question de confiance dans le système judiciaire

Ces tentatives de manipulation soulèvent des interrogations profondes sur la chaîne de production des documents juridiques. Comment garantir l’intégrité des procédures lorsque la technologie peut être détournée ?

Les tribunaux brésiliens déploient désormais des systèmes de filtrage et de traçabilité. Toutes les interactions avec les outils d’intelligence artificielle font l’objet d’une surveillance accrue.

Une cartographie nationale des tentatives

Le STF et les autres juridictions mènent actuellement des enquêtes approfondies. L’objectif : cartographier l’ensemble des tentatives d’injection malveillante à travers le pays.

Cette démarche vise à protéger l’intégrité du processus judiciaire en rendant publiques les interactions suspectes avec les systèmes d’IA.