Un avocat condamné à 5 000 $ après que ChatGPT ait inventé témoins et preuves en plein procès — l’IA peut‑elle coûter des carrières ?

Que s’est‑il passé en salle d’audience ?

Lors d’un procès, l’avocat a présenté des éléments rédigés avec l’aide de ChatGPT. Selon les juges, certains des passages fournis par l’IA contenaient des « hallucinations » : des détails factuels non vérifiés, des faux témoins et même des comptes rendus policiers inventés. La juge C. Shannon Bacon a été claire dans son reproche : à l’heure où les déboires de l’IA font la une quasiment chaque jour, un professionnel du droit se doit d’être informé et vigilant. Résultat immédiat : une amende de 5 000 dollars et la transmission du dossier à une commission disciplinaire.

« Erreur de bonne foi » ? La défense ne convainc pas

L’avocat a plaidé l’erreur de bonne foi, affirmant ne pas avoir pris conscience des risques d’invention par l’IA. C’est une position compréhensible — mais insuffisante aux yeux du tribunal. Le principe qui prévaut est simple : la responsabilité professionnelle implique de vérifier toute information présentée dans le cadre d’une procédure judiciaire. Recopier-coller des éléments générés automatiquement sans vérification exposera l’auteur à des sanctions, d’autant que le préjudice potentiel (atteinte aux droits des parties, fausse preuve) est élevé.

Pourquoi ChatGPT « invente »‑t‑il des faits ?

Les modèles de langage comme ChatGPT n’accèdent pas à une « vérité » juridique ; ils prédisent la suite de mots la plus plausible en fonction de vastes données d’entraînement. Cela génère des productions souvent cohérentes et convaincantes, mais susceptibles d’erreurs factuelles :

absence de vérification des sources ;

généralisation ou synthèse erronée d’informations;

production de contenus « plausibles » mais inventés lorsque le modèle manque de données précises.

Ces « hallucinations » sont documentées et bien connues des chercheurs et des régulateurs : les modèles excellent à imiter le style et la logique humaine, sans garantir l’exactitude factuelle.

Les enjeux pour la profession d’avocat

L’affaire expose plusieurs enjeux convergents :

la déontologie : l’avocat doit exercer sa mission avec compétence et prudence ; l’usage d’outils non vérifiés peut caractériser une faute professionnelle ;

la preuve : en matière judiciaire, la véracité des éléments présentés est cruciale — une pièce frauduleuse, même non intentionnelle, met en péril l’issue du procès ;

la formation : les avocats doivent désormais maîtriser les limites des outils numériques et s’organiser pour les intégrer de façon sûre (vérifications systématiques, mentions explicites) ;

la responsabilité : la sanction financière et la saisine d’une instance disciplinaire montrent que l’usage irresponsable de l’IA peut entraîner des conséquences lourdes.

Quelles bonnes pratiques adopter ?

Face à ces risques, plusieurs mesures pratiques s’imposent pour les professionnels :

ne jamais utiliser un texte généré par une IA comme preuve sans l’avoir vérifié contre des sources primaires (PV, transcriptions, documents officiels) ;

documenter l’usage de l’IA : conserver logs, prompts et versions, afin de retracer la genèse d’un document en cas de contestation ;

préférer l’IA comme assistant de rédaction (brouillon, reformulation, synthèse) et non comme source primaire d’information ;

mettre en place des procédures internes de contrôle qualité avant toute communication formelle en justice.

Conséquences plus larges : confiance, régulation et éthique

Au‑delà du cas individuel, cet incident alimente le débat sur la place de l’IA dans les métiers sensibles. Deux axes principaux émergent :

le besoin d’encadrement professionnel : des règles claires doivent préciser jusqu’où un avocat peut s’appuyer sur des outils d’IA et quelles vérifications sont requises ;

la responsabilité des éditeurs : si les modèles peuvent produire des erreurs « dangereuses », leurs éditeurs doivent améliorer la transparence, les garde‑fous et l’annotation des incertitudes.

Vers une culture numérique responsable

La sanction infligée doit servir d’alerte au monde professionnel. L’IA est puissante et offer de réels gains de productivité — synthèses rapides, aide à la recherche, reformulations —, mais son intégration dans des contextes juridiques impose une culture de prudence : vérification systématique, traçabilité et transfert de responsabilité. Les professions réglementées sont en première ligne pour définir des codes de bonne conduite et des standards d’usage qui protègent les justiciables.

Enfin, pour la société, la leçon est simple : la technologie transforme les pratiques, mais elle ne supprime pas les obligations éthiques et professionnelles. Les outils d’IA doivent être des compléments contrôlés, non des substituts à l’expertise humaine. L’incident rappelle aux citoyens et aux professionnels que l’innovation ne dispense pas de rigueur — au contraire, elle l’exige davantage.