Stephen Aarons, avocat de la défense au Nouveau-Mexique vient d’être sanctionné pour avoir déposé devant la justice un document contenant des informations inventées par ChatGPT. Parmi elles figuraient de faux témoignages de policiers et même des témoins qui n’ont jamais existé.
L’avocat américain était chargé de faire appel de la condamnation pour meurtre de son client, Oscar Renee Sandoval qui avait écopé d’une peine de prison à vie en 2025. Pour préparer son dossier, il avait fourni à ChatGPT une transcription informatique du procès et d’autres documents. Il espérait ainsi obtenir ce qu’il a décrit comme un résumé « à toute épreuve ».
Le résultat contenait pourtant des faits qui ne figuraient pas dans le dossier original. ChatGPT avait notamment produit de faux témoignages et attribué des déclarations à des personnes entièrement inventées. Il a également prêté de fausses déclarations à des personnes bien réelles, qui n’avaient pourtant jamais tenu de tels propos. Le document contenait aussi des informations fictives sur les vêtements et l’apparence du tireur.
Stephen Aarons a reconnu ne pas avoir vérifié ces informations avant de déposer son mémoire. La Cour a également relevé qu’il avait déformé certaines références juridiques citées dans son mémoire. La Cour suprême du Nouveau-Mexique l’a donc reconnu coupable d’outrage et lui a infligé 5 000 dollars d’amende. Elle a également décidé de transmettre son cas au conseil disciplinaire des avocats pour enquête. Elle a en outre annulé les mémoires déposés, retiré Aarons du dossier et confié l’appel à un avocat commis d’office. La procédure d’appel de Sandoval doit donc repartir de zéro.
L’avocat affirme qu’il ignorait jusqu’à quel point une intelligence artificielle pouvait « halluciner », c’est-à-dire produire une information fausse comme si elle était réelle. « C’est une leçon pour tous les professionnels qui s’appuient sur cette technologie puissante, mais parfois instable », a-t-il déclaré après sa sanction.
L’affaire dépasse le seul milieu judiciaire. Journalistes, chercheurs ou communicants utilisent également les IA génératives pour résumer et traiter des documents. Ces outils peuvent accélérer le travail. Mais une information produite par l’IA ne devient pas fiable parce qu’elle paraît cohérente. Sa vérification reste de la responsabilité de celui qui l’utilise.
