Quand l’IA invente des lois : le bug qui dérange la justice britannique
Imaginez qu’un avocat cite un précédent juridique pour défendre une affaire… sauf que ce précédent n’a jamais existé. Inventé de toutes pièces. C’est exactement ce qui s’est passé au Royaume-Uni, et ça soulève des questions qui nous concernent tous.
L’IA peut mentir avec beaucoup de sérieux
Commençons par le début. L’intelligence artificielle — ces outils comme ChatGPT ou ses cousins — fonctionne un peu comme un élève très doué qui aurait lu des milliards de pages, mais qui, coincé par une question difficile, préfère inventer une réponse plausible plutôt que d’admettre qu’il ne sait pas. Ce phénomène s’appelle une hallucinationRéponse fausse d'une IA, mais présentée avec assurance : un livre, une date ou une source inventés, qui ont l'air tout à fait sérieux. L'IA ne ment pas volontairement : elle fabrique la suite la plus vraisemblable. D'où ... : l’IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... produit une information fausse, mais formulée avec une confiance absolue, comme si elle était vraie.
Au Royaume-Uni, une procureure a cité trois fois une jurisprudence inexistante dans une affaire impliquant un enfant. Autrement dit, elle a appuyé ses arguments sur des décisions de justice… qui n’ont jamais été rendues. Selon le Guardian, cette erreur pourrait bien trouver son origine dans l’utilisation d’un outil d’IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une.... Et ce n’est pas un cas isolé : près d’une centaine de signalements similaires ont été recensés outre-Manche.
Pourquoi l’IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... fait-elle cela ? Parce qu’elle n’a pas de conscience de ses propres lacunes. Quand sa base de données ne contient pas la bonne réponse, elle « comble les trous » en fabriquant quelque chose qui ressemble à ce qu’on lui demande. C’est comme demander à quelqu’un de vous citer une chanson des Beatles qu’il ne connaît pas : plutôt que de dire « je ne sais pas », il pourrait fredonner quelque chose de vaguement beatlesien, mais totalement inventé.
Dans un contexte ordinaire, ce genre d’erreur est gênant. Dans un tribunal, où des décisions affectent la vie de vraies personnes — ici, un enfant —, c’est potentiellement catastrophique.
Zone technique — pour les curieux et les passionnés
🤓 Pour aller plus loin : les hallucinations, un bug ou une feature ?
Pour ceux qui ont grandi avec les jeux d’aventure textuels et qui ont appris à se méfier des réponses trop lisses : bienvenue dans la matrice. Les hallucinations des LLMGrand modèle de langage (en anglais Large Language Model) : le « moteur » d'un assistant IA comme ChatGPT. C'est un énorme programme, entraîné sur des quantités de textes, qui devine mot après mot la suite la plus probab... (Large Language Models) ne sont pas des bugs au sens classique du terme. Elles sont quasi-inhérentes à l’architecture même des modèles de type transformer, popularisée par le fameux papier « Attention Is All You Need » de Google en 2017.
Ces modèles prédisent le token (mot ou fragment) le plus probable en fonction du contexte. Ils ne cherchent pas la vérité dans une base de données vérifiée : ils génèrent ce qui est statistiquement cohérent. Résultat : une jurisprudence inventée aura le même format, le même style, la même syntaxe qu’une vraie. Elle sera indiscernable à l’œil nu. C’est le Voight-Kampff test inversé : c’est nous qui n’arrivons plus à distinguer le réplicant du vrai.
Le phénomène a déjà frappé aux États-Unis en 2023, dans l’affaire Mata v. Avianca : deux avocats avaient soumis des citations générées par ChatGPT, dont plusieurs décisions judiciaires entièrement fictives. Le juge n’avait pas apprécié. Sanction financière, humiliation publique, leçon magistrale.
La vraie question technique, celle qui agite les labos de recherche en ce moment, c’est : peut-on vraiment « corriger » les hallucinations, ou sont-elles le prix à payer pour la fluidité générative de ces modèles ? Les pistes comme le RAG (Retrieval-Augmented Generation) — qui connecte le modèle à des bases vérifiées en temps réel — sont prometteuses, mais loin d’être infaillibles. Le débogage du XXIe siècle, c’est philosophique autant que technique.
Ce qu’on peut faire pour ne pas se faire piéger 💡
– Vérifiez toujours la source primaire : si une IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... vous cite un article, une loi ou un jugement, allez le lire vous-même. Si vous ne le trouvez pas, méfiez-vous.
– Ne faites pas confiance au ton assuré : une réponse formulée avec confiance n’est pas forcément exacte. L’IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... ne dit jamais « je suppose » spontanément.
– Utilisez l’IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... comme point de départ, pas comme conclusion : elle peut vous aider à chercher, à structurer, à comprendre — mais pas à valider des faits critiques.
– Dans les domaines sensibles (santé, droit, finance), consultez un professionnel humain : l’IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... est un assistant, pas un expert certifié. La nuance est immense.
– Signalez les erreurs que vous repérez : que ce soit sur une plateforme IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... ou dans un document officiel, pointer les inexactitudes aide à faire progresser les usages responsables.
L’outil est puissant, mais il n’a pas de sens des responsabilités
L’intelligence artificielle peut rendre de formidables services, mais elle ne mesure pas les conséquences de ses erreurs — c’est à nous de le faire. Dans un tribunal comme dans la vie quotidienne, la vigilance reste notre meilleure défense.
Et vous, avez-vous déjà repéré une information inventée par une IAIntelligence artificielle : programme informatique capable de produire une réponse, un texte, une image ou une décision à partir de ce qu'il a « appris » sur un très grand nombre d'exemples. Il ne réfléchit pas comme une... ? Comment avez-vous réagi ?
Source : franceinfo- Tech ／ Web
