Quand on évoque les risques de l’intelligence artificielle, trois sujets reviennent presque systématiquement : les hallucinations, la confidentialité des données et la disparition de certains emplois. Ces risques sont réels. Mais à force de nous concentrer sur eux, nous risquons d’en négliger d’autres, plus discrets et parfois plus difficiles à corriger.
- L’accoutumance à la fiabilité apparente
- L’atrophie cognitive et la perte de compétence
- Le biais d’automatisation et l’ancrage
- La pollution silencieuse des connaissances
- La confidentialité invisible des prompts
- La perte de traçabilité avec les agents IA
- La contestation d’un fait authentique
- La dépendance technologique et organisationnelle
Risque 1
L’accoutumance à la fiabilité apparente
Une intelligence artificielle générative comme ChatGPT, Claude ou Gemini peut produire une réponse fausse avec une apparence de parfaite crédibilité. Ce risque est désormais bien identifié.
Mais l’hallucination visible est presque le cas le plus simple. Vous demandez une jurisprudence. L’IA invente un arrêt. Vous vérifiez sur Légifrance, constatez l’erreur et corrigez.
Le problème devient beaucoup plus subtil lorsque l’outil vous fournit cinquante bonnes réponses successives.
Le piège de la vérification de surface
Au début, lorsque vous utilisez une IA, vous vérifiez presque tout. Puis l’outil fonctionne. Encore. Et encore.
Progressivement, la vérification approfondie devient une vérification de surface. Vous contrôlez rapidement la cohérence du résultat, sans nécessairement revenir aux sources.
C’est là qu’apparaît un risque rarement évoqué : l’accoutumance à la fiabilité apparente.
Risque 2
L’atrophie cognitive et la perte de compétence
L’intelligence artificielle permet de déléguer une part croissante du travail intellectuel : rédiger un courrier, résumer des conclusions, rechercher des arguments, structurer une consultation, comparer des documents ou préparer un plan.
Le gain de temps est évident. Mais que se passe-t-il lorsque cette délégation devient systématique ?
Savoir vérifier suppose de savoir faire
Prenons un jeune collaborateur qui commence aujourd’hui sa carrière avec ChatGPT ou Claude à disposition. Il peut demander à l’IA de produire un premier projet de consultation avant même d’avoir construit son propre raisonnement.
À court terme, il gagne du temps. À long terme, une question beaucoup plus délicate apparaît : peut-on correctement contrôler un raisonnement que l’on n’a jamais appris à construire soi-même ?
La capacité à identifier une mauvaise réponse repose en partie sur l’expérience acquise en recherchant, en se trompant puis en corrigeant soi-même.
L’objectif ne devrait donc pas être d’interdire l’IA aux juniors. Il faut apprendre à déterminer à quel moment du raisonnement l’IA intervient.
Risque 3
Le biais d’automatisation et l’ancrage
Autre risque sous-estimé : l’IA ne se contente pas de répondre à nos questions. Elle influence aussi notre manière de penser le problème.
Une première réponse qui devient un point d’ancrage
Imaginez que vous analysez un dossier complexe. Vous commencez par demander à une IA : « Quelle qualification juridique retenir dans cette situation ? »
Elle vous propose immédiatement une qualification et développe un raisonnement convaincant. Même si vous poursuivez ensuite votre analyse, cette première réponse crée un point d’ancrage.
Le risque n’est donc plus seulement : « L’IA m’a donné une mauvaise réponse. » Il devient : « L’IA m’a conduit à poser le problème de la mauvaise manière. »
Une IA qui cherche à vous aider… parfois trop
Le même phénomène apparaît lorsque vous demandez : « Trouve-moi les arguments permettant de soutenir la position de mon client. »
L’outil va faire ce que vous lui demandez. Il cherchera des arguments. Mais ce n’est pas nécessairement ce dont vous avez besoin pour évaluer objectivement le risque du dossier.
Risque 4
La pollution silencieuse des connaissances
Une IA produit une note juridique. La note est relue rapidement puis enregistrée dans le dossier. Quelques semaines plus tard, un collaborateur reprend un passage pour créer une trame.
Cette trame sert ensuite à rédiger plusieurs actes. Un autre collaborateur alimente enfin un assistant interne avec ces documents.
Une erreur initiale peut ainsi se transformer progressivement en connaissance interne réputée fiable.
L’arrivée des bases de connaissances, projets, assistants personnalisés et outils de RAG rend ce sujet encore plus important.
Il ne suffit donc plus de contrôler les productions de l’IA. Il faut aussi contrôler les connaissances que nous lui donnons à réutiliser.
Risque 5
La confidentialité invisible des prompts
Pour un avocat, le premier réflexe est généralement de se demander : « Puis-je transmettre ce document à cette IA ? » C’est indispensable, mais insuffisant.
Le prompt lui-même peut être confidentiel
Vous pouvez parfaitement anonymiser un dossier et pourtant révéler une information sensible par les questions que vous posez.
Demander « Comment contester la prescription dans cette situation ? » ou « Quels arguments permettraient de remettre en cause cette clause ? » révèle déjà quelque chose de votre stratégie.
Pris isolément, un prompt peut sembler anodin. Pris dans son ensemble, l’historique des requêtes d’un cabinet peut révéler ses dossiers, ses difficultés et les stratégies envisagées.
Pour les professions soumises au secret professionnel, la politique de confidentialité ne devrait donc pas concerner uniquement les pièces jointes. Elle devrait également concerner le contenu des conversations avec les IA.
Risque 6
La perte de traçabilité avec les agents IA
Nous entrons dans une nouvelle phase. Une IA ne se contente plus de produire du texte. Les systèmes agentiques peuvent consulter une boîte email, accéder à des documents, utiliser différents outils et effectuer certaines actions.
Une erreur peut désormais se propager
Prenons un workflow juridique automatisé : pièces du dossier → extraction des informations → qualification → rédaction → génération du document → classement.
Une erreur lors de la première étape peut contaminer toutes les suivantes.
Plus le système est autonome, plus la question du contrôle doit être pensée avant son déploiement.
- Quelles étapes peuvent réellement être automatisées ?
- Quelles sources doivent être conservées ?
- Quelles actions exigent une validation humaine ?
- Quels droits d’accès sont strictement nécessaires ?
- Comment revenir à l’origine d’une erreur ?
L’automatisation sans traçabilité crée une responsabilité difficile à maîtriser.
Risque 7
La contestation d’un fait authentique
Les deepfakes posent évidemment un problème de création de faux contenus. Mais un phénomène plus profond apparaît : lorsqu’il devient techniquement possible de falsifier une image, une vidéo ou une voix, il devient également plus facile de contester un contenu authentique.
Quand l’existence des deepfakes permet de contester le vrai
Le phénomène n’est déjà plus théorique.
En mai 2025, lors de l’arrivée d’Emmanuel et Brigitte Macron au Vietnam, des caméras ont capté une séquence montrant Brigitte Macron repousser le visage du président à l’ouverture de la porte de l’avion.
La scène a immédiatement circulé sur les réseaux sociaux. Dans un premier temps, l’Élysée a contesté la véracité des images et a suggéré qu’elles pouvaient avoir été générées par intelligence artificielle. Les images ont ensuite été authentifiées. L’entourage du président a alors présenté la scène comme une « chamaillerie » et un « moment de complicité » du couple.
Cet épisode est particulièrement intéressant parce que le débat ne porte pas seulement sur l’interprétation du geste. Il illustre un phénomène beaucoup plus large : la possibilité de contester immédiatement une image authentique en invoquant l’intelligence artificielle.
Le « Liar’s Dividend »
Ce phénomène est souvent désigné sous le nom de Liar’s Dividend, ou « dividende du menteur ».
Plus les deepfakes deviennent crédibles, plus une personne confrontée à une véritable vidéo, un véritable enregistrement audio ou une véritable photographie peut répondre : « Ce document a été généré par une IA. »
Pour les juristes, la conséquence est importante. La question ne sera progressivement plus seulement de savoir comment détecter un faux, mais aussi comment démontrer qu’un contenu authentique est bien authentique.
Origine du fichier, métadonnées, chaîne de conservation, intégrité du support et conditions de collecte pourraient ainsi prendre une importance croissante dans l’administration de la preuve.
Risque 8
La dépendance technologique et organisationnelle
Les organisations commencent à construire leurs processus autour de quelques fournisseurs : OpenAI, Anthropic, Google ou Microsoft.
Le problème n’est pas que ces solutions soient nécessairement mauvaises. Le problème est la dépendance.
Que se passe-t-il si votre fournisseur augmente fortement ses tarifs ? Supprime une fonctionnalité ? Modifie ses conditions contractuelles ? Restreint un connecteur ? Interrompt un modèle sur lequel repose votre workflow ?
Les CGU, politiques de conservation, sous-traitants et modalités de récupération des données sont encore trop rarement étudiés avec la même attention que les fonctionnalités du produit.
L’enjeu n’est pas de moins utiliser l’IA, mais de mieux organiser son contrôle
Les risques de l’intelligence artificielle ne justifient pas de renoncer à ces outils. Ce serait passer à côté de gains considérables en matière de recherche, de synthèse, de rédaction ou d’organisation.
Mais utiliser correctement l’IA ne consiste plus simplement à apprendre à rédiger de bons prompts.
Il faut aussi savoir quelles tâches déléguer, quelles informations transmettre, quelles sources contrôler, à quel moment intervenir humainement et comment conserver la maîtrise du processus.
C’est particulièrement vrai pour les professions juridiques, où une réponse vraisemblable ne suffit jamais.
Le véritable enjeu des prochaines années ne sera probablement pas de savoir qui utilise l’intelligence artificielle et qui ne l’utilise pas.
J’aborde précisément ces méthodes dans mes formations consacrées à l’intelligence artificielle pour les avocats et les professions juridiques : usages concrets, confidentialité, vérification des résultats et intégration opérationnelle dans le cabinet.