IA agentique : quelles décisions une organisation doit-elle garder en responsabilité humaine ?

L'IA agentique promet de faire plus qu'écrire un brouillon : rechercher, planifier, utiliser des outils, déclencher un flux de travail ou exécuter une action. Plus son autonomie d'exécution augmente, plus une organisation doit préciser où s'arrête son autorisation et où commence la décision humaine.

Le terme « IA agentique » ne désigne pas une catégorie juridique unique. Dans la pratique, il renvoie souvent à un système configuré pour enchaîner des étapes, appeler des logiciels ou des bases de données, et agir selon un objectif, des règles et des autorisations données. Sa force ne vient pas seulement de la qualité de ses réponses : elle vient des accès qui lui sont accordés.

Un agent qui prépare une note n'a pas le même impact qu'un agent qui envoie un message au nom de l'organisation, modifie un dossier, valide une dépense ou déclenche une décision concernant une personne. La question n'est donc pas de savoir si l'agent est « intelligent ». Elle est de savoir quelle autorité lui est confiée, avec quelles limites, et qui reste responsable du résultat.

Distinguer l'autonomie d'exécution de l'autorité de décision

Une organisation peut déléguer une tâche sans déléguer le droit de trancher. Elle peut autoriser un agent à réunir des informations, proposer un ordre de traitement, remplir un brouillon réversible ou préparer un dossier. Ces activités peuvent réduire une charge de travail, à condition que leur périmètre soit clair.

La situation change lorsque l'action produit un effet réel sur une personne, un droit, un engagement ou une ressource. L'agent ne doit alors pas devenir un écran derrière lequel personne ne se sent responsable. Il peut fournir des éléments, signaler une incohérence ou proposer une option. Une personne désignée doit pouvoir assumer la décision, l'expliquer et la corriger.

Les décisions qui doivent rester sous responsabilité humaine

Il n'existe pas de liste universelle valable pour toutes les organisations. En revanche, certaines familles de décisions appellent une responsabilité humaine explicite.

Les décisions qui affectent directement une personne : accès à un service, admission, recrutement, évaluation, sanction, changement de statut, attribution d'une ressource ou traitement d'une réclamation. Un système peut assister l'instruction d'un dossier, mais le jugement doit intégrer le contexte, les éléments contradictoires et la possibilité d'une contestation.

Les décisions qui créent un engagement difficile à annuler : signature ou acceptation contractuelle, paiement, modification irréversible d'un dossier, communication officielle, publication d'une information sensible ou acceptation d'une obligation au nom de l'organisation. Plus il est coûteux de revenir en arrière, plus l'autorisation doit être resserrée.

Les décisions qui arbitrent entre des intérêts ou des valeurs : traiter une exception, prioriser des demandes rares, choisir entre plusieurs bénéficiaires, définir une règle d'accès ou interpréter une situation inhabituelle. Ces arbitrages ne sont pas de simples problèmes d'optimisation. Ils supposent de rendre compte des critères retenus.

Enfin, les décisions liées à la sécurité, aux droits, à la conformité ou à la protection des informations ne doivent pas être confiées à un agent sans garde-fous stricts. Un agent peut aider à détecter, documenter ou proposer une réponse. Il ne devrait pas décider seul de couper un accès critique, de modifier des droits sensibles ou de qualifier définitivement une situation à risque.

Une validation humaine n'a de valeur que si elle peut changer l'issue

Ajouter un clic d'approbation à la fin d'un processus ne suffit pas. Une validation est réelle lorsque la personne qui intervient dispose d'informations compréhensibles, de la compétence nécessaire, du temps pour examiner le cas et de l'autorité de refuser ou modifier la proposition.

Le RGPD encadre certaines décisions fondées exclusivement sur un traitement automatisé lorsqu'elles produisent des effets juridiques ou affectent de manière significative une personne. Dans les situations où cet article s'applique, les garanties prévues incluent notamment la possibilité d'obtenir une intervention humaine, d'exprimer son point de vue et de contester la décision. Les lignes directrices du Comité européen de la protection des données précisent qu'une intervention humaine doit être significative, et non symbolique.

Le règlement européen sur l'IA porte une logique similaire pour les systèmes à haut risque : la supervision doit permettre de comprendre les limites, détecter des anomalies, éviter une confiance excessive, écarter une sortie et, lorsque c'est pertinent, interrompre le système. Cette obligation ne s'étend pas automatiquement à toutes les IA. Elle fournit toutefois un test simple : si l'humain ne peut pas réellement dire non, la responsabilité n'est pas restée humaine.

Définir une frontière d'autorisation lisible

Pour chaque agent, l'organisation peut établir une matrice courte qui distingue :

• -ce que l'agent peut faire seul ;
• -ce qu'il peut préparer, mais qui exige une approbation ;
• -ce qu'il ne doit jamais faire ;
• -les événements qui imposent un arrêt ou une escalade ;
• -la personne ou l'équipe responsable du périmètre.

Cette matrice doit être précise. « L'agent peut gérer les demandes clients » est trop vague. « L'agent peut classer les demandes selon une grille validée, préparer un projet de réponse et l'acheminer vers une personne habilitée » décrit déjà une limite plus vérifiable.

Chaque permission devrait aussi comporter un plafond et une condition de réversibilité. Quel montant peut-il engager ? Quels systèmes peut-il appeler ? Peut-il envoyer un message externe ou seulement le préparer ? Quelle trace laisse-t-il de l'action effectuée ? Que se passe-t-il si une source est indisponible, si les informations se contredisent ou si l'agent ne reconnaît pas le cas ?

Donner aux responsables les moyens d'assumer leur rôle

Nommer un responsable ne suffit pas davantage que d'ajouter une validation. Cette personne doit disposer d'un accès aux éléments utiles : instructions données à l'agent, sources utilisées, outils appelés, étapes réalisées, décisions prises, interventions humaines et versions du système concernées.

Elle doit également pouvoir modifier les autorisations, suspendre l'agent, demander une revue et organiser une réponse à un incident. Sans cette capacité, la responsabilité reste théorique. Les cadres de gestion des risques pour l'IA recommandent de documenter les rôles de supervision, les politiques d'usage acceptable, les voies de recours et les cas où les opérateurs écartent les sorties de l'IA.

L'autorisation doit être révisable

Un agent n'est jamais autorisé une fois pour toutes. Son environnement change : nouveaux outils connectés, nouvelles données accessibles, nouveaux utilisateurs, nouvelles versions du modèle ou nouveaux objectifs métiers. Chacun de ces changements peut élargir ses effets réels.

Avant le passage à l'échelle, il est utile de tester des situations normales, des données incomplètes, des instructions contradictoires, des cas sensibles et des échecs d'outils. Après le déploiement, les annulations de décisions, les actions imprévues, les incidents, les plaintes et les demandes d'exception deviennent des signaux de gouvernance, pas des détails à effacer.

L'autonomie utile est celle qui accélère l'exécution sans dissoudre l'autorité. Une organisation peut confier à un agent des tâches répétitives, des recherches et des préparations. Elle doit conserver, chez des personnes identifiables et habilitées, les décisions qui engagent des droits, des ressources, une relation ou une responsabilité.

Repères et sources

• -RGPD, article 22
• -Comité européen de la protection des données, lignes directrices sur les décisions individuelles automatisées
• -NIST, Generative AI Profile