Gouverner l'IA éducative : l'accès à un outil ne donne pas le contrôle

Mettre une IA à la disposition d'enseignants, d'apprenants ou d'équipes administratives est une décision d'équipement. La gouverner est une décision de responsabilité. Entre les deux, il y a tout ce qui permet de savoir ce que l'outil fait, à quelles conditions, pour qui, et qui peut l'arrêter.

L'ouverture d'un compte, l'achat de licences ou l'ajout d'une fonctionnalité à un environnement numérique peuvent donner l'impression que le travail est fait. Les équipes ont accès à l'outil. Elles peuvent l'essayer, produire des contenus, résumer un document ou préparer une activité. Mais l'accès ne donne pas, à lui seul, la maîtrise de l'usage.

Gouverner une IA éducative, c'est pouvoir répondre à des questions très concrètes : quel problème pédagogique cherche-t-on à résoudre ? Quelles données peuvent entrer dans l'outil ? Quelles décisions restent entre les mains d'un professionnel ? Que se passe-t-il lorsqu'une réponse est erronée, inadaptée ou contestée ? Et qui a l'autorité de suspendre un usage ?

L'accès est une permission, pas une gouvernance

Un outil n'arrive jamais seul. Il arrive avec ses fonctions, ses limites, ses paramètres, ses mises à jour, ses interfaces, ses conditions d'utilisation et, selon la configuration choisie, ses modalités de traitement des données. Ces éléments peuvent évoluer. Une organisation qui ne les regarde pas ne choisit pas vraiment son cadre : elle l'accepte par défaut.

Le contrôle ne suppose pas de connaître tout le code source d'un modèle. Il suppose de disposer de capacités opérationnelles : définir les usages autorisés, limiter les accès, documenter les décisions, former les personnes concernées, suivre les incidents, demander des comptes au fournisseur et arrêter un usage si les conditions ne sont plus réunies.

L'éducation rend les effets plus sensibles

Dans l'éducation, un même outil peut servir à proposer une activité d'écriture, à fournir un retour sur un exercice, à aider à l'orientation ou à signaler un comportement. Ces situations n'ont ni le même objectif ni les mêmes conséquences. Une suggestion de reformulation n'a pas le même poids qu'une évaluation susceptible d'orienter un parcours.

Le règlement européen sur l'IA identifie parmi les usages à haut risque certains systèmes destinés à déterminer l'accès ou l'admission, à évaluer des acquis lorsque cette évaluation oriente l'apprentissage, à apprécier le niveau de formation approprié, ou à surveiller et détecter des comportements interdits lors d'épreuves. Cela ne signifie pas que toute IA utilisée dans un établissement est à haut risque. Cela rappelle qu'une décision éducative ne devient pas neutre parce qu'elle est assistée par un logiciel.

Commencer par les cas d'usage, pas par le catalogue des outils

La première question n'est donc pas : « Quel outil autoriser ? » Elle est : « Pour quel usage précis, dans quel contexte et avec quelles limites ? »

Une charte générale est utile, mais elle ne remplace pas une carte des cas d'usage. Pour chacun d'eux, l'établissement peut consigner :

• -la finalité pédagogique ou administrative recherchée ;
• -les personnes concernées et les personnes susceptibles d'être affectées ;
• -les données qui entrent dans l'outil et celles qui en sortent ;
• -le rôle exact de l'IA : brouillon, suggestion, classement, recommandation ou action ;
• -la personne qui vérifie, décide, explique et, si nécessaire, corrige ;
• -le mode de contestation, de signalement et d'arrêt.

Cette clarification évite une confusion fréquente : un outil peut aider à préparer une décision sans devoir prendre la décision. Il peut aider à organiser des ressources ou à produire une première synthèse. Il ne devrait pas faire disparaître le jugement pédagogique, le dialogue avec l'apprenant ou la possibilité de réexaminer une situation singulière.

Prévoir des zones d'exclusion

Gouverner consiste aussi à dire non. Certains usages peuvent être exclus dès le départ, d'autres limités à une expérimentation, d'autres encore autorisés avec des garanties renforcées. Cette gradation est plus utile qu'une opposition abstraite entre innovation et interdiction.

Un établissement peut ainsi choisir de ne pas confier à un système la notation finale, l'appréciation d'un comportement, une décision d'orientation ou une sanction. Il peut aussi accepter des usages d'assistance à l'écriture, à condition que les apprenants connaissent les règles de citation, de vérification et d'attribution du travail. L'enjeu n'est pas de figer la pédagogie : il est de rendre visibles les arbitrages.

La supervision humaine doit être une fonction réelle

La présence d'une personne dans un processus ne suffit pas à créer une supervision. Si cette personne n'a ni le temps, ni les informations, ni l'autorité de contester le résultat, elle ne fait qu'entériner une sortie automatique.

Pour les systèmes à haut risque, le règlement européen sur l'IA prévoit une supervision humaine effective. Il insiste notamment sur la capacité à comprendre les capacités et limites du système, détecter des anomalies, éviter une confiance excessive dans la réponse automatisée, ignorer ou annuler une sortie, et interrompre le système si nécessaire. Cette logique est précieuse au-delà du seul champ juridique des systèmes à haut risque.

Former pour décider, pas seulement pour utiliser

L'aisance technique ne suffit pas. Savoir rédiger une consigne ou produire un support avec une IA ne prépare pas forcément à identifier une réponse trompeuse, une donnée inappropriée ou un usage qui sort du cadre prévu.

Dans un environnement éducatif, la formation doit être liée aux rôles : enseigner, administrer, accompagner, gérer les données ou décider. Elle doit aussi donner le droit explicite de ne pas suivre une recommandation automatique.

Gouverner toute la chaîne, des données au retrait de l'outil

La gouvernance ne s'arrête pas à l'écran de discussion. Elle couvre les données, les comptes, les intégrations, le contrat, les évolutions techniques et la capacité à sortir d'une solution.

Avant de déployer un cas d'usage, il est utile d'identifier ce qui peut être saisi : productions d'élèves, informations d'identification, éléments de contexte, documents internes ou données susceptibles de révéler une situation personnelle. Il faut ensuite savoir quelles configurations sont disponibles, qui accède aux informations, quelles traces sont conservées, quelles données peuvent être exportées, et quelles limites s'appliquent à leur suppression ou à leur réutilisation. Lorsque le traitement présente des risques importants pour les personnes, cette analyse doit être menée avec les responsables compétents en matière de protection des données.

Le contrat et la documentation technique comptent tout autant. L'organisation doit pouvoir connaître les limitations annoncées, les conditions de mise à jour, les mécanismes de journalisation disponibles, les procédures en cas d'incident et les possibilités de réversibilité. Le contrôle est moins une promesse de perfection qu'une capacité à comprendre, tracer, corriger et interrompre.

Une gouvernance qui apprend

Un pilote n'est pas une parenthèse sans conséquences. Il doit définir à l'avance ce qui sera observé : difficultés rencontrées, erreurs, usages inattendus, retours des personnes concernées, contestations et changements apportés par le fournisseur. Ces éléments servent à décider de poursuivre, d'adapter ou d'arrêter.

La bonne question n'est pas : « Avons-nous donné accès à l'IA ? » C'est : « Sommes-nous capables d'assumer les conséquences de l'usage que nous avons organisé ? » L'accès ouvre une possibilité. La gouvernance construit les conditions de confiance, de contestation et de responsabilité qui permettent de l'utiliser sans abandonner ce qui fait la valeur de l'éducation : le discernement, l'équité et la relation humaine.

Repères et sources

• -Règlement européen sur l'IA, texte français
• -UNESCO, Guidance for generative AI in education and research