Intelligence artificielle générative, usages pédagogiques et assistants de recherche : audit, conseil, formation et réalisation pour l'enseignement et la recherche

Le cadre européen et national

Le règlement européen sur l'IA et son calendrier

Le règlement (UE) 2024/1689, dit AI Act ou règlement sur l'IA, est entré en vigueur le 1er août 2024. Selon la page de la Commission européenne, les pratiques interdites et les obligations de maîtrise de l'IA s'appliquent depuis le 2 février 2025, la gouvernance et les obligations relatives aux modèles d'IA à usage général depuis le 2 août 2025, et l'essentiel du texte depuis le 2 août 2026, avec des exceptions. Les règles pour les systèmes à haut risque de l'annexe III, qui comprend l'éducation, sont reportées au 2 décembre 2027 par le texte dit omnibus numérique IA, entré en vigueur le 27 juillet 2026. Celles de l'annexe I (produits réglementés) le sont au 2 août 2028.

Le règlement s'applique selon le rôle de chacun : fournisseur d'un système, ou déployeur qui l'utilise. Un établissement qui adopte un assistant du marché est en général déployeur, un établissement qui développe son propre assistant peut devenir fournisseur. Nous n'affirmons la conformité de personne à ce règlement. Savoir si un système précis est à haut risque est une analyse juridique, qui revient au juriste de l'établissement.

Maîtrise de l'IA et usages dans l'éducation

L'article 4 demande aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser le développement de la maîtrise de l'IA (AI (Artificial Intelligence, intelligence artificielle) literacy) de leur personnel et des autres personnes concernées, compte tenu de leurs connaissances, de leur expérience et de leur formation. Le texte, modifié par l'omnibus, confie aussi à la Commission et aux États membres un rôle de soutien, avec des exemples pratiques publiés par la Commission, et prévoit des recommandations du Comité IA (texte de l'article 4). Une formation peut contribuer à ces mesures ; elle ne suffit pas à elle seule à établir que l'obligation est remplie.

Deux dispositions concernent directement l'enseignement. L'article 5, paragraphe 1, point f, interdit les systèmes destinés à inférer les émotions d'une personne dans les établissements d'enseignement, sauf motif médical ou de sécurité (texte de l'article 5). Le point 3 de l'annexe III range parmi les cas à haut risque les systèmes qui déterminent l'accès ou l'admission, ceux qui évaluent les résultats d'apprentissage, ceux qui estiment le niveau d'études qu'une personne suivra et ceux qui détectent les comportements interdits pendant les examens. Un assistant qui aide un enseignant à préparer un cours n'y figure pas en tant que tel.

Protection des données et propriété intellectuelle

Dès qu'un étudiant, un agent ou un participant à une étude saisit des données personnelles dans un outil, le RGPD (règlement général sur la protection des données) s'applique : base légale, information, durée de conservation, sous-traitance, transferts hors de l'Union européenne, et souvent analyse d'impact. La CNIL (Commission nationale de l'informatique et des libertés) publie des fiches pratiques sur l'IA qui aident à raisonner sur la base légale et sur les données d'entraînement. Les conditions d'utilisation des données par un service (entraînement, conservation, localisation) se lisent dans le contrat de chaque offre et diffèrent entre un compte personnel et une offre pour établissements.

Côté propriété intellectuelle, le code de la propriété intellectuelle contient des exceptions de fouille de textes et de données, avec un régime propre à la recherche scientifique. Leurs conditions ne s'étendent pas à tout usage : les licences des ressources documentaires, qui peuvent restreindre le traitement automatique, restent à lire. Nous ne donnons pas de conseil juridique sur le droit d'auteur.

Usages dans l'enseignement et dans la recherche

Enseigner et évaluer

Les règles d'usage de l'IA par les étudiants relèvent de l'établissement, de ses instances et de chaque enseignant dans le cadre fixé. Une approche courante distingue trois niveaux selon l'évaluation : usage interdit, usage autorisé avec mention, usage libre. Pour l'enseignement scolaire, le ministère chargé de l'éducation nationale a publié un cadre d'usage ; notre périmètre se limite à la formation et à l'accompagnement des personnels, jamais à l'enseignement à des élèves.

Concrètement : un enseignant utilise un détecteur sur 600 copies authentiques, avec un taux d'erreur annoncé de 1 %. Environ six étudiants seront désignés à tort. L'enseignant ne peut pas fonder une sanction sur ce score ; la procédure disciplinaire de l'établissement s'applique. Contre-intuitif : interdire sans règle claire pousse les étudiants à cacher leur usage, alors qu'une règle qui autorise avec mention rend l'usage visible et discutable. Pour la composante, la solution est souvent de revoir la forme de l'évaluation (oral, version intermédiaire commentée) plutôt que de multiplier les contrôles.

Recherche et intégrité scientifique

Les lignes directrices de la Commission européenne sur l'usage responsable de l'IA générative dans la recherche rappellent que le chercheur reste responsable de l'exactitude de son travail, qu'il vérifie les contenus produits, qu'il déclare son usage et qu'un système d'IA ne figure pas parmi les auteurs. L'Office français de l'intégrité scientifique a consacré à ce thème un colloque sur les enjeux d'intégrité. Les politiques des revues et des écoles doctorales complètent ces textes.

Concrètement : un doctorant demande à un assistant de résumer quarante articles et de proposer une bibliographie. Deux références n'existent pas. Il doit vérifier chaque référence avant de la citer, et mentionner l'usage dans son manuscrit selon la politique de son école doctorale. Pour le directeur de thèse, la règle porte sur la responsabilité et pas sur l'outil ; pour l'école doctorale, un modèle de mention évite des pratiques incohérentes d'un laboratoire à l'autre.

Assistants, RAG et outils du marché

Les assistants généralistes (ChatGPT, Claude, Gemini, Mistral, Microsoft Copilot) et les outils fondés sur des sources fournies par l'utilisateur (NotebookLM) répondent à des besoins différents. La technique dite RAG (génération augmentée par la recherche) consiste à chercher d'abord des passages dans un corpus choisi, puis à rédiger une réponse à partir d'eux. Elle réduit certains risques, elle ne les supprime pas, et elle suppose de gérer les droits d'accès aux documents.

Au niveau national, le ministère chargé de l'enseignement supérieur et de la recherche et l'Amue (Agence de mutualisation des universités et établissements d'enseignement supérieur ou de recherche) ont lancé un partenariat d'innovation avec Mistral AI pour un agent conversationnel destiné aux étudiants, aux enseignants et aux personnels. Un établissement qui y participe ou qui le suit de près garde la responsabilité de ses propres règles d'usage et de ses données.

Concrètement : une bibliothèque indexe 12 000 documents pour un assistant. Parmi eux, 800 sont sous une licence qui limite le traitement automatisé et 150 contiennent des données personnelles. Contre-intuitif : ajouter ces documents augmente le nombre de réponses possibles et le risque juridique, sans améliorer la qualité. Les bibliothécaires y gagnent un corpus propre, les étudiants des réponses accompagnées de leurs sources.

Gouvernance et risques

Charte d'usage et circuit de décision

Une charte efficace est courte, datée et révisable. Elle précise les usages autorisés, les données exclues, les outils validés, les obligations de vérification et de mention, et le circuit de validation d'un nouvel outil. Elle est discutée avec les enseignants, les chercheurs, les étudiants et les services avant d'être présentée aux instances. Elle désigne des personnes : un référent numérique, le délégué à la protection des données, un correspondant pour l'intégrité scientifique.

Concrètement : une charte qui interdit tout usage en examen mais ne dit rien des devoirs à domicile laisse chaque enseignant décider seul. Un étudiant inscrit à un enseignement commun à trois composantes peut alors recevoir trois règles différentes. La direction gagne en cohérence en fixant un socle commun, que chaque composante précise ensuite par type d'évaluation ; l'étudiant sait ce qu'il peut déclarer ; l'enseignant n'arbitre plus seul des cas qui le dépassent.

La norme ISO/IEC 42001 décrit un système de management de l'IA. Elle peut servir de trame pour une démarche de gouvernance, mais aucune norme ne tient lieu d'analyse des exigences du règlement européen.

Risques à traiter

Les risques se regroupent en cinq familles : données personnelles et confidentielles saisies dans des services externes, atteintes à la propriété intellectuelle, atteintes à l'intégrité scientifique et à l'équité des évaluations, sécurité (injection de consignes malveillantes, fuite de documents indexés), dépendance à un fournisseur dont les conditions et les modèles évoluent. Les garde-fous techniques (filtrage, journalisation, droits d'accès) réduisent une partie de ces risques, mais ne remplacent ni la règle, ni la vérification humaine.

Chaque risque se traite par une décision explicite : interdire un usage, l'encadrer par une consigne, le tester en pilote avant de l'ouvrir, ou accepter le risque avec une justification écrite. La trace de ces décisions est ce qu'un établissement peut présenter à ses instances, à ses tutelles et à ses utilisateurs.

Ce que nous faisons, et ce que nous ne faisons pas

Ce que nous faisons

Sous la responsabilité et l'encadrement d'Optédif, avec des livrables définis, nous réalisons des audits des usages et des risques, du conseil en stratégie et en gouvernance, la conception de cas d'usage, d'assistants documentaires et de parcours, des pilotes d'outils, un accompagnement au changement et à la rédaction d'une charte, et des formations. Nous datons nos constats sur les outils. Un établissement public achète sur devis, au prix ferme du devis, dans le respect du Code de la commande publique. Première réponse sous 48 heures ouvrées, devis après l'échange.

Ce que nous ne faisons pas

Nous ne déclarons aucun établissement, outil ou usage conforme au règlement européen sur l'IA, et nous ne délivrons ni attestation, ni label, ni certification. Nous ne promettons aucune détection de textes générés, aucune exactitude des réponses ni aucune performance de modèle. Nous ne décidons pas à la place des instances des règles d'évaluation des étudiants. Nous ne donnons pas de conseil juridique sur le droit d'auteur ni sur la qualification d'un système à haut risque. Nous ne fixons aucun résultat chiffré à une mission.

Références officielles

Sources à consulter

• Commission européenne, cadre réglementaire de l'IA
• Commission européenne, lignes directrices sur l'IA générative dans la recherche
• CNIL, fiches pratiques sur l'IA
• ISO/IEC 42001, système de management de l'IA

Les textes et les outils évoluent

Le calendrier du règlement européen a déjà été modifié, et les outils comme leurs conditions d'utilisation changent plus vite encore. Consultez la version en vigueur des textes sur les sites officiels avant toute décision, et faites relire vos règles d'usage par votre délégué à la protection des données et votre service juridique.