Audit des usages et des risques de l'IA (Machine learning)
Une vision réaliste de ce qui se fait déjà, y compris hors des outils officiels, et des risques à traiter en premier.
En bref
- Résultat
- Une vision réaliste de ce qui se fait déjà, y compris hors des outils officiels, et des risques à traiter en premier.
- Idéal pour
- Directrice du numérique, vice-président chargé du numérique ou délégué à la protection des données qui doit cadrer des usages déjà répandus.
- Ce que vous obtenez
- Rapport d'audit : cartographie des usages constatés, risques par usage, écarts avec les règles de l'établissement et plan d'actions.
- Prérequis de votre côté
- Accès aux chartes et décisions existantes, entretiens avec des enseignants, des chercheurs et des services, contrats des outils utilisés.
- Durée et charge
- 5 à 10 jours
- Format
- Forfait
Exemple de situation
Cartographier les usages et les pratiques de vérification. L'audit cartographie les usages liés au thème Machine learning dans l'établissement : tâches concernées, données saisies, vérifications effectuées, règles connues des utilisateurs. Il classe les risques par usage et propose un plan d'actions présenté à la direction et au délégué à la protection des données.
Nous cartographions la façon dont le thème Machine learning est réellement utilisé dans votre établissement : outils officiels et outils personnels, données saisies, finalités, contrats et conditions d'utilisation, flux vers des services hors de l'Union européenne. Nous interrogeons des enseignants, des chercheurs, des services administratifs et la bibliothèque, car les usages réels diffèrent souvent des règles écrites.
Le rapport classe les risques par usage : protection des données et propriété intellectuelle, intégrité scientifique, évaluation des étudiants, sécurité, dépendance à un fournisseur. Il rapproche vos pratiques des cadres qui vous concernent, dont le règlement européen sur l'IA, sans en tirer de conclusion de conformité : il identifie les écarts et les décisions à prendre.
Déroulé de la prestation
Cadrage
Nous fixons avec vous le périmètre, le référentiel applicable et les interlocuteurs, et nous convenons des règles de confidentialité et d'accès aux sites et aux systèmes.
Lecture documentaire
Nous lisons les procédures, enregistrements et comptes rendus relatifs au thème Machine learning, avant toute rencontre, pour arriver sur le terrain avec des questions précises.
Entretiens et observation
Nous rencontrons les responsables et les utilisateurs, et nous observons les pratiques sur le terrain (salle, laboratoire, bibliothèque, local technique) lorsque l'accès est possible.
Analyse des écarts
Chaque constat est rattaché à une exigence identifiée, classé par gravité et par urgence, et associé à une action corrective, un responsable et un délai.
Restitution
Nous présentons le rapport à votre direction, répondons aux objections et, si vous le souhaitez, préparons avec vous le plan d'actions.
Livrables, format et conditions
Au terme de la prestation, vous disposez des éléments suivants, rédigés pour être présentés à votre direction, à votre conseil ou à l'autorité concernée.
- Cartographie des usages et des outils réellement utilisés
- Analyse des risques par usage (données, propriété intellectuelle, intégrité, évaluation)
- Plan d'actions priorisé, présenté à la direction et au délégué à la protection des données
Format et charge : forfait, 5 à 10 jours. Idéal pour : directrice du numérique, vice-président chargé du numérique ou délégué à la protection des données qui doit cadrer des usages déjà répandus. Prérequis de votre côté : accès aux chartes et décisions existantes, entretiens avec des enseignants, des chercheurs et des services, contrats des outils utilisés.
Exemples d'usage
Deux situations d'exemple dans lesquelles cette prestation a du sens. Ce sont des exemples construits à partir de situations courantes du secteur, pas des références clients ; les chiffres sont indicatifs et dépendent de l'établissement et du périmètre.
Cartographier les usages et les pratiques de vérification
L'audit cartographie les usages liés au thème Machine learning dans l'établissement : tâches concernées, données saisies, vérifications effectuées, règles connues des utilisateurs. Il classe les risques par usage et propose un plan d'actions présenté à la direction et au délégué à la protection des données.
Interroger des enseignants, des chercheurs et la bibliothèque
L'audit s'appuie sur des entretiens avec des enseignants, des chercheurs, des services administratifs et la bibliothèque, car les usages réels du thème Machine learning diffèrent souvent des règles écrites. Le rapport restitue les écarts sans désigner de personne. Les entretiens durent une heure.
Questions fréquentes sur cette prestation
Combien de temps dure l'audit et qui le réalise ?
La charge indicative est de 5 à 10 jours, format forfait, répartie entre la lecture documentaire, les entretiens, l'observation sur site et la rédaction. L'auditeur est un praticien du thème Machine learning dans l'enseignement supérieur, la recherche ou la formation, indépendant de vos équipes, qui signe les engagements de confidentialité demandés. Nous fixons le calendrier avec vous pour que la restitution précède votre échéance, évaluation externe, audit de certification ou contrôle, d'au moins quelques semaines, afin de laisser le temps de traiter les écarts les plus importants.
Quelle différence avec une formation sur ce thème ?
La formation transmet des compétences ; l'audit vous dit où vous en êtes. Sur le thème Machine learning, l'audit produit un rapport étayé, avec des constats rattachés à des exigences identifiées et un plan d'actions chiffré, présentable à votre direction ou à un évaluateur. Il met souvent en évidence des besoins de formation, que nous pouvons ensuite couvrir, mais il ne remplace pas la formation, et inversement. Il ne remplace pas non plus l'évaluation d'une autorité ou d'un organisme de certification, que nous ne réalisons pas. Les deux prestations se combinent dans un même plan lorsque l'échéance le justifie.
Que devons-nous préparer avant la prestation ?
Pour le thème Machine learning, nous demandons les documents existants, un référent interne et l'accès aux outils concernés. Le cadrage fixe le périmètre, les livrables et le calendrier avant le devis détaillé ; la prestation commence après votre accord. Rien n'est engagé avant le devis. Les intervenants sont des praticiens du secteur, tenus par les engagements de confidentialité demandés par votre établissement. Une passation documentée clôt chaque prestation, pour que vos équipes reprennent le sujet sans dépendance. Nous validons le cadrage avec vous avant de démarrer et nous vous remettons un calendrier.
Demander un devis
Indiquez l'établissement, les équipes concernées et l'échéance : nous revenons vers vous sous 48 h ouvrées avec un premier cadrage ; le devis détaillé suit l'échange.
Les autres types de prestation sur le thème Machine learning