Le machine learning, ou apprentissage automatique, désigne un ensemble de méthodes permettant à des systèmes informatiques d’identifier des motifs dans des données et d’ajuster leurs actions sans programmation explicite. Ce guide présente le périmètre, les usages autorisés, les restrictions, la validation humaine et les modalités de déploiement du machine learning selon la charte interne.
Périmètre de la charte sur le machine learning
Définition du machine learning
Le machine learning, ou apprentissage automatique en français, désigne un ensemble de méthodes permettant à un système informatique d’identifier des modèles ou des régularités dans des données, puis d’ajuster ses actions ou ses prédictions en fonction de ces observations. La définition du machine learning inclut la capacité d’un algorithme à améliorer ses performances à partir de l’expérience, sans être explicitement programmé pour chaque tâche. L’expression apprentissage machine recouvre ainsi des techniques variées, allant de la classification à la régression, en passant par la détection d’anomalies ou la recommandation.
Pour définir le machine learning dans le cadre de cette charte, il s’agit de tout dispositif, logiciel ou service qui met en œuvre des algorithmes capables d’apprendre à partir de données, dans le but de produire une sortie, une décision ou une recommandation. La notion de machine learning meaning recouvre également les systèmes d’apprentissage supervisé, non supervisé ou par renforcement, dès lors qu’ils adaptent leur comportement à partir de données d’entraînement ou d’interactions.
Champ d’application
La charte s’applique à tous les projets, outils ou processus intégrant une composante d’apprentissage automatique, que ce soit dans le développement, l’expérimentation ou l’exploitation. Elle concerne aussi bien les solutions internes que les services tiers intégrant du machine learning, dès lors qu’ils traitent des données pour apprendre et générer des résultats.
Le périmètre inclut les usages où le machine learning intervient dans la prise de décision, l’automatisation de tâches, l’analyse de données ou l’assistance à l’utilisateur. Exemple hypothétique : un outil interne qui classe automatiquement des documents selon leur contenu à l’aide d’un algorithme d’apprentissage automatique entre dans le champ de la charte.
Usages autorisés du machine learning
Domaines d’application
Le machine learning, ou apprentissage automatique, peut être utilisé dans des contextes variés dès lors que l’objectif est d’analyser des données, de détecter des motifs ou de réaliser des prédictions à partir d’exemples. Les usages autorisés incluent l’automatisation de tâches répétitives, la classification d’informations, la reconnaissance de formes ou de textes, ainsi que l’aide à la prise de décision basée sur des modèles statistiques.
Exemple hypothétique : un système d’apprentissage automatique peut servir à trier automatiquement des documents selon leur contenu, sans intervention humaine directe, à condition que les données utilisées respectent les règles applicables.
- Analyse de données structurées ou non structurées pour identifier des tendances.
- Détection d’anomalies dans des ensembles de données, par exemple pour signaler des écarts inhabituels.
- Prédiction de résultats à partir de données historiques, dans la limite des conditions d’utilisation définies.
Conditions d’utilisation
L’utilisation du machine learning est autorisée lorsque les données traitées sont obtenues et exploitées dans le respect des règles applicables à leur collecte et à leur traitement. Il convient de s’assurer que les finalités du traitement sont déterminées, explicites et légitimes. L’apprentissage machine ne doit pas être détourné de ses objectifs initiaux, et les modèles développés doivent être utilisés conformément à la finalité déclarée.
Exemple hypothétique : si un modèle d’apprentissage automatique est conçu pour classer des images selon leur contenu, il ne peut pas être réutilisé pour une finalité différente sans vérifier la compatibilité de cette nouvelle utilisation avec les règles applicables.
La définition du machine learning implique que les modèles sont entraînés à partir de données existantes. L’usage de ces modèles doit rester conforme à la finalité initiale, et toute évolution du périmètre d’utilisation nécessite une nouvelle analyse des conditions d’utilisation.
Données et usages interdits
Types de données exclues
Dans le cadre du machine learning, certaines catégories de données ne doivent pas être utilisées pour l’entraînement, la validation ou l’exploitation des modèles. Les données qui révèlent l’origine raciale ou ethnique, les opinions politiques, les convictions religieuses ou philosophiques, l’appartenance syndicale, ainsi que les données génétiques, biométriques ou concernant la santé, sont exclues des traitements d’apprentissage automatique, sauf exception prévue par un texte spécifique. Les données relatives à la vie sexuelle ou à l’orientation sexuelle d’une personne sont également concernées par cette exclusion.
Les données concernant des infractions, condamnations ou mesures de sûreté ne peuvent pas être traitées dans un projet de machine learning, sauf si un texte l’autorise expressément. Il en va de même pour les données relatives à des mineurs, qui nécessitent des précautions particulières et ne sont pas admises dans la plupart des cas d’apprentissage machine.
Exemples hypothétiques d’usages non conformes
- Exemple hypothétique : un projet d’apprentissage automatique visant à prédire le comportement d’achat de consommateurs intègre des informations sur l’appartenance syndicale des personnes. Cet usage n’est pas conforme aux règles applicables au machine learning.
- Exemple hypothétique : une application de machine learning destinée à l’évaluation de candidatures professionnelles utilise des données relatives à la santé des candidats. Ce traitement est exclu.
- Exemple hypothétique : un système d’ia machine learning analyse des dossiers scolaires de mineurs pour anticiper leur orientation future sans cadre légal spécifique. Cette utilisation n’est pas admise.
Pour learning machine learning, il convient d’identifier précisément les catégories de données traitées et d’exclure systématiquement celles qui relèvent des catégories mentionnées ci-dessus, sauf disposition contraire prévue par un texte applicable.
Validation humaine et signalement
Rôle de la validation humaine
Dans le cadre du machine learning, la validation humaine intervient pour contrôler la pertinence des résultats produits par les modèles d’apprentissage automatique. Cette étape consiste à faire vérifier par une personne les décisions ou prédictions générées par la machine, afin de détecter d’éventuelles erreurs ou incohérences. La validation humaine peut être sollicitée à différents moments du processus, notamment lors de la phase de test ou lors de l’application concrète du modèle sur de nouvelles données.
La validation humaine permet d’identifier les situations où le modèle de machine learning ne parvient pas à traiter correctement certains cas particuliers. Par exemple, une personne peut être amenée à examiner les résultats d’un algorithme d’apprentissage machine pour confirmer ou infirmer une classification automatique. Cette intervention humaine contribue à limiter la propagation d’erreurs dans les systèmes d’apprentissage ia.
Procédure de signalement
Lorsqu’une anomalie, une erreur ou un comportement inattendu est détecté dans les résultats d’un modèle de machine learning, une procédure de signalement peut être mise en place. Cette procédure prévoit la remontée de l’information à une équipe dédiée ou à un référent, qui analysera le signalement et décidera des suites à donner. Le signalement peut concerner des biais, des résultats incohérents ou des situations non prévues par l’apprentissage automatique.
- Identifier précisément le résultat ou la décision à signaler.
- Documenter le contexte et les données concernées.
- Transmettre le signalement selon le canal défini (formulaire, messagerie interne, etc.).
- Assurer un suivi du traitement du signalement par les personnes responsables.
Exemple hypothétique : un utilisateur constate qu’un système d’apprentissage machine attribue systématiquement une même catégorie à des cas différents. Il suit la procédure de signalement pour remonter l’information à l’équipe en charge du modèle.
Déploiement, contrôle et révision des usages
Modalités de déploiement
Le déploiement d’un système de machine learning implique de définir précisément les conditions d’utilisation et les limites fonctionnelles de l’outil. Avant toute mise en production, il convient de documenter les objectifs poursuivis, les jeux de données utilisés et les paramètres retenus pour l’apprentissage automatique. Cette documentation doit être accessible aux parties prenantes concernées par l’usage du système.
Lors du déploiement, il est recommandé de prévoir des mécanismes permettant de désactiver ou de restreindre certaines fonctionnalités du système de machine learning en fonction des besoins identifiés. Exemple hypothétique : une organisation choisit de limiter l’accès à certaines prédictions générées par l’apprentissage machine à un groupe restreint d’utilisateurs internes.
Contrôle et révision périodique
Le contrôle des usages d’un système d’apprentissage automatique repose sur la mise en place de procédures régulières d’audit et de vérification. Ces procédures visent à s’assurer que le système fonctionne conformément aux objectifs initiaux et que ses résultats restent cohérents avec la définition du machine learning retenue lors de la phase de conception.
- Planifier des revues périodiques des performances et des usages du système.
- Vérifier que les données traitées correspondent toujours aux finalités définies.
- Documenter toute modification apportée au modèle ou à ses paramètres.
La révision des usages peut conduire à ajuster les paramètres du système, à restreindre certains accès ou à suspendre temporairement l’utilisation de l’outil d’apprentissage ia si des écarts sont constatés. Exemple hypothétique : lors d’une revue, une équipe identifie une dérive dans les résultats produits par le système de machine learning et décide de réentraîner le modèle avec un nouveau jeu de données.
Questions fréquentes
Quelle est la définition du machine learning selon la charte ?
Le machine learning, ou apprentissage automatique, désigne des méthodes permettant à un système informatique d’identifier des motifs dans des données et d’ajuster ses actions sans intervention humaine directe ni programmation explicite.
Quels types de données sont interdits pour le machine learning ?
La charte interdit l’utilisation de données sensibles, confidentielles ou non autorisées pour l’entraînement ou l’exploitation de modèles de machine learning, conformément aux règles internes et à la réglementation applicable.
Comment signaler un usage non conforme du machine learning ?
Tout collaborateur peut signaler un usage non conforme via la procédure interne dédiée, permettant une analyse et une intervention rapide par les référents désignés.
Une validation humaine est-elle requise avant tout déploiement ?
Oui, la charte impose une validation humaine systématique avant tout déploiement de solution de machine learning, afin de vérifier la conformité aux usages autorisés et aux restrictions définies.