Le machine learning, ou apprentissage automatique, désigne un ensemble de méthodes permettant à un système informatique d’identifier des motifs dans des données et d’ajuster ses réponses sans intervention humaine directe. Cette approche, qui s’inscrit dans le champ de l’intelligence artificielle, repose sur des algorithmes capables d’apprendre à partir d’exemples. Ce guide présente le périmètre, les usages autorisés, les interdits, la validation humaine et les modalités de déploiement.
Périmètre de la charte sur le machine learning
Définition du machine learning
Le machine learning, ou apprentissage automatique en français, désigne un ensemble de techniques permettant à un système informatique d’identifier des schémas ou des régularités dans des données, sans être explicitement programmé pour chaque tâche. Cette approche repose sur la capacité d’un algorithme à adapter son comportement à partir d’exemples ou d’expériences passées. L’expression « ia machine learning » fait référence à l’intégration de ces techniques dans des systèmes d’intelligence artificielle.
Champ d’application
La charte s’applique à tous les projets qui intègrent des méthodes de machine learning, qu’il s’agisse de modèles supervisés, non supervisés ou de techniques apparentées. Elle concerne aussi bien les phases de conception, de développement, de test que de déploiement des solutions d’apprentissage automatique. Sont inclus les traitements de données visant à entraîner, valider ou exploiter des modèles de machine learning en français ou dans d’autres langues.
Les systèmes utilisant le machine learning pour automatiser des prises de décision, générer des recommandations ou effectuer des classifications entrent dans le périmètre de la charte. Exemple hypothétique : un outil qui analyse des images pour détecter des objets à partir d’un ensemble d’exemples annotés relève du champ d’application.
La charte ne couvre pas les traitements purement statistiques qui n’impliquent pas d’adaptation automatique du système à partir de données. Elle ne s’applique pas non plus aux projets qui utilisent des règles déterministes sans recours à des techniques d’apprentissage automatique.
Usages autorisés du machine learning
L’utilisation du machine learning, ou apprentissage automatique, est permise dans des contextes où les objectifs sont définis et les données traitées respectent les règles applicables à leur collecte et à leur traitement. Les usages autorisés concernent notamment l’analyse de données structurées ou non structurées, la détection de motifs, la classification d’informations ou la prédiction de tendances à partir d’ensembles de données existants.
Les systèmes de machine learning en français peuvent être employés pour automatiser des tâches répétitives, organiser des contenus ou proposer des recommandations personnalisées, sous réserve que les données utilisées soient obtenues de manière licite et que leur traitement soit conforme aux conditions fixées par le responsable du projet.
Exemples hypothétiques d’utilisation
- Exemple hypothétique : Un service interne utilise l’ia machine learning pour trier automatiquement des courriels entrants selon leur contenu, afin de faciliter leur répartition entre différents services.
- Exemple hypothétique : Un outil d’apprentissage automatique analyse des images pour classer des documents numérisés en catégories prédéfinies, sans intervention humaine directe.
Conditions d’utilisation
Pour que l’usage du machine learning soit autorisé, il convient de s’assurer que les données exploitées sont pertinentes au regard de la finalité poursuivie. L’accès aux données doit être limité aux personnes habilitées et les modèles doivent être paramétrés pour éviter l’utilisation de données non pertinentes ou sensibles, sauf si une autorisation spécifique a été obtenue.
Le recours à l’apprentissage automatique doit également prévoir des modalités de contrôle sur les résultats produits, afin de vérifier que les traitements réalisés correspondent bien aux objectifs initiaux et ne produisent pas d’effets inattendus sur les données ou les utilisateurs concernés.
Données et usages interdits
Données exclues
Dans le cadre du machine learning, certaines catégories de données ne doivent pas être utilisées pour entraîner, tester ou valider un modèle. Les données sensibles, telles que celles relatives à la santé, à l’origine raciale ou ethnique, aux opinions politiques, aux convictions religieuses ou philosophiques, à l’appartenance syndicale, à la vie sexuelle ou à l’orientation sexuelle, sont exclues des jeux de données, sauf exception prévue par un texte spécifique. L’utilisation de données biométriques ou génétiques est également prohibée, sauf dans des cas strictement encadrés.
Les données concernant des mineurs ou des personnes vulnérables ne sont pas admises dans les jeux de données destinés à l’apprentissage automatique, sauf si un cadre légal particulier l’autorise. Les informations permettant d’identifier directement une personne, comme le nom, l’adresse ou le numéro de sécurité sociale, doivent être retirées des jeux de données utilisés pour le machine learning en français.
Pratiques prohibées
L’entraînement d’un modèle d’ia machine learning sur des données collectées sans information préalable des personnes concernées constitue une pratique interdite. Il est également prohibé d’utiliser des données obtenues de manière illicite, par exemple via un accès non autorisé à un système d’information ou par extraction automatisée non permise.
La réutilisation de jeux de données pour des finalités différentes de celles initialement prévues n’est pas admise, sauf si une nouvelle base légale le permet. Exemple hypothétique : utiliser un ensemble de données collectées pour la gestion des ressources humaines afin de développer un outil de scoring commercial n’est pas autorisé sans modification du cadre légal ou information spécifique des personnes concernées.
Enfin, il est interdit de croiser ou d’enrichir des jeux de données dans le but de déduire des informations sensibles ou d’établir des profils individuels non prévus par la finalité initiale du traitement.
Validation humaine et signalement
Rôle de la validation humaine
Dans le cadre du machine learning, la validation humaine intervient pour contrôler la pertinence des résultats générés par les modèles d’apprentissage automatique. Cette étape consiste à faire relire ou vérifier certaines prédictions ou décisions par une personne, afin de détecter d’éventuelles erreurs ou incohérences. La validation humaine peut porter sur des échantillons de données, sur des résultats spécifiques ou sur des cas jugés sensibles par les opérateurs du système.
La validation humaine permet également d’ajuster les paramètres du modèle de machine learning en français, en tenant compte des retours issus de l’analyse humaine. Par exemple, si un modèle d’ia machine learning propose une classification erronée, l’intervention humaine peut conduire à une correction manuelle et à une réintégration de cette correction dans le processus d’apprentissage.
Procédure de signalement
Le signalement consiste à notifier un comportement inattendu ou une anomalie détectée lors de l’utilisation d’un système d’apprentissage automatique. Cette procédure peut être déclenchée par un utilisateur, un opérateur ou un validateur humain. Le signalement est généralement transmis à une équipe dédiée, qui analyse la situation et décide des suites à donner.
- Identification du problème ou de l’anomalie dans le résultat du modèle.
- Transmission du signalement via un canal défini (formulaire, messagerie interne, etc.).
- Analyse du signalement par une personne ou une équipe compétente.
- Décision sur la nécessité d’une intervention humaine supplémentaire ou d’une modification du modèle.
Exemple hypothétique : un utilisateur remarque qu’un système de machine learning en français attribue systématiquement une mauvaise catégorie à certains documents. Il signale ce comportement, ce qui déclenche une vérification humaine et, si besoin, une adaptation du modèle.
Déploiement, contrôle et révision
Modalités de déploiement
Le déploiement d’un système de machine learning implique la mise en production du modèle après sa phase de développement et de validation. Il convient de définir un environnement technique adapté, en tenant compte des ressources nécessaires à l’exécution du modèle et des contraintes de l’infrastructure existante. L’intégration du modèle dans les processus métiers doit être planifiée pour limiter les interruptions et garantir la cohérence des flux de données.
Avant le déploiement, il est recommandé de documenter les paramètres du modèle, les jeux de données utilisés pour l’entraînement et les méthodes d’évaluation appliquées. Cette documentation facilite la compréhension du fonctionnement du système d’apprentissage automatique par les parties prenantes et permet d’anticiper les besoins de maintenance.
Contrôle et révision périodique
Une fois le modèle de machine learning en production, un dispositif de contrôle doit être mis en place pour surveiller son comportement. Ce contrôle peut inclure la vérification de la cohérence des résultats, la détection d’éventuelles dérives et l’analyse des erreurs récurrentes. Il est conseillé de définir des indicateurs de suivi adaptés à l’usage du modèle.
La révision périodique du modèle permet d’ajuster ses paramètres ou de le réentraîner avec de nouvelles données. Cette étape contribue à maintenir la pertinence du système face à l’évolution des contextes d’utilisation. Exemple hypothétique : un modèle de classification d’images peut nécessiter une mise à jour si la nature des images traitées change au fil du temps.
Pour chaque révision, il est utile de consigner les modifications apportées, les motifs de la mise à jour et les résultats des tests réalisés. Cette traçabilité favorise la gestion du cycle de vie du système ia machine learning et facilite les interventions ultérieures.
Questions fréquentes
Quelle est la définition du machine learning selon la charte ?
Le machine learning est défini comme un ensemble de méthodes permettant à un système d’apprendre à partir de données, sans programmation explicite, pour ajuster ses réponses ou prédictions.
Quelles données sont interdites pour l’apprentissage automatique ?
La charte interdit l’utilisation de données sensibles ou non autorisées par la réglementation applicable, ainsi que toute donnée dont l’usage n’est pas expressément validé dans le cadre défini.
Une validation humaine est-elle toujours requise ?
Oui, la validation humaine est requise pour toute décision ou recommandation issue d’un système de machine learning, afin d’assurer un contrôle sur les résultats produits.
Comment signaler un usage non conforme du machine learning ?
Un dispositif de signalement est prévu pour remonter tout usage non conforme, conformément aux procédures internes et à la FAQ CNIL du 18 juillet 2024.