Le présent document traite de la validation de fonctions, ou de composants, intégrant ou utilisant des algorithmes d'apprentissage automatique (IA/ML) à travers l’identification de risques d'erreur tout au long du cycle de développement d'un composant IA/ML. Ces risques sont, de manière systématique, rattachés à des activités et des objectifs de qualité du processus de développement. Des mesures de mitigation de ces risques et des critères d'évaluation de leur efficience à des étapes du processus de développement sont, dès lors, proposés.
Le présent document présente les caractéristiques suivantes :
— d’un point de vue méthodologique, il est basé sur une approche par les risques inhérents à l’apprentissage automatique plutôt qu’une approche par les processus. Deux points de vigilance ont été particulièrement développés : la spécification des composants IA/ML et la séparation structurelle entre les activités d’apprentissage et celles de vérification et de validation en relation avec les experts métiers ;
— il décrit les activités spécifiques de développement d’un composant d’IA/ML (les aspects systèmes et les aspects planification ne sont pas spécifiques et ne sont pas couverts) ;
— il pose les principales questions relatives à la modulation du niveau d’assurance IA/ML/DL en fonction de la criticité des applications.