IA de confiance : condition nécessaire pour le déploiement de l'IA dans les systèmes critiques
Résumé
With the renewal of AI, we observe an unprecedented growth of its usage. What has changed is that research in recent years turns from theoretical insights into various practical applications. Despite these very promising results, too few Proof of Concept (PoC) are reaching production level deployment within critical systems. One of the causes is that deployment in industries as aeronautics, energy, automotive, defense, health, manufacturing, etc. requires conformity to quality, safety, security, reliability objectives that are from being completed by state-of-the-art AI systems. Thus, an AI based critical system needs to have well defined development methods from its design to its deployment and qualification. This requires a complete tool chain ensuring trust at all stages, as : (1) specification, knowledge and data management ; (2) algorithm and system architecture design taking into account human in the loop ; (3) characterization, verification and validation of AI functions ; (4) deployment, particularly on embedded architecture ; (5) qualification, certification from a system point of view.
Avec le renouveau de l’IA, on assiste aujourd’hui à une croissance de ses usages, sans précédent. Ce qui a changé ces dernières années, c’est que la recherche est passée de connaissances théoriques à de nombreuses applications pratiques. Malgré ces résultats très prometteurs trop peu
de preuves de concept (PoC) atteignent un déploiement au niveau de la production des systèmes critiques. L’une des causes est que le déploiement dans des industries telles que l’aéronautique, l’énergie, l’automobile, la défense, la santé, la fabrication, etc. nécessite la conformité à des objectifs de qualité, de sûreté, de sécurité et de fiabilité qui ne sont pas complétés par des systèmes d’IA à l’état de l’art. Ainsi, un système critique à base d’IA doit reposer sur des méthodes de développement bien définies, de sa conception à son déploiement et sa qualification. Cela nécessite une chaîne d’outils de bout en bout garantissant la confiance à toutes les étapes : (1) la spécification, les connaissances et la gestion des données ; (2) conception d’algorithmes et d’architecture de système avec la préoccupation de la relation à l’humain ; (3) caractérisation, vérification et validation des fonctions de l’IA ; (4) déploiement, en particulier sur l’architecture embarquée ; (5) qualification, certification d’un point de vue système.
Domaines
Intelligence artificielle [cs.AI]
Origine : Fichiers produits par l'(les) auteur(s)