Conformité européenne des systèmes d’IA : outils statistiques élémentaires

Résumé Fr En

Suite à la publication du livre blanc pour une approche de l’IA basée sur l’excellence et la confiance, la Commission Européenne (CE) a publié de nombreuses propositions de textes réglementaires dont un AI Act (CE, 2021) établissant des règles harmonisées sur l’intelligence artificielle (IA). Quels seront les conséquences et impacts de l’adoption à venir de ce texte du point de vue d’un mathématicien ou plutôt statisticien impliqué dans la conception de système d’intelligence artificielle (IA) à haut risque au sens de la CE ? Quels outils et méthodes permettent de répondre aux obligations à venir de conformité : analyse rigoureuse et documentée des données traitées, des performances, robustesse, résilience de l’algorithme, de son explicabilité, des risques pour les droits fondamentaux, de biais discriminatoires ? Ces questions sont illustrées par un exemple numérique analogue à un score de crédit (cf. tutoriel) à la recherche d’un moins mauvais compromis entre toutes les contraintes. Nous concluons sur les avancées et limites du projet de règlement pour les systèmes d’IA à haut risque.

Following the publication of the white paper for an excellence and trust-based approach to AI, the European Commission (EC) has published numerous regulatory proposals including an AI Act (EC, 2021) establishing harmonized rules on artificial intelligence (AI). What will be the consequences and impacts of the upcoming adoption of this text from the point of view of a mathematician or rather a statistician involved in the design of high-risk AI systems as defined by the EC? What tools and methods can be used to reach future compliance obligations? Rigorous and documented analysis of the data and performance, robustness, resilience of the algorithm, its explicability, and the risks of discriminatory bias for fundamental rights. These questions are illustrated by a numerical example analogous to a credit score (cf. tutorial) in search of the least bad compromise between all the constraints. We conclude on the advances and limitations of the proposed regulation for high risk AI systems.