Implementing ethical principles in AI: an initial discussion

Résumé En Fr

In recent years, there has been a lot of discussion around ethics in IT and AI. Many researchers and organisations have proposed guidelines to address privacy, fairness, and explainability challenges for creating trustworthy AI. In this paper, we discuss ethical principles in the context of AI and their significance in developing trustworthy AI solutions. We consider the problem of the categorisation of ethical principles in IT. We concentrate our discussion on privacy, fairness, and explainability. These principles, we believe, meaningfully contribute to the trust of AI systems. We overview the available privacy regulations in the EU and US. We also look at how to achieve compliance with them, including private data detection, data anonymisation techniques and toolkits. From a practical perspective, we analyse fairness and bias problems. We discuss the issue of fairness assessment and metrics. To improve the fairness of AI solutions, an enormous number of techniques have been developed. We also focus on fairness improvement techniques and a few popular toolkits in which these techniques are implemented. Explainability is another ethical principle discussed. It is one of many socially important properties, as it ensures understanding of AI system decision-making and transparency in inspection. Ensuring explainability is important for high-risk applications in healthcare, finance and criminal justice. Finally, we outline approaches that help in the level of explainability. With this review and analysis, we contribute to the knowledge of available techniques and toolkits that can be used by AI practitioners as an initial step in implementing ethical principles into AI solutions.

Ces dernières années, la question de l’éthique dans les technologies de l'information (TI) et l’intelligence artificielle (IA) a suscité de nombreuses discussions. De nombreux chercheurs et organisations ont proposé des lignes directrices pour relever les défis liés à la vie privée, à l’équité et à l’explicabilité, dans le but de créer une IA digne de confiance. Dans cet article, nous abordons les principes éthiques dans le contexte de l’IA et leur importance dans le développement de solutions d’IA fiables. Nous nous intéressons à la problématique de la catégorisation des principes éthiques en TI, en nous concentrant particulièrement sur la vie privée, l’équité et l’explicabilité. Nous estimons que ces principes contribuent de manière significative à la confiance envers les systèmes d’IA. Nous présentons un aperçu des réglementations en matière de confidentialité existantes dans l’Union européenne et aux États-Unis, ainsi que des moyens de s’y conformer, notamment la détection de données privées, les techniques d’anonymisation des données et les outils disponibles. D’un point de vue pratique, nous analysons les problèmes liés à l’équité et aux biais. Nous discutons des méthodes d’évaluation de l’équité et des métriques utilisées. Un très grand nombre de techniques ont été développées pour améliorer l’équité des solutions d’IA. Nous mettons également l’accent sur les techniques d’amélioration de l’équité ainsi que sur quelques outils populaires qui les implémentent. L’explicabilité est un autre principe éthique traité dans cet article. Il s’agit d’une propriété socialement importante, car elle garantit la compréhension des décisions prises par les systèmes d’IA et permet une transparence dans leur inspection. Assurer l’explicabilité est crucial pour les applications à haut risque telles que la santé, la finance et la justice. Enfin, nous présentons différentes approches permettant d’améliorer le niveau d’explicabilité. Grâce à cette revue et cette analyse, nous contribuons à enrichir les connaissances sur les techniques et outils disponibles, pouvant être utilisés par les praticiens de l’IA comme point de départ pour intégrer des principes éthiques dans les solutions d’IA.