L’émergence d’enjeux éthiques lors d’expérimentations de logiciels d’intelligence artificielle : Le cas de la radiologie

Résumé Fr En

Cet article croise les regards de la sociologie de l’innovation et de l’éthique des technologies. Il met en évidence la portée heuristique du concept d’expérimentation pour penser l’éthique de l’Intelligence Artificielle (IA), et ce dans le domaine de la radiologie. Plus précisément, nous mobilisons trois déclinaisons du concept d’expérimentation ( experiment in and with technology, tacit experiment) pour décrire et analyser quatre environnements de travail où des logiciels de détection à base d’IA (en sénologie et en traumatologie) sont testés. Nous soulignons les modalités d’appropriation (ou de rejet) de ces dispositifs mais aussi les préoccupations éthiques qui en résultent, en nous appuyant sur les dérivés du concept d’expérimentation susmentionnés. Cette éthique de l’IA renvoie à trois séries d’interrogations : la première porte sur le pilotage, le périmètre, l’apprentissage durant ces expérimentations et finalement sur le caractère (plus ou moins) démocratique de ces dernières ; la deuxième sur la justesse de ce que livrent ces logiciels et par conséquent les risques d’erreurs engendrés, dans le cadre d’une délégation (au moins partielle) du travail d’analyse à des algorithmes ; enfin, la troisième sur la qualité du service rendu et son équité, au sein du système de santé, ainsi que sur le contenu d’identités professionnelles. L’éthique de l’IA s’encastre alors dans des situations concrètes d’usage et s’incarne dans des univers professionnels, à la différence des éthiques « à principes » et « au futur ».

This article brings together the perspectives of the sociology of innovation and the ethics of technology. It highlights the heuristic scope of the concept of experimentation for reflection on the ethics of Artificial Intelligence (AI), in the field of radiology. More specifically, we mobilize three types of experimentation (experiments in and with technology, and tacit experiments) to describe and analyse four work environments where AI-based detection software is tested in senology and traumatology. We highlight the ways in which these devices are appropriated (or rejected), as well as the resulting ethical concerns, drawing on the above-mentioned derivatives of the concept of experimentation. AI ethics raises three sets of questions: the first concerns the steering, scope and learning process of these experiments, and ultimately their (more or less) democratic nature; the second concerns the accuracy of what the software delivers, and consequently the risks of error involved, in a context where analytical work is delegated (at least partially) to algorithms; and the third concerns the quality of the service provided and its fairness, within the healthcare system, as well as the content of professional identities. AI ethics are thus embedded in concrete situations of use and embodied in professional worlds, unlike ‘principled’ and ‘future’ ethics.