L’émergence d’enjeux éthiques lors d’expérimentations de logiciels d’intelligence artificielle: Le cas de la radiologie

Résumé Fr

Cet article croise les regards de la sociologie de l’innovation et de l’éthique des technologies. Il met en évidence la portée heuristique du concept d’expérimentation pour penser l’éthique de l’Intelligence Artificielle (IA), et ce dans le domaine de la radiologie. Plus précisément, nous mobilisons trois déclinaisons du concept d’expérimentation (experiment in and with technology, tacit experiment) pour décrire et analyser quatre environnements de travail où des logiciels de détection à base d’IA (en sénologie et en traumatologie) sont testés. Nous soulignons les modalités d’appropriation (ou de rejet) de ces dispositifs mais aussi les préoccupations éthiques qui en résultent, en nous appuyant sur les dérivés du concept d’expérimentation susmentionnés. Cette éthique de l’IA renvoie à trois séries d’interrogations : la première porte sur le pilotage, le périmètre, l’apprentissage durant ces expérimentations et finalement sur le caractère (plus ou moins) démocratique de ces dernières ; la deuxième sur la justesse de ce que livrent ces logiciels et par conséquent les risques d’erreurs engendrés, dans le cadre d’une délégation (au moins partielle) du travail d’analyse à des algorithmes ; enfin, la troisième sur la qualité du service rendu et son équité, au sein du système de santé, ainsi que sur le contenu d’identités professionnelles. L’éthique de l’IA s’encastre alors dans des situations concrètes d’usage et s’incarne dans des univers professionnels, à la différence des éthiques « à principes » et « au futur ».