L’intelligence artificielle à l’épreuve des savoirs tacites. Analyse des pratiques d’utilisation d’un outil d’aide à la détection en radiologie

Résumé Fr En

L’intelligence artificielle (IA) a commencé à investir depuis quelques années le domaine de la radiologie. En particulier, les outils d’aide au diagnostic basés sur le deep learning ont fait irruption dans les établissements de santé. Certaines technologies, conçues pour détecter des anomalies sur les images, posent de nombreux défis à la pratique radiologique. Cet article montre que l’utilisation d’un logiciel doté d’IA et spécialisé dans le traitement de radiographies du thorax se heurte aux normes qui guident l’activité d’interprétation des images du radiologue. La reconnaissance des anomalies par les radiologues ne se résume pas à un simple repérage de lésions, dont la présence ou l’absence permettrait de distinguer le normal du pathologique. Le défi que l’opacité des algorithmes et le manque d’explicabilité des détections opérées par la machine posent à la responsabilité médicale est également discuté.

Artificial intelligence (AI) has started to spread into the field of radiology in recent years. In particular, diagnostic support technologies that use deep learning have been introduced into French health organizations. Some AI technologies, developed to detect abnormalities in images, pose a number of challenges to radiological practice. This article shows how the detection provided by one piece of AI software specialized in reading chest radiographs does not meet the standards that guide the interpretation of radiographs. In radiologists’ practice, recognizing abnormalities involves more than just detecting them: identifying the presence or absence of lesions is not, for them, decisive in defining normal and pathological images. We also discuss here how algorithms’ opacity and lack of ability to explain what they have identified pose problems in terms of the responsibility involved in medical decision-making.