Construire une intelligence artificielle de confiance en santé

Résumé Fr En It

Dans la pratique médicale, le processus de développement des outils informatiques et en particulier de l’intelligence artificielle (IA) est une étape importante pour son acceptabilité et son appropriation par les utilisateurs finaux. L’objectif de notre étude était de proposer un processus de conception des outils de l’IA en santé pour une intégration facilité. Nous nous appuyons sur les résultats d’une enquête réalisée entre Octobre 2018 et Mai 2019 auprès des médecins de la ville du Havre sur leurs usages des objets connectés et des applications de santé, leur avis sur l’utilisation de l’IA en pratique médicale et leurs perceptions sur les risques liés au big data et à l’IA sur la pratique médicale pour la proposition de notre processus de conception des outils. Les théories utilisées étaient le design thinking qui est une méthode d’intelligence collective qui place l’humain, ses usages et ses besoins au centre de la réflexion et la confiance avec une classification en trois typologie. Dans un premier temps, nous avons identifié les différents acteurs de la conception des outils d’IA et les différentes relation existant entre ces acteurs avec une description des rôles et des interactions entre eux. En plus des trois étapes du design thinking (inspiration, idéation et implémentation), nous avons ajouté une étape d’évaluation comportant : l’essai clinique, l’évaluation technique, l’évaluation médico-économique et la certification. Le processus d’évaluation était poursuivi après la mise sur le marché dans le cadre de vigilance sanitaire. La participation de tous les acteurs aux différents processus de conception des outils dans un climat de confiance permet une meilleure acceptabilité et appropriation des outils. Elle permet également une responsabilisation et une valorisation des acteurs.

In medical practice, the development process for IT tools, and in particular artificial intelligence (AI), is an important step towards its acceptability and appropriation by end-users. The aim of our study was to propose a design process for AI tools in healthcare to facilitate integration. We rely on the results of a survey conducted between October 2018 and May 2019 among doctors in the city of Le Havre on their uses of connected objects and healthcare applications, their opinion on the use of AI in medical practice and their perceptions on the risks linked to big data and AI on medical practice for the proposal of our tool design process. The theories used were design thinking, which is a collective intelligence method that places humans, their uses and needs at the center of reflection, and trust, with a classification into three typologies. Initially, we identified the various players involved in the design of AI tools and the different relationships between them, describing their roles and interactions. In addition to the three stages of design thinking (inspiration, ideation and implementation), we added an evaluation stage comprising: clinical trial, technical evaluation, medico-economic evaluation and certification. The evaluation process continued after the product was placed on the market, as part of the health monitoring process. Involving all the players in the various tool design processes in a climate of trust ensures that the tools are more readily accepted and appropriated. It also helps to empower and enhance the value of the players involved.

Nella pratica medica, il processo di sviluppo degli strumenti informatici, e in particolare dell’intelligenza artificiale (IA), è una fase importante per la loro accettabilità e appropriazione da parte degli utenti finali. L’obiettivo del nostro studio è stato quello di proporre un processo di progettazione degli strumenti di IA in ambito sanitario per facilitarne l’integrazione. Per proporre il nostro processo di progettazione degli strumenti, ci siamo basati sui risultati di un sondaggio condotto tra ottobre 2018 e maggio 2019 tra i medici della città di Le Havre sull’utilizzo di oggetti connessi e applicazioni per la salute, sulla loro opinione sull’uso dell’IA nella pratica medica e sulla loro percezione dei rischi legati ai big data e all’IA sulla pratica medica. Le teorie utilizzate sono state il design thinking, un metodo di intelligenza collettiva che pone le persone, i loro usi e le loro esigenze al centro della riflessione, e la fiducia, con una classificazione in tre tipologie. In primo luogo, abbiamo identificato i vari attori coinvolti nella progettazione di strumenti di IA e le diverse relazioni tra di loro, descrivendo i loro ruoli e le loro interazioni. Oltre alle tre fasi del design thinking (ispirazione, ideazione e implementazione), abbiamo aggiunto una fase di valutazione che comprende: sperimentazione clinica, valutazione tecnica, valutazione medico-economica e certificazione. Il processo di valutazione è proseguito dopo l’immissione del prodotto sul mercato, come parte del processo di monitoraggio della salute.Coinvolgere tutti gli attori nei vari processi di progettazione degli strumenti in un clima di fiducia fa sì che gli strumenti siano più facilmente accettati e adottati. Inoltre, contribuisce a responsabilizzare e valorizzare gli attori coinvolti.