Déploiement de l’IA en situation de travail : une trop faible considération de l’expérience des employé·es ?

Résumé Fr En

Les récents travaux sur l’acceptabilité des solutions intégrant de l’intelligence artificielle (IA) en situation de travail se focalisent sur la prise en compte des facteurs humains et des facteurs intrinsèques à l’outil comme déterminants de l’adoption par les employé·es. Dans cet article, nous retraçons le déploiement d’outils professionnels basés sur de l’IA dans trois cas d’usage. Nous avons exploré les motivations de ces acteurs novices dans ce type de technologie, les moyens déployés pour mener à bien leur projet ainsi que la place accordée aux employé·es dans le processus de conception. Nous constatons que l’acceptabilité des solutions IA dans ces cas d’usage semble se limiter à l’acceptation de la performance et à un retour sur investissement (ROI) à court terme au détriment de la prise en compte des besoins et craintes des employé·es. Les conséquences directement observables sont des expériences plutôt négatives pour les employé·es, un retour sur investissement peu concluant et/ou la mise à l’écart de projets. Pour limiter les risques de rejet, nous suggérons de renforcer une approche plus holistique avec des considérations mises en avant par l’UX Design. Cela se traduit notamment par le fait de déterminer les besoins du réseau de parties prenantes, d’éviter le solutionnisme technique, d’optimiser les interfaces utilisateurs pour réduire la complexité inutile et de dimensionner les solutions techniques de manière appropriée à la tâche.

Recent work on acceptability of AI-enabled professional tools has focused on the consideration of human factors such as user confidence as well as technical factors like model explainability as determinants of user-adoption and usage. These links are mainly established in simulated contexts or environments with low deployment constraints. However, the acceptability of AI tools in professional settings seems to be often restricted to the acceptance of performance and short-term return on investment (ROI) without questioning the technical appropriateness of AI capabilities to user’s needs (and fears) or tasks at hand. Three deployment sites of AI-assisted decision-making tools were observed where AI acceptability was limited to the artifact’s measurable time-based efficiency. In this article, we question the other UX design considerations in these ML-enhanced dashboards with rushed production cycles that produced AI gadgets rather than user-friendly tools. These AI gadgets ultimately resulted in negative user experiences, inconclusive ROI and/or sidelining of projects. We then suggest ways of limiting risks of end-user-rejection through a more holistic approach of UX design considerations. These include ascertaining needs of the stakeholder network, avoiding technical solutionism, optimizing user interfaces to reduce unnecessary complexity, and dimensioning technical solutions appropriately to the task.