L'IA médicale a produit un vaste corpus de résultats publiés montrant une performance comparable ou supérieure à celle des cliniciens sur des tâches précises. Beaucoup de ces résultats sont réels.
Le bilan du déploiement est plus contrasté, et les raisons sont cohérentes et connaissables à l'avance. Des effectifs qui les comprennent repèrent les problèmes avant qu'un système n'atteigne un patient.
L'écart entre l'article et le service
Un chiffre de précision publié décrit une performance sur un jeu de données précis, assemblé d'une certaine façon, évalué contre une référence précise.
La performance clinique, c'est ce qui se passe quand le système rencontre une population non sélectionnée, un équipement différent, une pratique différente, et des cliniciens qui réagissent à sa sortie d'une façon que l'évaluation n'avait pas modélisée.
Le modèle n'avait pas tort dans l'article. Il répondait à une question sur un jeu de données, et l'hôpital pose une question différente.
La pression de la demande est réelle : le Future of Jobs Report 2025 du Forum économique mondial constate que 92 % des employeurs des services médicaux et de santé disent que les compétences en IA et big data gagnent en importance pour leurs équipes. Le risque, c'est que la compétence recrutée soit la construction de modèles plutôt que leur évaluation.
Ce que couvre la direction
Le périmètre : l'IA en radiologie et en anatomopathologie, l'aide à la décision clinique, l'analyse d'image et la validation.
Le mot validation fait l'essentiel du travail dans cette liste, et c'est la partie la plus souvent sous-dotée.
Quatre compétences.
L'imagerie médicale et sa physique. Ce qu'est vraiment une image, comment les paramètres d'acquisition l'affectent, et pourquoi des images issues d'équipements différents diffèrent d'une façon invisible pour un œil humain et très visible pour un modèle.
Le développement de modèles pour données cliniques. Y compris les problèmes spécifiques : qualité des annotations, déséquilibre des classes, fuites de données propres aux jeux de données cliniques.
La validation clinique. La conception d'étude pour évaluer un système d'IA clinique, qui relève de l'épidémiologie plutôt que de l'apprentissage automatique.
Déploiement et monitoring. Intégration dans le parcours, suivi continu de la performance, et savoir quoi faire quand la performance dérive.
Le décalage de distribution, en termes simples
Le problème technique central, énoncé sans jargon.
Un modèle apprend à partir des données sur lesquelles il a été entraîné. Ces données viennent d'hôpitaux précis, d'équipements précis, de populations précises et de pratiques cliniques précises.
Déployé ailleurs, plusieurs choses diffèrent à la fois.
La population diffère. Distribution d'âge différente, prévalence de la maladie différente, comorbidités différentes. La prévalence, à elle seule, change la valeur prédictive de toute sortie, le point sur le taux de base venu de la direction épidémiologie, et il s'applique ici avec la même force.
L'équipement diffère. Des scanners, des protocoles et des réglages différents produisent des images systématiquement différentes. Il est connu que les modèles repèrent des caractéristiques d'équipement plutôt que des pathologies, et un tel modèle peut sembler excellent en validation et échouer entièrement sur une autre machine.
La pratique diffère. Qui est testé, quand, et comment la référence a été établie varient tous d'un établissement à l'autre.
Le temps passe. La pratique change, l'équipement est remplacé, les populations évoluent. Un modèle précis au déploiement peut se dégrader sans que personne ne change rien, ce qui fait du monitoring une exigence d'effectifs permanente plutôt qu'une tâche de projet.
L'implication pour les effectifs : la validation locale avant déploiement et le monitoring continu après sont tous deux nécessaires, et tous deux demandent des personnes. Les organisations qui achètent un système sans budgéter ni l'un ni l'autre ont acheté une intervention clinique non surveillée.
Où cela se situe dans le domaine
IA médicale, imagerie et diagnostic est la huitième des dix directions du domaine médecine et technologies de santé d'Astra Trainer. Elle dépend de la santé publique et de l'épidémiologie pour la méthodologie de validation, de l'informatique de santé pour la couche données, de la physiopathologie pour la plausibilité clinique, et des dispositifs médicaux pour le cadre réglementaire, l'IA clinique étant fréquemment réglementée comme un dispositif.
Pour les partenaires qui dotent cette fonction côté technique, le domaine IA, données et calcul couvre l'intelligence artificielle et l'apprentissage automatique, la data science et l'analytique, et la cybersécurité. La combinaison qui fonctionne vraiment est la compétence technique plus la compétence de validation clinique, et les organisations disposent en général de la première. Vous pouvez découvrir les dix directions ici.
Rétrospectif n'est pas prospectif
Une distinction qui décide si une preuve signifie quelque chose, et elle est régulièrement brouillée dans les allégations commerciales.
L'évaluation rétrospective fait tourner un modèle sur des données historiques dont les résultats sont déjà connus. C'est peu coûteux, rapide et nécessaire, et cela surestime systématiquement la performance réelle. Le jeu de données a été organisé, les cas de mauvaise qualité en ont souvent été exclus, et le modèle peut exploiter des motifs qui n'existent qu'à cause de la façon dont les données ont été assemblées.
L'évaluation prospective fait tourner le modèle sur des patients à mesure qu'ils se présentent, la performance étant évaluée par rapport à ce qui s'est réellement passé ensuite. Plus lente, plus coûteuse, et bien plus informative.
L'évaluation d'impact clinique pose la question qui compte : l'usage de ce système change-t-il ce qui arrive aux patients. Un modèle peut être précis et ne rien changer, parce que les cliniciens le savaient déjà, parce que le constat ne modifie pas la prise en charge, ou parce que le parcours n'agit pas dessus.
Chaque étape est une barre plus haute, et chacune est nettement moins fréquente que la précédente. Une équipe incapable de préciser sur laquelle de ces étapes repose une allégation de preuve ne peut pas évaluer une décision d'achat.
Ce que signifie l'autorisation, et ce qu'elle ne signifie pas
Une autorisation ou une approbation réglementaire signifie qu'un dispositif a satisfait aux exigences d'une voie définie, dans une juridiction donnée, sur les preuves soumises, pour un usage revendiqué déclaré.
Cela ne signifie pas automatiquement que le système améliore les résultats des patients, qu'il performera comme décrit dans votre population, ou qu'il a été comparé à la pratique actuelle.
Ce n'est pas une critique des régulateurs. Les voies réglementaires sont conçues pour établir des normes définies, et différentes voies exigent différents niveaux de preuve. C'est une mise en garde sur la façon dont l'autorisation est utilisée dans les échanges commerciaux, où elle est fréquemment présentée comme si elle tranchait la question clinique.
Une organisation a besoin de quelqu'un capable de lire ce que couvre vraiment une autorisation, y compris l'usage revendiqué déclaré, et de le comparer à l'usage proposé. C'est une compétence précise et rare.
L'humain dans la boucle, qui n'est pas une solution en soi
La réassurance standard est qu'un clinicien revoit la sortie, donc les erreurs sont rattrapées.
C'est plus faible qu'il n'y paraît, pour des raisons bien documentées en facteurs humains.
Le biais d'automatisation. Les gens tendent à se ranger derrière des recommandations automatisées confiantes, y compris quand elles ont tort, et y compris quand la personne aurait décidé correctement sans aide.
La déqualification. Une compétence non exercée se dégrade. Un relecteur qui n'a pas évalué de cas de façon indépendante depuis longtemps est un contrôle plus faible qu'il ne l'était.
Le volume dépasse la revue. Là où la valeur d'un système vient de traiter plus qu'un humain ne le pourrait, une revue indépendante réelle de chaque sortie est impossible par construction.
La responsabilité devient floue. Si le système a généralement raison et que le clinicien est responsable, le clinicien porte un risque pour un système qu'il ne peut pas inspecter. C'est un problème de gouvernance à régler avant le déploiement, pas après un incident.
La supervision humaine est nécessaire, elle n'est pas suffisante, et la concevoir pour qu'elle fonctionne vraiment exige une compétence en facteurs humains, qui rejoint le point sur l'ergonomie dans la direction dispositifs médicaux.
Les métiers, nommés
Scientifiques de validation d'IA clinique. Le rôle le plus rare et le plus important ici, et un intitulé qui existe à peine.
Scientifiques et physiciens de l'imagerie médicale. Comprennent l'acquisition et ce qui fait différer les images.
Data scientists cliniques avec un socle méthodologique propre à la santé.
Responsables de sécurité clinique pour systèmes d'IA.
Spécialistes réglementaires pour logiciels et dispositifs d'IA.
Spécialistes de mise en œuvre et de parcours, car l'intégration décide si quelque chose change vraiment.
Analystes de monitoring et de performance, après déploiement, une fonction permanente.
Qui peut y être formé
Manipulateurs et technologues en imagerie. Sous-exploités et bien placés. Ils comprennent l'acquisition, les artefacts et la réalité pratique de l'imagerie, et ajouter la méthodologie de validation produit exactement la compétence qui manque.
Physiciens médicaux. Détiennent déjà une expertise quantitative et en imagerie.
Data scientists en santé. Ont besoin de méthodologie épidémiologique et de socle clinique plutôt que de davantage de technique de modélisation.
Cliniciens ayant un intérêt analytique. Détiennent le jugement de plausibilité qui repère les problèmes qu'aucun indicateur ne montre.
Scientifiques cliniques en anatomopathologie et médecine de laboratoire, à mesure que l'anatomopathologie numérique se développe.
Personnel qualité et réglementaire qui s'étend aux logiciels et dispositifs d'IA.
Réglementation et responsabilité. Les systèmes d'IA clinique sont fréquemment réglementés comme des dispositifs médicaux, avec les obligations décrites dans la direction dispositifs médicaux, et dans plusieurs juridictions leur déploiement clinique exige une évaluation formelle de sécurité clinique. La responsabilité clinique des décisions reste aux professionnels agréés. La formation construit une compétence de validation et d'évaluation. Elle ne confère ni approbation réglementaire, ni qualification en sécurité clinique, ni autorité à déployer un système, et aucune sortie de modèle ne doit être traitée comme un conseil clinique.
Ce qu'il faut retenir
La précision annoncée et la performance clinique sont des grandeurs différentes, et l'écart est prévisible plutôt que mystérieux.
Le décalage de distribution entre population, équipement, pratique et temps est le problème central, ce qui fait de la validation locale et du monitoring continu des exigences d'effectifs permanentes.
Les preuves rétrospectives, prospectives et d'impact clinique sont trois barres différentes, et la plupart des allégations reposent sur la première.
L'autorisation signifie qu'une voie définie a été satisfaite pour un usage revendiqué déclaré. Ce n'est pas une preuve de bénéfice patient, et on la présente fréquemment comme si ça l'était.
Et la supervision humaine est nécessaire et insuffisante, car le biais d'automatisation et le volume la fragilisent tous deux par construction.
Pourquoi les systèmes d'IA médicale sous-performent-ils après déploiement ?
Le décalage de distribution. Un modèle apprend la population, l'équipement, les pratiques et les références sur lesquels il a été entraîné, et les quatre diffèrent ailleurs. La prévalence, à elle seule, change la valeur prédictive de toute sortie.
L'autorisation réglementaire signifie-t-elle qu'un système fonctionne ?
Elle signifie qu'une voie définie a été satisfaite, sur les preuves soumises, pour un usage revendiqué déclaré. Ce n'est pas équivalent à une preuve d'amélioration des résultats dans votre population.
La revue humaine est-elle une garantie suffisante ?
Non. Le biais d'automatisation pousse à se ranger derrière des systèmes confiants, les compétences non exercées se dégradent, et là où la valeur du système vient du volume, une revue indépendante réelle de chaque sortie est impossible par construction.
Qui devrait être formé pour cela ?
Les manipulateurs et technologues en imagerie sont sous-exploités et bien placés, car ils comprennent l'acquisition et les artefacts. Les data scientists en santé ont besoin de méthodologie épidémiologique plutôt que de davantage de technique de modélisation.
Où cela se situe-t-il dans le domaine ?
Huitième des dix directions du domaine médecine et technologies de santé d'Astra Trainer, dépendante de l'épidémiologie pour la méthode de validation et des dispositifs médicaux pour le cadre réglementaire. Vous pouvez les découvrir ici.