Pourquoi l'IA ne peut pas remplacer les médecins en santé
La question n'est pas si l'IA remplacera les médecins, mais ce qu'ils font qui ne peut être délégué. Pourquoi l'IA doit soutenir, pas substituer.
La mauvaise question
Chaque semaine, quelqu'un publie un article demandant si l'IA remplacera les médecins.
Les articles suivent une structure familiere : une étude de référence montre une IA surpassant des internes à un examen de spécialité ; un modèle diagnostique atteint une précision de niveau radiologue sur une tache d'imagerie spécifique ; un modèle de langage génère des comptes rendus de sortie plus vite que des médecins juniors. L'implication, déclarée ou sous-entendue, est que la trajectoire est claire. L'automatisation arrive. Les médecins devraient se préparer.
J'ai passé les dernières années en tant que médecin en exercice, et la dernière année à construire des systèmes d'accueil IA pour la pratique médicale. J'ai examiné la question sous tous les angles possibles. Et je suis arrivé à la conviction que tous ceux qui demandent « l'IA remplacera-t-elle les médecins ? » posent la mauvaise question.
La bonne question est celle-ci : que fait concrètement le médecin qui ne peut pas être délégué ?
La réponse à cette question change tout sur la façon dont nous devrions construire des systèmes d'IA pour la santé.
Ce que fait réellement un médecin
Quand je vois un patient, je ne traité pas principalement de l'information. N'importe quel modèle suffisamment entraîné peut le faire plus vite et avec plus d'ampleur que moi.
Ce que je fais est quelque chose de différent. Je suis témoin d'une personne dans l'incertitude, je construis un cadre à travers lequel sa situation devient lisible, et — point crucial — je me place dans une position de responsabilité pour ce qui se passe ensuite.
Ce troisième composant n'est pas une cérémonie. Il est structurel.
Quand un médecin signe son nom sur un diagnostic, une recommandation ou un plan, il n'enregistre pas simplement une conclusion. Il accepte une chaîne de conséquences — juridiques, professionnelles, éthiques — qui ne peut pas être transférée à une machine. Un médecin peut se tromper. Un médecin peut être tenu responsable de s'être trompe. Un médecin peut perdre sa licence, faire face à des poursuites et porter le poids moral des résultats qu'il a causes. Cette boucle de responsabilité n'est pas accessoire à la médecine. Elle est la médecine.
Un modèle d'IA, aussi précis soit-il, ne peut pas occuper cette position. Non pas parce que le modèle manque de capacité, mais parce que la responsabilité nécessite un sujet — une entité avec un enjeu dans le résultat, avec quelque chose a perdre, avec la capacité de porter la responsabilité dans le temps.
Ce n'est pas une note de bas de page philosophique. C'est la raison structurelle pour laquelle l'IA ne peut pas remplacer les médecins.
Les capacités réelles de l'IA
Rien de tout cela ne signifie que l'IA est sans pertinence pour la médecine. C'est le contraire qui est vrai. Mais sa pertinence se situe dans un registre différent de ce que la plupart des discussions reconnaissent.
Ce que l'IA peut faire extraordinairement bien :
Structurer l'information fragmentée. Un patient arrivant pour une consultation complexe apporte souvent des années de dossiers éparpillés, de diagnostics partiels et d'historiques mal documentés. L'IA peut ingérer cette fragmentation et faire émerger un tableau cohérent bien plus vite que tout examinateur humain.
Identifier ce qui manque. L'un des échecs les plus constants dans l'accueil clinique n'est pas de collecter les mauvaises informations — c'est de ne pas remarquer que des informations critiques sont absentes. L'IA peut signaler les lacunes systématiquement, sans la fatigue qui cause les oublis des examinateurs humains.
Maintenir la continuité dans le temps. Le suivi post-traitement nécessite une attention constante sur des semaines ou des mois. L'IA peut soutenir cette attention sans dégradation. Elle ne se fatigue pas. Elle n'oublie pas de relancer. (C'est ainsi que nous avons conçu le processus AetherHeal — l'IA gère la continuité tandis que les médecins detiennent l'autorite.)
Reduire les barrières linguistiques et culturelles. Dans les contextes médicaux internationaux, la mauvaise communication n'est pas juste un désagrément — c'est un problème de sécurité des patients. L'IA peut servir d'intermediaire entre les langues avec une cohérence qu'aucun coordinateur humain ne peut égaler à grande échelle.
Ce sont des capacités réelles et significatives. Mais remarquez ce qui les relie toutes : ce sont des capacités de préparation et de soutien, pas de jugement et de responsabilité. L'IA est extraordinaire pour rendre le travail du médecin plus complet, plus précis et plus scalable. Elle est structurellement incapable de remplacer la position du médecin dans la chaîne de responsabilité.
Où les systèmes d'IA échouent en santé
Le mode d'echec que j'observé le plus souvent dans l'IA en santé n'est ni l'hallucination ni l'imprecision. C'est l'autorite mal placée.
Un système est construit pour aider les cliniciens. Avec le temps — à travers des décisions d'expérience utilisateur, l'elargissement du périmètre, ou simplement parce que c'est plus pratique — le système commence à faire des recommandations que les patients traitent comme des décisions. Le médecin devient un tampon. La chaîne de responsabilité se brise sans que personne ne le remarque.
Ce n'est pas hypothétique. C'est un schéma qui se répète dans toutes les industries quand l'automatisation est déployée sans une théorie claire de ce que la responsabilité exige.
En aviation, le piloté automatique n'a pas remplace les pilotes. Il a change ce que font les pilotes — deplacant leur rôle du contrôlé manuel vers la supervision du système, la gestion des exceptions et l'autorite finale dans les situations inédites. La position structurelle du commandant n'a pas change. Le cockpit a change autour de cette position.
La médecine a besoin d'une clarté de conception similaire. La question n'est pas quelle part d'autorite l'IA peut absorber. La question est comment l'IA devrait être positionnée par rapport à l'autorite qui doit rester humaine.
Ce que cela signifie pour construire l'IA en médecine
Quand j'ai construit le système d'accueil pour ma clinique, j'ai garde un principe au centre de chaque décision de conception : l'IA sert la capacité du médecin a juger ; elle ne s'y substitue pas.
Concrètement, cela signifie que l'IA gère la structuration de l'accueil, la détection des lacunes informationnelles et la communication multilingue. Elle produit un dossier de cas qui rend l'examen du médecin plus rapide et plus complet. Mais le médecin lit d'abord les propres mots du patient — avant de voir un résumé. Le médecin valide le cadre décisionnel. Le médecin détient l'autorite qui est transmise à l'hôpital.
L'IA n'est pas en aval du médecin dans cette conception. Elle est en amont — préparant les conditions dans lesquelles un bon jugement médical devient possible.
Cette distinction semble simple. Elle est étonnamment difficile a préserver lors de la construction de systèmes réels, parce que l'IA est véritablement meilleure que les humains pour certaines taches, et il y à une pression constante pour la laisser en faire davantage. Résister à cette pression nécessite un engagement philosophique clair, pas seulement un garde-fou technique.
La question qui mérite d'être posée
Je veux suggérer un cadre différent pour penser l'IA en médecine.
Au lieu de demander « l'IA remplacera-t-elle les médecins ? », demandez : « Que fait un système d'IA bien conçu à la qualité du jugement médical ? »
Si la réponse est « il rend le jugement médical plus rapide, mieux informé et appliqué à des cas mieux préparés » — c'est un système bien conçu.
Si la réponse est « il réduit les cas où le jugement médical est invoqué » — c'est un système dangereux, indépendamment de ses benchmarks de précision.
La question la plus importante dans l'IA en santé n'est pas la capacité. C'est l'architecture. Comment les rôles sont-ils définis ? Où s'arrête l'autorité de l'IA et ou commence celle du médecin ? Que se passe-t-il quand l'IA se trompe, et qui en porte les conséquences ?
Ce ne sont pas des questions d'ingenierie. Ce sont des questions de gouvernance. Et le domaine est en retard pour les poser.
Où je vois cela aller
Je suis optimiste quant à l'IA en médecine — véritablement, pas de maniere performative. Le potentiel de l'IA pour reduire la fragmentation informationnelle, les échecs de communication et les lacunes de continuité qui nuisent aux patients chaque jour est réel et considérable.
Mais ce potentiel ne se réalisé que si les systèmes sont conçus avec une clarté structurelle sur ce que font les médecins qui ne peut pas être automatisé. La précision sans responsabilité n'est pas une solution. C'est une nouvelle forme du problème original.
Les médecins qui prospéreront dans la prochaine décennie ne sont pas ceux qui résistent à l'IA. Ce sont ceux qui comprennent, précisément, ce que l'IA peut faire mieux qu'eux — et qui conçoivent des systèmes qui utilisent cette capacité pour étendre leur jugement plutôt que pour le remplacer.
C'est la question autour de laquelle je construis. Je ne pense pas qu'elle ait encore été résolue. Mais c'est la bonne question.
Pour la recherche sous-jacente sur la performance de l'IA, ses modes d'echec et sa gouvernance dans la prise de décision clinique, la littérature PubMed sur l'IA dans la prise de décision clinique constitue un bon point de départ.
Le Dr. Jee Hoon Ju est médecin et fondateur d'AetherHeal, une plateforme dirigée par des médecins pour les patients internationaux envisageant des soins médicaux en Corée. En savoir plus sur la gouvernance de l'IA au sein du processus AetherHeal, ou découvrez pourquoi la Corée est devenue une destination pour les soins médicaux.
Questions fréquentes
- L'IA peut-elle remplacer les médecins en santé ?
- Non, et formuler la question ainsi passe à côté de l'essentiel. Ce que les médecins font qui ne peut être délégué n'est pas le traitement de l'information — l'IA peut déjà le faire plus rapidement et plus largement. C'est la responsabilité : signer son nom sur une décision et accepter ses conséquences juridiques, professionnelles et éthiques. La responsabilité exige un sujet ayant quelque chose à perdre. Un modèle, aussi précis soit-il, ne peut pas occuper cette position, c'est pourquoi l'IA peut étendre le jugement du médecin mais ne peut pas le remplacer.
- Que peut faire l'IA de bien en médecine ?
- L'IA est extraordinairement bonne à quatre choses : structurer des dossiers patients fragmentés en un tableau cohérent, faire émerger systématiquement les informations manquantes d'un accueil, maintenir une attention continue sur des semaines ou des mois sans fatigue, et médier les barrières linguistiques et culturelles dans les contextes médicaux internationaux. Ce sont toutes des capacités de préparation et de soutien — elles rendent le travail du médecin plus complet et scalable, sans toucher à sa position de responsabilité.
- Quel est le principal mode d'échec de l'IA en santé ?
- L'échec le plus courant n'est pas l'hallucination ou l'inexactitude factuelle. C'est l'autorité mal placée. Un système est construit pour aider les cliniciens, et avec le temps — par dérive UX, élargissement du périmètre ou commodité — il commence à faire des recommandations que les patients traitent comme des décisions. Le médecin devient un tampon, et la chaîne de responsabilité se brise sans que personne ne le remarque. C'est un échec de gouvernance, pas d'ingénierie, et il se répète dans toutes les industries chaque fois que l'automatisation est déployée sans une théorie claire de la responsabilité.
- Comment l'IA devrait-elle être positionnée par rapport aux médecins ?
- L'IA devrait se situer en amont du médecin, pas en aval. Elle devrait préparer les conditions dans lesquelles un bon jugement médical devient possible — structurer le dossier, signaler les lacunes, traduire entre les langues, maintenir la continuité. Le médecin devrait lire les propres mots du patient avant de voir tout résumé de l'IA, valider le cadre décisionnel et détenir l'autorité qui est transmise à l'hôpital. L'IA sert la capacité du médecin à juger ; elle ne s'y substitue pas.
- Quelle est la bonne question à poser sur l'IA en médecine ?
- Au lieu de demander si l'IA remplacera les médecins, demandez ce qu'un système d'IA bien conçu fait à la qualité du jugement médical. S'il rend le jugement plus rapide, mieux informé et appliqué à des cas mieux préparés, le système est bien conçu. S'il réduit les cas où le jugement du médecin est invoqué, le système est dangereux quels que soient ses benchmarks de précision. La question importante est architecturale, pas liée à la capacité.
- Comment l'IA est-elle gouvernée au sein d'AetherHeal ?
- Chez AetherHeal, l'IA gère la structuration de l'accueil, la détection des lacunes informationnelles et la communication multilingue — mais le médecin lit d'abord les propres mots du patient, avant de voir tout résumé de l'IA. Le médecin valide le cadre décisionnel et détient l'autorité transmise à l'hôpital. Le principe est simple : l'IA sert la capacité du médecin à juger, et ne s'y substitue jamais. Préserver cette frontière exige un engagement philosophique, pas seulement un garde-fou technique.
- Le fait que l'IA surpasse les médecins sur les benchmarks signifie-t-il qu'elle devrait les remplacer ?
- La performance aux benchmarks n'est pas la bonne métrique. Les scores aux examens du conseil, la précision diagnostique sur des tâches d'imagerie sélectionnées et des comptes rendus de sortie plus rapides montrent ce que l'IA peut calculer — pas ce dont elle peut être tenue responsable. Un modèle qui surpasse les internes à un test ne peut toujours pas perdre sa licence, faire face à un litige ou porter le poids moral des résultats dans le temps. La précision sans responsabilité n'est pas une solution ; c'est une nouvelle forme du problème original.