Intéressant : Chaque outil d'IA médicale affiche plus de 85% de précision quand on le teste seul. Diagnostic par imagerie, transcription vocale, aide au diagnostic : pris individuellement, c'est impressionnant. Mais quand on les combine dans un parcours de soin réel, la fiabilité tombe à 74%.
C'est le résultat d'une analyse du chercheur coréen Kwansub Yun : si le premier outil commet une erreur, le suivant ne peut pas la détecter. Il la propage. Et le troisième outil amplifie le tout. C'est ce qu'on appelle une cascade d'erreurs.
Le problème c’est que la régulation actuelle n'évalue que chaque outil isolément. Jamais le parcours complet. La FDA certifie une IA de transcription d'un côté, une IA d'imagerie de l'autre, mais personne ne teste ce qui se passe quand les deux travaillent ensemble sur le même patient.
En fait c’est exactement le même problème dans les entreprises. Chaque employé gagne en productivité avec l'IA, mais les process internes n'ont pas été repensés pour l'ère de l'IA. Résultat : des gains individuels qui se perdent dans des organisations conçues pour le monde d'avant. On a les outils, il manque la tuyauterie.