Le problème vient avant l’outil
Selon Loufek, les échecs de mise en œuvre de l’IA dans les hôpitaux se concentrent aux deux extrémités opposées du processus. La première consiste à choisir la solution.
« Avant de choisir un outil d’IA, vous devez identifier le problème que vous souhaitez résoudre au sein de l’organisation, car l’IA n’est peut-être pas la bonne solution au problème rencontré », explique-t-il.
Sans un réel problème derrière le choix, l’outil n’est tout simplement pas adopté dans la pratique. « Si vous choisissez simplement un outil d'IA parce que vous souhaitez l'utiliser, vous ne serez pas adopté dans la pratique, car cela ne résoudra peut-être pas le problème que vous essayez de résoudre », explique Loufek.
Sa recommandation est que les organisations investissent dans la compréhension de leurs propres problèmes avant d’évaluer une solution, en travaillant avec des experts pour découvrir si l’IA aide réellement à les résoudre – remettant en question un comportement courant sur le marché de la santé : acheter la technologie pour la promesse qu’elle porte, et non pour la douleur qu’elle résout réellement.
La surveillance ne s'arrête pas au déploiement
La deuxième partie du problème apparaît une fois que la solution est déjà utilisée. « Une chose très importante pour l'IA, en particulier pour l'IA générative, est que vous disposez de pratiques de surveillance post-déploiement », explique Loufek.
Ce suivi doit répondre à deux questions différentes, qui semblent proches mais ont rarement la même réponse : le produit fonctionne-t-il comme prévu et est-il utilisé comme prévu ? Un outil peut fonctionner techniquement correctement tout en étant utilisé d’une manière différente de celle pour laquelle il a été conçu – ou tout simplement cesser d’être utilisé, sans que l’institution ne s’en aperçoive à temps pour agir.
« Nous constatons que certains outils sont déployés dans la pratique sans suffisamment de convivialité ni de preuves préliminaires, et ils ne finissent tout simplement pas par être adoptés par les utilisateurs finaux », explique Loufek.
La recommandation est claire : l’investissement initial dans une solution d’IA doit s’accompagner d’un investissement continu dans le suivi après la mise en œuvre. Pour elle, la gouvernance de l’IA n’est pas un projet qui se termine par une livraison, mais un processus permanent. Il est courant que les hôpitaux considèrent la mise en œuvre comme une étape vers l’achèvement, alors qu’elle devrait être le début d’un cycle de surveillance permanent.
Plus de responsabilité pour les institutions
Interrogé sur l'avenir de la réglementation de l'IA dans le domaine de la santé, Loufek a souligné une tendance qui se dessine déjà aux États-Unis : une position réglementaire qui favorise l'innovation au détriment d'une surveillance plus stricte, comme en témoigne l'élargissement, par la FDA (United States Food and Drug Administration), du champ d'application des outils qui ne doivent pas suivre les réglementations traditionnelles sur les dispositifs médicaux.
Mais ce scénario a une contrepartie directe. « Cela signifie que les établissements de santé devront assumer davantage de responsabilités et, dans certains cas, assumer la responsabilité de l'utilisation de ces outils qui autrement seraient examinés par la FDA », explique Loufek.
En pratique, il appartient aux hôpitaux eux-mêmes de réfléchir systématiquement à la manière de revoir ces outils avant leur mise en œuvre, en définissant quelles dimensions d'un produit sont importantes pour l'organisation et les patients qu'elle sert, en particulier pour les produits qui ne seront pas réglementés par des organismes externes.
Même si le contexte réglementaire est différent de celui américain, le message constitue un avertissement opportun pour le Brésil, qui continue de créer ses propres règles pour l’IA dans le domaine de la santé. La responsabilité de la sécurité et de l’efficacité de ces solutions ne peut dépendre exclusivement de la réglementation externe, actuelle ou future.
Loufek attire également l'attention sur la croissance de la technologie portable, la FDA exemptant les dispositifs non invasifs de collecte de données biométriques des exigences réglementaires traditionnelles. Les hôpitaux devront être préparés à accueillir des patients arrivant en pratique clinique avec des données provenant d’appareils portables, « dont certains pourraient ne pas être validés au niveau des dispositifs médicaux de la FDA », note-t-il – un défi qui frappe déjà aux portes des institutions brésiliennes.
L’avantage concurrentiel est en marche
Les apprentissages de Brenna Loufek convergent vers la même conclusion : la Mayo Clinic n'est pas devenue une référence en matière d'IA dans les soins de santé parce qu'elle a adopté plus de technologie que d'autres institutions, mais parce qu'elle a construit des processus de gouvernance cohérents – depuis l'identification minutieuse des problèmes que l'IA devrait résoudre jusqu'à la surveillance continue après sa mise en œuvre, en passant par la responsabilité croissante que les institutions doivent assumer face à un paysage réglementaire changeant.
Pour les hôpitaux brésiliens, trois fronts forment une feuille de route pratique, applicable quelle que soit la taille de l'institution : définition du problème avant l'outil, suivi continu après la mise en œuvre et responsabilité institutionnelle dans l'évaluation des solutions.
Le message de l’expérience de la Mayo Clinic est clair : l’avantage concurrentiel à l’ère de l’intelligence artificielle ne résidera pas dans ceux qui l’adopteront le plus rapidement, mais dans ceux qui mettront systématiquement en place les processus garantissant que la technologie résout de vrais problèmes, est utilisée par les professionnels de santé et continue à apporter de la valeur longtemps après le jour de sa mise en œuvre.
En parallèle avec le marché brésilien
L'expérience de la Mayo Clinic trouve un écho direct dans la réalité des institutions brésiliennes, selon Murilo Fernandes, directeur des nouvelles affaires chez EVAL. Pour lui, l’apprentissage principal est le même : il faut se concentrer sur le processus et non sur l’outil.
« Il n'y a pas d'approche statique des projets d'IA. Une fois les agents mis en œuvre dans le processus, l'amélioration devient continue », explique Fernandes. Il reconnaît que cette caractéristique peut sembler, à première vue, être un point négatif : après tout, elle nécessite une surveillance permanente. Mais c’est précisément dans ce cycle d’amélioration continue que le projet d’IA se justifie, notamment parce que la technologie elle-même offre une vitesse de mise en œuvre suffisante pour rendre cet ajustement constant viable dans la pratique.
Pour cette raison, Fernandes recommande aux hôpitaux d’adopter des plateformes permettant aux équipes commerciales, de processus et technologiques de créer leurs propres agents de manière indépendante. « De cette façon, le coût de l'amélioration continue ne devient pas une charge sur le budget du projet et la solution continue de fournir des indicateurs positifs », conclut-il.
_____
→ Découvrez d'autres cas d'usage et parlez à un expert
