Par Camila Cortés
Le Conseil fédéral de médecine (CFM) a publié une nouvelle résolution sur l'utilisation de l'intelligence artificielle (IA) appliquée à la pratique médicale au Brésil. Cette publication du CFM constitue une étape historique. En établissant des lignes directrices sur la gouvernance, la classification des risques, la surveillance humaine obligatoire et la protection des données, le CFM cherche à combler une lacune réglementaire qui ne pourrait plus exister compte tenu de l’intégration rapide de la technologie dans les soins de santé.
D'un point de vue réglementaire, c'est une avancée. D’un point de vue juridique, cependant, un nouveau champ de complexité s’ouvre, notamment en ce qui concerne la responsabilité civile, la gouvernance institutionnelle et la protection des droits fondamentaux.
La décision finale appartient au médecin – mais le risque est-il partagé ?
La résolution est catégorique : l’IA est un outil d’assistance ; La décision finale est toujours prise par le médecin. La norme prévoit également que le professionnel ne sera pas tenu responsable des défaillances imputables exclusivement au système, pour autant qu'une utilisation diligente, critique et éthique de l'outil soit prouvée.
C'est ici que se pose le premier défi : dans la pratique médico-légale, la distinction entre « défaillance du système » et « défaut d'utilisation du système » sera extrêmement délicate. Comment prouver que le médecin a fait preuve d’un jugement critique suffisant ? Quelle sera la norme de preuve requise ? Le simple fait d’enregistrer l’utilisation de l’IA dans un dossier médical suffira-t-il à faire preuve de diligence ?
En cas de litige, le débat peut impliquer des expertises complexes sur le fonctionnement algorithmique, les biais de formation, la base de données utilisée et le niveau d'autonomie du système. Le risque est que le médecin reste le pôle passif naturel des actions, tandis que les développeurs et fournisseurs de technologies restent en marge du débat procédural.
La responsabilité des institutions et le devoir de gouvernance
La norme exige que les établissements qui développent ou utilisent leurs propres systèmes établissent des processus de gouvernance interne et, le cas échéant, créent un comité d’IA et de télémédecine sous coordination médicale.
Les hôpitaux et cliniques qui adoptent des solutions d’IA sans une structure de gouvernance solide, incluant la validation technique, les audits, le contrôle des préjugés et la traçabilité des décisions, peuvent être tenus responsables d’une défaillance organisationnelle. En d’autres termes, l’IA n’est plus seulement un outil technologique et devient partie intégrante de la mission de sécurité structurelle du service de santé.
Transparence et consentement : que signifie « informer le patient » ?
La résolution garantit aux patients le droit d’être informés chaque fois que l’IA est utilisée comme soutien pertinent dans leurs soins.
Mais que signifie en pratique une information adéquate ?
Un terme générique dans le contrat de prestation de services est-il suffisant ? Un consentement spécifique sera-t-il requis pour chaque utilisation ? Comment expliquer au patient comment fonctionne un modèle prédictif basé sur le deep learning, dont la logique interne peut être opaque même pour les experts ?
La « boîte noire algorithmique » remet en question le principe bioéthique d’autonomie. Si le patient ne comprend pas du tout comment fonctionne la technologie, sa décision est-elle vraiment libre ?
Supervision humaine obligatoire : concept clair, application complexe
La norme réaffirme que l’IA ne peut remplacer les médecins et que la supervision humaine est obligatoire.
Cependant, plus les systèmes sont sophistiqués, notamment ceux à haute précision de diagnostic, plus le risque de « biais d'automatisation » : la tendance du professionnel à se fier de manière excessive aux recommandations de la machine est grand.
Si le médecin suit la recommandation et qu'un préjudice survient, il pourra lui être reproché d'avoir indûment délégué son autonomie. Si vous rejetez la recommandation et que le résultat est négatif, vous pourrez être interrogé pour ne pas avoir suivi un outil considéré comme techniquement supérieur.
L’équilibre entre autonomie professionnelle et responsabilité sera un terrain fertile pour les contentieux.
Avancement éthique, défis juridiques
La résolution est nécessaire et opportune. Elle reconnaît que l’IA est déjà une réalité et établit des lignes directrices importantes : supervision humaine, centralité du médecin, protection des données et respect de la dignité de la personne humaine.
Cependant, la réglementation éthique n’élimine pas les conflits juridiques : elle ne fait que les organiser.
Nous entrons dans une nouvelle phase du droit médical, dans laquelle l’analyse des dossiers médicaux partagera l’espace avec l’analyse des journaux système, les audits algorithmiques et les rapports de formation des modèles techniques.
L'intelligence artificielle peut accroître la sécurité et l'efficacité de la médecine. Mais s’il n’y a pas de maturité institutionnelle, de clarté contractuelle entre les médecins, les hôpitaux et les promoteurs et une solide culture de conformité, cela peut également accroître les litiges.
La technologie est un outil. La responsabilité reste humaine.
*Camila Cortez est avocate, fondatrice de KCortez Consultoria, directrice et professeur à l'Institut BIOMEDS.
