Qui tient le scalpel lorsque l’IA et l’algorithme fonctionnent ?

Par Eduardo Carvalho

En 1632, le jeune Rembrandt peint « La leçon d'anatomie du Dr Tulp ». Au centre, le corps pâle d'un condamné, à gauche, le docteur Nicolaes Tulp soulève les muscles de son avant-bras avec une pince à épiler, et sept hommes se penchent avec curiosité. Quiconque observe calmement remarque le détail déconcertant : certains yeux ne sont pas tournés vers le corps qui repose là, mais vers le grand livre ouvert au pied de la table. Le savoir, à cette époque, était déjà partagé entre la chair et le manuel. Près de quatre siècles plus tard, le livre est devenu une toile, l’atlas est devenu un algorithme et la question que suggère le tableau est devenue urgente et puissante : « quand la main qui coupe obéit à une machine qui calcule, qui est responsable de l’erreur ?

La chirurgie guidée par l’intelligence artificielle n’est plus une fiction. Les robots chirurgicaux sont déjà monnaie courante dans les grands hôpitaux brésiliens, les systèmes de vision par ordinateur identifient les marges tumorales en temps réel et la téléchirurgie permet à un spécialiste d'opérer à des centaines de kilomètres du patient. Dans une affaire récente, jugée en juillet de cette année, le 4ème Collège du STJ a forcé un régime de santé à payer une prostatectomie robotisée pour un patient atteint de cancer, même en dehors de la liste de l'ANS. La technologie a franchi la porte d’entrée du pouvoir judiciaire. Il reste à voir comment cela se passera lorsque (et si) quelque chose tourne mal.

La mythologie grecque avait déjà anticipé ce dilemme. Prenons l'exemple de Dédale, le plus grand artisan de Crète, qui construisit des ailes de plumes et de cire pour échapper au labyrinthe avec son fils et le prévint de ne pas voler trop près du soleil, qui ferait fondre la cire, ni trop près de la mer, qui détremperait les plumes. Icare désobéit et, comme nous le savons, tomba. La tragédie contient, en miniature, toute la théorie moderne de la responsabilité civile. Si les ailes s'effondraient au cours d'un vol prudent, ce serait la faute du projet, c'est-à-dire de celui qui les a fabriqués. S'ils sont tombés parce que l'utilisateur a ignoré l'avertissement, c'est la faute de la personne qui a volé. Si la cire était fragile et le vol également imprudent, ils partagent tous les deux la facture.

Au siècle dernier, le philosophe Hans Jonas s’est rendu compte que la technologie moderne exigeait une nouvelle éthique. Dans Le principe de responsabilité, de 1979, il affirmait que, lorsque le pouvoir humain d’intervenir dans le monde augmente, le devoir de prévoir les conséquences augmente dans la même mesure. L'ère de la médecine à distance reflète exactement la position de Hans, car la portée du geste médical s'est élargie et, avec elle, le cercle de ceux qui doivent réagir s'est élargi.

Commençons par le professionnel. Le Code d'Éthique Médicale, approuvé par la Résolution CFM 2.217/2018, dans son article 1, est direct et objectif en établissant qu'il est interdit aux médecins de causer un préjudice aux patients par faute professionnelle, imprudence ou négligence, et que leur responsabilité est toujours personnelle et ne peut être présumée. Dans ce même Code, l'article 34 interdit également de ne pas informer le patient des risques et des objectifs du traitement. Les résolutions du CFM sur la chirurgie robotique (2 311/2022) et la télémédecine (2 314/2022) suivent le même chemin et nécessitent une formation spécifique, une équipe capable d'intervenir auprès du patient et les mêmes devoirs éthiques que les soins en présentiel.

Sur le plan civil, l'article 951 du Code civil et l'article 14, alinéa 4, du Code de la consommation exigent la preuve de culpabilité pour engager la responsabilité du professionnel indépendant. L’intelligence artificielle ne change pas cette équation, elle ne fait que la nuancer. Le chirurgien qui accepte aveuglément la suggestion de l'algorithme, qui ne sait pas comment éteindre le système lorsqu'il se comporte anormalement ou qui ne dit pas au patient qu'une partie de la décision sera automatisée, agit avec culpabilité. La machine est un instrument, comme un scalpel ou une curette. Il n'y a aucun moyen de tenir l'instrument responsable des dommages.

De l’autre côté de la table se trouvent ceux qui fabriquent, programment et vendent le système. Ici, la logique est différente. Aux termes de l'article 12 du Code de la consommation, le fabricant est responsable, quelle que soit la faute, des dommages causés par des défauts de conception, de fabrication ou d'information, et le produit est considéré comme défectueux lorsqu'il n'offre pas la sécurité légitimement attendue.

Le Code Civil va dans le même sens lorsqu'en son article 931 il rend les entrepreneurs responsables des produits mis en circulation, et, dans le même ordre d'idées, l'unique alinéa de l'article 927 de la même loi impose une responsabilité objective à ceux qui explorent des activités à risque. Ainsi, un logiciel qui interprète mal une image, qui comporte un biais d’entraînement ou qui ne vous alerte pas sur ses propres limites, est un produit défectueux. L'hôpital et l'entreprise qui font partie de la chaîne d'approvisionnement répondent conjointement à la victime et conviennent ensuite entre eux de qui paie quoi et combien. C'est l'ordre express des articles 7 et 25 du Code de la consommation et de l'article 942 du Code civil.

Pensons à l'aviation comme une analogie. Le commandant d’un avion moderne passe une bonne partie du vol avec le pilote automatique activé. Si vous ignorez une alarme ou ne respectez pas le protocole, il s’agit d’une erreur humaine. Mais lorsque le logiciel mal conçu de l’avion lui-même pousse le nez vers le bas et que les pilotes n’étaient même pas informés de son existence (comme dans les accidents du Boeing 737 MAX en 2018 et 2019), la responsabilité incombe à celui qui a conçu et certifié la machine.

Ramenons la scène au bloc opératoire. Dans le premier scénario, le système avertit que l’artère aortique se trouve à un millimètre de la lame, le chirurgien ignore l’avertissement et sectionne le vaisseau. Le médecin répond, et avec lui l'hôpital, car la défaillance du professionnel fait partie du service. Dans le second, l'algorithme, en raison d'une erreur de programmation, signale que la zone est libre, le médecin agit avec toute la diligence et la prudence nécessaires, mais la même artère est sectionnée. L'entreprise est objectivement responsable et l'hôpital est solidairement responsable envers le patient, avec droit de recours contre le fabricant. Dans le troisième cas, le système tombe en panne et le médecin, même s'il a remarqué l'anomalie, n'interrompt pas la procédure. Tout le monde répond.

La Cour supérieure de justice a déjà établi cette règle, même sans robots. En août 2025, le Troisième Panel, dans le REsp 2.034.495/MG, rapporté par la ministre Daniela Teixeira, a supprimé la condamnation conjointe automatique d'un chirurgien en raison de la faute exclusive de l'anesthésiste et a exigé l'individualisation de la faute de chaque professionnel, sans préjudice de la responsabilité des institutions en cas de défaillance dans la prestation globale du service. C'est la logique de la peinture de Rembrandt que chaque main est responsable de ce qu'elle a fait sur la table.

Dans un sens complémentaire, dans le REsp 1.556.973/PE, rapporté par la Ministre Nancy Andrighi, le STJ a exempté un hôpital parce que les dommages résultaient exclusivement du sérum contaminé encore dans l'usine, précisant que la responsabilité objective de l'hôpital n'est pas absolue et que le défaut de fabrication incombe au fabricant dans cette relation. Remplaçons le sérum par le logiciel, et la règle sera prête, donc lorsque le défaut survient dans le produit, la responsabilité appartient à celui qui l'a produit.

Le fil qui suture les deux jugements tient dans une phrase concluante : « chacun est responsable du risque qu’il domine ». Le médecin domine l'acte et est responsable de la culpabilité, qui doit être prouvée et individualisée, comme le déterminent l'article 951 du Code civil, l'article 14, § 4, du Code de protection de la consommation et l'article 1 du Code de déontologie médicale. L'entreprise contrôle le produit et est responsable du défaut, qu'il soit fautif ou non, car c'est ce que prescrit l'article 12 du Code de la consommation et les articles 927, alinéa unique, et 931, tous deux du Code civil. L'hôpital, qui organise le service et choisit (in eligendo) la technologie, est responsable envers le patient à ses côtés, afin que la victime n'ait jamais à démêler seule le labyrinthe technique de celui qui s'est trompé. C'est ce qui ressort des articles 7 et 14 du Code de la consommation et de l'article 942 du Code civil.

En outre, la loi doit suivre les changements de la société, et le Parlement va dans la même direction avec le PL 2 338/2023, approuvé par le Sénat en décembre 2024, qui considère les applications de l'intelligence artificielle dans la santé comme à haut risque et renvoie la réparation des dommages au CDC et au Code civil. Le texte reste cependant en commission spéciale de la Chambre des députés, où jusqu'en octobre 2026 l'avis du rapporteur n'avait pas été présenté, et coexiste avec des propositions plus récentes, comme la PL 762/2026, visant des systèmes à fort impact. Lorsque la loi entrera en vigueur, elle devrait consolider ce que la jurisprudence et la pratique ont déjà laissé entendre.

Donc, par conception, revenons au tableau de Rembrandt. Le maître a placé le livre aux pieds du cadavre et non entre les mains du médecin, peut-être par prédiction divine, peut-être par prophétie de génie, ou peut-être parce qu'il voulait nous montrer que la connaissance technique doit éclairer, mais jamais remplacer celui qui tient la pince à épiler. L'intelligence artificielle est le nouvel atlas de l'anatomie, et elle peut être extraordinaire, mais lorsque le patient saigne, il faut faire appel à quelqu'un de chair et de sang et à un CNPJ pour réagir.


*Eduardo Carvalho est directeur juridique de Martos e Espinace Advogados.