Par Gabriela Lacerda et Luis Felipe Silveira
L’utilisation de l’intelligence artificielle dans la recherche et le développement de nouveaux médicaments est devenue l’une des transformations les plus importantes survenues dans l’industrie pharmaceutique au cours des dernières décennies, alimentant le débat sur la manière d’encadrer légalement l’application de systèmes algorithmiques dans des environnements hautement réglementés. Des modèles d'apprentissage automatique sont déjà utilisés pour identifier des molécules prometteuses, analyser de grands volumes de données cliniques et, dans certains scénarios, aider directement à la sélection des participants aux essais cliniques.
L’incorporation de ces technologies n’est plus seulement expérimentale : elle commence à influencer les étapes critiques de la recherche, avec un impact direct sur le temps, le coût et la qualité des résultats. La promesse est claire : accélérer le développement des thérapies et réduire les coûts dans un secteur historiquement marqué par des cycles longs et des investissements élevés. Dans ce contexte, le débat juridique cesse d’être accessoire et devient structurel, notamment sur les marchés où la régulation n’a pas encore suivi le rythme de l’innovation.
Alors que des décisions importantes dans le processus scientifique commencent à être influencées par des systèmes algorithmiques, une question centrale pour Law se pose : qui assume les risques découlant de ces décisions lorsque l’erreur n’est pas humaine, mais technologique ? En d’autres termes, comment pouvons-nous attribuer des responsabilités lorsqu’un résultat indésirable découle d’un biais dans les données, des limites du modèle ou de l’utilisation d’un outil en dehors du contexte pour lequel il a été conçu ?
Cette question n'est pas théorique. Dans des applications concrètes, telles que la sélection des participants ou l'analyse des données cliniques, de petites distorsions dans les performances d'un modèle peuvent avoir un impact direct sur l'intégrité de l'étude et la sécurité des participants.
Cette discussion devient encore plus complexe compte tenu du scénario réglementaire brésilien. Les normes qui régissent la recherche clinique ont été élaborées dans un contexte antérieur à la diffusion des systèmes d’intelligence artificielle. La résolution n° 466/2012 du CNS reste une référence éthique et le cadre juridique a été mis à jour avec la loi n° 14 874/2024, qui prévoit des principes, des lignes directrices et des règles pour mener des recherches avec des êtres humains et qui établit le système national d'éthique de la recherche avec des êtres humains. Dans le domaine de la santé, Anvisa a considérablement mis à jour la discipline des essais cliniques avec le RDC nº 945/2024, accompagné d'actes complémentaires et de documents d'orientation, comme le matériel Questions et Réponses publié après la première année de validité.
Pourtant, lorsqu’il s’agit de l’intelligence artificielle, le pays continue de se passer d’une discipline publique spécifique et structurée équivalente à celle qui existe déjà en Europe et aux États-Unis, visant à organiser les obligations de gouvernance, la transparence et la responsabilité des niveaux de risque. Cela ne veut pas dire que l’IA fonctionne dans un vide réglementaire, car les principes et devoirs généraux restent applicables, mais reconnaître que le système n’offre pas encore directement de paramètres normatifs conçus pour faire face aux risques typiques des systèmes algorithmiques dans la santé et la recherche clinique.
À ce stade, le droit comparé permet d’éclairer différentes voies réglementaires. Dans l’Union européenne, l’IA Act consolide une approche basée sur les risques, avec des règles progressistes et une plus grande densité normative ex ante, notamment dans des contextes sensibles comme celui de la santé. Aux États-Unis, en revanche, la discipline de l’intelligence artificielle suit un modèle plus fragmenté guidé par une réglementation sectorielle, avec un accent sur le rôle de la FDA, qui a donné la priorité aux directives techniques, à la validation continue et au contrôle des changements dans les systèmes logiciels, plutôt qu’à un régime général global.
Que ce soit dans un modèle plus standardisé et préventif, comme le modèle européen, ou dans un dispositif plus sectoriel guidé par des lignes directrices et des inspections, comme le modèle nord-américain, le message est le même : les systèmes à plus haut risque nécessitent plus de contrôle et plus de traçabilité. Au Brésil, où il n’existe pas encore de discipline équivalente et spécifique pour l’IA dans la recherche clinique, cette fonction repose davantage sur les contrats, qui commencent à organiser l’utilisation de la technologie et à répartir les responsabilités de manière vérifiable.
Dans ce contexte, certaines évolutions contractuelles sont particulièrement essentielles pour apporter de la prévisibilité à une question encore « en construction » d’un point de vue réglementaire au Brésil.
Le premier est la délimitation claire des finalités et du périmètre d’utilisation de l’IA au sein de l’étude, empêchant l’application de l’outil au-delà de ce qui a été convenu et évalué comme compatible avec le protocole.
La seconde est l’exigence de démonstrations minimales d’adéquation au contexte de recherche clinique, afin que l’utilisation ne repose pas uniquement sur des affirmations générales d’efficacité, mais sur des fondements techniques proportionnés au risque et cohérents avec la nature du projet.
Le troisième est la création de règles qui préservent la stabilité de la conception convenue, notamment face à des ajustements pertinents de la technologie ou du mode de fonctionnement, afin que des changements importants ne se produisent pas silencieusement et sans gestion entre les parties. Ce point devient particulièrement sensible dans les systèmes soumis à des mises à jour fréquentes ou à un apprentissage continu. Apparemment, des changements progressifs peuvent générer des impacts significatifs sur les résultats de l’étude, sans que cela soit immédiatement perceptible. Les contrats doivent donc traiter les mises à jour comme des événements juridiquement pertinents, et non comme de simples ajustements techniques, d'autant plus que, dans ce contexte, la nature même du changement cesse d'être évidente.
Le quatrième, et peut-être le plus sensible, est la répartition objective des responsabilités, là où précisément l’IA tend à diluer les responsabilités, garantissant que chaque agent répond pour la part du risque qu’il contrôle effectivement dans la chaîne d’étude. Dans les structures associant sponsors, CRO et fournisseurs de technologie, l’absence de cette définition tend à générer des conflits ex post sur la responsabilité des pannes dont l’origine se répartit entre données, modèle et usage opérationnel. La répartition préalable des responsabilités réduit ce type de frictions et évite que le contrat ne devienne inutile au moment même où les besoins sont les plus grands.
La pertinence de ceci est pratique. Dans la recherche clinique, la sécurité juridique ne repose pas seulement sur des déclarations abstraites de diligence, mais sur la cohérence entre la conception, la documentation et l'exécution. Lorsqu’une technologie ayant un potentiel décisionnel entre dans le flux d’études, ce qui est attendu d’un point de vue juridique, c’est que son utilisation soit compatible avec les normes d’intégrité et de prévisibilité, et qu’il existe une architecture de responsabilités qui ne dépende pas de reconstructions difficiles au moment du conflit. C’est dans ce contexte que les contrats doivent être négociés comme un instrument de faisabilité, réduisant les frictions entre les acteurs de l’écosystème, établissant une norme de gouvernance commune et créant un niveau d’organisation des risques alors que le pays n’a pas encore consolidé une réglementation publique spécifique en la matière. Cela devient particulièrement pertinent, par exemple, dans les situations où des outils sont utilisés pour soutenir le dépistage des participants ou l'analyse des données cliniques, où de petites variations de performances ou des biais peuvent avoir un impact direct sur l'intégrité de l'étude et la sécurité des participants.
L’absence de cette clarté tend à générer un effet connu dans les structures contractuelles complexes : le mélange des risques entre plusieurs agents, rendant difficile l’identification des responsabilités et augmentant les risques de litiges. Dans les contextes impliquant l’intelligence artificielle, ce risque est encore plus accentué, précisément parce que la prise de décision commence à dépendre de systèmes dont la logique n’est pas toujours immédiatement transparente pour toutes les personnes impliquées et n’a pas toujours de sens dans chaque contexte spécifique.
Il ne s’agit pas seulement de suivre l’innovation technologique, mais de créer des structures permettant son utilisation avec une sécurité juridique. Dans la recherche clinique, en particulier, l’intelligence artificielle tend à accroître la vitesse et la sophistication de la production scientifique, mais elle déplace également le centre de responsabilité vers un modèle dans lequel la gouvernance et la répartition des risques doivent être clairement définies.
Même si ce débat ne se traduit pas par des réglementations publiques spécifiques au Brésil, la maturité contractuelle n’est plus seulement une bonne pratique mais devient un différenciateur concret. Dans un environnement où la technologie, la science et la réglementation évoluent à des rythmes différents, des contrats bien structurés non seulement atténuent les risques, mais ils permettent l’innovation elle-même avec une sécurité juridique et une confiance institutionnelle.
*Gabriela Lacerda est avocate senior dans le domaine des contrats et Luis Felipe Dalmedico Silveira est associé dans le domaine des contrats et des infrastructures chez Finocchio & Ustra Advogados.
