Des études récentes montrent que malgré l'évolution des modèles, le risque persiste. En mai 2025, l'article «Le cadre pour évaluer les taux de sécurité et d'hallucination cliniques des LLM pour le résumé de texte médical», publié dans le NPJ Digital Medicine (Journal of Nature Specialized in Digital Health), a présenté une méthode avec révision de 12 999 phrases notées par des médecins, identifiant 1,47% d'hallucinations et 3,45% des ommissions, même dans des réponses sembler complètes. L'avertissement bien sûr: la technologie sans conservation n'est pas suffisante pour la pratique clinique.
La réalité du secteur en nécessite plus. Selon les données publiées par le Conseil national de justice (CNJ) en avril 2025, le Brésil a enregistré 657 000 nouvelles poursuites en santé en 2024, une croissance de 15% par rapport à l'année précédente. Dans l'État de São Paulo, cette augmentation était encore plus expressive: 75% entre 2021 et 2025, selon l'annuaire de la justice de São Paulo. Une partie de ces actions est liée aux décisions cliniques contestées, dont beaucoup sont faites dans des environnements à haute pression tels que les USI et les urgences. Cela montre que les outils capables de s'inscrire, de justifier et d'expliquer les décisions techniques sont également des mécanismes de protection institutionnels.
En plus des aspects juridiques, la confiance du public entre également en jeu. Une enquête de Jama Network Open (février 2025) a révélé que 65,8% des adultes américains ont une faible confiance dans la capacité du système de santé à utiliser l'IA de manière responsable. Dans la même étude, 57,7% ont exprimé leur souci de dommages potentiels causés par ces technologies. Dans un scénario mondial, une enquête menée par l'Université de Melbourne et KPMG avec plus de 48 000 participants a indiqué que seulement 54% des personnes font confiance en général, et moins de la moitié pensent que la réglementation existante est suffisante.
Compte tenu de ce scénario, la nécessité d'une IA avec le Curado clinique gagne en force. Contrairement aux modèles généralistes – formés avec des données Internet ouvertes et sans validation technique – cette approche est basée sur des sources scientifiques fiables, des protocoles cliniques mis à jour et une supervision directe des professionnels de la santé. Plus que d'éviter les erreurs, il soutient la prise de décision efficace, avec traçabilité, explicabilité et adhésion à la réalité des soins des institutions.
La conservation clinique est avant tout un filtre de cohérence et de sécurité. Au Brésil, cela nécessite plus que l'intégration de directives internationales: il est nécessaire de considérer les réalités institutionnelles, les protocoles locaux, les pratiques de soins consolidées et les nuances d'un système fragmenté, avec différents niveaux de maturité numérique.
Le conservateur, dans ce cas, n'est pas un sceau: il s'agit d'un processus continu d'examen technique, de validation d'experts et d'adaptation à la pratique.
C'est ce que nous faisons ici – le développement de technologies qui combinent la science, le contexte et la responsabilité. Des solutions qui non seulement automatisent, mais traduisent le raisonnement clinique dans la logique de la machine, en respectant la décision médicale et en agissant comme une extension qualifiée de l'intelligence professionnelle. Parce qu'en fin de compte, l'IA a une réelle valeur de santé lorsqu'elle sert à mieux prendre soin – et plus de confiance – des gens.
Cette approche transforme l'IA en un allié – pas à risque – à l'appui des décisions, à documenter le raisonnement et à connecter la technologie à la sécurité des soins. La valeur ne réagit pas rapidement, mais en répondant à la bonne, responsable et aux critères.
L'IA qui transforme la santé n'est ni la plus populaire ni la plus éloquente. C'est le plus fiable. Et en santé, la confiance n'est pas improvisée – elle est construite avec la technique, l'éthique et la conservation.
________
* KlaTon Simão est PDG de Salux Technology.
