Les chercheurs de Check Point Software révèlent une nouvelle vague d'escroqueries en ligne, alimentées par l'intelligence artificielle (IA) générative, dans laquelle des groupes criminels fabriquent de faux médicaments amaigrissants et reproduisent l'identité visuelle des organismes de santé en Europe. Les campagnes reproduisent des logos, des certificats et d’autres éléments institutionnels pour créer une apparence de légitimité et attirer les personnes à la recherche d’alternatives aux médicaments officiels à base d’agonistes du GLP-1.
Dans ce contexte, les criminels numériques ouvrent une nouvelle frontière de la fraude en se faisant passer pour de vrais médecins et cliniques pour vendre des médicaments contrefaits, en utilisant l’IA et les deepfakes pour produire des photos, des vidéos et des témoignages très convaincants. L’action va au-delà de l’escroquerie financière : les victimes sont amenées à acheter et à consommer des substances non approuvées et potentiellement dangereuses, commercialisées comme des prescriptions légitimes. La menace traverse les mondes virtuels et physiques en exploitant la confiance dans les professionnels de santé pour étendre sa portée, générer des revenus illicites et faire courir de réels risques aux utilisateurs.
Il convient de noter qu'au Brésil, en août de cette année, l'Agence nationale de surveillance de la santé (Anvisa) a interdit la manipulation de la substance sémaglutide, utilisée dans les stylos amaigrissants comme Ozempic et Wegovy et dans le médicament oral Rybelsus. Dans un communiqué officiel, Anvisa a défini les critères, la prescription médicale et le maintien de la prescription pour les ingrédients pharmaceutiques actifs (IFA) qui sont des agonistes de l'hormone GLP-1, utilisés dans le traitement du diabète de type 2 et de l'obésité.
Dans l'enquête des experts de Check Point Software, ils ont identifié un grand volume de publicités, de vidéos et de sites Web générés par l'IA en utilisant :
- Identité visuelle du NHS (National Health Service, un organisme britannique) et des « professionnels du NHS » fabriqués ;
- Logos de l'AEMPS (Agence espagnole des médicaments et des produits de santé / Espagne), de l'ANSM (Agence nationale française de sécurité des médicaments et des produits de santé / France), du BfArM (Institut fédéral allemand des médicaments et des dispositifs médicaux / Allemagne) et de l'AIFA (Agence italienne des médicaments / Italie) ;
- Témoignages de pharmaciens, de médecins et de patients falsifiés ;
- Packaging inventé, allégations cliniques et images de « transformation en 7 jours » ;
- Témoignages vidéo synthétiques créés avec l'IA.
Ces escroqueries se propagent déjà sur Instagram, TikTok, YouTube et dans les publicités payantes, et de nombreux consommateurs ne peuvent pas faire la différence entre le vrai et le faux.
IA et désinformation
La combinaison de la manipulation de l’IA et de la désinformation en matière de santé publique a créé un espace permettant aux imitations dangereuses de circuler plus rapidement que les conseils médicaux fiables. Et avec l’augmentation de la demande de médicaments à base de GLP-1, le risque pour les consommateurs les plus vulnérables augmente au même rythme.
Les chercheurs ont mené une analyse des infrastructures qui montre que ces campagnes médicales frauduleuses fonctionnent de manière coordonnée, pratiquement comme une véritable industrie criminelle :
Infrastructure partagée : de nombreux sites Web médicaux frauduleux sont interconnectés au niveau de l’infrastructure. Ils partagent des adresses IP et utilisent les mêmes fournisseurs d’hébergement, souvent dans des pays où les règles de sécurité en ligne sont faibles. Les domaines, les certificats SSL et les dates d'enregistrement présentent des modèles de regroupement, avec des dizaines de sites frauduleux lancés simultanément, probablement par des mécanismes automatisés.
Conceptions de sites Web courantes : l'analyse du code source a révélé que de nombreux portails ont été créés avec les mêmes modèles et scripts. Les mises en page, les éléments d'interface et les systèmes de paiement répétés suggèrent l'utilisation de « kits prêts à l'emploi » qui accélèrent la création de fausses cliniques.
Images générées par l’IA : les photos de médecins, de cliniques et d’emballages présentent des signes typiques de génération artificielle. Des incohérences d'éclairage, des textures inhabituelles et des motifs répétitifs suggèrent que le même modèle génératif a été utilisé dans plusieurs opérations.
Vente de kits anti-fraude : dans les zones souterraines d'Internet, les escrocs vendent des kits complets contenant tout le nécessaire pour créer un faux site Web médical : modèles, images, scripts d'automatisation d'hébergement et même des traductions multilingues. Cette « marchandisation » permet à des individus ayant peu d’expertise technique de lancer des escroqueries à l’échelle mondiale.
« Ce que nous voyons dans ces escroqueries impliquant le GLP-1 représente un tout nouveau niveau de fraude. Les criminels ne se contentent pas de contrefaire le produit, ils recréent tout l'écosystème qui l'entoure. Avec le soutien de l'IA, ils sont capables de générer en quelques minutes de prétendus médecins, pharmaciens, avis, emballages et même logos des systèmes de santé nationaux de différents pays. Pour le grand public, tout cela passe facilement pour légitime », explique Amit Weigman, ingénieur en sécurité et évangéliste de l'Enterprise Risk Management (ERM). chez Check PointSoftware.
Weigman souligne que c’est précisément ce qui rend ces escroqueries si efficaces : elles semblent locales, authentiques et cliniquement fiables. Un faux badge NHS ou la façade d’une pharmacie française suffisent à convaincre de nombreuses personnes. Pour lui, une sécurité préventive appuyée par l’IA est essentielle pour contenir ce type de contrefaçon à grande échelle avant qu’elle n’atteigne le public.
