Healthcare Data Privacy Lab
Les systèmes de santé devraient retirer ce dont les outils externes n’ont pas besoin.
J’ai construit un petit prototype d’anonymisation hors ligne pour des notes cliniques, parce que les données de santé sensibles ne devraient pas circuler par défaut vers des outils d’IA, des produits SaaS ou des flux de travail partagés. Plus tard, j’ai découvert OpenMed et j’ai commencé à contribuer à l’écosystème open source plus large.
Le moment dangereux survient avant le téléversement
Le moment dangereux n’est pas seulement celui où un modèle donne une réponse.
Le moment dangereux vient plus tôt, quand quelqu’un copie un texte de santé sensible dans un outil externe sans savoir où il va, qui peut y accéder, s’il est journalisé, s’il peut être supprimé, ni même si le système avait besoin de ces données au départ.
Cet outil peut être un produit d’IA. Ce peut aussi être une plateforme SaaS ordinaire, un système de tickets, une application de transcription, un tableau de bord d’analyse, un formulaire d’admission ou un convertisseur de fichiers.
Les noms sont évidents. Les dates ne le sont pas. Les lieux non plus. Les identifiants non plus. Une note clinique peut exposer une personne même après la suppression du nom.
Un petit prototype local, avec une question plus large
J’ai d’abord construit un prototype local pour macOS autour de NLM Scrubber, afin qu’un utilisateur puisse faire glisser des notes de santé dans l’outil, puis supprimer les informations de santé protégées avant d’utiliser le texte ailleurs.
Ce n’était ni un produit médical ni une garantie de conformité. C’était une preuve de principe : un texte sensible devrait être nettoyé localement avant d’aller ailleurs.
health-data-anonymiser est le premier artefact public de ce volet. L’idée plus large traverse les frontières et les langues : les formulaires de santé, les identifiants, les dates et les exigences légales diffèrent entre l’Europe, les États-Unis, la Belgique, l’Espagne, le Maroc et d’autres contextes. Le dépôt public n’est pas un moteur de conformité mondial. C’est le premier artefact local pour le principe de minimisation des données.
Le choix mature a été de contribuer
Après avoir construit le prototype, j’ai découvert OpenMed : un projet open source de santé plus vaste, qui travaille sur le traitement de texte clinique local first, la détection des PII, la désidentification et l’extraction d’entités médicales.
Le choix mature n’était pas de prétendre que mon prototype était toute la réponse. Le choix mature était de contribuer au projet qui creusait déjà plus profondément.
Je ne possède pas OpenMed et je ne l’ai pas construit. OpenMed est un projet open source plus vaste, maintenu par sa propre communauté. Mon rôle est celui d’un petit contributeur sur des travaux précis de confidentialité et de fiabilité.
Ce n’est pas une histoire de propriété du plus gros projet. C’est l’histoire d’un problème repéré tôt, d’un premier artefact construit, puis d’un écosystème plus solide rejoint lorsque je l’ai trouvé.
Des cas limites ennuyeux, mais qui comptent
Mon travail sur OpenMed est une petite part d’un effort communautaire plus vaste. Je ne liste pas ici chaque contribution, parce que le but n’est pas un tableau de scores. Ce qui compte, c’est le type de travail dont les systèmes de confidentialité ont besoin :
- Gestion des dates.
- Préservation du format.
- Comportement déterministe.
- Couverture CI.
- Cas limites de confidentialité.
En confidentialité des données de santé, les petits bugs de date ne sont pas petits. Une date peut identifier une personne, fausser une chronologie ou rendre trompeur un texte désidentifié.
Aucune donnée réelle de patient
La question est de savoir ce qui atteint le système
Les données de santé entrent dans une phase chargée de nouvelles réglementations.
La question importante n’est pas seulement de savoir quel modèle ou quel produit SaaS est utilisé. La question importante est de savoir quelles données atteignent le système, ce qui est retiré en premier, ce qui reste en local, ce qui est journalisé et ce qui peut être audité plus tard.
Cela compte parce que les données de santé peuvent servir à bien d’autres choses que les soins : le profilage, l’évaluation du risque d’assurance, la présélection à l’embauche, l’éligibilité aux prestations du secteur public, les contrôles de fraude, la publicité, le courtage de données, l’ingénierie sociale et l’usurpation d’identité deviennent tous plus faciles quand trop de contexte sensible circule sans traçabilité.
Ce qui m’intéresse, c’est la couche qui précède le théâtre de la conformité : la minimisation des données, la désidentification, le traitement local, la revue humaine et les preuves.
- Le règlement européen sur l’IA (AI Act) repose sur un cadre fondé sur les risques, avec des catégories à haut risque où les systèmes peuvent affecter la santé, la sécurité ou les droits fondamentaux.
- Le texte SB26-189 du Colorado encadre désormais la technologie de prise de décision automatisée autour des décisions lourdes de conséquences, y compris les services de santé, avec des obligations de documentation pour les développeurs et les déployeurs à partir du 1er janvier 2027.
- Le système DROP de Californie montre la direction prise pour les courtiers en données : les résidents peuvent soumettre des demandes de suppression et les courtiers en données doivent commencer à les traiter à partir du 1er août 2026.
- L’outil de la FTC sur les applications mobiles de santé traite la confidentialité et la sécurité des applications de santé comme une obligation commerciale, et non comme une réflexion de conception venue après coup.
De l’artefact à la collaboration
Ce volet du projet démontre 4 choses :
- Je peux identifier les risques de confidentialité dans les flux de travail de texte clinique.
- Je peux construire de petits outils locaux qui démontrent le principe.
- Je peux contribuer à une infrastructure de santé open source plus vaste.
- Je peux traduire des enjeux techniques de confidentialité en questions de gouvernance, de produit et d’opérations.
Où se situe la ligne d’honnêteté
- Ce n’est ni un produit médical, ni un outil de diagnostic, ni un avis médical.
- Ce n’est pas une garantie de conformité et cela ne prétend pas être conforme à HIPAA.
- La désidentification réduit le risque. Elle n’élimine pas tous les risques de réidentification.
- OpenMed n’est pas mon projet. Ma contribution est petite, précise et s’inscrit dans un effort communautaire plus vaste.
- Les données cliniques réelles exigent toujours une revue de confidentialité, une revue juridique et une revue humaine des résultats avant utilisation.
Avant qu’un système externe ne voie le texte
Si votre équipe expérimente l’IA en santé ou un flux de travail SaaS impliquant des données de santé, commencez par la frontière des données.
Qu’est-ce qui est retiré ?
Qu’est-ce qui reste en local ?
Qu’est-ce qui atteint le système externe ?
Qui revoit les résultats ?
Quelles preuves montrent que le système s’est comporté de façon responsable ?