Sécurité & confidentialité
Une IA utile en santé est une IA qui ne met personne en danger : ni le patient, ni l’établissement, ni l’entreprise cliente. Cette page dit ce que nos outils font des données, et ce qu’ils ne font jamais.
Avertissement. Cette page n’est pas un avis juridique. Chaque projet passe par le délégué à la protection des données (DPO) de l’établissement ou du client, qui reste seul juge de ce qui est permis chez lui.
Le principe
Les données patients identifiantes ne vont jamais dans un outil grand public. Elles restent dans le système d’information de l’établissement, sous la responsabilité de celui-ci.
Nos outils travaillent sur des données anonymisées, agrégées ou non identifiantes : organisation du service, enseignement, veille, manuscrits, protocoles. Quand un usage demande plus, il change de niveau, et de conditions.
Trois niveaux d’usage
| Niveau | Données | Exemples | Conditions |
|---|---|---|---|
| Vert | Aucune donnée personnelle | Organisation, enseignement, veille, manuscrits | Les garde-fous de la méthode suffisent |
| Orange | Données pseudonymisées | Études et registres | Contrat et avis du DPO ; offre professionnelle avec engagements contractuels sur les données, ou outil installé en local |
| Rouge | Données patients identifiantes | Dossier médical, comptes rendus nominatifs | Uniquement dans le SI de l’établissement ou chez un hébergeur certifié HDS, sous contrat |
Chaque offre d’accompagnement affiche son niveau. Aucune n’est au niveau rouge : ces données ne sortent pas de l’établissement.
Quel outil pour quel niveau
| Outil | Entraînement sur vos données | Conservation | Contrat HIPAA (BAA) | Données en Europe | Certification HDS |
|---|---|---|---|---|---|
| Claude Free, Pro, Max | Oui, sauf si vous le refusez dans les réglages | 5 ans si l’entraînement est accepté, 30 jours sinon | Non | Non | Non trouvée |
| Claude Team | Non (conditions commerciales) | Selon contrat | Non | Non | Non trouvée |
| Claude Enterprise | Non | Selon contrat | Oui, avec la configuration HIPAA : Claude Code en terminal et Cowork en local couverts ; extensions d’éditeur et sessions dans le cloud non couvertes | Non | Non trouvée |
| Claude via AWS Bedrock (profil UE) | Non | Selon le contrat AWS | Via AWS | Oui, routage entre régions de l’UE | AWS certifié HDS ; inclusion de Bedrock à confirmer par écrit |
| Claude via Google Vertex AI (multirégion UE) | Non | Selon le contrat Google | Via Google | Oui, États membres de l’UE | Google certifié HDS v2, Vertex AI dans le périmètre annoncé |
En pratique : vert avec un compte professionnel (Team ou Enterprise) ; orange avec Enterprise ou une voie européenne, sous contrat de sous-traitance et analyse d’impact validée par le DPO ; rouge uniquement dans le SI de l’établissement ou chez un hébergeur certifié HDS, sous contrat de l’établissement. Les comptes grand public sont à proscrire pour toute donnée professionnelle sensible. HIPAA est un cadre américain : il ne remplace ni le RGPD, ni l’HDS, ni le secret médical.
Sources, consultées le 7 novembre 2026 : conditions grand public d’Anthropic, offres Enterprise compatibles HIPAA, résidence des données Vertex AI, HDS chez Google Cloud, HDS chez AWS. Les offres changent : vérifiez avant chaque projet.
Ce que nous ne faisons pas
- Aucun compte grand public pour des données professionnelles sensibles.
- Aucun hébergement ni aucune conservation de données de santé : nous n’accédons pas au niveau rouge.
- Aucun outil d’aide à la décision clinique : ce serait un dispositif médical, avec ses propres obligations.
- Aucun agent qui agit sans validation humaine.
Le cadre de référence
| Cadre | Ce qu’il impose, en bref | Date | Source officielle |
|---|---|---|---|
| RGPD et CNIL | Les données de santé sont des données sensibles, protégées de façon renforcée ; certains traitements demandent des formalités préalables. Fiche pratique de la CNIL sur le développement et l’évaluation des systèmes d’IA utilisant des données de santé | 5 mars 2026 | cnil.fr |
| Guide HAS-CNIL « IA en contexte de soins » | Projet de recommandations pour les établissements et professionnels, du choix du système à sa désinstallation, avec une fiche gouvernance et une fiche IA générative | Consultation publique close le 16 avril 2026 ; version finale attendue | cnil.fr |
| HDS (hébergement de données de santé) | Le prestataire qui héberge des données de santé pour le compte d’un tiers doit être certifié ; le référentiel v2 exige notamment un stockage dans l’Espace économique européen | Fin de la transition vers la v2 : 16 mai 2026 | esante.gouv.fr |
| Décret n° 2026-209 du 24 mars 2026 | Stockage des données de santé hébergées exclusivement dans l’UE ou l’EEE ; un accès à distance depuis un pays tiers est traité comme un transfert au sens du RGPD ; clauses contractuelles enrichies ; archivage électronique inclus | Archivage : 27 mars 2026 ; stockage UE/EEE : 26 septembre 2026 | legifrance.gouv.fr |
| AI Act (règlement européen sur l’IA) | Obligations de transparence (article 50) applicables ; régime « haut risque » reporté par le règlement (UE) 2026/1744 dit « Omnibus » | Article 50 : 2 août 2026 ; haut risque : 2 décembre 2027 (systèmes autonomes) et 2 août 2028 (produits réglementés, dont dispositifs médicaux) | eur-lex.europa.eu · calendrier de la Commission |
| HIPAA (clients américains) | Contrat de sous-traitance (Business Associate Agreement) obligatoire avec tout prestataire, y compris d’IA ou de cloud, qui traite des données de santé protégées | En vigueur | hhs.gov |
| OWASP Top 10 des applications agentiques | Référentiel des dix risques propres aux agents d’IA (détournement d’objectif, outils mal utilisés, droits excessifs…) | Publié en décembre 2025 | genai.owasp.org |
Page mise à jour le 7 novembre 2026. Les textes évoluent : vérifiez la version en vigueur sur la source officielle avant de vous y appuyer.
La sécurité des agents
Un agent qui lit vos mails et vos fichiers peut être détourné par ce qu’il lit. Cinq règles, appliquées à chaque outil :
- Moindre autonomie. L’agent n’a que les droits dont sa tâche a besoin ; chaque capacité inutile est une surface d’attaque.
- Un contenu externe est une donnée, jamais une consigne. Ce qu’un mail, une page web ou un document demande n’est pas exécuté : c’est un élément à analyser.
- Validation humaine avant tout envoi ou toute écriture. L’agent prépare, une personne accepte.
- Un journal des actions. Ce qui a été fait, où, et vérifié comment, en quatre lignes à la fin de chaque session.
- Aucun écrasement de fichier. Une version corrigée est un nouveau fichier ; rien n’est supprimé, tout est archivé.
Pour les entreprises
Une entreprise ou une start-up de santé ajoute la confidentialité du client à celle du patient :
- Confidentialité du client. Aucun nom de client, de produit ni de projet dans un outil grand public, un document partagé ou un support de formation.
- Données pseudonymisées. Elles restent au niveau orange : contrat, DPO, outil adapté.
- Traçabilité. Chaque avis est daté, et chaque constat prouvé par un extrait mot pour mot.