Sicherheit & Vertraulichkeit
Nützliche KI im Gesundheitswesen ist KI, die niemanden gefährdet: weder den Patienten noch die Einrichtung noch das Kundenunternehmen. Diese Seite legt dar, was unsere Werkzeuge mit Daten tun und was sie niemals tun.
Hinweis. Diese Seite stellt keine Rechtsberatung dar. Jedes Projekt läuft über den Datenschutzbeauftragten (DSB/DPO) der Einrichtung oder des Kunden, der allein entscheidet, was dort zulässig ist.
Der Grundsatz
Identifizierende Patientendaten gelangen niemals in ein Werkzeug für Endverbraucher. Sie bleiben im Informationssystem der Einrichtung, unter der Verantwortung der Einrichtung.
Unsere Werkzeuge arbeiten mit anonymisierten, aggregierten oder nicht identifizierenden Daten: Organisation der Abteilung, Lehre, Literaturbeobachtung, Manuskripte, Protokolle. Wenn eine Nutzung mehr erfordert, steigt sie eine Stufe höher, unter anderen Bedingungen.
Drei Nutzungsstufen
| Stufe | Daten | Beispiele | Bedingungen |
|---|---|---|---|
| Grün | Keine personenbezogenen Daten | Organisation, Lehre, Literaturbeobachtung, Manuskripte | Die Schutzmechanismen der Methode genügen |
| Orange | Pseudonymisierte Daten | Studien und Register | Vertrag und Stellungnahme des DSB; ein Geschäftstarif mit vertraglichen Zusagen zu den Daten oder ein lokal installiertes Werkzeug |
| Rot | Identifizierende Patientendaten | Patientenakte, namentliche Befunde | Nur innerhalb des Informationssystems der Einrichtung oder bei einem zertifizierten Hoster für Gesundheitsdaten, unter Vertrag |
Jedes Angebot der Begleitung nennt seine Stufe. Keines liegt auf der roten Stufe: Diese Daten verlassen die Einrichtung nicht.
Welches Werkzeug für welche Stufe
| Werkzeug | Training mit Ihren Daten | Aufbewahrung | HIPAA-Vertrag (BAA) | Daten in Europa | HDS-Zertifizierung |
|---|---|---|---|---|---|
| Claude Free, Pro, Max | Ja, sofern Sie dem nicht in den Einstellungen widersprechen | 5 Jahre, wenn das Training akzeptiert wird, sonst 30 Tage | Nein | Nein | Nicht gefunden |
| Claude Team | Nein (gewerbliche Bedingungen) | Laut Vertrag | Nein | Nein | Nicht gefunden |
| Claude Enterprise | Nein | Laut Vertrag | Ja, mit der HIPAA-Konfiguration: Claude Code im Terminal und Cowork lokal abgedeckt; Editor-Erweiterungen und Cloud-Sitzungen nicht abgedeckt | Nein | Nicht gefunden |
| Claude über AWS Bedrock (EU-Profil) | Nein | Laut AWS-Vertrag | Über AWS | Ja, Routing zwischen EU-Regionen | AWS HDS-zertifiziert; Einbeziehung von Bedrock schriftlich zu bestätigen |
| Claude über Google Vertex AI (EU-Multiregion) | Nein | Laut Google-Vertrag | Über Google | Ja, EU-Mitgliedstaaten | Google HDS-v2-zertifiziert, Vertex AI im angegebenen Geltungsbereich |
In der Praxis: Grün mit einem geschäftlichen Konto (Team oder Enterprise); Orange mit Enterprise oder einem europäischen Weg, mit einem Auftragsverarbeitungsvertrag und einer vom DSB freigegebenen Datenschutz-Folgenabschätzung; Rot nur innerhalb des Informationssystems der Einrichtung oder bei einem HDS-zertifizierten Hoster, unter Vertrag der Einrichtung. Konten für Endverbraucher sind für alle sensiblen beruflichen Daten auszuschließen. HIPAA ist ein US-amerikanischer Rahmen: Er ersetzt weder die DSGVO noch HDS noch die ärztliche Schweigepflicht.
Quellen, eingesehen am 7. November 2026: Verbraucherbedingungen von Anthropic, HIPAA-fähige Enterprise-Tarife, Datenresidenz bei Vertex AI, HDS bei Google Cloud, HDS bei AWS. Angebote ändern sich: Prüfen Sie vor jedem Projekt.
Was wir nicht tun
- Kein Konto für Endverbraucher für sensible berufliche Daten.
- Kein Hosting und keine Aufbewahrung von Gesundheitsdaten: Wir arbeiten nicht auf der roten Stufe.
- Kein Werkzeug zur klinischen Entscheidungsunterstützung: Das wäre ein Medizinprodukt mit eigenen Pflichten.
- Kein Agent, der ohne menschliche Freigabe handelt.
Der Referenzrahmen
| Rahmen | Was er verlangt, in Kürze | Datum | Offizielle Quelle |
|---|---|---|---|
| DSGVO und CNIL (französische Datenschutzbehörde) | Gesundheitsdaten sind sensible Daten mit verstärktem Schutz; manche Verarbeitungen erfordern vorherige Formalitäten. Praktische Leitlinien der CNIL zur Entwicklung und Bewertung von KI-Systemen, die Gesundheitsdaten verwenden | 5. März 2026 | cnil.fr |
| Leitfaden HAS-CNIL „KI im Versorgungskontext“ | Entwurf von Empfehlungen für Einrichtungen und Fachkräfte, von der Auswahl eines Systems bis zu seiner Außerbetriebnahme, mit einem Blatt zur Governance und einem Blatt zur generativen KI | Öffentliche Konsultation am 16. April 2026 abgeschlossen; endgültige Fassung steht aus | cnil.fr |
| HDS (französische Zertifizierung für das Hosting von Gesundheitsdaten) | Ein Anbieter, der Gesundheitsdaten im Auftrag Dritter hostet, muss zertifiziert sein; Version 2 des Standards verlangt insbesondere die Speicherung innerhalb des Europäischen Wirtschaftsraums | Ende des Übergangs zu v2: 16. Mai 2026 | esante.gouv.fr |
| Dekret Nr. 2026-209 vom 24. März 2026 | Speicherung gehosteter Gesundheitsdaten ausschließlich in der EU oder im EWR; ein Fernzugriff aus einem Drittland gilt als Übermittlung im Sinne der DSGVO; erweiterte Vertragsklauseln; elektronische Archivierung eingeschlossen | Archivierung: 27. März 2026; Speicherung in EU/EWR: 26. September 2026 | legifrance.gouv.fr |
| Europäische KI-Verordnung (AI Act) | Die Transparenzpflichten (Artikel 50) gelten; die Regelung für Hochrisikosysteme wurde durch die Verordnung (EU) 2026/1744, den sogenannten „Omnibus“, verschoben | Artikel 50: 2. August 2026; Hochrisiko: 2. Dezember 2027 (eigenständige Systeme) und 2. August 2028 (regulierte Produkte, einschließlich Medizinprodukte) | eur-lex.europa.eu · Zeitplan der Kommission |
| HIPAA (US-Kunden) | Mit jedem Anbieter, einschließlich KI- oder Cloud-Anbietern, der geschützte Gesundheitsinformationen verarbeitet, ist ein Business Associate Agreement erforderlich | In Kraft | hhs.gov |
| OWASP Top 10 für agentische Anwendungen | Die zehn spezifischen Risiken von KI-Agenten (Zielentführung, Missbrauch von Werkzeugen, übermäßige Berechtigungen…) | Veröffentlicht im Dezember 2025 | genai.owasp.org |
Seite aktualisiert am 7. November 2026. Texte ändern sich: Prüfen Sie die geltende Fassung in der offiziellen Quelle, bevor Sie sich darauf stützen.
Sicherheit von Agenten
Ein Agent, der Ihre E-Mails und Dateien liest, kann durch das Gelesene gekapert werden. Fünf Regeln, angewandt auf jedes Werkzeug:
- Minimale Handlungsbefugnis. Der Agent hat nur die Rechte, die seine Aufgabe erfordert; jede unnötige Fähigkeit ist eine Angriffsfläche.
- Externe Inhalte sind Daten, niemals Anweisungen. Was eine E-Mail, eine Webseite oder ein Dokument verlangt, wird nicht ausgeführt: Es ist Material zur Analyse.
- Menschliche Freigabe vor jedem Versand und jedem Schreibvorgang. Der Agent bereitet vor, ein Mensch nimmt an.
- Ein Aktionsprotokoll. Was getan wurde, wo und wie es geprüft wurde, in vier Zeilen am Ende jeder Sitzung.
- Keine Datei wird je überschrieben. Eine korrigierte Fassung ist eine neue Datei; nichts wird gelöscht, alles wird archiviert.
Für Unternehmen
Ein Gesundheitsunternehmen oder Start-up fügt der Vertraulichkeit gegenüber dem Patienten die Vertraulichkeit gegenüber dem Kunden hinzu:
- Vertraulichkeit gegenüber dem Kunden. Kein Kunden-, Produkt- oder Projektname in einem Werkzeug für Endverbraucher, einem geteilten Dokument oder Schulungsmaterial.
- Pseudonymisierte Daten. Sie bleiben auf der Stufe Orange: Vertrag, DSB, geeignetes Werkzeug.
- Nachvollziehbarkeit. Jede Stellungnahme ist datiert, und jede Feststellung ist durch einen wörtlichen Auszug belegt.