ChatGPT, Copilot & Co.: Warum US-KI-Tools weiterhin ein Datenschutzproblem haben

Eine aktuelle Analyse der Schweizer Wirtschaftskanzlei VISCHER, die seit Jahren die gängigen KI-Tools auf ihre Datenschutzkonformität prüft, zieht Bilanz: Trotz wachsendem Angebot und neuen Anbietern hat sich am Grundproblem wenig geändert. Kein einziges der grossen US-Angebote – weder ChatGPT, noch Copilot, noch Claude von Anthropic – erfüllt ohne Einschränkungen die Anforderungen, die Unternehmen an einen sicheren Umgang mit sensiblen Daten stellen müssen.

Für uns bei AI WORX ist das keine Überraschung, sondern der Grund, warum wir von Anfang an einen anderen Weg gegangen sind. Wir ordnen die wichtigsten Erkenntnisse ein und zeigen, was sie für Unternehmen in Deutschland konkret bedeuten.

Hier ist die ganze Tabelle zu sehen

Das Grundproblem: Verträge, die nicht halten, was der Name verspricht

Die Analyse macht deutlich, wie unübersichtlich die Vertragslandschaft bei den grossen Anbietern geworden ist. Ein zentraler Kritikpunkt betrifft sowohl OpenAI als auch Anthropic: Die Auftragsverarbeitungsverträge dieser Anbieter sind ausdrücklich nur für „normale“ personenbezogene Daten ausgelegt – nicht für besonders schützenswerte Kategorien wie Gesundheitsdaten, biometrische Daten oder Angaben zu religiöser Überzeugung. Wer solche Daten über die Standardverträge dieser Anbieter verarbeitet, bewegt sich rechtlich auf dünnem Eis. Für Berufsgeheimnisträger – etwa Kanzleien, Sachverständige oder Berater mit vertraulichen Mandantendaten – sind laut der Analyse weder OpenAI noch Anthropic überhaupt geeignet, da es schlicht keine Vertragslösung gibt, die diesen erhöhten Schutzbedarf abdeckt.

Auch bei der Nachvollziehbarkeit hapert es: OpenAI etwa informiert Kunden über neue Unterauftragsverarbeiter nicht zwingend per E-Mail, sondern optional auch nur per Blogbeitrag. Wer nicht aktiv mitliest, erfährt unter Umständen gar nicht, wer künftig Zugriff auf seine Daten hat.

Die Websuche als Sicherheitslücke

Ein Thema, das sich durch die gesamte Analyse zieht, ist die Web-Suche bzw. das sogenannte „Grounding“ – also die Fähigkeit vieler KI-Assistenten, für eine Antwort zusätzlich im Internet zu recherchieren. Genau hier zerbricht bei mehreren Anbietern die vertragliche Absicherung: Sobald Microsoft 365 Copilot auf die Bing-Suche zurückgreift, gelten laut der Untersuchung nicht mehr die üblichen Geschäftskundenverträge, sondern schwächere Bedingungen wie für Privatnutzer. Der übliche Auftragsverarbeitungsvertrag greift in diesem Moment schlicht nicht mehr – Microsoft behandelt sich für diesen Teil selbst als datenschutzrechtlich Verantwortlichen und nicht als Auftragsverarbeiter. Für Nutzer ist das in der Praxis kaum zu durchschauen, denn welche Teile einer Anfrage tatsächlich an die Suchmaschine weitergereicht werden, bleibt intransparent.

Bemerkenswert ist zudem ein Detail zu Microsofts „Flex Routing“: Aus Performancegründen können KI-Antworten inzwischen auch ausserhalb Europas berechnet werden – teils ohne dass Kunden dies aktiv bemerken. Die Analyse mahnt deshalb, Cloud-Konfigurationen regelmässig zu überprüfen, da sich Voreinstellungen ändern können, ohne dass Unternehmen dies mitbekommen.

Menschliche Kontrolle bleibt ein wunder Punkt

Ein weiterer Aspekt betrifft das sogenannte Abuse Monitoring – die Kontrolle von Anfragen und Antworten durch die Anbieter, um Missbrauch zu erkennen. Rein automatisierte, technische Filter werden in der Analyse als unproblematisch eingestuft. Anders sieht es aus, sobald Mitarbeitende der Anbieter Inhalte manuell einsehen: Hier hat das Unternehmen keinerlei Kontrolle mehr darüber, wer die Daten sichtet, wie sie bewertet werden und welche Konsequenzen daraus gezogen werden. Bei keinem der grossen Cloud-Anbieter ist ein Opt-out aus diesem menschlichen Monitoring vollständig zufriedenstellend gelöst – bei kleineren Unternehmen oft überhaupt nicht ohne Weiteres verfügbar.

Was das für Unternehmen in Deutschland bedeutet

Diese Analyse stammt zwar aus Schweizer Perspektive und bezieht sich in Teilen auf das dortige Berufsgeheimnis – die zugrunde liegenden Probleme sind jedoch dieselben, die auch nach der DSGVO relevant sind: fehlende Zusicherungen für sensible Daten, unklare Kontrolle über Sub-Unterauftragsverarbeiter, unkontrollierter Datenabfluss über Websuche-Funktionen und eingeschränkte Mitsprache beim menschlichen Monitoring. Für Unternehmen, die mit Personendaten, Vertragsdetails, Gutachten oder anderen sensiblen Inhalten arbeiten, bedeutet das: Der bequeme Griff zu ChatGPT, Copilot oder vergleichbaren US-Diensten ist rechtlich riskanter, als viele annehmen – gerade weil die Verträge auf den ersten Blick seriös wirken.

Sie möchten wissen, wie Ihr Unternehmen KI datenschutzkonform einsetzen kann, ohne die in diesem Artikel beschriebenen Risiken einzugehen? Sprechen Sie uns an – wir zeigen Ihnen, wie eine EU-gehostete KI-Lösung für Ihre Anforderungen aussehen kann.