Kaum eine Frage kommt in unseren Gesprächen mit Geschäftsführern so zuverlässig auf wie diese: „Müssen unsere KI-Systeme in Deutschland laufen?“ Die ehrliche Antwort lautet: Es kommt darauf an. Und zwar nicht auf das Bauchgefühl, sondern auf drei sehr konkrete Dinge: welche Daten verarbeitet werden, welche Pflichten aus Gesetzen und Verträgen bestehen und wie viel Abhängigkeit man strategisch akzeptieren will.
Genau diese Trennung fehlt in vielen Diskussionen. Die einen erklären jede US-Cloud pauschal zum Datenschutzproblem, die anderen tun die Standortfrage als deutsche Bedenkenträgerei ab. Beides führt zu schlechten Entscheidungen. Wir sortieren das Thema in diesem Artikel so, wie wir es auch in Projekten tun: erst die Technik, dann die Pflichten, dann die Strategie.
Was „wo läuft die KI“ technisch bedeutet
Wenn Ihr Unternehmen ein Sprachmodell nutzt, gibt es im Wesentlichen vier Betriebsmodelle, und sie unterscheiden sich erheblich darin, wohin Ihre Daten fließen.
Modell-API in den USA. Der einfachste Fall: Sie rufen die Schnittstelle eines US-Anbieters direkt auf. Ihre Eingaben, also Prompts, Dokumente, Kundendaten, werden auf Servern in den USA verarbeitet. Das ist technisch unkompliziert und oft die leistungsfähigste Option, aber die Daten verlassen die EU.
EU-Region eines US-Hyperscalers. Anbieter wie Microsoft, Amazon oder Google betreiben Rechenzentren in Frankfurt, Amsterdam oder Paris und bieten dort auch KI-Modelle an, darunter die bekannten US-Modelle. Die Verarbeitung findet dann physisch in der EU statt. Wichtig zu verstehen: Der Betreiber bleibt ein US-Konzern, der US-Recht unterliegt. Die Datenverarbeitung ist in Europa, die Kontrolle über die Infrastruktur ist es nicht vollständig.
Europäischer Anbieter. Es gibt inzwischen ernstzunehmende europäische Alternativen. Das französische Unternehmen Mistral etwa bietet leistungsfähige Modelle an, teilweise mit offenen Gewichten, die sich in europäischen Clouds oder auf eigener Infrastruktur betreiben lassen. Dazu kommen europäische Cloud- und Hosting-Anbieter, bei denen sowohl Infrastruktur als auch Unternehmenssitz in der EU liegen. Der Leistungsabstand zu den US-Spitzenmodellen existiert, ist aber für viele Geschäftsanwendungen irrelevant, weil die Aufgaben ihn schlicht nicht erfordern.
Eigene Infrastruktur und lokale Modelle. Offene Modelle lassen sich auf eigenen Servern betreiben, im eigenen Rechenzentrum oder auf gemieteter Hardware. Dann verlassen die Daten das Unternehmen gar nicht. Der Preis dafür: Sie brauchen Hardware, Betriebswissen und müssen mit den Fähigkeiten kleinerer Modelle auskommen oder in größere GPU-Kapazität investieren.
Die rechtliche Ebene: Was tatsächlich Pflicht ist
Vorweg: Wir sind Technikpartner, keine Rechtsberatung. Aber die Grundlogik der DSGVO lässt sich nüchtern erklären, und sie ist einfacher, als viele denken.
Die DSGVO greift, sobald personenbezogene Daten verarbeitet werden: Namen, E-Mail-Adressen, Kundennummern, Personaldaten. Dann brauchen Sie mit jedem Dienstleister, der diese Daten für Sie verarbeitet, einen Auftragsverarbeitungsvertrag. Das gilt für einen KI-Anbieter genauso wie für Ihren E-Mail-Provider. Verarbeitet ein Anbieter die Daten außerhalb der EU, kommt der sogenannte Drittlandtransfer hinzu: Sie brauchen eine zusätzliche Rechtsgrundlage dafür, dass die Daten die EU verlassen.
Für die USA existiert dafür seit 2023 das EU-US Data Privacy Framework, ein Angemessenheitsbeschluss der EU-Kommission, der Datenübermittlungen an zertifizierte US-Unternehmen erlaubt. Nur: Dieses Fundament ist wackliger, als man es sich für eine Architekturentscheidung wünschen würde. Die beiden Vorgänger, Safe Harbor und Privacy Shield, wurden vom Europäischen Gerichtshof gekippt. Das aktuelle Framework hat 2025 zwar eine erste Klage überstanden, steht aber weiter unter Druck, zuletzt durch Entwicklungen in den USA rund um die Unabhängigkeit der Aufsichtsbehörden, auf denen der Beschluss aufbaut. Viele Unternehmen sichern sich deshalb doppelt ab und vereinbaren zusätzlich Standardvertragsklauseln. Das ist vernünftig, ändert aber nichts am Grundbefund: Wer seine Datenverarbeitung auf diesem Framework aufbaut, baut auf einer Rechtsgrundlage, die schon zweimal in ähnlicher Form weggebrochen ist.
Neben der DSGVO gibt es eine zweite, oft übersehene Pflichtenquelle: Ihre eigenen Verträge. Viele Mittelständler haben Kundenverträge mit Geheimhaltungsklauseln, Vorgaben zu Unterauftragnehmern oder explizite Anforderungen an den Verarbeitungsort. Wer für Automobilkonzerne, Behörden oder das Gesundheitswesen arbeitet, kennt das. Diese vertraglichen Pflichten können strenger sein als die DSGVO, und sie gelten auch für Konstruktionsdaten, Kalkulationen oder Quellcode, also für Daten ohne jeden Personenbezug.
Die wichtigste Sortierfrage lautet nicht „Ist US-Cloud erlaubt?“, sondern: Welche Datenarten fließen in welches System? Personenbezogene Daten, vertraglich geschützte Daten und unkritische Daten haben unterschiedliche Anforderungen. Wer sie in einen Topf wirft, macht die Standortfrage unlösbar. Wer sie trennt, kann sie beantworten.
Die strategische Ebene: Was keine Pflicht ist, aber kluges Risikomanagement
Selbst wenn rechtlich alles sauber ist, bleibt eine zweite Frage: Wie abhängig wollen Sie sein? Das ist keine Datenschutzfrage, sondern eine unternehmerische.
Drei Risiken gehören auf den Tisch. Erstens die Preismacht: Wer seine Prozesse tief in die Dienste eines einzelnen Anbieters integriert, verhandelt bei der nächsten Preiserhöhung aus einer schwachen Position. Zweitens das Abschalt- und Änderungsrisiko: Anbieter stellen Modelle ein, ändern Konditionen oder Verhaltensweisen, und geopolitische Verwerfungen können den Zugang zu Diensten schneller verändern, als Verträge es abbilden. Drittens die Rechtsunsicherheit beim Drittlandtransfer selbst: Fällt das Data Privacy Framework, muss die Architektur eine Antwort haben, die nicht „alles neu bauen“ heißt.
Für uns als Gründer ist europäische KI-Souveränität auch ein eigenes Anliegen: Wir halten es für gesund, wenn Europa bei einer Schlüsseltechnologie eigene Fähigkeiten aufbaut, statt sie vollständig zu importieren. Aber wir würden keinem Kunden empfehlen, Architekturentscheidungen aus Gesinnung zu treffen. Die gute Nachricht ist: Das muss auch niemand. Die nüchternen Argumente, Vertragsstabilität, Rechtssicherheit, Verhandlungsposition, tragen von allein.
Welche Stufe für wen: eine ehrliche Einordnung
Nicht jedes Unternehmen braucht eigene GPU-Server. Wer das behauptet, verkauft meistens welche. In der Praxis sehen wir drei sinnvolle Stufen.
Stufe 1: EU-Verarbeitung mit sauberen Verträgen. Für die meisten Mittelständler ist das der richtige Startpunkt: KI-Modelle, die in EU-Rechenzentren laufen, mit Auftragsverarbeitungsvertrag, deaktiviertem Training auf Ihren Daten und dokumentierten Datenflüssen. Das deckt die DSGVO-Anforderungen für die allermeisten Anwendungsfälle ab und ist ohne große Investitionen erreichbar.
Stufe 2: Europäische Anbieter für sensible Prozesse. Wo Kundenverträge, Branchenvorgaben oder das eigene Risikoempfinden mehr verlangen, lohnt der Blick auf Anbieter, bei denen auch Unternehmenssitz und Rechtsraum europäisch sind. Damit entfällt die Drittlandfrage weitgehend, und die Abhängigkeit von der Stabilität transatlantischer Abkommen sinkt.
Stufe 3: Lokale Modelle für Kerndaten, hybrid gedacht. Für wirklich sensible Daten, Konstruktionsunterlagen, Rezepturen, Mandanten- oder Patientendaten, kann ein lokal betriebenes Modell die richtige Antwort sein. Der Denkfehler wäre, deshalb alles lokal zu betreiben. Eine hybride Architektur ist meist klüger: unkritische Aufgaben laufen über leistungsfähige Cloud-Modelle, die Kerndaten bleiben im Haus. So bekommt jede Datenart die Infrastruktur, die zu ihr passt.
Standort ist eine Architekturentscheidung, keine Glaubensfrage
Man kann die Frage „Wo soll unsere KI laufen?“ systematisch beantworten. Erstens: Welche Datenarten sind im Spiel, und welche davon sind personenbezogen oder vertraglich geschützt? Zweitens: Welche Pflichten ergeben sich daraus, aus der DSGVO, aus Kundenverträgen, aus Ihrer Branche? Drittens: Wie viel Abhängigkeit von einzelnen Anbietern und von der Haltbarkeit des Data Privacy Framework wollen Sie tragen? Aus diesen drei Antworten ergibt sich die passende Stufe fast von selbst, und sie kann für verschiedene Prozesse im selben Unternehmen unterschiedlich ausfallen.
Was dabei herauskommt, ist selten die radikalste Lösung. Es ist fast immer eine Architektur, die zu den tatsächlichen Daten und Pflichten passt, statt zu einer pauschalen Überzeugung. Wenn Sie für Ihr Unternehmen sortieren wollen, welche Daten wohin dürfen und welche Stufe für Ihre Prozesse angemessen ist, gehen wir das gern gemeinsam durch, mit Blick auf Ihre Verträge, Ihre Systeme und Ihren Risikoappetit.
