Wo eure KI läuft: drei Wege und ihre Bedingungen
Unternehmen wollen KI, die ihre Daten in Europa hält und unter eigener Kontrolle lässt. Wir zeigen drei Wege, ein Sprachmodell zu betreiben, und welche Bedingungen jeder mitbringt.
Unternehmen in Deutschland wollen KI aus dem eigenen Land. 96 % würden am liebsten KI deutscher Anbieter nutzen.1 Dahinter steht ein klarer Wunsch: Die eigenen Daten sollen in Europa bleiben, unter europäischem Recht und unter eigener Kontrolle.
Wie gut sich das erfüllen lässt, hängt davon ab, wo ein Modell läuft. Dafür gibt es drei Wege. Jeder bringt eigene Bedingungen mit, für eure Daten, für die Qualität der Modelle und für den Betrieb.
Stufe 1: Internationale Anbieter
Viele fangen mit ChatGPT, Claude oder Gemini an, als Team-Abo oder über die Schnittstelle (API) des Anbieters. Ihr bekommt die stärksten Modelle sofort und müsst nichts selbst betreiben. Verarbeitet wird in den Rechenzentren des Anbieters, nicht zwingend in Europa.
Für viele Unternehmen scheidet dieser Weg bei Kundendaten aus. Viele Auftraggeber verlangen, dass ihre Unterlagen in europäischen Rechenzentren verarbeitet werden, nach DSGVO und vergleichbaren Regeln. Für öffentliche Informationen und unkritische interne Texte eignet er sich trotzdem gut.
Stufe 2: Führende Modelle in europäischen Rechenzentren
Die großen Cloud-Anbieter stellen viele führende Modelle in europäischen Rechenzentren bereit. Beispiele sind Amazon Bedrock in Frankfurt, Azure mit Microsofts EU Data Boundary und Google Vertex AI mit EU-Endpunkten.2,3 Eure Daten werden dann auf europäischem Boden oder in eurer Region verarbeitet und nicht in internationale Rechenzentren weitergeleitet.
Dass nicht mit euren Daten trainiert wird, ist in den Bedingungen festgelegt.4 Betrieb und Aktualisierung der Modelle übernimmt der Anbieter.
Stufe 3: Offene Modelle in abgeschotteter Umgebung
Offene Modelle wie Llama, Mistral, Qwen oder gpt-oss könnt ihr auf eigenen Servern betreiben, wenn nötig ganz ohne Internet. Alternativ arbeitet ihr mit vertraulichem Rechnen (Confidential Computing) in der Cloud, das ebenfalls auf offene Modelle setzt. Dabei bleiben die Daten selbst während der Verarbeitung in geschützter Hardware.5 Beides sind heute echte Optionen.
Diese Stufe bringt den höchsten Aufwand und die höchsten Kosten mit. Für Ergebnisse auf dem Niveau moderner KI-Werkzeuge braucht ihr viel Rechenkapazität und Leute, die die Modelle betreiben und aktuell halten. Die stärksten offenen Modelle lagen seit Januar 2026 im Schnitt rund vier Monate hinter den besten geschlossenen.6 Gedacht ist diese Stufe für Unternehmen in sicherheitskritischen Branchen, deren Daten in der Regel die eigenen Rechner nicht verlassen dürfen.
Internationale Anbieter
ChatGPT, Claude, Gemini als Abo oder API
- stärkste Modelle, sofort verfügbar
- kein eigener Betrieb
- Verarbeitung nicht zwingend in Europa
- bei Kundendaten oft ausgeschlossen
Für öffentliche und unkritische interne Inhalte
Führende Modelle in Europa
z. B. Bedrock Frankfurt, Azure EU, Vertex AI EU
- viele führende Modelle
- Verarbeitung in Europa, kein Training auf euren Daten
- kein eigener Betrieb
- weiter in der Cloud, nicht für extreme Sicherheitsanforderungen
Für die meisten Projekt- und Kundendaten
Offene Modelle, abgeschottet
eigene Server oder vertrauliches Rechnen in der Cloud
- volle Kontrolle über die Daten
- Weg für sicherheitskritische Branchen
- höchster Aufwand, höchste Kosten
- Modelle einige Monate hinter der Spitze
Für sicherheitskritische und abgeschottete Bereiche
Eigene Zusammenstellung nach Anbieterdokumentation, Stand 10.11.2026.
Welche Daten auf welchen Weg gehören
Wenn ihr unsicher seid, hilft ein Gedankenexperiment. Fragt euch, ob ihr diese Unterlagen heute per E-Mail verschicken würdet, über Microsoft 365 oder ähnliche Anbieter. Alles, was ihr so verschickt, passt auf Stufe 2. Das betrifft im Normalfall den Großteil der Arbeit im Industrieumfeld.
Was dagegen nur in getrennten, offline betriebenen oder lokal abgeschotteten Umgebungen liegt, kann Stufe 3 brauchen. Manche Projekte enthalten beides. Dann geht es darum, zu trennen, welche Daten genutzt werden dürfen und welche nicht, und dafür klare Regeln einzuführen. So findet sich eine Lösung, statt das ganze Vorhaben abzulehnen, weil einige Teile nicht so verarbeitet werden dürfen.
Die Wahl kann je Projekt anders ausfallen. Der Neubau eines Bürogebäudes passt etwa auf Stufe 2. Die Dokumentation eines Verteidigungsprojekts gehört ins eigene Rechenzentrum oder in eine vertrauliche Cloud-Umgebung. Wichtig ist, dass ihr wechseln könnt, ohne neu anzufangen.
Engera läuft standardmäßig auf Stufe 2. So ist sichergestellt, dass nicht mit euren Daten trainiert wird und sie in Europa bleiben, wie es Anforderungen und Sicherheit verlangen. Stufe 3 geht auch: Dann betreibt ihr die offenen Modelle selbst, oder wir nutzen unseren Partner für vertrauliches Rechnen in der Cloud. Das führen wir nach Absprache ein.
Stand: 10. November 2026. Anbieterbedingungen ändern sich häufig, maßgeblich sind Vertrag und aktuelle Dokumentation. Dieser Text ist eine Orientierung, keine Rechtsberatung.
Was jetzt zu tun ist
- 01
Unterlagen einordnen
Geht eure Unterlagen mit der E-Mail-Frage durch und legt fest, was auf welche Stufe gehört.
- 02
Regeln festlegen
Haltet schriftlich fest, welche Daten genutzt werden dürfen und welche nicht.
- 03
Wechsel offenhalten
Richtet Daten und Rechte so ein, dass ihr den Weg je Projekt wechseln könnt.
- 04
Klein anfangen
Startet mit einem konkreten, abgegrenzten Anwendungsfall auf der Stufe, die seine Daten wirklich brauchen.
Quellen
- Bitkom: Digital-Gipfel: Unternehmen wollen KI aus Deutschland, 02.11.2026
- Microsoft: What is the EU Data Boundary?, Stand 21.07.2026
- Google Cloud: Vertex AI: Data residency, abgerufen 16.11.2026
- Google Cloud: Generative AI and data governance (Vertex AI), abgerufen 16.11.2026
- Microsoft Learn: Azure confidential computing products, Stand 09.11.2026
- Epoch AI: Open-weight models lag the closed frontier (ECI gap), 29.05.2026
Weiterlesen
Welche Herausforderung
beschäftigt euer Team gerade?
Erzählt sie uns, und wir zeigen euch in der Demo, wie Engera sie leichter macht.

