LLMOps und Souveränität: deine KI-Daten gehören unter Schweizer Recht
Der Betrieb von KI und LLM ist die jüngste Front der Souveränitätsfrage. Jeder Prompt, den du absetzt, jeder Datensatz, mit dem du feintunst, und jede Modellausgabe, die zurückkommt, enthält Geschäftswissen. Wer die API von OpenAI, Azure OpenAI, AWS Bedrock oder Google Vertex AI nutzt, schickt diese Daten durch US-Infrastruktur, die US-Recht untersteht und über den CLOUD Act ohne Schweizer Gerichtsverfahren zugänglich ist.
LLM-Infrastruktur auf Schweizer Boden und nach Schweizer Recht zu betreiben ist der einzige Weg, deine KI-Interaktionen aus fremder Zuständigkeit herauszuhalten. VSHN ist seit 2014 die DevOps-Firma und bringt diese Betriebserfahrung jetzt in LLM-Workloads ein. Souveränität ist aber mehr als die Frage, wo die GPUs stehen: das EU Cloud Sovereignty Framework beschreibt acht Dimensionen, die zusammen entscheiden, ob ein Anbieter tatsächlich souverän ist.
Warum quelloffene LLM-Werkzeuge die Souveränität stärken
Proprietäre KI-Plattformen binden dich an die API, die Preisgestaltung und die Nutzungsbedingungen eines einzelnen Anbieters. Quelloffene LLM-Infrastruktur (vLLM, LiteLLM, llm-d) gibt dir:
- Keine Anbieterbindung: Modelle, Anbieter oder Hosting jederzeit wechseln
- Volle Prüfbarkeit: jede Komponente deiner Inferenz-Pipeline ist einsehbar
- Daten bleiben in der Schweiz: Prompts und Ausgaben liegen auf Schweizer Infrastruktur unter Schweizer Recht
- Governance durch die Community: keine einzelne Firma bestimmt die Roadmap deines KI-Stacks
VSHN betreibt LLM-Infrastruktur auf Schweizer Kubernetes-Clustern, mit vLLM für durchsatzstarke Inferenz, LiteLLM für Gateways über mehrere Anbieter und llm-d für verteiltes Serving. Zusammen mit Schweizer Eigentümerschaft und Schweizer Betrieb ergibt das einen durchgängig souveränen KI-Stack.
Souveränität im Vergleich
| Dimension | OpenAI API | Azure OpenAI | AWS Bedrock | Google Vertex AI | VSHN LLMOps |
|---|---|---|---|---|---|
| Eigentümer | OpenAI (USA) | Microsoft (USA) | Amazon (USA) | Google (USA) | VSHN AG (Schweiz) |
| Anwendbares Recht | US-Recht | US-Recht | US-Recht | US-Recht | Schweizer Recht |
| CLOUD Act | Betroffen | Betroffen | Betroffen | Betroffen | Nicht betroffen |
| Datenstandort | USA | regional, unter US-Kontrolle | regional, unter US-Kontrolle | regional, unter US-Kontrolle | Schweiz (Cloudscale, Exoscale oder nach deiner Wahl) |
| Software-Stack | Proprietär | Proprietär | Proprietär | Proprietär | Quelloffen (vLLM, LiteLLM, llm-d, Kubernetes) |
| Zugriff auf Prompt-Daten | Anbieter hat Zugriff, Nutzung fürs Training möglich | Microsoft hat Zugriff | Amazon hat Zugriff | Google hat Zugriff | VSHN hat betrieblichen Zugriff nur für autorisierten Support, nie fürs Modelltraining |
| Betriebsteam | USA | USA | USA | USA | Schweiz (Option Schweiz-only) |
| Zertifizierungen | SOC 2 | SOC 2, ISO 27001 | SOC 2, ISO 27001 | SOC 2, ISO 27001 | ISO 27001, ISAE 3402 Type II |
Souveränitäts-Selbstbewertung von VSHN
Wir haben das Cloud Sovereignty Framework der EU (v1.2.1, Oktober 2025) auf unsere eigenen Dienste angewendet. Nach diesem Rahmenwerk wurden im April 2026 die Anbieter in der EU-Ausschreibung für souveräne Cloud über EUR 180 Mio. bewertet. Drei rein europäische Anbieter erreichten SEAL-3, ein Konsortium unter Beteiligung von Google Cloud kam auf SEAL-2.
Das ist eine Selbstbewertung und keine formelle SEAL-Zertifizierung. Wir veröffentlichen sie, damit Kunden unser Souveränitätsprofil anhand derselben strukturierten Kriterien beurteilen können, die auch die EU anlegt.
| # | Dimension | Gewicht | Bewertung | Belege |
|---|---|---|---|---|
| SOV-1 | Strategisch | 15% | Stark | Schweizer AG, keine ausländische Muttergesellschaft, alle Aktionäre Schweizer Staatsangehörige (Handelsregister) |
| SOV-2 | Rechtlich | 10% | Stark | Schweizer Recht (AGB), kein CLOUD Act, Angemessenheitsbeschluss der EU |
| SOV-3 | Daten und KI | 10% | Stark | Schweizer Rechenzentren als Standard. Souveräne Schlüsselverwaltung über Managed OpenBao und Schweizer HSM |
| SOV-4 | Betrieblich | 15% | Stark | Betrieb rund um die Uhr aus der Schweiz, Option Schweiz-only. Alle Dienste auf unverändertem Kubernetes |
| SOV-5 | Lieferkette | 20% | Stark | Infrastrukturunabhängig, der Kunde wählt den Anbieter. Quelloffene Software |
| SOV-6 | Technologie | 15% | Stark | 100 Prozent quelloffen. VSHN trägt zu K8up (CNCF), Crossplane-Providern und Project Syn bei |
| SOV-7 | Sicherheit | 10% | Stark | ISO 27001, ISAE 3402 Type II, Schweizer SOC. FINMA-regulierte Kunden |
| SOV-8 | Umwelt | 5% | Mittel | Rechenzentrumsbetreiber: Green Datacenter AG (ISO 22301/27001/27701), Nachhaltigkeit bei Exoscale. CSR-Politik von VSHN |
Gesamt: entspricht SEAL-3, derselben Stufe wie die Gewinner der EU-Ausschreibung. SEAL-4 hat weltweit kein Anbieter erreicht: dafür brauchte es Hardware-Lieferketten und quelloffene Grundlagen vollständig aus der EU oder dem EWR, und diese strukturelle Lücke teilen alle Cloud-Anbieter.
Schweizer Infrastruktur ausprobieren: APPUiO (verwaltetes Kubernetes, kostenlos testen), Exoscale (Schweizer IaaS). Unsicher, was passt? Melde dich.
Souveränitätsbewertung für deine LLM-Infrastruktur
Nutzt du heute KI-APIs aus den USA oder prüfst du souveräne Alternativen? Melde dich für ein kostenloses Gespräch. Wir bewerten dein aktuelles Setup nach dem EU-Rahmenwerk und entwerfen eine LLM-Infrastruktur, die Prompts, Trainingsdaten und Modellausgaben unter Schweizer Zuständigkeit hält.