KI-Modelle produktiv betreiben. Auf deiner Infrastruktur, zu deinen Bedingungen.

VSHN betreibt LLM-Workloads auf APPUiO (unserer verwalteten Kubernetes-Plattform), auf Red Hat OpenShift, auf privater Cloud-Infrastruktur im Unternehmen und bei souveränen Cloud-Partnern. Wir arbeiten mit vLLM für durchsatzstarke Inferenz, mit LiteLLM für Gateways über mehrere Anbieter und mit llm-d für verteiltes Serving. Alle Plattformen laufen in Schweizer oder europäischen Rechenzentren, mit einem SLA von bis zu 99,99 Prozent Verfügbarkeit.

VSHN betreibt auf mehreren Schweizer Cloud-Anbietern, darunter Exoscale und Cloudscale, sowie bei europäischen souveränen Cloud-Partnern. Für Organisationen mit GPU-beschleunigten Workloads arbeiten wir mit Anbietern zusammen, die GPU-Instanzen in Schweizer Rechenzentren anbieten, in der Public wie in der Private Cloud. Die gesamte Infrastruktur läuft unter einem einzigen SLA, mit Support rund um die Uhr aus unserem Betriebsteam.

Jedes Mandat beginnt mit einem kostenlosen Architekturgespräch, in dem wir deine Anforderungen an Model Serving, den GPU-Bedarf und die regulatorischen Randbedingungen aufnehmen. Danach liefert VSHN ein schriftliches Scope-Dokument mit einer Offerte in CHF, zum Festpreis oder nach Aufwand. Typische Mandate umfassen den Clusterentwurf, das Ausrollen des Inferenz-Stacks, den Aufbau der Observability mit Prometheus und Grafana sowie automatisierte Backups für Modellartefakte und Konfigurationsdaten. In der Scoping-Phase entsteht keine Verpflichtung.

Wir konfigurieren das GPU-Scheduling in Kubernetes mit den NVIDIA Device Plugins, mit Ressourcenkontingenten und Pod Priority Classes, damit deine Inferenz-Workloads die GPU-Zeit bekommen, die sie brauchen. Horizontales Autoscaling passt die Anzahl Replicas anhand der Queue-Tiefe oder der Latenzvorgaben an. Für Batch-Trainings richten wir unterbrechbares Scheduling ein, das die Kosten senkt, ohne die interaktive Inferenz zu blockieren.

Ja. VSHN betreibt PostgreSQL mit der Erweiterung pgvector als voll betriebene Datenbank über unseren Application Catalog. Dazu gehören automatisierte tägliche Backups, Point-in-Time Recovery, hochverfügbare Replicas und ein SLA von bis zu 99,99 Prozent, wie bei allen unseren verwalteten Datenbankdiensten. Dedizierte Suchindizes für hybrides Retrieval unterstützen wir ebenfalls.

Jeder Aufruf einer gehosteten LLM-API kostet pro Token, und diese Kosten summieren sich, sobald agentische Abläufe wachsen: Agenten rufen Agenten auf, und jeder davon verbraucht Tokens. Eigene Inferenz auf Kubernetes mit vLLM oder llm-d verwandelt diese variablen Kosten in feste Infrastrukturkosten. Dazu kommt volle Kontrolle über Modellwahl, Latenz, Datenstandort und Verfügbarkeit. VSHN betreibt die GPU-Infrastruktur rund um die Uhr, damit du die Wirtschaftlichkeit des Eigenbetriebs bekommst ohne dessen betriebliche Last. Bei gemischten Workloads leiten LiteLLM-Gateways einen Teil der Anfragen an selbst betriebene Modelle und den Rest an kommerzielle APIs, je nachdem, was pro Anfrage günstiger ist.

Die gesamte Infrastruktur steht in Schweizer Rechenzentren, betrieben von Schweizer oder europäischen souveränen Cloud-Anbietern. Trainingsdaten, Modellgewichte, Vektor-Embeddings und Inferenz-Logs verlassen die gewählte Rechtsordnung nicht. Der betriebliche Zugriff erfolgt durch Engineers in der Schweiz, und für die Compliance-Berichterstattung liefern wir Audit-Trails. Wie VSHN im EU Cloud Sovereignty Framework abschneidet, steht in unserer Souveränitätsbewertung.

Beides. Für quelloffene Modelle wie Llama, Mistral, Falcon und Apertus (das Schweizer KI-Grundlagenmodell unter Apache 2.0, konform zum EU AI Act) bauen wir Kubernetes-native Serving-Infrastruktur mit vLLM oder llm-d auf. Für kommerzielle APIs wie Anthropic Claude oder OpenAI richten wir LiteLLM-Gateways ein, die Anfragen über Schweizer Infrastruktur führen und dabei Budgetkontrolle und Audit-Logs durchsetzen. VSHN übernimmt die Infrastrukturebene, damit sich dein Data-Science-Team um die Modellqualität kümmern kann.

VSHN bindet Prometheus und Grafana in jede verwaltete Plattform ein, mit eigenen Dashboards für LLM-spezifische Kennzahlen: Inferenzlatenz (p50, p95, p99), Tokens pro Sekunde, GPU-Auslastung, Queue-Tiefe und geschätzte Kosten pro Anfrage. Alarmregeln benachrichtigen dein Team und unser Operations Center rund um die Uhr, sobald Messwerte Schwellen überschreiten. So fallen Leistungsprobleme auf, bevor sie bei den Nutzenden ankommen.

Ja. Viele unserer LLMOps-Mandate beginnen bei Organisationen, die ein Modell oder einen Anwendungsfall haben, aber keine GPU-Infrastruktur. VSHN stellt Kubernetes-Cluster mit GPU bei Schweizer Cloud-Anbietern bereit, rollt den Inferenz-Stack mit vLLM oder llm-d aus und betreibt ihn rund um die Uhr. Du bringst die Anforderungen an das Modell mit, wir übernehmen die Infrastruktur von der Bereitstellung bis zum Tagesbetrieb. Für kleinere Workloads gibt es geteilte GPU-Optionen, mit denen sich starten lässt, ohne sich auf eigene Hardware festzulegen. Melde dich für ein kostenloses Architekturgespräch.

Melde dich über das Formular unten für ein kostenloses Erstgespräch. VSHN betreibt seit 2014 produktive Kubernetes-Plattformen für Banken, Versicherer und SaaS-Unternehmen in der ganzen Schweiz, und der Betrieb von LLM baut auf derselben Infrastruktur und demselben Team auf. Wir nehmen deine Workloads, die Anforderungen an die Plattform und die regulatorischen Randbedingungen auf und schlagen dann eine Architektur mit klarem Umfang und klarem Preis vor. Die meisten Kunden kommen vom Erstgespräch in vier bis sechs Wochen zu einer laufenden Produktionsplattform, mit anschliessendem Betrieb rund um die Uhr.

Ja. Beratungsfirmen und KI-Agenturen arbeiten regelmässig mit VSHN zusammen, um LLM-Infrastruktur für ihre Kunden zu liefern. Modellwahl und Anwendungsdesign bleiben bei euch, VSHN stellt GPU-Infrastruktur, Inferenz-Stack und Observability auf Schweizer Cloud bereit und betreibt sie. Jedes Kundenmandat läuft auf isolierter Infrastruktur mit eigenen Ressourcen. So bleibt bei euch Raum für die KI-Lösung, während VSHN die betriebliche Komplexität produktiver LLM-Workloads trägt. Die Partnerseite beschreibt, wie die Zusammenarbeit aufgesetzt ist.