Ein AI-System muss nicht dauerhaft mit dem Internet verbunden sein. Für Behörden, Gemeinden, kritische Infrastrukturen oder besonders vertrauliche Unternehmensdaten kann eine abgeschottete On-Premises-Architektur sogar eine zentrale Anforderung sein.

Welche Komponenten müssen lokal verfügbar sein?

Für einen produktiven Offline-Betrieb werden Modell-Inferenz, Embeddings, Vektordatenbank, RAG-Pipeline, Wissensquellen, Authentisierung und Logging innerhalb der eigenen Infrastruktur bereitgestellt. Auch Storage, GPU-Ressourcen, Backup und Monitoring dürfen keine unbeabsichtigten externen Abhängigkeiten besitzen.

Updates brauchen einen kontrollierten Weg

Offline bedeutet nicht, dass Systeme nie aktualisiert werden. Modelle, Container-Images, Software-Pakete und Sicherheitsupdates werden über definierte Import- und Freigabeprozesse in die Umgebung übernommen. Das reduziert unkontrollierte Datenwege und macht Abhängigkeiten sichtbar.

VCF 9 als Plattformbaustein

VMware Cloud Foundation 9 kann virtuelle Maschinen, Kubernetes-Workloads und GPU-basierte AI-Workloads auf einer gemeinsamen Private-Cloud-Plattform zusammenführen. Für den konkreten Offline-Grad müssen jedoch Architektur, Produktabhängigkeiten und Updateverfahren individuell geprüft werden.

virtiQ verbindet diese Plattformthemen mit langjähriger Erfahrung in Virtualisierung, vSAN, Netzwerk, Storage, Backup, VDI und sicherheitssensiblen Betriebsumgebungen.

Hinweis: Ob eine konkrete Herstellerkomponente vollständig offline betrieben werden kann, wird im Design und anhand der eingesetzten Versionen geprüft.