Souveräne KI, auf jedem Cluster.
Soverstack deployt ein souveränes LLM und einen Ops-Agenten auf Ihren eigenen GPUs - automatisch, mit dem Rest des Clusters. Kein API-Key, keine Exfiltration, keine SaaS-Abhängigkeit.
Was apply deployt
Drei Workloads. Null manuelles Setup.
Wenn Sie soverstack apply ausführen, wird die KI-Stack zusammen mit dem Cluster ausgerollt. Definiert in workloads/regional/, wie jeder andere Service.
- Souveränes LLM
workloads/regional/llm.yamlVM mit gpu-large Flavor + 200 GB Disk. Hostet Llama, Mistral, Qwen oder jedes Open-Weights-Modell Ihrer Wahl. OpenAI-kompatible API über das Mesh. - Ops-Agent (HA)
workloads/regional/agent.yamlLeader + Standby VMs mit aktivierbaren Profilen: Ops, Observability, Security, Compliance, Performance, Backup, Customer. - GPU-Flavor
flavors.gpu-largePCIe-Passthrough auf Proxmox-Ebene konfiguriert. NVIDIA / AMD / Intel - was immer Sie im Rack haben. - Mesh-Integration
tailscale / headscaleDie KI erreicht Ihre Datenbank, Secrets, Monitoring und Storage über das verschlüsselte Mesh. Keine öffentlichen Internet-Hops.
Anwendungsfälle
Was Teams mit AI on board bauen
Internes RAG
Suche und Synthese über Unternehmensdokumente, Code-Repos, Tickets - ohne dass ein einziges Byte Ihren Perimeter verlässt.
Pair Programming
OpenAI-kompatibler Endpoint für IDE-Tools (Continue, Aider, selbstgehostetes Cursor). Ihr Code bleibt souverän.
Kundensupport-KI
Tier-1-Triage und Antwortentwürfe trainiert auf Ihrer Knowledge Base. Kundendaten erreichen nie Dritte.
Ops-Automatisierung
Der Agent beobachtet Metriken, schlägt Scaling-Entscheidungen vor, schreibt Runbooks und Post-Mortems.
Anomalie-Erkennung
Zeitreihen- und Log-Analyse auf Ihrem SIEM. Erkennen Sie Ungewöhnliches, bevor Alerts feuern.
Compliance-Audit
Kontinuierliche Checks gegen ISO 27001, DSGVO, HDS, HIPAA Kontrollen. Audit-ready Evidenz auf Abruf.
Souveränitäts-Garantien
Drei Dinge, die sich nie ändern.
Ihre Daten verlassen Sie nie
Inferenz, Training, Fine-Tuning - alles auf Hardware, die Sie besitzen. Keine Telemetrie, keine Remote-Inferenz, kein undurchsichtiges Vendor-Backend.
Ihr Modell, Ihre Wahl
Wählen Sie Llama, Mistral, Qwen, Gemma oder Ihr eigenes Fine-Tune. Wechseln Sie jederzeit durch Bearbeiten von workloads/regional/llm.yaml.
Compliance by Design
DSGVO, HDS, HIPAA-ready by default dank LUKS-verschlüsseltem Storage und isoliertem Mesh-Netzwerk.
Betreiben Sie KI, die wirklich Ihnen gehört.
Live-Walkthrough von LLM und Agent in einem echten Cluster.