✦ Neu

Private KI auf
eigener Infrastruktur

Comdat betreibt Sprach- und Dokumenten-KI lokal auf Proxmox-Servern mit GPU – bei Ihnen im Haus oder in einem Schweizer Rechenzentrum. Ihre Daten verlassen das Unternehmen nicht.

Workshop anfragen So gehen wir vor
gpu-01 · online
GPU & Leistung
72%GPU
VRAM
38 / 48 GB
Antwortzeit
0.8 sp95
Anfragen heute
1'248
Tokens / s
64
Geladene Modelle
LLM
Llama 3.1 · 70B
aktiv
LLM
Mistral · 7B
aktiv
EMB
Embeddings · Dokumente (RAG)
indexiert
Auslastung
Ø 0.8 s
24 h
Comdat Datasystems AG · Proxmox GPU-Node
lokal · keine externe Verbindung
100%
Daten in der Schweiz
0
Token-Kosten
GPU
On-Premises

Was bedeutet Private KI?

Private KI heisst: Sprachmodelle wie Llama oder Mistral laufen auf Ihrer eigenen Hardware statt in einer fremden Cloud. Anfragen, Dokumente und Antworten bleiben in Ihrem Netzwerk – nachvollziehbar, kontrollierbar und ohne Abhängigkeit von US-Anbietern.

Über eine Chat-Oberfläche oder per API greifen Ihre Mitarbeitenden auf Wissen aus Fileserver, Microsoft 365 oder Ticketing zu. Die Berechtigungen kommen aus Active Directory bzw. Entra ID: Jede Person sieht nur, was sie auch sonst sehen darf.

  • Open-Source-Modelle (Llama, Mistral u. a.) – keine Lizenzbindung
  • Betrieb auf Proxmox-Servern mit GPU, bei Ihnen oder im Schweizer Rechenzentrum
  • Anbindung eigener Daten per RAG: Fileserver, M365, Ticketing
  • Zugriff per Chat-Oberfläche oder API
  • Berechtigungen aus Active Directory / Entra ID
  • Kalkulierbare Fixkosten statt Abrechnung pro Token
Comdat Assistant — intern
MK
Wie lautet unsere Richtlinie zum Umgang mit Kundendaten im Homeoffice?
Gemäss Richtlinie IT-03 dürfen Kundendaten im Homeoffice nur über den Firmen-Laptop mit VPN bearbeitet werden. Lokale Kopien und private Cloud-Dienste sind nicht erlaubt; Ausdrucke sind zu vermeiden.
intern: Fileserver/Richtlinien.pdf · S. 4
Frage stellen …
Modell: llama-3.1-70b Quelle: RAG · Fileserver Berechtigung: Entra ID ● lokal verarbeitet
Warum lokal?

KI, die Ihren Daten
gerecht wird

Daten bleiben im Haus

Dokumente, Anfragen und Antworten verlassen Ihre Infrastruktur nicht. Keine Übermittlung an externe Dienste, keine Nutzung für fremdes Modelltraining.

Schweizer Datenhaltung

Betrieb bei Ihnen vor Ort oder in einem Rechenzentrum in der Schweiz. Das vereinfacht Datenschutz, Revision und vertragliche Anforderungen.

Kalkulierbare Kosten

Sie bezahlen Hardware und Betrieb, nicht pro Anfrage. Die Kosten bleiben auch bei intensiver Nutzung stabil und planbar.

Offene Modelle

Open-Source-LLMs lassen sich austauschen und weiterentwickeln. Sie binden sich an keinen Anbieter und behalten die Kontrolle über Versionen.

Anbindung Ihrer Daten

Per RAG greift die KI auf Fileserver, Microsoft 365 und Ticketing zu und liefert Antworten mit Quellenangabe – abgestimmt auf Ihre Berechtigungen.

Proxmox als Basis

GPU-Nodes laufen als Teil Ihrer Proxmox-Umgebung: Backup, Monitoring und Hochverfügbarkeit sind bereits vorhanden.

In fünf Schritten zur eigenen KI

Comdat begleitet Sie vom ersten Workshop bis zum laufenden Betrieb – mit klaren Etappen und messbaren Ergebnissen.

1

KI-Readiness-Workshop

Gemeinsam klären wir Ziele, Datenschutzanforderungen und die vorhandene Infrastruktur. Sie erhalten eine ehrliche Einschätzung, wo KI bei Ihnen Nutzen stiftet.

2

Use-Case & Datenanalyse

Wir priorisieren konkrete Anwendungsfälle und prüfen, welche Datenquellen angebunden werden müssen – inklusive Berechtigungen und Datenqualität.

3

Pilot auf Proxmox-GPU-Node

Auf einem GPU-Node in Ihrer Proxmox-Umgebung richten wir Modell, Chat-Oberfläche und RAG-Anbindung ein. Eine Pilotgruppe testet im Alltag.

4

Integration & Schulung

Anbindung an Fileserver, Microsoft 365 oder Ticketing, Login über Entra ID, Schulung der Mitarbeitenden und Dokumentation.

5

Betrieb & Monitoring

Comdat überwacht Auslastung, Antwortzeiten und Updates, spielt neue Modellversionen ein und entwickelt die Lösung mit Ihnen weiter.

Für wen eignet sich Private KI?

KMU mit sensiblen Daten

Treuhand, Anwaltskanzleien, Ingenieurbüros: Unternehmen, die Kundendaten und Know-how nicht an externe Cloud-Dienste geben wollen.

Öffentliche Verwaltung & Bildung

Gemeinden, Schulen und Behörden mit klaren Vorgaben zu Datenschutz und Datenstandort Schweiz.

Industrie & Life Sciences

Produktionsbetriebe und Labore, die Dokumentation, Protokolle und Fachwissen intern durchsuchbar machen möchten.

Bausteine einer privaten KI-Plattform

Open-Source-Sprachmodelle

Llama, Mistral und weitere Modelle in passender Grösse – je nach Anwendungsfall und verfügbarer GPU.

Proxmox VE mit GPU

Virtualisierte GPU-Nodes mit Backup, Monitoring und optionaler Hochverfügbarkeit im bestehenden Cluster.

RAG & Dokumenten-KI

Indexierung von Fileserver, SharePoint und Ticketing; Antworten mit Quellenangabe auf Ihre Dokumente.

Chat-Oberfläche & API

Browserbasierter Assistent für Mitarbeitende sowie Schnittstellen für eigene Anwendungen.

Entra ID / Active Directory

Anmeldung mit bestehenden Konten, Berechtigungen werden aus den Gruppen übernommen.

Schweizer Rechenzentrum

Alternative zum Betrieb vor Ort: Hosting in der Schweiz, betreut durch Comdat.

KI-Readiness-Gespräch

30 Minuten, die klären,
ob private KI zu Ihnen passt

Im kostenlosen Erstgespräch schauen wir uns Ihre Anwendungsfälle, Datenquellen und Infrastruktur an. Sie erhalten eine ehrliche Einschätzung, was sich lohnt – und was nicht.

  • Passende Anwendungsfälle für Ihr Unternehmen
  • Einschätzung zu Hardware, Daten und Kosten
  • Keine Verpflichtung, kein Verkaufsgespräch

Oder rufen Sie uns direkt an: +41 44 738 24 24 · info@comdat.ch

Gespräch vereinbaren

Unverbindlich · Antwort innerhalb eines Arbeitstages · keine Weitergabe Ihrer Daten