KI selbst hosten oder hosten lassen? Der ehrliche Vergleich

Was „private KI" wirklich bedeutet — zwei Architekturen, ein Ziel

Wenn Menschen „private KI" sagen, meinen sie zwei sehr verschiedene Dinge: lokal (ein Modell läuft auf eigener Hardware — Ollama, GPT4All, ein Llama- oder Mistral-Modell auf dem eigenen Server) oder vertraglich privat (ein Anbieter verarbeitet Ihre Eingaben, speichert sie aber nicht, trainiert nicht damit und garantiert das vertraglich). Das Ziel ist identisch: Ihre Daten sollen nicht zum Rohstoff fremder Systeme werden. Der Weg dorthin — und was er kostet — unterscheidet sich fundamental.

Wann Selbst-Hosting die richtige Antwort ist

Ehrlich: Es gibt Szenarien, in denen wir Ihnen Selbst-Hosting empfehlen würden.

1. Air-Gap-Anforderungen. Wenn Ihr System komplett vom Internet getrennt sein muss (Verschlusssachen, kritische Infrastruktur, extreme Compliance), führt kein Weg an lokaler Hardware vorbei. Kein Anbieter — auch wir nicht — kann „offline" anbieten.
2. Vorhandene GPU-Infrastruktur + Ops-Team. Wer bereits Rechenzentrums-Kapazität und Leute hat, die Modelle deployen, patchen und überwachen können, bezahlt den Aufpreis eines Anbieters für Komfort, den er nicht braucht.
3. Extremes Volumen mit konstanter Last. Ab dauerhaft hoher Auslastung kann eigene Hardware pro Token günstiger werden als jede API — wenn man die Personalkosten ehrlich mitrechnet (die meisten rechnen sie nicht).
4. Lernen und Experimentieren. Für Entwickler und Bastler ist ein lokales Modell der beste Spielplatz. Ollama auf dem MacBook kostet nichts und lehrt viel.

Die ehrliche Rechnung des Selbst-Hostings

Was in Foren-Empfehlungen („nimm doch einfach Ollama!") regelmäßig fehlt:

• Hardware: Produktionsreife Setups für brauchbare Modelle bewegen sich zwischen einigen tausend Euro (Einstieg) und fünfstelligen Beträgen (mehrere Nutzer, größere Modelle) — plus Strom, plus Ersatz in 2–3 Jahren.
• Modellqualität: Offene Modelle sind stark geworden, aber auf eigener Consumer-Hardware laufen meist die kleineren Varianten — spürbar unter dem Niveau aktueller Spitzenmodelle. Der Qualitätsabstand ist real und im Alltag relevant.
• Betrieb: Updates, Sicherheits-Patches, Verfügbarkeit, Monitoring, Backup-Strategie, Nutzerverwaltung. Das ist ein IT-Projekt mit Dauerbetrieb, kein Wochenend-Setup.
• Compliance ist NICHT automatisch erledigt: Auch lokale KI verarbeitet personenbezogene Daten — DSGVO-Pflichten (Zugriffskontrolle, Löschkonzepte, TOM-Dokumentation) bleiben bestehen; sie haben nur einen anderen Adressaten: Sie selbst. „Läuft bei uns im Keller" ist kein Datenschutzkonzept, sondern der Anfang von einem.

Wann der spezialisierte Anbieter gewinnt

1. Sie brauchen Verträge, keine Architektur-Diskussion. Auftraggeber, Datenschutzbeauftragte und Berufskammern fragen nach AVV, TOM und Verantwortlichkeiten — nicht nach Ihrer Docker-Config. Ein Anbieter mit öffentlichem AVV und dokumentierten Maßnahmen beantwortet diese Fragen in Minuten.
2. Berufsgeheimnisträger: Für Kanzleien, Steuerberater und Praxen existiert beim Selbst-Hosting kein Dienstleister, der nach § 203 StGB verpflichtet werden könnte — dafür tragen Sie die gesamte technische Verantwortung persönlich. Ein Anbieter mit Verschwiegenheitsverpflichtung dreht das Verhältnis um: Verantwortung wird vertraglich geteilt und dokumentiert.
3. Spitzenmodell-Qualität ohne Spitzen-Hardware. Aktuelle große Modelle auf professioneller Inferenz-Infrastruktur, bezahlt nach Nutzung statt nach Anschaffung.
4. Zero Retention als Architektur: Bei PrivatAI werden Eingaben und Ausgaben verarbeitet und verworfen – keine Inhalts-Logs, kein Training, Kernverarbeitung in Deutschland und Frankreich. Der praktische Effekt ist derselbe wie beim lokalen Modell — es entsteht kein Datenbestand — nur ohne den Serverschrank.
5. Sofort startklar: Chat für das Team heute, OpenAI-kompatible API für eigene Integrationen morgen. Kein Beschaffungsprojekt.

Die Entscheidungsmatrix

PrivatAI (privatai.com) — KI-Chat & API aus Deutschland. Keine Inhalts-Logs, kein Training mit Ihren Daten, DSGVO-konform.