Kostenvergleich: Lokale KI vs. externe KI (Cloud/API)
Einleitung
Unternehmen, die KI-Lösungen einführen wollen, stehen vor der Entscheidung: Externe KI-Dienste (Cloud-APIs, SaaS-Abonnements) oder lokale, On-Prem-Installationen. Dieser Text vergleicht die Kosten beider Modelle über einen Zeitraum von drei Jahren anhand konkreter, periodisch aufgeschlüsselter Berechnungsbeispiele. Basis ist ein fiktives mittelständisches Unternehmen mit ca. 50 Mitarbeitern und regelmäßiger KI-Nutzung (z. B. Dokumentenanalyse, Kundensupport-Chatbot, interne Wissdatenbank).
Szenario und Annahmen
- Mitarbeiter: 50
- Aktive KI-Nutzer: 20
- Nutzung: ca. 100.000 Token pro Tag (Eingabe + Ausgabe)
- Betrachtungszeitraum: 3 Jahre (36 Monate)
- Alle Preise netto, inkl. geschätzter Strom- und Wartungskosten
- Lokale Lösung: On-Prem-Server mit NVIDIA RTX 4080 SUPER (16 GB VRAM)
- API-Gebühren: ca. 0,0015 € pro 1.000 Token (Eingabe + Ausgabe) bei einem mittelgroßen Modell
- SaaS-Plattform-Gebühr: 20 € pro Nutzer und Monat (z. B. für Verwaltung, Schnittstelle, Support)
- Einrichtungsgebühr: einmalig 500 €
- Schulung der Mitarbeiter: einmalig 1.000 €
- Server-Workstation mit NVIDIA RTX 4080 SUPER (16 GB VRAM): 2.200 €
- CPU, Mainboard, RAM (64 GB), NVMe-SSD (2 TB): 1.300 €
- Gehäuse, Netzteil, Kühlung: 300 €
- Einmalig insgesamt: 3.800 €
- Strom (ca. 300 W durchschnittliche Last, 24/7 Betrieb): 300 W × 24 h × 30 Tage = 216 kWh/Monat × 0,35 €/kWh = 75,60 €/Monat
- Wartung und Support (externer IT-Dienstleister, pauschal): 150 €/Monat
- Software-Lizenz für YakutGems-Modell (optional, je nach Lizenzmodell): 0 € bis 200 €/Monat (hier mit 0 € gerechnet, da eigenes Modell)
- Strom für Kühlung und Infrastruktur (ca. 20 % Aufschlag): 15,12 €/Monat
- API: 9,00 €
- SaaS: 800 €
- Gesamt: 809,00 €/Monat
- 3-Jahres-Gesamt: ca. 29.424,00 €
- Strom steigt leicht (höhere Last): ca. 280,00 €/Monat
- 3-Jahres-Gesamt: ca. 14.880,00 €
- Volle Datensouveränität, DSGVO-konform, AI Act ready
- Keine Abhängigkeit von US-Cloud-Anbietern
- Keine Datenverarbeitung in fremden Ländern
- Planungssicherheit durch feste Kosten
- Hohe Verfügbarkeit auch ohne Internetverbindung
- Höhere Anfangsinvestition
- Eigene Wartung oder Wartungsvertrag nötig
- Geringe Anfangsinvestition
- Schnelle Inbetriebnahme
- Anbieter übernimmt Wartung und Updates
- Laufende API-Kosten steigen mit der Nutzung
- Daten verlassen das Unternehmen (Datenschutzrisiko)
- Abhängigkeit von Anbieterverfügbarkeit und Preisen
- Keine volle Kontrolle über Modell und Daten
Teil 1: Externe KI (Cloud/API-Modell)
Externe KI-Dienste werden in der Regel über API-Token abgerechnet oder als monatliches SaaS-Abonnement angeboten.
Kostenkomponenten:
Berechnung pro Monat:
API-Kosten: 100.000 Token/Tag × 30 Tage = 3.000.000 Token/Monat 3.000.000 ÷ 1.000 × 0,0015 € = 4,50 €/Monat
SaaS-Gebühren: 20 Nutzer × 20 € = 400 €/Monat
Gesamtkosten externe KI pro Monat: 4,50 € + 400 € = 404,50 €
Periodische übersicht externe KI:
Monat 1 (inkl. Einmalzahlungen): 404,50 € + 500 € (Einrichtung) + 1.000 € (Schulung) = 1.904,50 €
Monat 2–36 (jeweils): 404,50 €
Gesamtkosten über 3 Jahre: 1.904,50 € + (35 × 404,50 €) = 1.904,50 € + 14.157,50 € = 16.062,00 €
Durchschnittliche Monatskosten über 3 Jahre: 16.062,00 € ÷ 36 = 446,17 €/Monat
Hinweis: Bei steigender Nutzung (mehr Token, mehr Nutzer) steigen die API-Kosten linear. Die Kosten sind variabel und schwer langfristig planbar.
Teil 2: Lokale KI (On-Prem-Modell)
Lokale KI bedeutet, dass Hardware, Modelle und Daten im eigenen Unternehmen bleiben. Es fallen keine API-Gebühren an, dafür Hardware, Strom und Wartung.
Hardware (Anschaffung, einmalig):
Laufende Kosten pro Monat:
Gesamtkosten lokale KI pro Monat (nach Anschaffung): 75,60 € + 150 € + 15,12 € = 240,72 €/Monat
Periodische übersicht lokale KI:
Monat 1 (inkl. Hardware): 240,72 € + 3.800 € (Hardware) + 1.000 € (Einrichtung/Schulung) = 5.040,72 €
Monat 2–36 (jeweils): 240,72 €
Gesamtkosten über 3 Jahre: 5.040,72 € + (35 × 240,72 €) = 5.040,72 € + 8.425,20 € = 13.465,92 €
Durchschnittliche Monatskosten über 3 Jahre: 13.465,92 € ÷ 36 = 374,05 €/Monat
Teil 3: Direkter Vergleich
Kosten über 3 Jahre (36 Monate):
| Kostenart | Externe KI (Cloud/API) | Lokale KI (On-Prem) |
|---|---|---|
| Einmalige Einrichtung | 1.500,00 € | 4.800,00 € |
| Laufende Kosten (36 Mo.) | 14.562,00 € | 8.665,92 € |
| Gesamtkosten | 16.062,00 € | 13.465,92 € |
| Ø Monatskosten | 446,17 € | 374,05 € |
| Einsparung lokal vs. extern | – | 2.596,08 € (16,2 %) |
Lokale Einrichtung: Hardware 3.800 € + Schulung 1.000 €
Amortisationspunkt:
Die höhere Anfangsinvestition der lokalen Lösung amortisiert sich nach ca. 18 Monaten. Ab Monat 19 sind die laufenden Kosten der lokalen Lösung niedriger als die der externen Lösung.
Teil 4: Sensitivanalyse (bei steigender Nutzung)
Bei doubling der Token-Nutzung (200.000 Token/Tag) und doubling der Nutzer (40):
Externe KI pro Monat:
Lokale KI pro Monat:
Einsparung lokal vs. extern bei hoher Nutzung: ca. 14.544,00 € (49,4 %)
Teil 5: Nicht-monetäre Faktoren
Neben den reinen Kosten spielen weitere Faktoren eine Rolle:
Lokale KI (On-Prem):
Externe KI (Cloud):
Fazit
Für Unternehmen mit regelmäßiger, wachsender KI-Nutzung ist die lokale On-Prem-Lösung über einen Zeitraum von 3 Jahren günstiger als externe Cloud-APIs – bei gleichzeitiger Wahrung der Datensouveränität und DSGVO-Konformität. Die Amortisation erfolgt nach ca. 1,5 Jahren. Bei geringer, sporadischer Nutzung kann eine externe Lösung zunächst günstiger erscheinen, birgt jedoch langfristig höhere und unvorhersehbare Kosten sowie datenschutzrechtliche Risiken.
Empfehlung von Yakut AI: Für den Mittelstand, der KI produktiv und langfristig einsetzen will, ist eine lokale On-Prem-Installation die wirtschaftlichere und sicherere Wahl.