KI Infrastruktur im Unternehmen, was sie braucht und was sie kostet

MindsMachines, Stand 15. November 2026

Kurz gesagt

KI im Unternehmen besteht aus einem Sprachmodell, das Text versteht und schreibt, und einer Software, die Wissen, Regeln und Abläufe dazubringt. Beides läuft im eigenen Azure Tenant oder auf einem gemieteten Server in Europa, das Modell nach Verbrauch oder auf einer eigenen Grafikkarte. Der dokumentierte Betriebspfad ist Microsoft Azure, andere Umgebungen sind unterstützt, aber noch nicht mit einer Referenz belegt.

Viel Nutzung, wenig Ergebnis

Laut Bitkom 2026 setzen 57 Prozent der Unternehmen ab 20 Beschäftigten in Deutschland KI ein. In der weltweiten Erhebung von McKinsey 2026 arbeiten 80 Prozent der Befragten mit KI persönlich produktiver, einen positiven Effekt auf das Betriebsergebnis sehen 37 Prozent. Nach Einschätzung von MindsMachines kommt im Ergebnis bisher wenig an, weil die KI neben den Abläufen der Firma arbeitet und selten in ihnen. Der nächste Schritt führt vom Chat in die Abläufe, und dafür zählen die Software um das Modell und der Ort, an dem sie läuft.

KI On Premise, was braucht der Betrieb im eigenen Haus?

KI On Premise heißt im engen Sinn, dass die KI auf Servern im eigenen Haus läuft. In der Praxis zählt, dass Plattform, Daten und Protokolle in einer Umgebung laufen, die Sie kontrollieren, im eigenen Azure Tenant oder auf einem gemieteten Server in Europa. Der dokumentierte Betriebspfad ist Microsoft Azure, andere Umgebungen sind unterstützt, aber noch nicht mit einer Referenz belegt.

Ganze Antwort lesen

LLM selbst hosten, was braucht ein eigenes Sprachmodell?

Ein LLM selbst zu hosten heißt, ein offenes Sprachmodell auf einem Server mit Grafikkarte zu betreiben, der nur für Ihr Haus arbeitet. In verdichteter Fassung genügen 96 GB Speicher für ein großes offenes Modell mit rund 120 Milliarden Parametern, 24 GB für ein kleines mit rund 20 Milliarden. Der Preis steht fest, die Inhalte verlassen den Server nicht.

Ganze Antwort lesen

GPU Server mieten, was kostet die Miete im Monat?

Ein gemieteter GPU Server mit 96 GB Grafikspeicher kostet laut Hetzner 2026 999 Euro netto im Monat, dazu einmalig 999 Euro. Als virtuelle Maschine in Azure Frankfurt kostet dieselbe Klasse laut Microsoft ohne Reservierung rund 5.220 US Dollar im Monat, mit Reservierung für 3 Jahre rund 2.300 US Dollar. Beides sind Listenpreise für den vollen Monat mit 730 Stunden.

Ganze Antwort lesen

Was kostet KI im Unternehmen?

Die Kosten für KI im Unternehmen bestehen aus 3 Blöcken, der Plattform, der Infrastruktur, auf der sie läuft, und dem Sprachmodell. Das Modell rechnet nach Tokens ab oder läuft zum festen Preis auf einem eigenen Server. Den größten Hebel hat die Modellwahl. Dieselbe Rechnungsprüfung kostet mit einem offenen Modell rund 0,2 Cent, mit einem großen Modell rund 5,2 US Cent.

Ganze Antwort lesen

Was ist ein Sprachmodell, und was unterscheidet LLM und KI?

Ein Sprachmodell versteht und schreibt Text, große Sprachmodelle heißen auch LLM. Was im Unternehmen KI heißt, besteht aus diesem Modell und einer Software um das Modell. Die Software legt fest, was die KI in Ihrer Firma weiß und tun darf. Sie bringt Wissen mit Quelle, Regeln im Code, Rechnen mit prüfbarem Code und Abläufe, die von selbst starten.

Ganze Antwort lesen

KI einführen im Mittelstand, wie gelingt der Start?

Eine KI Einführung beginnt mit einem ersten Anwendungsfall, der häufig vorkommt, festen Regeln folgt und sich messen lässt, etwa die Rechnungskontrolle oder die Suche im Firmenwissen. Sie läuft in 4 Schritten, Beauftragung, Auftakt, Einrichtung sowie Schulung und Start. Die Kennzahl, an der Sie den Nutzen messen, legen Sie vor dem Start fest.

Ganze Antwort lesen

Weiterlesen

KI Server Kosten im KI Infrastruktur Rechner, Kauf, Strom, Personal und Miete aus 8 Eckdaten, jede Annahme mit Quelle.

DSGVO konforme KI in Ihrer Infrastruktur, wo die Daten liegen, wer zugreift und was nach Vertragsende bleibt.

OneMachine, die KI Plattform für Unternehmen, Fragen mit Quelle, Agenten, Workflows und Auswertungen in Ihrer Infrastruktur.

KI Use Cases je Bereich, Anwendungsfälle aus 7 Bereichen mit Wirkung, Aufwand und erstem Schritt.

EU AI Act Artikel 4 und KI Kompetenz, Rechtsstand mit Datum, Risikoklassen und Maßnahmen im Arbeitsalltag.

Quellen Bitkom, Presseinformation vom 14. September 2026, McKinsey, The State of AI 2026, On the road to ROI, Abruf am 15.11.2026. Preise netto laut Anbieter, Änderungen durch die Anbieter vorbehalten. Angaben zu OneMachine und Rechenbeispiele von MindsMachines, Stand November 2026, sie beruhen auf den genannten Annahmen. Diese Seite ersetzt weder ein Angebot noch eine Rechtsberatung. Stand der Seite 15.11.2026.

Den ersten Anwendungsfall im eigenen Haus besprechen

Use Case Gespräch, 30 Minuten, online, mit Johannes Heister. Ergebnis sind zwei bis drei priorisierte Anwendungsfälle im eigenen Haus und eine klare Empfehlung für den nächsten Schritt.
Use Case Gespräch vereinbaren