KI einführen im Mittelstand, wie gelingt der Start?

MindsMachines, Stand 15. November 2026

Kurz gesagt

Eine KI Einführung beginnt mit einem ersten Anwendungsfall, der häufig vorkommt, festen Regeln folgt und sich messen lässt, etwa die Rechnungskontrolle oder die Suche im Firmenwissen. Sie läuft in 4 Schritten, Beauftragung, Auftakt, Einrichtung sowie Schulung und Start. Die Kennzahl, an der Sie den Nutzen messen, legen Sie vor dem Start fest.

Wo der Mittelstand steht

Laut Bitkom 2026 setzen 57 Prozent der Unternehmen ab 20 Beschäftigten in Deutschland KI ein, 2025 waren es 36 Prozent. Laut KfW Research 2026, mit Kennzahlen des Jahres 2024, erzielen mittelständische Unternehmen mit KI eine Umsatzrendite von 4,5 Prozent, vergleichbare Unternehmen ohne KI 3,6 Prozent, die Arbeitsproduktivität liegt um rund 3,4 Prozent höher. Die Studie beschreibt einen Zusammenhang und lässt offen, was Ursache und was Wirkung ist.

3 Hürden vor dem nächsten Schritt

Unternehmen, die KI bereits nutzen, nennen laut Bitkom 2026 3 Hürden. 66 Prozent nennen die Anforderungen des Datenschutzes, 56 Prozent rechtliche Unsicherheit und 54 Prozent schwer kalkulierbare Kosten. Offen ist für die Geschäftsführung deshalb, ob die Firma etwas von der KI hat und wohin die Daten gehen. Beides entscheidet sich nach Einschätzung von MindsMachines an der Software um das Modell und an dem Ort, an dem sie läuft.

4 Schritte vom Auftrag zum Start

Die Einführung folgt einem festen Plan. Am Ende läuft ein erster Anwendungsfall, den Ihre Leute selbst bedienen und dessen Nutzen Sie messen.

  1. BeauftragungVertrag, Auftragsverarbeitung und Zugänge.
  2. AuftaktZiel, erster Anwendungsfall und Ansprechpartner.
  3. EinrichtungPlattform, Anmeldung, Konnektoren und Modelle.
  4. Schulung und StartNutzer schulen und den ersten Agenten in Betrieb nehmen.

Einführungsplan von MindsMachines, Stand November 2026.

Wer was tut

Die Geschäftsführung wählt den ersten Anwendungsfall und benennt eine verantwortliche Person. Die IT richtet Zugänge und Anmeldung ein. Der Fachbereich liefert Beispieldokumente und die Regeln, nach denen er heute arbeitet. MindsMachines richtet die Plattform ein, verbindet die vereinbarten Systeme und schult die Nutzer. Updates, Überwachung und Sicherheitspatches sind in der Lizenz.

Der erste Anwendungsfall

Geeignet ist ein Vorgang, der häufig vorkommt, festen Regeln folgt und sich messen lässt. Die Rechnungskontrolle erfüllt das in den meisten Firmen. Eine Rechnung kommt per Mail, ein Workflow startet und liest Rechnung und Bestellung, ein Agent gleicht Menge, Preis und Lieferschein ab. Der Einkauf prüft nur die Abweichungen, die Buchhaltung gibt frei, mit Protokoll. Entscheidung und Freigabe bleiben beim Menschen.

Den Nutzen messen

Legen Sie die Kennzahl vor dem Start fest und messen Sie am eigenen Vorgang, 4 Wochen vor und 4 Wochen nach dem Start. Für die Rechnungskontrolle sind das Minuten je Rechnung und der Anteil der Rechnungen ohne Abweichung, für das Firmenwissen die Suchzeit je Frage und der Anteil der Antworten mit Quelle. Nach dem Start kommen weitere Anwendungsfälle dazu, jeder nutzt Anmeldung, Wissen und Regeln, die schon eingerichtet sind.

7 Fragen an jedes Angebot

Diese Fragen helfen beim Vergleich von Angeboten, gleich von welchem Anbieter.

  1. Wo liegen Daten, Wissen und Protokolle?Eine gute Antwort nennt Land, Rechenzentrum und Vertragspartner.
  2. Wo stehen die Regeln?Fest im Code oder nur als Bitte an das Modell.
  3. Welche Modelle sind wählbar?Auch ein eigenes, und der Wechsel gelingt ohne neues Projekt.
  4. Was kostet es im Monat?Getrennt nach Plattform, Infrastruktur und Modellen, mit Annahmen zur Menge.
  5. Wer betreibt die Plattform?Updates, Überwachung und Sicherheitspatches mit benannter Zuständigkeit.
  6. Was bleibt bei Vertragsende?Daten und Wissen, in welchem Format, und was mit Agenten und Abläufen geschieht.
  7. Woran messen Sie den Nutzen?An einer Kennzahl, die vor dem Start feststeht.

Nach MindsMachines, Stand November 2026.

Weitere Fragen

Welcher Anwendungsfall eignet sich für den Start?

Ein Vorgang, der häufig vorkommt, festen Regeln folgt und sich messen lässt. In den meisten Firmen erfüllen das die Rechnungskontrolle und die Suche im Firmenwissen. Weitere Fälle in fast jeder Firma sind Angebote und Kundenmails, Reklamationen, Berichte aus Excel und Fragen an die Personalabteilung.

Was muss die IT für die KI Einführung vorbereiten?

Zugänge und Anmeldung, in der Regel über Microsoft Entra ID, und die Entscheidung, wo die Plattform läuft, im eigenen Azure Tenant oder auf einem gemieteten Server in Europa. Der dokumentierte Betriebspfad ist Microsoft Azure, andere Umgebungen sind unterstützt, aber noch nicht mit einer Referenz belegt. Dazu klärt die IT, welche Systeme angebunden werden, etwa SharePoint, OneDrive, Teams, Outlook, ERP oder CRM.

Was gilt für Beteiligungsgesellschaften mit mehreren Unternehmen?

Der Hebel entsteht, wenn derselbe Anwendungsfall in mehreren Beteiligungen läuft. Starten Sie mit einem Vorgang, den jede Beteiligung hat, etwa der Rechnungskontrolle, und messen Sie überall dieselbe Kennzahl. Jede Beteiligung behält eigene Infrastruktur, eigene Daten und eigene Lizenz, Skill und Workflow lassen sich übertragen.

Welche Rolle spielt der EU AI Act bei der Einführung?

In OneMachine erhält jeder geteilte Agent beim Anlegen eine Risikoklasse nach der europäischen KI Verordnung und steht im Register, jede Änderung steht im Protokoll. Was Artikel 4 seit dem 27. Juli 2026 für die KI Kompetenz Ihrer Leute verlangt, steht auf der Seite zum EU AI Act.

Weiterlesen

KI Use Cases je Bereich, Anwendungsfälle aus 7 Bereichen mit Wirkung, Aufwand und erstem Schritt.

EU AI Act Artikel 4 und KI Kompetenz, Rechtsstand mit Datum, Risikoklassen und Maßnahmen im Arbeitsalltag.

OneMachine, die KI Plattform für Unternehmen, Fragen mit Quelle, Agenten, Workflows und Auswertungen in Ihrer Infrastruktur.

KI Server Kosten im KI Infrastruktur Rechner, Kauf, Strom, Personal und Miete aus 8 Eckdaten, jede Annahme mit Quelle.

Quellen Bitkom, Presseinformation vom 14. September 2026, KfW Research, Fokus Volkswirtschaft Nr. 558, Abruf am 15.11.2026. Preise netto laut Anbieter, Änderungen durch die Anbieter vorbehalten. Angaben zu OneMachine und Rechenbeispiele von MindsMachines, Stand November 2026, sie beruhen auf den genannten Annahmen. Diese Seite ersetzt weder ein Angebot noch eine Rechtsberatung. Stand der Seite 15.11.2026.

KI Infrastruktur im Unternehmen, was sie braucht und was sie kostet

KI On Premise, was braucht der Betrieb im eigenen Haus?

KI On Premise heißt, Plattform, Daten und Protokolle laufen in Ihrer Umgebung. Bei lokaler KI läuft auch das Sprachmodell auf Ihrem Server.

LLM selbst hosten, was braucht ein eigenes Sprachmodell?

Ein offenes Sprachmodell auf eigener Grafikkarte betreiben. Welcher Speicher für welches Modell reicht, was die Miete kostet und wann es sich lohnt.

GPU Server mieten, was kostet die Miete im Monat?

Was ein GPU Server für KI im Monat kostet. Listenpreise für 24 GB, 96 GB und 4 Karten, Miete gegen virtuelle Maschine in der Cloud, mit Quelle.

Was kostet KI im Unternehmen?

Die Kosten für KI im Unternehmen bestehen aus Plattform, Infrastruktur und Sprachmodell. Was ein Token kostet und warum die Modellwahl den Preis treibt.

Was ist ein Sprachmodell, und was unterscheidet LLM und KI?

Ein Sprachmodell (LLM) versteht und schreibt Text. KI im Unternehmen ist das Modell plus Software mit Wissen, Regeln und Abläufen. Mit erdachtem Beispiel.

Den ersten Anwendungsfall im eigenen Haus besprechen

Use Case Gespräch, 30 Minuten, online, mit Johannes Heister. Ergebnis sind zwei bis drei priorisierte Anwendungsfälle im eigenen Haus und eine klare Empfehlung für den nächsten Schritt.
Use Case Gespräch vereinbaren