Zum Hauptinhalt springen
KI-Integration KI-Transformation Organisationsentwicklung Mittelstand Führung

KI im Mittelstand einführen: die vier Phasen und was in jeder davon organisational geklärt sein muss

Kevin Rassner

Kevin Rassner

5 Min. Lesezeit
Verzweigte Struktur als Sinnbild für Entscheidungswege in Organisationen

Artikel anhören — barrierefreie Audio-Version, KI-vorgelesen

Lizenzen für alle, ein Tool, das zur IT passt, Schulungen, eine Richtlinie. Ein halbes Jahr später nutzen drei Leute das Werkzeug täglich, der Rest gelegentlich, und niemand kann sagen, was sich im Betrieb verändert hat.

Dieser Zwischenstand ist verbreitet. In Deutschland werden über 80 Prozent der KI-Implementierungsprojekte in früher Phase als nicht erfolgreich wahrgenommen, und die Ursache liegt laut den Autoren der entsprechenden Untersuchung selten in der Technik (siehe Warum über 80 Prozent der KI-Projekte scheitern).

Die Reihenfolge stimmt, die Frage dahinter fehlt

Wer nach dem Ablauf einer KI-Einführung sucht, findet überall dieselbe Abfolge: Potenziale analysieren, Governance klären, Mitarbeitende befähigen, pilotieren und skalieren. Die Abfolge ist richtig. Sie beschreibt die Projektsicht — wer wann was tut.

Was sie offenlässt: woran jede dieser Phasen in der Organisation hängt. Deshalb hier dieselben vier Phasen noch einmal, mit dieser zweiten Frage.

Phase 1: Wo wird entschieden?

Die übliche Potenzialanalyse sucht nach Tätigkeiten, die viel Zeit kosten und wenig Kopf brauchen. Datenerfassung, Textbausteine, Recherche, Standardantworten. Das findet echte Potenziale, und die ersten Erfolge kommen dort auch zuverlässig.

Nur entscheidet sich der Ertrag an einer anderen Stelle. KI verkürzt Durchlaufzeiten, und Durchlaufzeit ist in vielen Organisationen der Ort, an dem ungeklärte Entscheidungen zwischengelagert werden. Solange ein Angebot vier Tage über sechs Schreibtische läuft, fällt nicht auf, dass niemand die Kriterien für den Preis benennen kann. Unterwegs weiß immer irgendwer Bescheid. Fällt der Weg weg, steht die Frage im Raum.

Die Potenzialanalyse braucht deshalb eine zweite Spalte: Welche Entscheidung steckt in diesem Prozess, und wer trifft sie heute tatsächlich? Prozesse, in denen diese Frage beantwortbar ist, lassen sich gefahrlos beschleunigen. Die anderen sollte man zuerst klären und dann automatisieren.

Phase 2: Governance heißt Entscheidungsrechte

„Governance“ wird im Mittelstand meistens als Dokument gelesen: eine Nutzungsrichtlinie, ein Hinweis auf Datenschutz, eine Liste erlaubter Werkzeuge. Das ist notwendig und in zwei Wochen erledigt.

Die Wirkung entsteht woanders. Wenn ein Mitarbeiter eine KI-gestützte Auswertung vorlegt, muss geklärt sein, wer sie verantwortet — der, der sie erstellt hat, der, der sie freigibt, oder niemand. In Organisationen, die diese Frage offenlassen, entsteht ein vorhersehbares Muster: Leute nutzen die Werkzeuge für Vorarbeit, die niemand sieht, und legen am Ende weiter das vor, was sie vorher auch vorgelegt haben. Die Zeitersparnis versickert in Doppelarbeit, und in der Statistik sieht es aus wie Nutzung.

Was geregelt werden muss, ist deshalb weniger die Werkzeugliste als die Frage, wessen Urteil zählt, wenn ein Werkzeug mitgearbeitet hat.

Phase 3: Befähigung verschiebt Rollen

Schulungen zu Prompts und Werkzeugen sind schnell organisiert und sie helfen. Was sie nicht leisten: die Verschiebung auffangen, die danach kommt.

Wenn Routineanteile wegfallen, verschiebt sich Arbeit in Richtung Prüfen, Einordnen und Entscheiden. Das trifft nicht alle gleich. Für erfahrene Fachkräfte ist es oft eine Entlastung. Für Rollen, deren Wert über Sorgfalt und Fleiß definiert war, ist es eine Entwertung — und zwar eine, über die selten offen gesprochen wird, weil sie sich schlecht anfühlt und leicht nach Undankbarkeit klingt.

Im Mittelstand kommt dazu, dass viele dieser Rollen über Jahre gewachsen sind und an Personen hängen, die seit zwanzig Jahren da sind. Eine Einführung, die diesen Teil überspringt, bekommt keinen Widerstand, den man diskutieren kann. Sie bekommt Höflichkeit und Nichtnutzung.

Phase 4: Verankerung braucht eine Zahl, die stört

Am Ende steht in fast jedem Plan „skalieren und verankern“. Gemessen wird dann Nutzung: aktive Lizenzen, Prompts pro Woche, Zufriedenheit im Pulse Check.

Diese Zahlen steigen zuverlässig und sagen wenig. Nützlicher ist eine Kennzahl aus dem Geschäft, die vorher schon jemanden gestört hat: Durchlaufzeit eines Angebots, Zahl der Rückfragen im Kundenservice, Termintreue in der Arbeitsvorbereitung. Bewegt sie sich nach sechs Monaten nicht, hat die Organisation ein Werkzeug eingeführt und sonst nichts. Das lässt sich dann benennen, statt es hinter Nutzungsquoten zu verstecken.

Was im Mittelstand anders läuft als im Konzern

Die Entscheidungswege sind kurz, was die Einführung beschleunigt und die Klärung erschwert. Wenn der Inhaber ohnehin alles freigibt, wird nie sichtbar, nach welchen Kriterien er das tut. Genau diese Kriterien braucht man aber, sobald ein Werkzeug den Weg dorthin verkürzt.

Es gibt selten eine eigene Rolle dafür. KI landet bei der IT, bei der Assistenz der Geschäftsführung oder bei dem, der sich interessiert. Alle drei können das, keiner hat Zeit dafür, und niemandem gehört das Ergebnis.

Und die Datenlage ist gemischt. ERP-Daten sind meistens gepflegt, das Erfahrungswissen steckt in Köpfen und Ordnern. Das ist kein Hindernis für den Einstieg, es verschiebt nur, wo die ersten Anwendungen sinnvoll sitzen.

Wo Beratung hilft und wo nicht

Für Werkzeugauswahl, Schnittstellen und Datenschutz gibt es gute IT-Dienstleister, und für einen ersten Überblick ohne Rechnung gibt es in der Region das KI Transfer Office der IHK Heilbronn-Franken. Beides ist der günstigere erste Schritt, bevor eine Beratung beauftragt wird.

Organisationsentwicklung lohnt sich an einer anderen Stelle: wenn absehbar ist, dass die Einführung Entscheidungswege, Rollen und Verantwortlichkeiten berührt — und wenn im Haus niemand die Position hat, diese Fragen zu stellen, ohne dass es nach Kritik an der Geschäftsführung aussieht. Mehr dazu auf unserer Seite zur KI-Transformation.

Für einen ersten Piloten in einem klar abgegrenzten Prozess braucht es das nicht. Da wäre es teuer und langsam.

Wo das anfängt

Meistens mit einem kleinen Vorhaben: schneller Angebote schreiben, Protokolle automatisch erstellen, Standardanfragen vorsortieren. Das ist ein guter Anfang.

Kurz darauf redet dieselbe Firma über Freigabegrenzen, über Preislogik, über die Frage, wer eigentlich Kunde von wem ist. Diese Gespräche waren vorher schon fällig. Das Werkzeug hat nur den Termin gemacht.

Ob das ein Problem ist oder ein Fortschritt, entscheidet sich daran, ob jemand die Fragen aufgreift, solange sie noch auf dem Tisch liegen.

Häufige Fragen

Welche Phasen hat eine KI-Einführung im Mittelstand?
Üblich sind vier Phasen: Potenziale analysieren, Governance klären, Mitarbeitende befähigen, pilotieren und verankern. Jede hängt an einer organisationalen Frage: wo entschieden wird, wessen Urteil zählt, wie sich Rollen verschieben und an welcher Geschäftskennzahl sich Wirkung zeigen soll.
Warum bringt eine KI-Einführung oft keine messbare Wirkung?
Häufig bleibt ungeklärt, wer eine KI-gestützte Arbeit verantwortet. Dann nutzen Mitarbeitende die Werkzeuge für Vorarbeit, die niemand sieht, und legen am Ende vor, was sie vorher auch vorgelegt haben. Die Zeitersparnis versickert in Doppelarbeit, während die Nutzungsstatistik steigt.
Was gehört zur KI-Governance im Mittelstand?
Eine Nutzungsrichtlinie, Hinweise zum Datenschutz und eine Liste erlaubter Werkzeuge sind notwendig und in etwa zwei Wochen erledigt. Wirksam wird Governance erst mit geklärten Entscheidungsrechten: Wessen Urteil zählt, wenn ein Werkzeug mitgearbeitet hat?
Woran lässt sich der Erfolg einer KI-Einführung messen?
Nutzungszahlen wie aktive Lizenzen oder Prompts pro Woche steigen zuverlässig und sagen wenig. Aussagekräftiger ist eine Kennzahl aus dem Geschäft, die schon vorher jemanden gestört hat, etwa die Durchlaufzeit eines Angebots, die Zahl der Rückfragen im Kundenservice oder die Termintreue. Bewegt sie sich nach sechs Monaten nicht, wurde ein Werkzeug eingeführt und sonst nichts.
Wann lohnt sich Organisationsentwicklung bei der KI-Einführung?
Wenn absehbar ist, dass die Einführung Entscheidungswege, Rollen und Verantwortlichkeiten berührt, und im Haus niemand diese Fragen stellen kann, ohne dass es nach Kritik an der Geschäftsführung aussieht. Für Werkzeugauswahl, Schnittstellen und Datenschutz sind IT-Dienstleister die bessere Adresse, einen kostenlosen Überblick bietet das KI Transfer Office der IHK Heilbronn-Franken. Ein erster Pilot in einem klar abgegrenzten Prozess braucht keine OE-Begleitung.

Interesse an einer Zusammenarbeit?

Lassen Sie uns gemeinsam besprechen, wie wir diese Themen in Ihrer Organisation wirksam werden lassen.

Aus dem Wissens-Hub

Weitere Artikel zum Thema.

Alles zu KI
Abstrakte Datenstruktur als Sinnbild für KI in Organisationen

Warum über 80 Prozent der KI-Projekte scheitern – und was das mit Organisationsentwicklung zu tun hat

Ein Mittelständler automatisiert seinen Angebotsprozess. Technisch ein No-Brainer. Danach diskutiert die Firma über Rollen, Verantwortung und Entscheidungen. Ein neues Whitepaper erklärt, warum genau das der Normalfall ist.

7. August 20264 Min.
Altes Telefon auf einem Schreibtisch im Rathaus als Sinnbild für KI am Apparat

Lotte am Apparat: Warum KI in der Verwaltung eine Organisationsfrage ist

Die Gemeinde Kernen lässt eine KI namens Lotte ans Verwaltungstelefon – nicht aus Technikbegeisterung, sondern weil ein Bürgermeister mit OE-Hintergrund zuerst die Organisationsfrage gestellt hat. Eine Beobachtung vom KI-Festival Heilbronn.

27. Juli 20265 Min.
KI-Benutzeroberfläche mit Beipackzettel-Warnhinweisen

Risiken und Nebenwirkungen von AI

Eine Anekdote über die Beschleunigung durch AI bei der Produktentwicklung – und warum die eigentlichen Risiken von KI-Einführung nicht technisch, sondern organisatorisch sind.

21. November 20255 Min.