Risiken und Nebenwirkungen von AI
Kevin Rassner
Eine ehemalige Kollegin und Freundin, Dr. Angela Steinbach, hatte eine Geschäftsidee, die sehr gut klang. Die Abfindungswelle in der deutschen Automobilindustrie startet eine Entwicklung, die wir vielleicht aufgreifen können: Firmen entlassen gerade viele Experten, und absehbar wird ein Teil von ihnen anschließend durch diese oder andere Firmen wieder gebraucht, nur unter flexibleren Konditionen.
Wie schon vor vielen Jahren in den USA wird der Freelancer-Sektor auch hier in Deutschland einen Aufschwung erleben. Viele Experten sind von diesem Karrierepfad aber verunsichert, weil plötzlich Anmeldung eines Gewerbes, Vertriebsarbeit und Rechnungsstellung anfallen, also alles Dinge, um die sich im Konzern bisher andere gekümmert haben.
Hier wollten wir ansetzen: Zielgruppe OEM- und Tier1-Experten, vollautomatisierte Unterstützung bei Anmeldung, Betrieb und Abrechnung der Tätigkeiten. So sollten Experten, die bisher durch ihre Konzerne betreut waren, mit niedrigen Hürden in die Selbstständigkeit finden.
Das war vor fünf Tagen. Also Perplexity angeworfen, fünfzehn Seiten Marktrecherche gewälzt und festgestellt: Es gibt eine Lücke, die noch kein Konkurrent schließt.
Vier Tage später stand der App-MVP, tatsächlich drei MVPs: eine App für Consultants, eine für Firmen, eine zur Administration für den Betreiber, zusammen Expertier1.
AI also als wahnsinniger Beschleuniger.
Dann gestern schreibt mir Angela, dass es eine Firma gibt, die genau das schon macht. Perplexity hatte die nicht auf dem Schirm (Malt, ihr braucht bessere AIO!).
AI also auch als Risiko.
Ich habe mich bei der Konkurrenz angemeldet und schaue, ob es da noch Lücken gibt, die es zu schließen gilt. Traurig bin ich darüber nicht – ich habe wieder eine Menge über das Entwickeln gelernt und bin bereiter für die nächste Runde.
Was das mit Organisationen zu tun hat
Bei Expertier1 war das Risiko verschmerzbar: vier Tage Arbeit, eine Lektion gelernt, weiter geht’s. In Unternehmen sieht die Rechnung anders aus, wenn KI-Tools in größerem Stil eingeführt werden, denn das eigentliche Risiko steckt dort selten in der Technik selbst, sondern in dem, was um die Technik herum passiert oder eben nicht passiert.
In Beratungsprojekten begegnen mir dabei vor allem drei Muster.
Das erste ist Vertrauen. Eine KI liefert ein Ergebnis, eine Marktanalyse, einen Entwurf, eine Bewertung. Die Frage ist nicht, ob das Ergebnis stimmt, sondern ob im Team die Gewohnheit existiert, es zu hinterfragen. Genau wie meine Perplexity-Recherche eine reale Lücke fand, aber eine andere übersah, liefern KI-Systeme in Unternehmen plausible, aber unvollständige Antworten. Wenn niemand mehr nachfragt, weil die KI das ja schon geprüft habe, wird aus einem Produktivitätsgewinn ein blinder Fleck.
Das zweite Muster ist Rollenambiguität. Wer ist verantwortlich, wenn eine KI-gestützte Entscheidung schiefgeht? In vielen Unternehmen ist das nach Monaten KI-Einsatz immer noch nicht klar geregelt, weder für die Person, die das Tool bedient hat, noch für die Führungskraft, die die Einführung verantwortet hat, noch für die IT, die das Tool bereitgestellt hat. Diese Unklarheit ist kein Detail am Rande, sondern entscheidet darüber, ob Mitarbeitende KI-Ergebnisse kritisch prüfen oder einfach durchwinken, weil es ja ohnehin nicht ihre Entscheidung sei.
Das dritte Muster ist schlicht Führungsversagen. Führungskräfte führen KI-Tools ein, ohne selbst zu verstehen, was die Tools können und was nicht, und ohne den Teams Raum zu geben, das gemeinsam zu lernen. Die Einführung wird zum IT-Projekt erklärt, nicht zum Veränderungsprojekt. Genau das unterscheidet eine Organisation, die KI als Werkzeug integriert, von einer, die KI als Black Box neben den bestehenden Prozessen laufen lässt.
Was das für den Mittelstand bedeutet
Konzerne können sich Fehlentscheidungen bei der KI-Einführung eher leisten als ein Unternehmen mit 50 bis 300 Mitarbeitenden. Wird dort ein KI-Tool eingeführt, ohne dass Verantwortlichkeiten geklärt, eine Testphase durchlaufen oder die betroffenen Teams eingebunden sind, zeigt sich der Schaden schnell: in der Kundenkommunikation, in der Produktqualität, im Vertrauen der Belegschaft in die Geschäftsführung.
Gleichzeitig haben Mittelstandsunternehmen einen Vorteil, den Konzerne nicht haben, nämlich kürzere Wege. Wenn die Geschäftsführung mit den Teams direkt sprechen kann, die ein KI-Tool nutzen sollen, lassen sich Rollenfragen und Vertrauensfragen viel schneller klären als in einer mehrstufigen Hierarchie. Voraussetzung ist, dass diese Gespräche tatsächlich stattfinden, statt nur die Tool-Lizenz zu verteilen.
In der Praxis sehe ich häufig, dass KI-Einführung als reine Beschaffungsentscheidung behandelt wird: welches Tool, welcher Preis, welche Schnittstelle. Die organisatorische Seite, also wer wofür zuständig ist, wie sich die Zusammenarbeit verändert und was das für bestehende Rollen bedeutet, wird nachgelagert oder gar nicht bearbeitet. Genau dort entstehen die Risiken, über die später gesprochen wird, wenn etwas schiefgelaufen ist.
Beschleuniger und Risiko gehören zusammen
Die Geschichte mit Expertier1 zeigt beides in komprimierter Form. KI macht vieles schneller möglich, das vorher Wochen gedauert hätte, und KI kann genauso schnell eine falsche Sicherheit erzeugen, wenn man sich auf ihre Ergebnisse verlässt, ohne die Lücken zu kennen.
Für Organisationen heißt das: KI-Einführung ist kein Projekt, das man nebenbei macht, während man sich auf andere Dinge konzentriert. Sie verdient die gleiche Aufmerksamkeit wie jeder andere Veränderungsprozess, mit Klärung von Rollen, mit Raum für Rückfragen und mit Führungskräften, die verstehen, was sie da einführen.
Wenn das in deiner Organisation gerade ein Thema ist, sei es, weil KI-Tools eingeführt werden sollen, oder weil sie schon da sind und niemand so richtig weiß, wie man gut damit umgeht, melde dich gerne. Das ist genau der Bereich, in dem Organisationsentwicklung ansetzt: nicht bei der Technik, sondern bei den Menschen und Strukturen drumherum.
