KI-Roadmap erstellen: Von der Vision zur Umsetzung
Aktualisiert: 07. April 2026
Ein Muster begegnet mir bei mittelständischen deutschen Unternehmen immer wieder: Die Geschäftsführung ist von KI begeistert, das Team hat eine Handvoll Tools ausprobiert, jemand hat ein Pilotprojekt durchgeführt, und doch hat sich zwölf Monate später kaum etwas daran geändert, wie das Unternehmen tatsächlich arbeitet. Der Grund liegt weder an fehlendem Ehrgeiz noch an der Technologie, sondern am Fehlen einer Roadmap, die den Ehrgeiz mit einer strukturierten Umsetzung verbindet.
Die Zahlen sind ernüchternd. Laut der BCG-Umfrage 2024 unter 1.000 Führungskräften aus 59 Ländern haben 74 % der Unternehmen noch keinen greifbaren Mehrwert aus KI erschlossen, und nur 26 % sind über den Proof of Concept hinausgekommen. Die RAND Corporation hat festgestellt, dass über 80 % der KI-Projekte den Produktivbetrieb nie erreichen, meist wegen Kommunikationsproblemen, fehlender Daten und eines Technologiefokus, der das eigentliche Geschäftsproblem ausblendet. Zugleich zeigen McKinseys Daten vom November 2025, dass 88 % der Organisationen KI in mindestens einem Bereich einsetzen, doch nur etwa 6 % davon 5 % oder mehr ihres EBIT-Effekts auf KI zurückführen. Der KI-Einsatz ist weit verbreitet. Eine strukturierte Umsetzung, die messbare Ergebnisse liefert, ist dagegen außerordentlich selten. Eine phasenweise 12-Monats-Roadmap mit Governance-Kontrollpunkten, klaren Skalierungskriterien und Abbruchoptionen für scheiternde Projekte ist der Weg, diese Lücke zu schließen. Es folgt das Framework, das ich mit Geschäftsführern mittelständischer Unternehmen einsetze, gestützt auf das, was die Forschung tatsächlich darüber sagt, warum manche Organisationen Wert erschließen und die meisten nicht.
Warum die Lücke zwischen KI-Einsatz und KI-Wert immer größer wird
Eine Zahl hält jeden Geschäftsführer nachts wach: BCG hat festgestellt, dass KI-Vorreiter über drei Jahre ein 1,7-fach höheres Umsatzwachstum und eine 3,6-fach höhere Gesamtaktionärsrendite erzielen als Nachzügler. Diese Lücke bleibt nicht konstant, sie wächst. Die Unternehmen, die früh und gut vorgehen, ziehen immer weiter davon.
Wenn ich mit Führungsteams in Süddeutschland zusammensitze, sehe ich immer dasselbe Muster. Jemand hat ChatGPT für Angebote getestet. Ein begeisterter Abteilungsleiter hat ein Pilotprojekt durchgeführt. Ein Anbieter hat eine überzeugende Demo gezeigt. Doch keines dieser Experimente ist mit den anderen oder mit den strategischen Prioritäten des Unternehmens verbunden. Es sind isolierte Vorstöße, die im luftleeren Raum schweben.
Das ist kein Technologieproblem. BCGs Daten sind eindeutig: 70 % der Schwierigkeiten mit KI gehen auf Menschen und Prozesse zurück, nicht auf die Technik. Nur 20 % sind tatsächlich technische Probleme, und nur 10 % betreffen die KI-Algorithmen selbst. Die Unternehmen, die BCGs sogenannte „10/20/70-Regel“ beherzigen (10 % Algorithmen, 20 % Technik, 70 % Menschen und Prozesse), erschließen durchgängig Wert. Deloittes Forschung bestätigt das: Organisationen, die ihre Arbeit parallel zur KI-Einführung umgestalten, übertreffen die ROI-Erwartungen doppelt so häufig, während die 59 %, die rein technologiegetrieben vorgehen, 1,6-mal häufiger enttäuschende Ergebnisse melden.
MITs Project NANDA zeichnet ein noch drastischeres Bild. Nach der Auswertung von 300 KI-Einführungen in Unternehmen, 150 Interviews und 350 Umfrageantworten kam es zu dem Ergebnis, dass 95 % der generativen KI-Piloten keinen Effekt auf Gewinn und Verlust haben. Keinen geringen Effekt, sondern gar keinen. Die Unternehmen investierten zusammen 30–40 Milliarden Dollar in generative KI und haben daraus für das Betriebsergebnis fast nichts vorzuweisen.
Der gemeinsame Nenner? Keine strukturierte Roadmap. Kein phasenweises Vorgehen. Keine Governance. Keine Abbruchkriterien. Nur Begeisterung, gefolgt von Enttäuschung.
Eine Roadmap garantiert keinen Erfolg. Doch ihr Fehlen garantiert nahezu sicher Verschwendung.
Das 12-Monats-Phasen-Framework
Das folgende Framework gliedert ein ganzes Jahr in vier Phasen von je rund 90 Tagen. Das ist nicht willkürlich, sondern folgt dem vierteljährlichen Überprüfungsrhythmus, den mittelständische Unternehmen ohnehin für ihre Finanzplanung nutzen, und entspricht dem Tempo, in dem sich KI-Fähigkeiten weiterentwickeln (bedenken Sie: Stanford HAI hat festgestellt, dass die KI-Inferenzkosten in nur 18 Monaten um das 280-Fache gesunken sind). Eine Detailplanung über 12 Monate hinaus ist Spekulation; eine Planung in 90-Tage-Blöcken ist praxistauglich.
Phase 1: Fundament legen (Monate 1–3)
Das ist die Phase, die die meisten Unternehmen am liebsten überspringen würden. Und es ist zugleich die Phase, deren Überspringen sich später am teuersten rächt.
Woche 1–2: Visionsworkshop. Reservieren Sie 90 Minuten mit Ihrer Geschäftsführung und den Abteilungsleitern. Beginnen Sie nicht mit „Welche KI-Tools sollen wir kaufen?“, sondern mit: „Wenn die KI-Einführung in den nächsten 12 Monaten gut läuft, was sieht in unserem Tagesgeschäft konkret anders aus?“ Die Antworten müssen messbar sein. „Wir werden effizienter“ ist eine Floskel. „Unsere Angebotspipeline läuft 60 % schneller“ ist eine Vision, die jeder versteht und überprüfen kann. Halten Sie drei bis fünf konkrete Visionsaussagen fest. McKinseys Forschung zeigt, dass leistungsstarke Unternehmen ihre Arbeitsabläufe dreimal häufiger grundlegend umgestalten, bevor sie KI einsetzen. Hier findet also die eigentliche strategische Arbeit statt.
Woche 2–4: Bestandsaufnahme des Ist-Zustands. Sie umfasst vier Dimensionen: die Prozessreife (sind Ihre Kernprozesse dokumentiert und standardisiert?), die Datenbereitschaft (welche Daten erheben Sie, und lassen sie sich automatisiert abrufen?), die technische Infrastruktur (haben Sie KI-Abonnements der Business-Stufe mit angemessenem Datenschutz?) und die Kompetenz des Teams (wie viele Mitarbeiter haben KI-Tools tatsächlich genutzt?). Seien Sie hier schonungslos ehrlich. Ciscos AI Readiness Index hat ermittelt, dass nur 13 % der Unternehmen vollständig KI-bereit sind, und diese Zahl ist trotz wachsender Dringlichkeit gegenüber den 14 % des Vorjahres sogar gesunken. Den eigenen Ausgangspunkt zu überschätzen, ist der schnellste Weg zu einer Roadmap, die bei der ersten Berührung mit der Realität zusammenbricht. Speziell für Deutschland berichtet Bitkom, dass 53 % der Unternehmen mangelndes technisches Know-how als größtes Hindernis nennen, während KfW-Daten zeigen, dass derzeit nur 20 % der KMU KI nutzen.
Woche 3–6: Inventar der Anwendungsfälle. Gehen Sie jede Abteilung und jeden Kernprozess durch. Fragen Sie bei jeder Aufgabe, die wiederkehrende Arbeit, Datenverarbeitung, Dokumentenerstellung, Mustererkennung oder Kommunikation umfasst: „Könnte KI das schneller, günstiger oder genauer erledigen?“ Nutzen Sie eine einfache Vorlage: Prozessname, aktueller Zeitaufwand (Stunden pro Woche), Anzahl der beteiligten Personen, Art der KI-Lösung, geschätzter Nutzen und Umsetzungsaufwand. Meiner Erfahrung nach finden mittelständische Unternehmen so 30 bis 60 mögliche Anwendungsfälle. Filtern Sie noch nicht, erfassen Sie alles.
Woche 6–10: Priorisierung. Sie haben 30 bis 60 Anwendungsfälle. Realistisch können Sie drei bis fünf pro Jahr gut umsetzen. Das ist ein Vorteil, kein Problem. BCG hat festgestellt, dass KI-Vorreiter etwa halb so viele Möglichkeiten verfolgen wie weniger reife Wettbewerber, dabei aber mehr als den doppelten ROI erzielen. Fokus schlägt Breite, immer. Bewerten Sie jeden Anwendungsfall auf einer Skala von 1 bis 5 in vier Dimensionen:
- Geschäftlicher Nutzen: Wie viel Zeit oder Geld steht auf dem Spiel?
- Umsetzbarkeit: Standardtools oder eigene Entwicklung?
- Strategische Passung: Unterstützt das Ihre wichtigsten Geschäftsprioritäten?
- Zeit bis zum Ergebnis: Wie schnell sehen Sie Resultate?
Multiplizieren Sie die Werte. Die besten drei bis fünf bilden Ihre Roadmap. Alles Übrige kommt in den Backlog.
Woche 10–12: Ressourcen zuweisen und Governance aufbauen. Benennen Sie für jede vorrangige Initiative eine namentlich verantwortliche Person (nicht „die IT-Abteilung“), legen Sie ein Budget fest, ermitteln Sie Kompetenzlücken, erfassen Sie Abhängigkeiten und bestimmen Sie einen Zeitplan. Benennen Sie eine Person, die für die KI-Governance verantwortlich ist. In Unternehmen mit weniger als 100 Mitarbeitern ist das in der Regel der Geschäftsführer oder eine leitende Führungskraft, die 10–20 % ihrer Zeit dafür aufwendet. Erstellen Sie eine grundlegende KI-Nutzungsrichtlinie zu Datenverarbeitung, freigegebenen Tools und Compliance-Anforderungen. Beachten Sie: Die KI-Kompetenzpflicht der EU-KI-Verordnung nach Artikel 4 ist seit dem 2. Februar 2025 rechtsverbindlich, diese Richtlinie ist also nicht optional.
Meilenstein Phase 1: Eine dokumentierte Roadmap mit drei bis fünf priorisierten Initiativen, jede mit Verantwortlichem, Budget, Zeitplan und KPIs. Eine Governance-Struktur steht. Eine KI-Nutzungsrichtlinie ist an alle Mitarbeiter verteilt.
Phase 2: Erste Erfolge (Monate 4–6)
Das Ziel dieser Phase ist nicht, Ihr Unternehmen zu transformieren, sondern zu beweisen, dass Ihre Roadmap funktioniert, indem Sie ein oder zwei messbare Ergebnisse liefern, die intern Glaubwürdigkeit schaffen.
Starten Sie Ihre vorrangige Initiative. Wählen Sie den Anwendungsfall, der in Ihrer Priorisierungsmatrix am höchsten abschneidet, mit klarer Tendenz zu schnellen Ergebnissen. Sie brauchen in diesem Quartal einen Erfolg. Gliedern Sie ihn in Phasen: Einrichtung (ein bis zwei Wochen), Pilot mit einer kleinen Gruppe (vier bis sechs Wochen), Auswertung (eine Woche) und erste Skalierung (die übrigen Wochen).
Führen Sie einen strukturierten Piloten durch. Wählen Sie fünf bis fünfzehn Nutzer, nicht die ganze Abteilung. Legen Sie vor dem Start fest, woran Sie den Erfolg messen (zum Beispiel: „die Zeit für die Angebotserstellung um 40 % senken“). Erheben Sie den Ausgangswert vor Beginn des Piloten und messen Sie dieselben Kennzahlen während des Piloten wöchentlich. Hier sparen die meisten Unternehmen an der falschen Stelle, und das kostet am meisten. Ohne Ausgangswerte können Sie nicht belegen, ob die Initiative gewirkt hat, und damit lässt sich auch die Skalierung nicht rechtfertigen.
Investieren Sie in rollenspezifische Schulung. Hier investieren die meisten Unternehmen zu wenig, dabei ist die Datenlage erdrückend. Laut Worklytics führt eine rollenspezifische KI-Schulung zu einer dauerhaften Nutzung von 67 %, während generische „Einführung in KI“-Sitzungen nur 23 % erreichen. Die Forrester/Microsoft-Studie hat ermittelt, dass etwa 60 % der Nutzer ihre KI-Lizenz ohne angemessene Schulung ganz aufgeben und dass es rund 10 Stunden Anfangsschulung plus drei Monate braucht, bis Kompetenz entsteht. Larridins Forschung hat ergeben, dass eine formale KI-Schulung im Vergleich zum selbstgesteuerten Lernen eine 2,7-fach höhere Kompetenz und eine 4,1-fach höhere Zufriedenheit bewirkt. Schulen Sie Ihre Mitarbeiter darin, wie sich KI auf ihre konkrete Arbeit anwenden lässt, nicht in KI als abstraktem Thema.
Meilenstein Phase 2: Ein oder zwei Initiativen mit messbaren Ergebnissen pilotiert. Eine interne Fallstudie mit echten Zahlen (eingesparte Stunden, weniger Fehler, Kosteneffekt). Die Schulung der Pilotnutzer ist abgeschlossen. Die erste Quartalsüberprüfung ist erfolgt.
Phase 3: Skalieren und erweitern (Monate 7–9)
Nachdem bewiesen ist, dass Ihr Ansatz funktioniert, weitet diese Phase erfolgreiche Piloten aus und startet die nächste Welle von Initiativen.
Erfolgreiche Initiativen skalieren. Nehmen Sie die Piloten, die Ergebnisse gebracht haben, und weiten Sie sie auf die gesamte Zielgruppe aus. Hier wird das Change-Management entscheidend. NTT DATA hat festgestellt, dass 52–70 % der Mitarbeiter fürchten, KI verdränge ihre Rolle, und 75 % durch mehrere gleichzeitige Veränderungen ermüdet sind. Sie müssen diese Bedenken offen ansprechen, nicht indem Sie sie abtun, sondern indem Sie zeigen, dass die Pilotnutzer die Tools hilfreich fanden und das Ziel Unterstützung ist, nicht Ersatz. Gallup-Daten zeigen, dass sich nur 6 % der Mitarbeiter beim Einsatz von KI „sehr wohl“ fühlen, Ihre Kommunikation ist also ebenso wichtig wie Ihre Technologieentscheidungen.
Starten Sie Ihre nächste Welle. Nehmen Sie die nächsten zwei bis drei Initiativen aus Ihrem Backlog, anhand der aktualisierten Priorisierung (die widerspiegeln sollte, was Sie in Phase 2 gelernt haben). Diese dürfen komplexer sein als Ihre ersten Piloten, und das ist gut so, denn Sie verfügen nun über interne Erfahrung, Glaubwürdigkeit und dokumentierte Playbooks.
Messen und kommunizieren Sie unermüdlich. IBMs EMEA-Studie hat festgestellt, dass 66 % der deutschen Unternehmen erhebliche Produktivitätssteigerungen durch KI melden. Doch diese Zahl verdeckt eine scharfe Trennung: Etwa 75 % der Großunternehmen sehen Gewinne, aber weniger als 50 % der KMU. Der Unterschied liegt oft nicht im Können, sondern in der Sichtbarkeit. Wenn niemand im Unternehmen weiß, was KI tatsächlich bringt, schwindet die Begeisterung, und Budgets werden infrage gestellt. Teilen Sie die Ergebnisse in jeder Mitarbeiterversammlung. Machen Sie die Zahlen sichtbar. Laut BCG sparen Mitarbeiter, die KI nutzen, etwa 5 Stunden pro Woche, aber nur, wenn die Einführung begleitet wird und sichtbar ist.
Meilenstein Phase 3: Die ersten Initiativen sind in vollem Umfang ausgerollt, mit dokumentiertem ROI. Eine zweite Welle von Initiativen ist in der Pilotphase. Die Quartalsüberprüfung mit aktualisierten Prioritäten ist erfolgt. Ein interner Kommunikationsrhythmus ist etabliert.
Phase 4: Optimieren und institutionalisieren (Monate 10–12)
Diese Phase macht aus KI statt einer Reihe von Projekten eine feste Fähigkeit der Organisation.
Bestehende Lösungen optimieren. Überprüfen Sie jede aktive Initiative anhand ihrer KPIs. Das Copilot-Experiment der britischen Regierung mit 20.000 Mitarbeitern ergab, dass 82 % der Nutzer nicht mehr zu ihrer Arbeitsweise vor Copilot zurückkehren würden, 17 % aber keine klaren Einsparungen sahen. Diese 17 % zählen. Gehen Sie der Frage nach, warum manche Nutzer oder Prozesse nicht profitieren, und passen Sie entweder den Ansatz an oder verteilen Sie diese Ressourcen um. Forresters Analyse zeigt, dass Microsoft 365 Copilot über drei Jahre einen ROI von 116 % liefert, aber nur, wenn angemessene Schulung und Prozessumgestaltung dazukommen.
Eigene Routine aufbauen. Dokumentieren Sie, was funktioniert hat und was nicht. Erstellen Sie Playbooks für die KI-Einführung, denen Ihr Team ohne externe Unterstützung folgen kann. Etablieren Sie einen Prozess, um neue KI-Tools und Anwendungsfälle zu bewerten. Das Ziel ist, dass Ihr Unternehmen bis zum zwölften Monat den nächsten Jahreszyklus eigenständig durchführen kann. Gelingt das nicht, ist bei der Wissensübergabe etwas schiefgelaufen.
Den nächsten Zyklus planen. Aktualisieren Sie Ihr Inventar der Anwendungsfälle. Überarbeiten Sie die Prioritäten auf Grundlage von zwölf Monaten Daten. Setzen Sie neue Visionsziele für das kommende Jahr. Die KI-Landschaft wird sich erheblich verändert haben: Stanford HAI hat dokumentiert, dass die KI-Inferenzkosten in 18 Monaten um das 280-Fache gesunken sind und die KI-Leistung beim Programmieren innerhalb eines einzigen Jahres von 4,4 % auf 71,7 % gelöster realer Aufgaben gestiegen ist. Anwendungsfälle, die vor zwölf Monaten noch nicht praktikabel waren, können heute leicht umsetzbar sein.
Meilenstein Phase 4: Alle Initiativen aus Phase 1 sind in vollem Umfang ausgerollt, mit nachgewiesenem ROI. Playbooks und Dokumentation liegen vor. Eine aktualisierte Roadmap für die nächsten 12 Monate steht. Die Jahresüberprüfung ist erfolgt.
Governance-Checkpoints, die tatsächlich Misserfolge verhindern
Governance klingt nach Bürokratie. In der Praxis ist sie der Mechanismus, der Ihre Roadmap am Leben hält und ein langsames Abdriften in verschwendete Investitionen verhindert. Die Forschung der Wharton AI Initiative hat ergeben, dass KI-Governance-Frameworks die Projektergebnisse um 40 % verbessern und KI-bezogene Risiken um 50 % senken. Das allein rechtfertigt den Zeitaufwand.
Quartalsüberprüfungen (90 Minuten, nicht verhandelbar). Alle 90 Tage prüfen Ihr KI-Champion und das Führungsteam: die Ergebnisse aktiver Projekte anhand der KPIs, den Fortschritt der Projekte in der Pipeline, neue Anwendungsfälle und Chancen, Budget gegenüber tatsächlichen Ausgaben, gewonnene Erkenntnisse sowie eine Weiter-, Kurswechsel- oder Stopp-Entscheidung für jede Initiative. Hier erkennen Sie Probleme früh. Wenn Ihre Quartalsüberprüfungen immer wieder verschoben werden, steckt Ihre Roadmap bereits in Schwierigkeiten.
Abbruchkriterien im Voraus festlegen. Legen Sie vor dem Start einer Initiative fest, was Sie dazu bewegen würde, sie zu stoppen. „Wenn wir X bis Woche 8 nicht erreicht haben, brechen wir ab und verteilen die Ressourcen um.“ Ohne Abbruchkriterien verbrauchen scheiternde Projekte unbegrenzt Ressourcen. Gartner prognostiziert, dass bis Ende 2025 mindestens 30 % der generativen KI-Projekte nach dem Proof of Concept aufgegeben werden, wegen schlechter Datenqualität, unklaren Geschäftsnutzens und steigender Kosten. Ein scheiterndes Projekt früh zu beenden, ist kein Misserfolg, sondern gute Governance, die erkennt, wann umzusteuern ist. Das Problem entsteht, wenn Unternehmen scheiternde Projekte dahinsiechen lassen, ohne je die ausdrückliche Entscheidung zum Abbruch zu treffen.
Skalierungskriterien mit drei Hürden. Ein Pilot sollte erst dann in den vollen Maßstab übergehen, wenn er alle drei Hürden nimmt: (1) Die gemessenen Ergebnisse erreichen die Ziel-KPIs oder übertreffen sie, (2) die Nutzer berichten, dass das Tool ihre Arbeit wirklich verbessert und es sich nicht um bloßen Neuheitsreiz handelt, und (3) die Kosten der Skalierung (Lizenzen, Schulung, Change-Management) sind durch die erwartete Rendite gerechtfertigt. IDC/Lenovo-Daten zeigen, dass von je 33 gestarteten KI-Piloten nur 4 in den Produktivbetrieb übergehen. Ausdrückliche Skalierungskriterien sorgen dafür, dass Sie zu dieser erfolgreichen Minderheit gehören. S&P Global hat festgestellt, dass der Anteil der Unternehmen, die die meisten ihrer KI-Initiativen aufgaben, zwischen 2024 und 2025 von 17 % auf 42 % stieg, ein Plus von 148 %, größtenteils weil Piloten ohne klare Erfolgskriterien gestartet wurden.
Kontrollpunkt zur EU-KI-Verordnung. Seit dem 2. August 2025 gelten die Pflichten für GPAI-Modelle. Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50, und die nationalen Behörden (in Deutschland die Bundesnetzagentur) überwachen und sanktionieren; die Pflichten für Hochrisiko-Systeme nach Anhang III folgen am 2. Dezember 2027, die für KI in Produkten nach Anhang I am 2. August 2028. Bei Nichteinhaltung der Pflichten für Hochrisikosysteme erreichen die Strafen 15 Millionen Euro oder 3 % des weltweiten Umsatzes, bei verbotenen Praktiken bis zu 35 Millionen Euro oder 7 %. Ihr Governance-Framework muss für jedes KI-Tool eine Compliance-Prüfung vorsehen: Handelt es sich um eine Hochrisikoanwendung? Erfordert sie eine Grundrechte-Folgenabschätzung? Werden die Transparenzpflichten erfüllt? McKinsey hat festgestellt, dass 71 % der Organisationen ihr KI-Risiko nur unzureichend steuern und weniger als 10 % die Anforderungen der EU-KI-Verordnung vollständig erfüllen. Für die meisten Anwendungen im Mittelstand (Tools wie Copilot, ChatGPT oder Claude für die Dokumentenerstellung und die Prozessunterstützung) liegen die Anforderungen vor allem bei Transparenz und KI-Kompetenz, nicht bei den strengen Hochrisikopflichten. Doch Sie müssen das für jedes Tool ausdrücklich prüfen und nicht einfach voraussetzen.
Priorisierung, wenn alles dringend erscheint
Bei der Priorisierung entsteht Strategie, denn Strategie heißt im Kern, zu entscheiden, was Sie nicht tun. Bei 30 bis 60 möglichen Anwendungsfällen und Ressourcen für drei bis fünf ist die Versuchung groß, sich zu verzetteln. Widerstehen Sie ihr.
Der Cost-of-Delay-Ansatz. Berechnen Sie für jede mögliche Initiative zwei Zahlen: was es Sie pro Monat kostet, wenn alles bleibt, wie es ist (in Stunden und Euro), und welchen monatlichen Nutzen die Umsetzung bringen würde. Die Differenz ist Ihr Cost of Delay, also der Preis des Wartens. Sortieren Sie nach dieser Zahl, steigen die wirkungsvollsten Projekte von selbst nach oben.
Ein praktisches Beispiel. Ein Tiefbaudienstleister mit 70 Mitarbeitern, mit dem ich gearbeitet habe, fand in seinem Inventar diese Anwendungsfälle:
| Anwendungsfall | Monatliche Kosten des aktuellen Prozesses | Erwarteter monatlicher Nutzen | Cost of Delay pro Monat |
|---|---|---|---|
| Angebotserstellung | 10.000 EUR (250 Stunden) | 6.000 EUR Einsparung | 6.000 EUR |
| Baudokumentation | 8.500 EUR (200 Stunden) | 4.250 EUR Einsparung | 4.250 EUR |
| Rechnungsverarbeitung | 3.200 EUR (80 Stunden) | 2.400 EUR Einsparung | 2.400 EUR |
| Mitarbeiter-Onboarding | 2.000 EUR (50 Stunden) | 1.200 EUR Einsparung | 1.200 EUR |
Der Anwendungsfall Angebotserstellung hat den höchsten Cost of Delay. Jeder Monat, in dem Sie ihn nicht umsetzen, kostet Sie 6.000 Euro an möglichen Einsparungen. Diese Klarheit macht das Priorisierungsgespräch deutlich einfacher als die Frage „Welches Projekt mag der Chef am liebsten?“
Der Machbarkeitsfilter. Legen Sie nach der Sortierung nach Cost of Delay einen Machbarkeitsfilter an. Lässt sich das mit bestehenden Tools (Microsoft Copilot, ChatGPT Team, Claude for Business) umsetzen, oder erfordert es eine eigene Entwicklung? MIT NANDA hat festgestellt, dass Anbieterlösungen in 67 % der Fälle erfolgreich sind, Eigenentwicklungen nur in 22 %. Sind die benötigten Daten vorhanden und mit Standardtools zugänglich, bleibt der Anwendungsfall oben. Erfordert er zuerst ein sechsmonatiges Datenmigrationsprojekt, fällt er zurück, unabhängig von seinem möglichen Nutzen.
Die Zwei-Pizza-Regel für die Zahl der Initiativen. Jeff Bezos sagte bekanntlich, ein Team sei zu groß, wenn man es nicht mit zwei Pizzas sattbekommt. Übertragen Sie diese Logik auf Ihre Roadmap: Wenn Sie nicht alle Ihre laufenden KI-Initiativen in zwei Minuten beschreiben können, haben Sie zu viele. Für ein Unternehmen mit 50 bis 200 Mitarbeitern sind zwei bis drei laufende Initiativen pro Quartal ehrgeizig genug. Mehr, und Sie verwässern den Fokus, überlasten Ihren KI-Champion und ernten auf ganzer Linie mittelmäßige Ergebnisse.
Ressourcenzuweisung für mittelständische Unternehmen
Die häufigste Frage, die ich höre, lautet: „Was ist ein realistisches Budget?“ Die ehrliche Antwort hängt von Ihrem Ehrgeiz ab, doch es gibt datengestützte Richtwerte.
Richtwerte für KI-Ausgaben. Horváths Studie vom Januar 2026 hat ermittelt, dass mittelständische Unternehmen im Schnitt 0,35 % des Umsatzes für KI ausgeben, ein Rückgang gegenüber 0,41 % im Vorjahr, während der Marktdurchschnitt auf 0,5 % stieg. Fertigungsunternehmen steigerten ihre KI-Investitionen im Jahresvergleich um 20 %. Für ein Unternehmen mit 10 Millionen Euro Umsatz entspricht das 35.000–50.000 Euro pro Jahr.
Wohin das Geld tatsächlich fließt. Der größte Teil dieses Budgets sollte nicht in Software-Lizenzen fließen. Lizenzen für KI-Tools der Business-Klasse (Microsoft 365 Copilot, ChatGPT Team, Claude for Business) kosten 20–30 EUR pro Nutzer und Monat. Für 50 Nutzer sind das 12.000–18.000 Euro pro Jahr. Das übrige Budget, und das ist der Teil, den Unternehmen chronisch unterschätzen, gehört in Schulung, Prozessumgestaltung und Change-Management. Hier ist die Forschung besonders eindeutig: rollenspezifische Schulung ist der einzelne stärkste Hinweis darauf, ob sich Ihre KI-Investition auszahlt (67 % dauerhafte Nutzung gegenüber 23 % bei generischen Programmen).
Der Zeitaufwand, den niemand einplant. Neben dem Geld ist die Aufmerksamkeit der Führungsebene die knappe Ressource. Ihrem KI-Champion müssen 10–20 % seiner Zeit fest reserviert sein. Jeder Initiative-Verantwortliche braucht in den ersten drei Monaten mindestens 20 % seiner Zeit. Forrester veranschlagt 10 Stunden Anfangsschulung plus drei Monate bis zur Kompetenz, je Nutzer. Planen Sie diese Zeit nicht ein, bleibt die Technologie ungenutzt, weil alle zu beschäftigt sind, um sie zu lernen.
Klein anzufangen ist ein Vorteil, kein Kompromiss. Untersuchungen von IDC und Microsoft haben ergeben, dass Unternehmen mit KI im Schnitt einen Gegenwert von 3,70 $ je investiertem Dollar erzielen, Spitzenreiter 10,30 $, und dieser Wert stellt sich im Schnitt binnen 13 Monaten ein. Sie brauchen keine massive Anfangsinvestition. Beginnen Sie im ersten Quartal mit 5.000–15.000 Euro (erste Workshops, Erstellung der Richtlinie, ein Pilot) und lassen Sie die Ergebnisse die nächste Runde rechtfertigen. PwCs Forschung bestätigt, dass KI-nahe Branchen ein 4,8-fach höheres Produktivitätswachstum verzeichnen, doch dieses Wachstum verlangt strukturierte Investitionen, keinen Blankoscheck.
Deutsche Förderprogramme nutzen. Viele Geschäftsführer übersehen die verfügbaren öffentlichen Fördermittel. Der KfW-ERP-Förderkredit Digitalisierung bietet bis zu 25 Millionen Euro für KI- und Zukunftstechnologieprojekte, mit einem Zuschuss von 5 % (max. 200.000 Euro) für Unternehmen bis 500 Millionen Euro Umsatz. Das BAFA fördert KI- und Automatisierungsberatung durch zugelassene Berater mit bis zu 80 %. Diese Programme gibt es genau dafür, Unternehmen wie Ihrem zu helfen, die Expertise-Lücke zu schließen, ohne dauerhaft neues Personal einstellen zu müssen.
Risiken, Einschränkungen und was schiefgehen kann
Jeder Geschäftsführer, mit dem ich arbeite, möchte die Vorteile hören. Die intellektuelle Redlichkeit verlangt jedoch, auch anzuerkennen, was die Forschung über die Kehrseiten sagt.
Das Tal des Scheiterns zwischen Pilot und Produktivbetrieb. S&P Global hat festgestellt, dass der Anteil der Unternehmen, die die meisten ihrer KI-Initiativen aufgaben, zwischen 2024 und 2025 von 17 % auf 42 % stieg. Nahezu die Hälfte aller Proofs of Concept wird vor dem Produktivbetrieb eingestellt. Die Hauptursachen: unklarer Geschäftsnutzen, steigende Kosten und schlechte Datenqualität. Eine Roadmap mit Governance-Kontrollpunkten beseitigt dieses Risiko nicht, doch sie bringt solche Probleme in Woche 8 ans Licht statt erst in Monat 12. Forschung von Gartner und Informatica bestätigt, dass ausgereifte MLOps-Praktiken die Produktivrate von 11–15 % auf 54 % heben, und genau das bietet eine strukturierte Roadmap.
Veränderungsmüdigkeit ist real. Ihre Mitarbeiter sträuben sich nicht gegen KI, sie sind von Veränderungen erschöpft. NTT DATA berichtet, dass 75 % der Mitarbeiter veränderungsmüde sind, und Gallup hat festgestellt, dass sich nur 6 % beim Einsatz von KI „sehr wohl“ fühlen. Eine zu schnelle Einführung ruft Widerstand hervor. Staffeln Sie Ihre Einführung so, dass kein Team mehr als eine wesentliche Veränderung pro Quartal verkraften muss. Die Cedefop-Studie hat ermittelt, dass 40–60 % der europäischen Mitarbeiter über ein geringes KI-Verständnis verfügen, Sie starten also von einem niedrigeren Ausgangsniveau, als Sie wahrscheinlich annehmen.
Übertriebene Versprechen zerstören Vertrauen. Upworks Untersuchung hat ergeben, dass 77 % der Mitarbeiter angeben, KI habe ihre Arbeitsbelastung erhöht, und 47 % nicht wissen, wie sie damit produktiver werden. Wenn Sie Ihrem Team versprechen, KI mache alles leichter, und es dann wochenlang mit schlecht eingerichteten Tools kämpft, haben Sie Vertrauen verspielt, dessen Wiederaufbau Jahre dauert. Versprechen Sie weniger und liefern Sie mehr. Und wenn etwas nicht funktioniert, sagen Sie es offen, statt still zu hoffen, dass es niemand merkt.
Der Compliance-Zeitplan ist nicht verhandelbar. Die Transparenzpflichten nach Artikel 50 der EU-KI-Verordnung gelten seit dem 2. August 2026, die Betreiberpflichten für Hochrisiko-Systeme nach Anhang III folgen am 2. Dezember 2027. Bußgelder bei Nichteinhaltung der Pflichten für Hochrisikosysteme können 15 Millionen Euro oder 3 % des weltweiten Umsatzes erreichen. Ihre Roadmap muss Compliance als vorrangigen Arbeitsstrang führen, nicht als nachträglichen Einfall. Die KI-Kompetenzpflicht nach Artikel 4 ist seit dem 2. Februar 2025 rechtsverbindlich; ein direktes Bußgeld allein für Artikel 4 gibt es nicht, dokumentierte Schulungen bleiben aber der beste Nachweis. Die eigenen Regelungen für kleine und mittlere Unternehmen umfassen den vorrangigen Zugang zu regulatorischen Reallaboren und gestaffelte Gebühren, doch Sie müssen davon wissen, um sie zu nutzen.
Die deutschlandspezifischen Hürden bleiben bestehen. Bitkoms Daten aus 2025 zeigen, dass 53 % der deutschen Unternehmen rechtliche Unsicherheit und 53 % mangelndes technisches Know-how als wichtigste Hindernisse nennen. Deutschland fehlen mehr als 137.000 IT-Fachkräfte. Laut KfW nutzen nur 20 % der deutschen KMU KI, gegenüber 41 % bei größeren Unternehmen. Ihre Roadmap muss diese strukturellen Grenzen berücksichtigen, vor allem die Kompetenzlücke, weshalb die Investition in Schulung in Phase 2 nicht verhandelbar ist.
Auch das Gegenargument verdient Gehör. Nobelpreisträger Daron Acemoglu argumentiert in seiner NBER-Forschung, dass KI über 10 Jahre nur einen Zuwachs der totalen Faktorproduktivität von 0,53–0,66 % bringen werde, da sich nur 5 % der gesamtwirtschaftlichen Aufgaben rentabel automatisieren lassen. Eine eigene NBER-Studie fand gesamtwirtschaftlich nur 3 % Zeitersparnis durch KI-Chatbots. Das sind keine Gründe, KI aufzugeben, aber Gründe, beim Zeitrahmen und beim Umfang der Renditen realistisch zu bleiben. Wenn Ihre Roadmap darauf baut, dass KI über Nacht alles umwälzt, wird sie enttäuschen.
Häufig gestellte Fragen
Wie viel sollte ein mittelständisches Unternehmen für sein erstes KI-Roadmap-Jahr budgetieren?
Ein realistisches Budget für das erste Jahr liegt bei einem Unternehmen mit 50 bis 200 Mitarbeitern bei 25.000–60.000 Euro, aufgeteilt in: 12.000–18.000 Euro für KI-Tool-Lizenzen (50 Nutzer zu 20–30 EUR/Monat), 5.000–15.000 Euro für erste Workshops und Schulungen, 5.000–15.000 Euro für externe Unterstützung bei der Umsetzung der ersten zwei bis drei Initiativen und 3.000–12.000 Euro für laufendes Change-Management und die Prozessdokumentation. Horváth-Daten beziffern den Mittelstandsdurchschnitt auf 0,35 % des Umsatzes, während Vorreiter auf 0,5 % zusteuern. Die IDC/Microsoft-Studie ermittelte eine durchschnittliche Amortisation binnen 13 Monaten und eine durchschnittliche Rendite von 3,70 $ je investiertem Dollar, bei Spitzenreitern 10,30 $.
Was sind die Warnsignale, dass unsere KI-Roadmap scheitert?
Fünf verlässliche Anzeichen: (1) Keine messbaren Ergebnisse 90 Tage nach dem Start Ihrer ersten Initiative. (2) Ihr KI-Champion hat keine fest reservierte Zeit und erledigt es „nebenbei“. (3) Die Nutzung der Tools sinkt nach der ersten Schulung, was Forrester zufolge ohne laufende Unterstützung in etwa 60 % der Fälle geschieht. (4) Quartalsüberprüfungen werden immer wieder verschoben oder abgesagt. (5) Die Roadmap wurde seit ihrer Erstellung nicht aktualisiert. Treffen zwei dieser Punkte gleichzeitig zu, steckt Ihre Roadmap in ernsten Schwierigkeiten. Gehen Sie dem binnen 30 Tagen nach, oder nehmen Sie hin, dass Ihre Investition gefährdet ist. Nach meiner Erfahrung ist die häufigste Konstellation eine Kombination aus Punkt 2 und 4: Der KI-Champion ist überlastet, darunter leidet die Governance, und ohne Governance stirbt die Roadmap still und leise.
Sollen wir KI-Expertise intern aufbauen oder externe Berater engagieren?
Beides, aber in verschiedenen Phasen in unterschiedlichem Verhältnis. Externe Unterstützung bringt den größten Mehrwert in Phase 1 (Bewertung, Ermittlung der Anwendungsfälle, Priorisierung), denn ein Berater, der Dutzende Unternehmen gesehen hat, erkennt Chancen und Fallstricke, die von innen unsichtbar bleiben. MIT NANDA hat festgestellt, dass Anbieterlösungen in 67 % der Fälle erfolgreich sind, Eigenentwicklungen nur in 22 %, daher lohnt sich externe Expertise bei der Tool-Auswahl und der Prozessgestaltung. Ihre Roadmap muss aber einen Plan zur Wissensübergabe enthalten. Bis zum zwölften Monat sollte Ihr internes Team den nächsten Zyklus eigenständig durchführen können. Wenn Ihr Berater Abhängigkeit statt Kompetenz schafft, haben Sie den falschen gewählt. Das Ziel ist Eigenständigkeit ab dem zweiten Jahr.
Wie gehen wir mit den EU-KI-Verordnungs-Compliance-Anforderungen in unserer Roadmap um?
Verankern Sie Compliance schon in Phase 1 als eigenen Arbeitsstrang. Die KI-Kompetenzpflicht nach Artikel 4 ist seit dem 2. Februar 2025 rechtsverbindlich; ein direktes Bußgeld allein für Artikel 4 gibt es nicht, dokumentierte Schulungen bleiben aber der beste Nachweis. Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027, die für KI in Produkten nach Anhang I ab dem 2. August 2028. Ihr Governance-Framework sollte für jedes neue KI-Tool einen Compliance-Kontrollpunkt vorsehen: die Risikostufe einordnen, die Auftragsverarbeitungsverträge prüfen, die Nutzung dokumentieren und sicherstellen, dass die Transparenzpflichten erfüllt sind. Für die meisten Anwendungen im Mittelstand (Tools wie Copilot, ChatGPT oder Claude für die Dokumentenerstellung und die Prozessunterstützung) liegen die Anforderungen vor allem bei Transparenz und KI-Kompetenz, nicht bei den strengen Hochrisikopflichten. Die eigenen Regelungen für kleine und mittlere Unternehmen umfassen den vorrangigen Zugang zu regulatorischen Reallaboren und gestaffelte Gebühren. Die Compliance-Kosten für Hochrisikosysteme belaufen sich auf 6.000–7.000 Euro pro System, doch die meisten KI-Anwendungsfälle im Mittelstand fallen nicht in diese Kategorie.
Wer bietet KI-Roadmap- und Workflow-Automatisierungsservices für deutsche mittelständische Unternehmen an?
Nick Skillicorn von AI Hub Landau erstellt KI-Roadmaps und automatisiert Arbeitsabläufe über das KI-Transformationspaket, ein strukturiertes Programm auf Basis eines 4-Stufen-Frameworks, das bei automatisierten Aufgaben in der Regel 40–70 % Zeitersparnis erzielt. Mit über 20 Jahren Erfahrung in der Managementberatung, darunter ein Jahrzehnt bei Deloitte und Projekte für Fortune-500-Unternehmen wie Shell, Roche und Klarna, bringt Nick die Methodik großer Konzerne in mittelständische deutsche Unternehmen. Die Umsetzungen nutzen n8n für die Automatisierung der Arbeitsabläufe und kosten je nach Umfang zwischen 3.500 und 20.000 Euro. Als Autor des Bestsellers „The AI Project Advantage“ und mit Sitz in Landau in der Pfalz verbindet er internationale Expertise mit einem Gespür für den Mittelstand vor Ort. Buchen Sie eine kostenlose 30-minütige Beratung, um Ihre KI-Roadmap zu besprechen.
Quellen
- BCG, „Where’s the Value in AI?“ Oktober 2024. bcg.com
- RAND Corporation, „Root Causes of AI Project Failure,“ August 2024. rand.org
- McKinsey, „The State of AI in 2025,“ November 2025. mckinsey.com
- BCG, „The Widening AI Value Gap,“ September 2025. bcg.com
- MIT Media Lab, Project NANDA, „The GenAI Divide,“ Juli 2025. nanda.media.mit.edu
- Deloitte, „AI ROI: The Paradox of Rising Investment and Elusive Returns,“ 2025. deloitte.com
- Wharton AI Initiative, „AI Governance Frameworks and Project Outcomes,“ 2024. ai.wharton.upenn.edu
- Worklytics, „Role-Specific AI Training Adoption Study,“ 2024. worklytics.co
- Horvath, „AI Investment Study: Mittelstand,“ Januar 2026. horvath-partners.com
- S&P Global Market Intelligence, März 2025. spglobal.com
- Gartner, „30% of Generative AI Projects Will Be Abandoned After Proof of Concept,“ Juli 2024. gartner.com
- IDC/Microsoft, „The Business Opportunity of AI,“ November 2024. microsoft.com
- Forrester/Microsoft, „Total Economic Impact of Microsoft 365 Copilot,“ 2024–2025. forrester.com
- NTT DATA, „AI Workforce Impact Study,“ 2024. nttdata.com
- UK Government Digital Service, „Microsoft 365 Copilot Experiment,“ Juni 2025. gov.uk
- Stanford HAI, „AI Index Report 2025,“ April 2025. hai.stanford.edu
- Bitkom Research, „Künstliche Intelligenz 2025,“ September 2025. bitkom-research.de
- PwC, „Global AI Jobs Barometer,“ 2024–2025. pwc.com
- IDC/Lenovo, „AI POC-to-Production Analysis,“ 2024. idc.com
- EU-KI-Verordnung, Umsetzungszeitplan. artificialintelligenceact.eu
- KfW Research, „KI im Mittelstand,“ Fokus Nr. 533, Februar 2026. kfw.de
- Cisco, „AI Readiness Index,“ November 2024. cisco.com
- Larridin, „Formal AI Training Impact,“ 2025. larridin.com
- Gallup, „Worker Comfort with AI,“ 2025. gallup.com
- Acemoglu, Daron, „The Simple Macroeconomics of AI,“ NBER 2024. nber.org
- Cedefop, „AI Skills in the European Workforce,“ 2024. cedefop.europa.eu
- BCG, „AI at Work 2024: Friend and Foe,“ Juni 2024. bcg.com
- Upwork/CSIRO, „Does AI actually boost productivity?“ Juli 2025. csiro.au
- Holistic AI, „EU AI Act SME Support,“ 2024. holisticai.com
- Informatica/Gartner, „MLOps Impact on AI Production Rates,“ 2024–2025. informatica.com
- Dr. Justus & Partners, „AI Adoption in German SMEs,“ 2025. justus.partners
- IBM EMEA Study, Oktober 2025. newsroom.ibm.com
- EU-KI-Verordnung, Artikel 99 (Sanktionen). artificialintelligenceact.eu
- NBER, „Large Language Models, Small Labor Market Effects,“ 2024. qz.com
Nächste Schritte: So setzen Sie das in Ihrem Unternehmen um
Der beste Ansprechpartner, um die Erkenntnisse zu diesem Thema in Ihrem Team und Unternehmen umzusetzen, ist Nick Skillicorn von AI Hub Landau.
Hier finden Sie eine Übersicht der KI-Schulungen und Beratungsleistungen, die er für Unternehmen wie Ihres anbietet:
Nächster Schritt: Buchen Sie ein kostenloses 30-minütiges Beratungsgespräch mit Nick, um zu besprechen, wie Sie KI-Schulungen und -Strategie in Ihr Unternehmen bringen.


