KI im Unternehmen einführen: Der 90-Tage-Fahrplan für KMU

Ihre Firma hat KI ausprobiert. Ein paar Kollegen nutzen ChatGPT begeistert, ein paar Lizenzen von Microsoft Copilot oder Claude sind angeschafft, und irgendjemand hat schon einmal erstaunlich gute Texte generiert oder mit automatisierten Workflows experimentiert.

Und dann? Passiert erstaunlich wenig.

Das liegt nicht daran, dass Ihre Mitarbeiter kein Interesse hätten. Es liegt daran, dass im Unternehmen drei grundlegende Fragen unbeantwortet geblieben sind:

1. Wo sollen die Mitarbeiter konkret anfangen?
2. Wer kümmert sich verantwortlich darum?
3. Woran merkt die Geschäftsleitung am Ende des Quartals, dass sich die Investition wirklich gelohnt hat?

Wer KI wie eine klassische Software ausrollt – Lizenzen verteilen, Rundmail schreiben, hoffen –, erzeugt vor allem eines: Silos, Verunsicherung und verbranntes Budget.

In diesem Leitfaden zeigen wir den praxiserprobten Fahrplan, mit dem mittelständische Unternehmen mit 15 bis 150 Mitarbeitern KI Schritt für Schritt in ihre reale Wertschöpfung integrieren – strukturiert in 90 Tagen, rechtssicher nach dem EU AI Act und mit echtem betriebswirtschaftlichem Ertrag.

1. Der wichtigste Grundsatz: Vom Geschäft her denken, nicht vom Werkzeug

Die meisten Unternehmen beginnen ihren KI-Weg an der falschen Stelle: Sie sehen eine neue Software, kaufen Lizenzen und suchen anschließend krampfhaft nach Problemen, die man damit lösen könnte.

Merksatz für Entscheider: Führen Sie KI niemals vom Werkzeug her ein. Führen Sie KI immer von Ihren geschäftlichen Engpässen her ein.

Fragen Sie sich und Ihre Abteilungsleiter stattdessen:

• Wo verliert Ihre Firma heute systematisch Zeit, Geld oder Qualität?
• An welchen Stellen warten Ihre Kunden unnötig lange auf Antworten oder Angebote?
• Wo tippen qualifizierte Fachkräfte dieselben Daten immer wieder manuell von einem System ins andere?

Erst wenn diese Schmerzpunkte glasklar auf dem Tisch liegen, lohnt sich die Frage, welches KI-Werkzeug, welches Sprachmodell oder welcher spezialisierte KI-Agent dafür infrage kommt.

2. Das Zielbild: Wo stehen Sie heute – und wo in 12 bis 24 Monaten?

Vor dem ersten Prompt braucht jedes Unternehmen ein klares, schriftliches Zielbild. Es besteht schlicht aus zwei Spalten: Ist-Zustand heute versus Soll-Zustand in 12 bis 24 Monaten.

Dieses Zielbild muss von der gesamten Geschäftsleitung getragen werden. Zieht die Führungsebene nicht an einem Strang, verpuffen KI-Initiativen in internen Grabenkämpfen zwischen IT, Marketing und Vertrieb.

Vergleichstabelle: Zielbild für den Mittelstand

Geschäftsbereich	Typischer Ist-Zustand (Heute)	Realistisches Zielbild (in 12 Monaten)
Vertrieb & Angebotswesen	Ein qualifiziertes Angebot benötigt 2 bis 3 Tage, weil technische Spezifikationen und Preise manuell aus alten PDFs und ERP-Tabellen zusammengesucht werden.	Der erste vollständige Angebotsentwurf steht am selben Tag innerhalb von 30 Minuten bereit – vorformuliert durch einen KI-Assistenten, der Ihre Produktdatenbank kennt.
Kundenservice & Support	Das Support-Postfach quillt montagmorgens über. Standardfragen blockieren Servicetechniker stundenlang.	Eingehende Tickets werden vor Dienstbeginn automatisch kategorisiert, priorisiert und mit passenden Lösungsentwürfen aus dem internen Wiki vorbereitet.
Onboarding neuer Mitarbeiter	Neue Kollegen benötigen 3 bis 6 Monate Einarbeitungszeit, weil Fachwissen in den Köpfen weniger Senior-Mitarbeiter gefangen ist.	Ein interner KI-Wissensassistent beantwortet Fragen zu internen Richtlinien, Tools und Abläufen sekundenschnell auf Basis freigegebener Handbücher.

3. Der Weg dorthin: Die 3 Etappen der KI-Einführung

Ein KI-Rollout im Mittelstand ist kein unüberschaubares Großprojekt. Wer versucht, das gesamte Unternehmen auf einen Schlag umzukrempeln, scheitert an Komplexität und Überforderung. In der Praxis hat sich die Aufteilung in drei klare Phasen bewährt:

1. Startpunkt – Klarheit schaffen (Dauer: wenige Tage bis 2 Wochen):
   Standortbestimmung durchführen. Welche Prozesse eignen sich? Wo ist der Hebel am größten? Welcher Use Case kommt als Erster an die Reihe?
2. Etappe 1 – Der erste Beweis (Die ersten 90 Tage):
   Spielregeln festlegen und genau einen konkreten Anwendungsfall in die Praxis bringen. Das Vorhaben muss in 4 bis maximal 6 Wochen ein messbares Ergebnis liefern. Es geht nicht um die perfekte Komplettlösung, sondern um den unternehmensweiten Beweis: „KI funktioniert in unserem Haus.“
3. Etappe 2 – Skalierung in die Breite (Monat 4 bis 12):
   Nachdem das Team Erfahrung gesammelt hat, werden weitere Abteilungen angebunden. Jetzt folgen größere Vorhaben und bereichsübergreifende Workflows.
4. Etappe 3 – KI als Organisationsstandard (Ab Jahr 2):
   Niemand spricht mehr von einem „KI-Projekt“. Der Einsatz intelligenter Assistenten und Automatisierungen ist schlicht die normale Art und Weise, wie im Betrieb gearbeitet wird.

4. Die 6 Handlungsfelder für einen erfolgreichen Rollout

Damit bei der Einführung keine Lücken entstehen, steuert der Fahrplan sechs zentrale Handlungsfelder an:

1. Fahrplan & Use-Case-Matrix

Sammeln Sie 5 bis 10 konkrete Anwendungsfälle aus dem Unternehmensalltag. Bewerten Sie jeden Fall konsequent nach einer einfachen Matrix:

• Hebel: Wie viel Zeit, Geld oder Qualitätsgewinn bringt die Lösung?
• Aufwand: Wie schnell und mit welchem Risiko lässt sich das umsetzen?

Alles, was spektakulär klingt, aber Monate der Integration erfordert, fliegt sofort raus. Gestartet wird mit dem Anwendungsfall, der den größten Hebel bei geringstem Aufwand bietet.

2. Spielregeln & EU AI Act (Compliance)

Mitarbeiter brauchen keine 50-seitige Verbotsrichtlinie, sondern Orientierung. Eine einzige DIN-A4-Seite reicht in 90 % der Fälle völlig aus:

• Welche KI-Tools sind freigegeben (z. B. Enterprise-Versionen mit Zero-Data-Retention)?
• Welche Daten dürfen eingegeben werden (z. B. keine unverschlüsselten Kundendaten oder Passwörter)?
• An wen wendet sich ein Mitarbeiter bei Unsicherheiten?

3. Pragmatische Umsetzung

Mittelständische Betriebe mit 15 bis 150 Mitarbeitern können und sollten kein eigenes Data-Science-Team aufbauen. Die wirtschaftlichste Lösung: Ein erfahrener externer Partner für Architektur, Schnittstellen und Schulung kombiniert mit einem fest benannten internen Kümmerer („AI Champion“), der die Prozesse kennt und intern die Fäden zusammenhält.

Jeder Testlauf wird auf 2 bis 4 Wochen limitiert. Bringt ein Ansatz nicht den gewünschten Erfolg, wird er mutig beerdigt. Auch das ist ein wertvolles Ergebnis, das bares Geld spart.

4. Mitarbeiter systematisch befähigen

Schulungen scheitern oft an der falschen Reihenfolge. Erfolgreiche Unternehmen gehen in drei Stufen vor:

1. Geschäftsleitung zuerst: Wer selbst noch nie mit KI gearbeitet hat, kann sie weder führen noch strategisch einordnen.
2. Grundlagen für alle: Was kann KI, wo halluziniert sie und wie formuliert man präzise Arbeitsanweisungen?
3. Rollenbasierte Praxis: Ganz konkrete Workflows für die tägliche Arbeit des Mitarbeiters (z. B. der Vertriebsinnendienst lernt, Angebote vorzubereiten; der Einkauf vergleicht Lieferantenkonditionen).

 

5. Kultur & Führung vorleben

Kultur entsteht durch Handeln, nicht durch Powerpoint-Folien. Wenn der Geschäftsführer KI täglich nutzt und in Meetings von gelungenen Workflows berichtet, zieht die Belegschaft mit.

Sprechen Sie offen über die Chancen und nehmen Sie die diffuse Angst vor Stellenabbau. Wer fürchtet, durch KI seinen Arbeitsplatz zu verlieren, wird das System boykottieren. Feiern Sie Erfolge öffentlich und nennen Sie die Kollegen beim Namen, die neue Lösungen etabliert haben.

6. Messen: Warum „gesparte Stunden“ eine gefährliche Illusion sind

Nahezu jede KI-Fallstudie wirbt mit der Kennzahl: „Wir sparen 500 Stunden im Monat.“ Das klingt beeindruckend – bringt Ihrer Firma betriebswirtschaftlich aber zunächst exakt null Euro.

Wenn 50 Mitarbeiter pro Tag 15 Minuten Zeit einsparen, diese Zeit aber lediglich in längeren Kaffeepausen oder unstrukturiertem Surfen verpufft, sieht die Geschäftsleitung am Jahresende keinen Cent davon in der Bilanz.

Definieren Sie vor dem Start, was mit der gewonnenen Zeit geschehen soll:

• Umsatzsteigerung: Schafft der Vertrieb 30 % mehr Angebote pro Woche?
• Reaktionszeit: Werden Kundenanfragen im Schnitt nach 2 Stunden statt nach 2 Tagen beantwortet?
• Skalierung ohne Personalkostenexplosion: Kann Ihr Unternehmen um 20 % wachsen, ohne im selben Maße schwer auffindbare Fachkräfte einstellen zu müssen?

5. Der 90-Tage-Fahrplan: Von Null zur produktiven KI in einem Quartal

Um vom Planen ins Handeln zu kommen, gliedern wir die ersten drei Monate in einen verbindlichen Sprint:

Phase	Zeitraum	Wichtigste Meilensteine & Aufgaben	Greifbares Ergebnis
Phase 1: Fundament & Zielbild	Tage 1 bis 15	• Geschäftsleitung definiert das 2-Spalten-Zielbild • Identifikation von 5–10 Use Cases im Alltag • Ernennung des internen Kümmerers („AI Champion“)	Verbindlicher Zielbild-Steckbrief & Use-Case-Shortlist
Phase 2: Spielregeln & Governance	Tage 16 bis 30	• Erstellung der 1-seitigen KI-Richtlinie (DIN A4) • Definition von Datenschutz & Freigaben (EU AI Act konform) • Tool-Auswahl (z. B. Enterprise-Tenant oder deutsches Hosting)	Rechtssichere KI-Richtlinie & freigegebene Tool-Umgebung
Phase 3: Der erste Pilot (Proof of Concept)	Tage 31 bis 60	• Umsetzung des Use Cases mit dem größten Hebel • Testphase von 4 Wochen mit 2–3 Pilot-Mitarbeitern • Direkte Messung der definierten Werthebel	Funktionsfähiger Workflow & realer Nutzenbeweis
Phase 4: Schulung & Review	Tage 61 bis 90	• Schulung der relevanten Abteilung am echten Fallbeispiel • Review mit der Geschäftsführung: Erfolg messen & analysieren • Entscheidung über Skalierung und Start von Use Case #2	Befähigte Mitarbeiter & Roadmap für die nächsten 9 Monate

6. Wie die Biteno GmbH Sie auf diesem Weg begleitet

Die Einführung intelligenter Systeme gelingt am schnellsten, wenn man typische Anfängerfehler nicht selbst machen muss. Wir unterstützen mittelständische Firmen nach einem bewährten 3-Stufen-Modell:

1. Stufe 1 – Der Orientierungsworkshop (3–4 Stunden):
   Vor Ort bei Ihnen oder per Video. Mit der Geschäftsführung und Schlüsselmitarbeitern erarbeiten wir die 5 bis 10 stärksten Use Cases für Ihr spezifisches Geschäftsmodell.
2. Stufe 2 – Entscheidungsmatrix & Fahrplan:
   Wir trennen den Marketing-Hype vom echten Nutzen. Sie erhalten eine fundierte Bewertungsmatrix, die Tool-Auswahl und das passende Datenschutzkonzept.
3. Stufe 3 – Begleitung der Umsetzung:
   Wir richten die Systeme ein, schulen Ihre Mitarbeiter praxisnah an ihren echten Aufgaben und prüfen die Resultate, bis der erste Anwendungsfall stabil läuft.

Datenschutz „Made in Germany“: Wo Kundendaten, Konstruktionspläne oder Finanzdaten Ihr Unternehmen keinesfalls verlassen dürfen, hosten wir KI-Modelle und Datenarchive in unseren eigenen, ISO-27001-zertifizierten Rechenzentren in Stuttgart.

Häufig gestellte Fragen (FAQ)

Was kostet die Einführung von KI in einem mittelständischen Unternehmen?

Die Kosten für die ersten 90 Tage bleiben bei einem fokussierten Vorgehen überschaubar. Sie setzen sich zusammen aus den Softwarelizenzen (oft 20 bis 30 Euro pro Nutzer/Monat), einer moderaten externen Beratung für Konzeption und Leitplanken sowie interner Arbeitszeit für den Piloten. Teure Großprojekte mit sechsstelligen Summen sind für Firmen mit 15 bis 150 Mitarbeitern weder notwendig noch sinnvoll.

Welche Mitarbeiter sollten zuerst geschult werden?

Zwingend die Geschäftsleitung und Führungskräfte. Wer als Entscheider nicht versteht, was generative Sprachmodelle und KI-Agenten leisten können – und wo ihre Grenzen liegen –, kann weder Prioritäten setzen noch die Unternehmenskultur prägen. Im zweiten Schritt folgt die Abteilung, in der der erste Pilot-Workflow umgesetzt wird.

Ist der Einsatz von KI im Mittelstand mit der DSGVO und dem EU AI Act vereinbar?

Ja, sofern grundlegende Spielregeln eingehalten werden. Wichtig ist der Einsatz von Business-Lizenzen mit Klauseln zum Verzicht auf Modell-Training (Zero Data Retention) oder das Hosting sensibler Modelle in Deutschland bzw. auf eigener Infrastruktur. Seit Februar 2025 schreibt der EU AI Act zudem eine verpflichtende Schulung der Mitarbeiter vor.

Wie viel Zeit muss ein interner „KI-Kümmerer“ investieren?

In der Pilotphase (den ersten 90 Tagen) genügen einem internen Verantwortlichen in der Regel 2 bis 4 Stunden pro Woche. Seine Aufgabe ist es, als Ansprechpartner für Kollegen bereitzustehen, Feedback an den externen Partner zu spiegeln und Erfolge im Team sichtbar zu machen.

Fazit: Nicht länger abwarten – in 90 Tagen Klarheit schaffen

KI ist kein IT-Projekt für die ferne Zukunft. Es ist das wirksamste Werkzeug der Gegenwart, um mittelständische Betriebe gegen Fachkräftemangel abzusichern, Reaktionszeiten drastisch zu verkürzen und Prozesse profitabler zu machen.

Der Unterschied zwischen Firmen, die mit KI scheitern, und Firmen, die messbaren Nutzen erzielen, liegt einzig in der Struktur des Rollouts.

Möchten Sie wissen, wo Ihr Unternehmen aktuell steht und welcher Anwendungsfall bei Ihnen den schnellsten ROI bringt?

• Nutzen Sie unseren interaktiven Biteno KI-Kompass für eine erste Standortbestimmung.
• Informieren Sie sich über unsere KI-Beratung für den Mittelstand oder den kompakten Biteno KI-Crashkurs.
• Oder sprechen Sie direkt mit uns: Vereinbaren Sie ein 20- bis 30-minütiges, unverbindliches Erstgespräch mit Matthias Böhmichen unter Telefon 0711 48890-20 oder über unser Kontaktformular auf biteno.com.