KI-Governance ist das Regelwerk, mit dem ein Unternehmen festlegt, wer welche künstliche Intelligenz wofür einsetzen darf, wer dafür die Verantwortung trägt und wie der Einsatz kontrolliert und nachgewiesen wird. Sie verhindert, dass Kundendaten unbemerkt in fremde KI-Dienste wandern, dass KI-Agenten ohne Aufsicht folgenreiche Entscheidungen treffen und dass Sie bei einer Prüfung nach dem EU AI Act nichts vorzeigen können. Dieser Beitrag erklärt, was zu einer KI-Governance gehört, welche Pflichten im November 2026 tatsächlich gelten, wie Sie Rollen im Mittelstand ohne eigene Stabsstelle verteilen und worauf es ankommt, sobald KI nicht mehr nur antwortet, sondern selbst handelt.
Stand: 20. November 2026. Berücksichtigt sind der KI-Omnibus der EU (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) und das deutsche KI-Marktüberwachungsgesetz (KI-MIG). Dieser Beitrag ersetzt keine Rechtsberatung.
Was ist KI-Governance?
Der englische Begriff lautet AI Governance. Im Deutschen hat sich KI-Governance durchgesetzt, eine treffende Übersetzung gibt es nicht. Am nächsten kommt „Steuerung des KI-Einsatzes“: Gemeint ist der Rahmen aus Verantwortlichkeiten, Regeln, Abläufen und technischen Kontrollen, innerhalb dessen ein Unternehmen KI auswählt, einführt, betreibt und wieder abschaltet.
Im Kern beantwortet KI-Governance vier Fragen:
- Was setzen wir ein? Ein vollständiges Verzeichnis aller KI-Anwendungen, auch der KI-Funktionen, die in bestehender Software stecken.
- Wer darf was? Welche Werkzeuge freigegeben sind, welche Daten hineindürfen und wer über neue Anwendungen entscheidet.
- Wer trägt die Verantwortung? Für jede Anwendung ein benannter Mensch, der Fehler bemerkt, meldet und den Einsatz notfalls stoppt.
- Wie weisen wir es nach? Protokolle, Schulungsnachweise, Risikobewertungen und Freigaben, die bei einem Vorfall, einer Kundenanfrage oder einer Behördenprüfung vorliegen.
Wichtig ist der Unterschied zum bloßen Regelwerk: Eine KI-Governance lebt. Neue Werkzeuge kommen hinzu, Modelle ändern ihr Verhalten, Mitarbeiter finden neue Einsatzzwecke. Eine Governance, die einmal beschlossen und dann abgeheftet wird, ist nach einem halben Jahr veraltet.
KI-Governance, KI-Compliance, IT-Governance, KI-Richtlinie: der Unterschied
Die vier Begriffe werden oft vermischt. Sie hängen zusammen, sind aber nicht dasselbe:
| Begriff | Worum es geht | Leitfrage |
|---|---|---|
| KI-Governance | Der Gesamtrahmen aus Verantwortung, Regeln, Abläufen und Kontrollen für den KI-Einsatz | Wie steuern wir KI im Unternehmen? |
| KI-Compliance | Die Einhaltung der äußeren Vorgaben: EU AI Act, DSGVO, Urheberrecht, Arbeitsrecht, Branchenregeln | Halten wir die Gesetze ein? |
| KI-Richtlinie | Das Dokument für die Mitarbeiter: erlaubte Werkzeuge, verbotene Daten, Prüfpflichten | Was darf ich als Mitarbeiter? |
| IT-Governance | Die Steuerung der gesamten IT, von Investitionen bis Informationssicherheit | Dient die IT den Unternehmenszielen? |
Die KI-Compliance ist also ein Teil der KI-Governance, und die KI-Richtlinie ist eines ihrer Werkzeuge. Was rechtlich zu beachten ist, beschreibt unser Beitrag KI-Compliance. Die KI-Governance ordnet beides ein und ergänzt, was kein Gesetz vorschreibt, aber im Alltag den Unterschied macht: klare Verantwortlichkeiten, ein Verzeichnis, Freigaben und technische Grenzen.
Warum KI-Governance jetzt auf die Tagesordnung gehört
KI ist im deutschen Mittelstand angekommen, die Regeln dafür hinken hinterher. Die Zahlen aus diesem Jahr:
- 57 Prozent der Unternehmen ab 20 Beschäftigten setzen KI ein, ein Jahr zuvor waren es 36 Prozent (Bitkom, September 2026).
- Von den Unternehmen, die KI nutzen, haben 63 Prozent eine feste Verantwortung für KI und 59 Prozent verbindliche interne Richtlinien. Eine unternehmensweite KI-Strategie haben nur 33 Prozent, und 16 Prozent haben weder Regeln noch Verantwortliche (KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband).
- Laut derselben Studie haben nur 11 Prozent eigene Abläufe für KI-bezogene Sicherheitsvorfälle, und 71 Prozent fühlen sich schlecht über den EU AI Act informiert.
- 29 Prozent der Beschäftigten, die KI beruflich nutzen, verwenden Werkzeuge, die der Arbeitgeber nicht bereitstellt, in kleinen Betrieben häufiger als in großen (Institut der deutschen Wirtschaft, 2026). Mehr zu dieser Schatten-KI in einem eigenen Beitrag.
- KI-Agenten, die selbstständig handeln, nutzen erst 5 Prozent der KI-Anwender, weitere 8 Prozent planen den Einsatz. Eine Mehrheit der Befragten fürchtet dabei Kontrollverlust und unklare Verantwortung bei Fehlern (BSI/TÜV-Verband).
Das Bild ist eindeutig: Die Nutzung wächst schneller als die Ordnung dahinter. Wer jetzt eine schlanke KI-Governance aufsetzt, tut das mit überschaubarem Aufwand. Wer wartet, muss später eine gewachsene Landschaft aus Einzelwerkzeugen, privaten Konten und ungeklärten Datenflüssen nachträglich einfangen. Wie der Mittelstand insgesamt dasteht, zeigt unser Überblick KI im Mittelstand 2026.
Rechtsrahmen im November 2026: was der EU AI Act verlangt und was der KI-Omnibus verschoben hat
Der EU AI Act (Verordnung (EU) 2024/1689, auf Deutsch KI-Verordnung) gilt stufenweise. Im Juli 2026 hat die EU mit dem sogenannten KI-Omnibus (Verordnung (EU) 2026/1744) einige Fristen verschoben. Viele Ratgeber im Netz nennen deshalb noch veraltete Termine. Der aktuelle Stand:
| Seit / ab | Was gilt | Betrifft den Mittelstand? |
|---|---|---|
| 2. Februar 2025 | Verbotene KI-Praktiken (Art. 5) und Pflicht zur KI-Kompetenz (Art. 4) | Ja, jedes Unternehmen, das KI einsetzt |
| 2. August 2025 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Aufsichtsstrukturen, Sanktionsregeln | Kaum, betrifft vor allem Modellanbieter |
| 2. August 2026 | Transparenzpflichten (Art. 50), zum Beispiel Hinweis bei Chatbots und Kennzeichnung von Deepfakes | Ja, wenn Sie Chatbots oder KI-erzeugte Inhalte nach außen nutzen |
| 2. Dezember 2027 | Pflichten für Hochrisiko-KI nach Anhang III, etwa in Personalauswahl, Kreditprüfung oder Bildung (vorher 2. August 2026) | Nur, wenn Sie KI in diesen Bereichen einsetzen |
| 2. August 2028 | Pflichten für Hochrisiko-KI in Produkten nach Anhang I, etwa in Maschinen oder Medizinprodukten | Für Hersteller solcher Produkte |
Quelle der Termine: IHK zum Inkrafttreten des KI-Omnibus. Die Pflichten wurden verschoben, nicht gestrichen.
Sie sind fast immer Betreiber, nicht Anbieter
Der AI Act unterscheidet zwischen Anbietern, die ein KI-System entwickeln oder unter eigenem Namen in Verkehr bringen, und Betreibern, die es in eigener Verantwortung nutzen. Ein mittelständisches Unternehmen, das Copilot, ChatGPT oder eine KI-Plattform einsetzt, ist in aller Regel Betreiber. Für Betreiber sind heute vor allem drei Punkte relevant:
- KI-Kompetenz (Art. 4): Sie müssen Maßnahmen ergreifen, um die KI-Kompetenz der Mitarbeiter zu fördern, die in Ihrem Auftrag mit KI arbeiten. Der KI-Omnibus hat die Formulierung von „sicherstellen“ auf „fördern“ abgeschwächt, die Pflicht bleibt. In der Praxis heißt das: Schulungen anbieten und dokumentieren.
- Transparenz (Art. 50): Wer Deepfakes veröffentlicht oder KI-erzeugte Texte zu Themen von öffentlichem Interesse verbreitet, muss das offenlegen. Bei Texten entfällt die Pflicht, wenn ein Mensch sie geprüft hat und redaktionell verantwortet.
- Verbote (Art. 5): Bestimmte Praktiken sind untersagt, etwa Emotionserkennung am Arbeitsplatz außerhalb medizinischer oder sicherheitsbezogener Zwecke. Das sollte jede KI-Governance ausdrücklich ausschließen.
Setzen Sie ab Dezember 2027 Hochrisiko-KI ein, kommen die Betreiberpflichten nach Art. 26 hinzu: Einsatz nach Gebrauchsanweisung des Anbieters, menschliche Aufsicht durch befugte und geschulte Personen, Überwachung des Betriebs, Aufbewahrung der Protokolle über mindestens sechs Monate und die Information von Arbeitnehmervertretung und betroffenen Beschäftigten vor dem Einsatz am Arbeitsplatz.
Bußgelder und Aufsicht in Deutschland
Art. 99 sieht Bußgelder bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes für verbotene Praktiken vor, für die meisten übrigen Verstöße bis 15 Millionen Euro oder 3 Prozent. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Werte. In Deutschland ist seit dem KI-Marktüberwachungsgesetz vom 22. Juli 2026 (KI-MIG) die Bundesnetzagentur die zentrale Aufsichtsbehörde, für den Finanzsektor die BaFin.
Neben dem AI Act bleiben DSGVO, Geschäftsgeheimnisschutz, Urheberrecht und Betriebsverfassungsrecht wichtig. Hat Ihr Unternehmen einen Betriebsrat, ist die Einführung von KI-Werkzeugen fast immer mitbestimmungspflichtig. Wie Sie das sauber lösen, steht im Beitrag zur KI-Richtlinie im Unternehmen.
Die sieben Bausteine einer KI-Governance
Ein KI-Governance-Framework muss für den Mittelstand nicht kompliziert sein. Sieben Bausteine reichen. Jeder lässt sich klein anfangen und später ausbauen.
1. Verantwortung und Rollen
Die Geschäftsführung trägt die Gesamtverantwortung und kann sie nicht delegieren. Sie benennt aber eine Person, die KI-Governance im Alltag steuert, und für jede KI-Anwendung einen fachlich Verantwortlichen. Wie das in einem Unternehmen ohne Stabsstellen aussieht, zeigt die Tabelle im nächsten Abschnitt.
2. Ein KI-Register
Ein Verzeichnis aller KI-Anwendungen ist das Fundament. Ohne es wissen Sie nicht, was Sie steuern. Dazu gehören ausdrücklich auch KI-Funktionen in vorhandener Software, etwa im Office-Paket, im CRM oder im Ticketsystem. Welche Felder hineingehören, steht weiter unten.
3. Risikobewertung und Freigabe
Bevor eine neue KI-Anwendung in Betrieb geht, wird sie kurz bewertet: Welche Daten verarbeitet sie? Wer ist betroffen? Was passiert, wenn sie sich irrt? Fällt sie unter den AI Act als Hochrisiko-System oder unter ein Verbot? Danach entscheidet eine benannte Person über die Freigabe. Für risikoarme Werkzeuge reicht eine halbe Seite, für alles mit Kunden-, Personal- oder Finanzdaten braucht es mehr.
4. Regeln für die Mitarbeiter
Die KI-Richtlinie übersetzt die Governance in klare Anweisungen: freigegebene Werkzeuge, verbotene Eingaben, Prüfpflichten für Ergebnisse, Meldeweg bei Pannen. Sie sollte kurz sein, vier bis sechs Seiten, damit sie gelesen wird.
5. Technische Kontrollen
Regeln auf Papier reichen nicht. Technisch gehören dazu: Anmeldung mit Firmenkonten statt privater Zugänge, Rechte nach dem Prinzip der geringsten Rechte, Budgetgrenzen je Nutzer oder Anwendung, Protokollierung der Nutzung, Sperren für Uploads sensibler Daten in nicht freigegebene Dienste und Verträge zur Auftragsverarbeitung mit jedem KI-Anbieter. Einen Überblick über solche Leitplanken gibt der Beitrag KI-Guardrails.
6. KI-Kompetenz und Schulung
Art. 4 des AI Act verlangt Maßnahmen zur KI-Kompetenz. Bewährt haben sich kurze, praktische Einheiten je Abteilung statt Pflichtvorträgen für alle: Was kann das Werkzeug, wo irrt es typischerweise, was darf nicht hinein, wie prüfe ich das Ergebnis. Wer teilgenommen hat, wird dokumentiert.
7. Überwachung, Vorfälle und Verbesserung
Einmal im Quartal wird geprüft: Stimmt das Register noch? Gab es Vorfälle? Haben sich Modelle oder Anbieter geändert? Dazu ein Meldeweg, über den Mitarbeiter Pannen ohne Angst vor Sanktionen melden, etwa wenn versehentlich vertrauliche Daten in einen öffentlichen Dienst geraten sind. Nur 11 Prozent der Unternehmen haben dafür bislang einen eigenen Ablauf.
Rollen im Mittelstand: wer wofür verantwortlich ist
Große Konzerne richten ein KI-Gremium und eine Stelle für einen Chief AI Officer ein. Im Mittelstand übernehmen vorhandene Rollen die Aufgaben in Personalunion. Der AI Act schreibt übrigens keinen „KI-Beauftragten“ vor. Sinnvoll ist eine benannte Person trotzdem, damit Fragen nicht zwischen IT, Datenschutz und Fachabteilung hin- und hergeschoben werden.
| Aufgabe | Geschäftsführung | KI-Verantwortlicher | IT | Datenschutz / Informationssicherheit | Fachbereich |
|---|---|---|---|---|---|
| KI-Strategie und Rahmen beschließen | entscheidet | erarbeitet | berät | berät | wird informiert |
| KI-Register führen | wird informiert | verantwortet | liefert zu | prüft | meldet neue Anwendungen |
| Neue Anwendung freigeben | entscheidet bei hohem Risiko | entscheidet | prüft Technik und Rechte | prüft Daten und Verträge | beantragt und begründet |
| Technische Kontrollen umsetzen | – | gibt vor | setzt um | prüft | – |
| Ergebnisse im Alltag prüfen | – | – | – | – | verantwortet |
| Schulungen organisieren | gibt Zeit frei | verantwortet | unterstützt | liefert Inhalte | nimmt teil |
| Vorfälle bearbeiten | wird bei schweren Fällen informiert | koordiniert | handelt | bewertet Meldepflichten | meldet |
In einem Unternehmen mit 50 Mitarbeitern ist der KI-Verantwortliche oft die IT-Leitung oder ein kaufmännischer Leiter mit Interesse am Thema. Wichtig ist nicht der Titel, sondern dass die Person Zeit dafür bekommt und von der Geschäftsführung sichtbar unterstützt wird. Gibt es einen Betriebsrat, gehört er von Anfang an in die Abstimmung.
Das KI-Register: diese Felder gehören hinein
Ein KI-Register muss keine eigene Software sein. Eine gepflegte Tabelle genügt für den Anfang. Entscheidend sind die richtigen Spalten:
| Feld | Beispiel |
|---|---|
| Name und Zweck der Anwendung | Angebotsentwürfe im Vertrieb vorbereiten |
| Werkzeug, Anbieter, Modell | KI-Plattform des Dienstleisters, Sprachmodell im deutschen Rechenzentrum |
| Fachlich verantwortliche Person | Vertriebsleitung |
| Rolle nach AI Act | Betreiber |
| Risikoklasse nach AI Act | minimales Risiko, kein Hochrisiko-Bereich |
| Verarbeitete Daten | Kundenstammdaten, Preislisten, keine Personaldaten |
| Vertrag zur Auftragsverarbeitung | ja, abgeschlossen am … |
| Grad der Selbstständigkeit | erstellt Entwürfe, Versand nur nach menschlicher Freigabe |
| Zugriffsrechte und Werkzeuge | liest CRM, schreibt nur Entwürfe |
| Freigabe durch, am | KI-Verantwortlicher, 3. November 2026 |
| Nächste Überprüfung | Februar 2027 |
Das Feld „Grad der Selbstständigkeit“ fehlt in vielen Vorlagen. Es wird wichtig, sobald KI-Agenten ins Spiel kommen.
KI-Governance für KI-Agenten: was sich ändert, wenn KI selbst handelt
Die meisten Governance-Leitfäden stammen aus der Zeit, als KI vor allem Texte vorschlug, die ein Mensch weiterverwendete. Ein KI-Agent dagegen handelt selbst: Er liest Postfächer, legt Datensätze an, verschickt Nachrichten oder ändert Einstellungen. Mehrere solcher Agenten bilden schnell ein Agentic AI System. Damit verschiebt sich die Frage von „Ist die Antwort richtig?“ zu „Was darf dieses Programm in meinem Namen tun?“
Der AI Act kennt KI-Agenten nicht als eigene Kategorie. Laut Service Desk der EU-Kommission gelten für sie die allgemeinen Regeln für KI-Systeme. Praktische Leitlinien kommen aus der Sicherheitsforschung: die OWASP Top 10 for Agentic Applications (Dezember 2025), das Rahmenwerk für agentische KI der Singapurer Behörde IMDA (Januar 2026), die gemeinsame Empfehlung mehrerer westlicher Cybersicherheitsbehörden zur vorsichtigen Einführung agentischer KI (Mai 2026) und ein Konzeptpapier des US-amerikanischen NIST zur Identität von KI-Agenten (Februar 2026). Ihre gemeinsamen Kernaussagen lassen sich in acht Regeln übersetzen:
- Jeder KI-Agent hat eine eigene Identität. Kein geteiltes Benutzerkonto, kein Schlüssel eines Menschen. Nur so ist im Protokoll nachvollziehbar, wer was getan hat.
- Geringste Rechte. Ein Agent bekommt nur die Werkzeuge und Daten, die er für seine eine Aufgabe braucht. Ein Agent mit zu vielen Rechten vervielfacht den Schaden, wenn etwas schiefgeht.
- Freigabe vor folgenreichen Handlungen. Löschen, Bezahlen, Versenden nach außen und Ändern von Konfigurationen erfordern die Zustimmung eines Menschen. Manche Handlungen werden ganz gesperrt.
- Budgetgrenzen. Jeder Agent hat ein Kostenlimit. Ein Agent in einer Endlosschleife kann sonst über Nacht die KI-Kosten eines Monats verbrauchen. Mehr dazu im Beitrag zu KI-Kosten im Unternehmen.
- Vollständige Protokolle. Jeder Werkzeugaufruf wird mit Zeitpunkt, Agent und Ergebnis festgehalten und lange genug aufbewahrt.
- Gelesenes ist nicht vertrauenswürdig. E-Mails, Webseiten und Dokumente können versteckte Anweisungen enthalten (Prompt Injection). Ein Agent, der private Daten liest, fremde Inhalte verarbeitet und nach außen kommunizieren kann, ist besonders gefährdet. Hintergrund im Beitrag Lethal Trifecta.
- Ein Not-Aus. Jeder Agent lässt sich sofort stoppen, ohne dass dafür ein Entwickler gebraucht wird.
- Klein anfangen. Zuerst Aufgaben mit geringem Risiko und Ergebnissen, die ein Mensch leicht prüfen kann. Mehr Selbstständigkeit gibt es erst, wenn sich der Agent bewährt hat.
Aus der Praxis bei Biteno
Bei Biteno arbeiten mehrere digitale Mitarbeiter in Marketing, Vertrieb und Support auf einer zentralen KI-Plattform. Jeder hat einen eigenen Namen und ein eigenes Budget. Löschen im internen Wiki ist für alle KI-Mitarbeiter technisch gesperrt, veraltete Seiten kennzeichnen sie stattdessen. Änderungen an Serverkonfigurationen führen sie erst nach Freigabe durch die Geschäftsführung aus. Ihre Arbeitszeit buchen sie wie menschliche Kollegen auf das jeweilige Ticket. Und weil Biteno nach ISO 9001 und ISO 27001 zertifiziert ist, trägt jedes Dokument, das ein KI-Mitarbeiter erstellt, einen benannten Verantwortlichen. Eine Lehre aus dem Alltag: Ein KI-Agent hat einmal korrekt nachgeschlagene Preise falsch addiert. Seitdem prüft Summen immer ein Mensch oder ein Programm.
Normen und Rahmenwerke: ISO/IEC 42001, NIST AI RMF und BSI
Wer seine KI-Governance an einem anerkannten Standard ausrichtet, muss nicht bei null anfangen und kann sie später nachweisen. Die wichtigsten Rahmenwerke:
| Rahmenwerk | Was es ist | Für wen sinnvoll |
|---|---|---|
| ISO/IEC 42001 (2023) | Managementsystem für KI, zertifizierbar. Gleicher Aufbau wie ISO 27001 und ISO 9001, lässt sich daher in ein bestehendes Managementsystem einbauen | Unternehmen mit ISO 27001 oder 9001 und Kunden, die Nachweise verlangen |
| ISO/IEC 23894 (2023) | Leitfaden für das Risikomanagement bei KI auf Basis von ISO 31000, nicht zertifizierbar | Als Methode für die Risikobewertung |
| NIST AI RMF 1.0 (2023) | Freiwilliges US-Rahmenwerk mit vier Funktionen: Govern (steuern), Map (erfassen), Measure (bewerten), Manage (behandeln), dazu ein Profil für generative KI | Als Denkmodell und Checkliste, auch ohne Zertifizierung |
| BSI AIC4 und A5 | Kriterienkatalog für KI-Cloud-Dienste (2021) und eine im Juli 2026 als Entwurf vorgestellte Prüfarchitektur für vertrauenswürdige KI | Bei der Auswahl und Prüfung von KI-Anbietern |
Für die meisten mittelständischen Unternehmen ist eine Zertifizierung nach ISO/IEC 42001 kein erster Schritt. Es lohnt sich aber, die eigene KI-Governance so aufzubauen, dass sie später ohne Umbau in eine Zertifizierung münden kann: mit benannten Verantwortlichen, dokumentierten Entscheidungen und regelmäßiger Überprüfung.
In 90 Tagen zur KI-Governance: ein Fahrplan für den Mittelstand
Eine KI-Governance muss kein Jahresprojekt sein. In drei Etappen von je etwa einem Monat steht ein tragfähiger Rahmen.
Tage 1 bis 30: Bestand und Verantwortung
- Geschäftsführung benennt den KI-Verantwortlichen und gibt ihm Zeit.
- Bestandsaufnahme: Welche KI-Werkzeuge werden genutzt, offiziell und inoffiziell? Eine kurze, anonyme Umfrage bringt mehr ans Licht als jede Netzwerkanalyse.
- Erste Fassung des KI-Registers mit allen gefundenen Anwendungen.
- Schnelle Entscheidung über die größten Risiken, etwa private Konten mit Kundendaten.
Tage 31 bis 60: Regeln und sichere Werkzeuge
- KI-Richtlinie entwerfen und mit Datenschutz und gegebenenfalls Betriebsrat abstimmen.
- Sichere Alternative bereitstellen: Wer Werkzeuge verbietet, ohne eine gleichwertige Lösung anzubieten, fördert Schatten-KI. Eine lokal oder in Deutschland betriebene KI mit Firmenkonten löst das Problem an der Wurzel.
- Freigabeablauf für neue Anwendungen festlegen, mit Bewertungsbogen auf einer Seite.
Tage 61 bis 90: Schulung, Kontrolle, Verankerung
- Kurze Schulungen je Abteilung, Teilnahme dokumentieren (KI-Kompetenz nach Art. 4).
- Technische Kontrollen umsetzen: Firmenkonten, Rechte, Budgets, Protokollierung.
- Meldeweg für Vorfälle bekanntmachen.
- Ersten Quartalstermin zur Überprüfung im Kalender festhalten.
Wie sich dieser Fahrplan in eine umfassendere KI-Einführung einfügt, zeigt unser 90-Tage-Fahrplan zur KI-Einführung.
Fünf typische Fehler bei der KI-Governance
- Verbieten statt ermöglichen. Ein generelles KI-Verbot treibt die Nutzung in private Konten. Die Daten fließen trotzdem ab, nur unsichtbar.
- Papier ohne Technik. Eine Richtlinie, die nicht durch Firmenkonten, Rechte und Protokolle gestützt wird, bleibt ein Appell.
- Nur die offensichtlichen Werkzeuge erfassen. KI-Funktionen in Office, CRM oder Buchhaltungssoftware fehlen in vielen Registern, obwohl dort oft die sensibelsten Daten liegen.
- Einmal beschließen, nie wieder anfassen. Modelle, Anbieter und Gesetze ändern sich im Monatstakt. Ohne festen Überprüfungstermin veraltet die Governance schnell, wie die verschobenen Fristen des AI Act zeigen.
- KI-Agenten wie Chatbots behandeln. Wer einem Agenten die Rechte eines Mitarbeiters gibt, ohne Freigaben, Budget und Protokoll, hat die Kontrolle bereits abgegeben.
Häufige Fragen zur KI-Governance
Was ist KI-Governance einfach erklärt?
KI-Governance legt fest, wer im Unternehmen welche KI wofür nutzen darf, wer dafür verantwortlich ist und wie das kontrolliert und dokumentiert wird. Sie ist für KI das, was die Buchhaltung für Geld ist: Ordnung, Verantwortung und Nachweis.
Ist KI-Governance gesetzlich vorgeschrieben?
Der Begriff selbst steht in keinem Gesetz. Viele ihrer Bestandteile sind aber Pflicht: KI-Kompetenz der Mitarbeiter nach Art. 4 des AI Act, Transparenzpflichten nach Art. 50, Datenschutz nach DSGVO und bei Hochrisiko-KI ab Dezember 2027 menschliche Aufsicht und Protokollierung. Ohne eine Form von KI-Governance lassen sich diese Pflichten kaum nachweisbar erfüllen.
Brauchen wir einen KI-Beauftragten?
Vorgeschrieben ist er nicht. Empfehlenswert ist eine benannte Person, die KI-Governance im Alltag steuert. Im Mittelstand übernimmt das meist die IT-Leitung oder eine Führungskraft in Personalunion.
Wer haftet, wenn die KI einen Fehler macht?
In aller Regel das Unternehmen, das die KI einsetzt, nicht der Hersteller des Sprachmodells. Deshalb gehört zu jeder KI-Anwendung ein Mensch, der Ergebnisse prüft, bevor sie Kunden oder Geschäftsentscheidungen erreichen.
Was ist der Unterschied zwischen KI-Governance und KI-Compliance?
KI-Compliance bedeutet, Gesetze und Vorgaben einzuhalten. KI-Governance ist der umfassendere Rahmen, der das sicherstellt und darüber hinaus regelt, wie das Unternehmen KI auswählt, einführt, überwacht und verbessert.
Gilt der EU AI Act auch für kleine Unternehmen?
Ja. Es gibt keine Untergrenze bei der Unternehmensgröße. Die Pflichten hängen davon ab, wie Sie KI einsetzen, nicht wie groß Sie sind. Für KMU gelten bei Bußgeldern die niedrigeren Obergrenzen, und das KI-Marktüberwachungsgesetz sieht ausdrücklich Unterstützungsangebote für kleine und mittlere Unternehmen vor.
Wie fange ich mit KI-Governance an?
Mit zwei Schritten in dieser Woche: einen Verantwortlichen benennen und eine Liste aller KI-Werkzeuge anlegen, die im Unternehmen genutzt werden. Alles Weitere baut darauf auf.
Fazit
KI-Governance ist kein Bürokratieprojekt, sondern die Voraussetzung dafür, dass KI im Unternehmen dauerhaft nützt statt schadet. Sie klärt, wer verantwortlich ist, was eingesetzt wird, welche Daten wohin dürfen und wie das nachgewiesen wird. Mit dem KI-Omnibus ist etwas Zeit gewonnen, die Pflichten zu KI-Kompetenz und Transparenz gelten aber bereits. Und sobald KI-Agenten selbst handeln, entscheidet die Governance darüber, ob Sie die Kontrolle behalten: mit eigenen Identitäten, geringsten Rechten, Freigaben, Budgets und Protokollen. Wer jetzt mit einem schlanken Rahmen beginnt, vermeidet die teure Aufräumarbeit, die sonst in ein bis zwei Jahren ansteht.
Sie wollen wissen, wie eine schlanke KI-Governance in Ihrem Unternehmen aussehen kann?
Die Biteno GmbH ist nach ISO 9001 und ISO 27001 zertifiziert und betreibt mit NexGen AI eine zentrale KI-Plattform mit Rechten, Budgets und Protokollen je Nutzer und je KI-Mitarbeiter im Rechenzentrum in Deutschland.
In einem kurzen Gespräch klären wir, wo Sie stehen und was Ihre ersten drei Schritte sind.



