Automatisiert heißt nicht unbeaufsichtigt
KI kann E-Mails vorsortieren, Informationen zusammenfassen, Texte vorbereiten und Daten zwischen Systemen übertragen. Daraus entsteht schnell der Wunsch, den gesamten Ablauf ohne Unterbrechung laufen zu lassen. Meine Meinung: Genau hier wird Effizienz oft mit Kontrollverlust verwechselt. Eine gute Automatisierung erledigt nicht alles selbst, sondern weiß, an welchen Stellen sie stoppen und eine verantwortliche Person einbeziehen muss.
Die passende Kontrolle hängt nicht allein vom verwendeten Modell ab. Entscheidend ist, was nach einer Ausgabe geschieht. Ein interner Entwurf ist etwas anderes als ein veröffentlichtes Angebot. Eine vorgeschlagene Kategorie ist weniger kritisch als eine automatische Absage. Je schwerer ein Fehler zu erkennen oder rückgängig zu machen ist, desto früher gehört eine Freigabe in den Prozess.
Rechtliche Pflichten und betriebliche Vorsicht unterscheiden
Der EU AI Act verfolgt einen risikobasierten Ansatz. Für Hochrisiko-KI nennt die Europäische Kommission unter anderem Protokollierung, Dokumentation, Überwachung und menschliche Aufsicht. Diese speziellen Vorgaben gelten nicht pauschal für jede KI-gestützte Büroaufgabe. Seit dem 2. August 2026 gelten zudem Transparenzpflichten für bestimmte Systeme, beispielsweise wenn Menschen mit einem Chatbot statt mit einer Person interagieren.
Auch Datenschutz kann Grenzen setzen. Die Datenschutzkonferenz betont, dass eine bloß formelle Beteiligung eines Menschen bei Entscheidungen mit Rechtswirkung nicht genügt. Die entscheidende Person braucht tatsächlichen Spielraum und darf Ergebnisse nicht wegen Zeitdruck oder fehlender Transparenz ungeprüft übernehmen. Welche Vorgaben im Einzelfall gelten, hängt vom Zweck, den Daten und den Auswirkungen ab; dieser Beitrag ersetzt keine rechtliche Prüfung.
Drei Stufen reichen für den Anfang
Für viele kleine und mittlere Unternehmen genügt zunächst eine einfache Freigabematrix. Stufe eins umfasst automatische Vorarbeiten mit geringer Außenwirkung: Inhalte verschlagworten, öffentlich bekannte Daten strukturieren oder einen internen Entwurf ablegen. Stufe zwei verlangt eine Prüfung im Nachgang, etwa bei Zusammenfassungen für ein internes Protokoll. Stufe drei stoppt vor der Wirkung und wartet auf ausdrückliche Freigabe.
In die dritte Stufe gehören typischerweise Preiszusagen, Vertragsinhalte, Veröffentlichungen im Namen des Unternehmens, Zahlungen, Löschungen, personalbezogene Bewertungen und Nachrichten mit sensiblen Kundendaten. Das ist eine redaktionelle Empfehlung, keine allgemeingültige Rechtsliste. Ein Betrieb sollte die Einordnung anhand seiner tatsächlichen Risiken ergänzen.
Eine Freigabe muss ein echter Arbeitsschritt sein
Ein Kontrollfenster mit der Schaltfläche „Bestätigen“ schafft noch keine wirksame Kontrolle. Die prüfende Person muss erkennen können, welche Daten verwendet wurden, was die KI vorgeschlagen hat und welche Aktion nach der Freigabe ausgelöst wird. Änderungen sollten möglich sein. Bei wichtigen Vorgängen wird außerdem festgehalten, wer wann welche Version freigegeben hat.
Die Datenschutzkonferenz empfiehlt klare interne Regeln dazu, welche Anwendungen für welche Zwecke verwendet werden dürfen. Beschäftigte müssen wissen, welche Daten sie eingeben dürfen, welche Ergebnisse zu prüfen sind und an wen sie Unsicherheiten melden. Verantwortung bleibt damit nicht bei einer abstrakten „KI“, sondern wird einer Rolle im Unternehmen zugeordnet.
Angenommenes Beispiel aus der Angebotsvorbereitung
Angenommen, ein Dienstleistungsbetrieb lässt neue Website-Anfragen automatisch erfassen. Die KI ordnet das Anliegen einer Leistungsgruppe zu, fasst die Angaben zusammen und bereitet einen Antwortentwurf vor. Diese Schritte bleiben intern. Bevor eine Nachricht mit Preis, Termin oder Leistungsumfang versendet wird, prüft eine zuständige Person Anfrage, Entwurf und hinterlegte Angebotsdaten.
Ist eine Angabe unklar oder fehlt eine notwendige Information, erzeugt der Ablauf keine vermeintlich sichere Antwort. Er markiert den Fall zur Klärung. Dieses Beispiel ist fiktiv und verspricht kein bestimmtes Ergebnis. Es zeigt jedoch ein nützliches Prinzip: Die Automatisierung beschleunigt die Vorbereitung, während die geschäftliche Zusage bewusst beim Menschen bleibt.
Auch nach dem Start braucht der Prozess Grenzen
Freigaben allein reichen nicht. Der Betrieb sollte beobachten, wie häufig Entwürfe korrigiert, Fälle abgebrochen oder Daten falsch zugeordnet werden. Wiederkehrende Fehler führen nicht zu immer mehr manueller Nacharbeit, sondern zu einer Anpassung von Regeln, Datenquellen oder Aufgabenbeschreibung. Nach Änderungen am Modell oder an angebundenen Systemen wird der betroffene Ablauf erneut getestet.
Für Störungen braucht es eine Stop-Regel: Wer darf die Automatisierung anhalten, wie werden offene Vorgänge sichtbar und wie läuft der Prozess vorübergehend manuell weiter? Meine Einschätzung: Ein gut geplanter Notweg macht Automatisierung nicht schwächer. Er sorgt dafür, dass ein Fehler begrenzt bleibt und der Betrieb handlungsfähig ist.
Checkliste für klare Freigabegrenzen
Diese Fragen helfen, einen bestehenden oder geplanten KI-Ablauf vor der Aktivierung einzuordnen.
- Jeden automatisierten Schritt und seine anschließende Wirkung einzeln beschreiben.
- Festlegen, welche Daten eingegeben, gespeichert und an externe Dienste übertragen werden.
- Fehlerfolgen nach Außenwirkung, Rückholbarkeit und möglichem Schaden bewerten.
- Schritte als automatisch, nachträglich zu prüfen oder vorher freizugeben kennzeichnen.
- Preiszusagen, Verträge, Zahlungen, Löschungen und sensible Entscheidungen ausdrücklich behandeln.
- Für jede Freigabe eine verantwortliche Rolle und eine Vertretung benennen.
- Eingabedaten, KI-Vorschlag und ausgelöste Aktion für Prüfer verständlich anzeigen.
- Korrekturen, Ablehnung und Rückfragen im Ablauf ermöglichen.
- Kritische Vorgänge und Freigaben angemessen protokollieren.
- Abbruchkriterien, Stop-Berechtigung und einen manuellen Ersatzweg festlegen.
- Nach Modell-, Daten- oder Systemänderungen gezielt erneut testen.
- Interne Regeln regelmäßig an technische und rechtliche Entwicklungen anpassen.