Welche Frage soll der Test beantworten?
Eine KI-Automatisierung verbindet häufig mehrere Bestandteile: Eingaben, Anweisungen an ein Sprachmodell, Unternehmenswissen, Regeln, Schnittstellen und eine anschließende Handlung. Eine gute Formulierung allein belegt deshalb noch nicht, dass der gesamte Ablauf zuverlässig funktioniert.
Eine KI-Evaluation, oft kurz Eval genannt, bewertet das Verhalten eines konkreten Systems anhand festgelegter Testfälle und Kriterien. Die Frage lautet beispielsweise: Ordnet der Ablauf eingehende Anfragen der richtigen Leistung zu, übernimmt er Kontaktdaten vollständig und legt er unklare Fälle zur Prüfung vor?
Der am 18. September 2026 veröffentlichte ARIA-Leitfaden des NIST beschreibt eine umfassende Bewertung als Verbindung von Modelltests, gezielten Angriffstests und Nutzertests. Für ein Unternehmen bedeutet das: Fachliche Richtigkeit, unerwünschtes Verhalten und die tatsächliche Bedienung brauchen jeweils eigene Prüfungen.
Prüfe den vollständigen Ablauf
Lege zuerst fest, wo der Workflow beginnt und welches Ergebnis am Ende vorliegen muss. Bei einer eingehenden Anfrage können dazu die erkannte Absicht, der CRM-Eintrag, eine zugewiesene Aufgabe und ein Antwortentwurf gehören. Jeder Übergang braucht ein beobachtbares Soll.
Formuliere danach Kriterien, die zwei Personen möglichst gleich anwenden können. „Klingt gut“ ist zu ungenau. Besser sind Aussagen wie: Alle Pflichtfelder wurden übernommen, ein Preis wurde nur aus der freigegebenen Wissensbasis genannt, die Antwort enthält keine erfundene Verfügbarkeit und ein unklarer Fall wurde nicht automatisch versendet.
| Testfall | Prüfkriterium | Reaktion bei Fehler |
|---|---|---|
| Vollständige Standardanfrage | Leistung, Kontaktdaten und nächster Schritt sind korrekt | Zuordnung und Datenübernahme korrigieren |
| Mehrdeutige Anfrage | Der Ablauf fordert eine Prüfung an | Automatischen Versand sperren |
| Fehlende Pflichtangabe | Das Feld bleibt sichtbar offen | Rückfrage oder manuelle Aufgabe erzeugen |
| Widersprüchlicher Inhalt | Keine unbelegte Aussage wird übernommen | Quelle und Freigaberegel prüfen |
Baue ein wiederverwendbares Testset auf
Ein Testset ist eine gespeicherte Sammlung aus Eingaben, erwartetem Verhalten und Bewertung. Es sollte typische Fälle, seltene Grenzfälle und bewusst schwierige Eingaben enthalten. Google empfiehlt für Evaluationen zusätzlich verschiedene Formulierungen und problematische Eingaben, die ein unerwünschtes Ergebnis auslösen könnten.
Verwende echte Beispiele nur, wenn sie rechtmäßig genutzt, auf das nötige Maß begrenzt und angemessen geschützt werden. Für viele Prüfungen reichen anonymisierte oder synthetische Daten. Synthetisch bedeutet hier, dass der Fall eigens für den Test erstellt wurde und keine echte Person abbildet.
Bewahre bestätigte Fehler als Regressionstest auf. Nach einer Änderung an Modell, Anweisung, Wissensbasis oder Schnittstelle läuft derselbe Fall erneut. So wird sichtbar, ob die Korrektur erhalten bleibt und ob an einer anderen Stelle ein neuer Fehler entsteht.
Beispiel: Anfragen für einen Dienstleistungsbetrieb
Annahme: Ein Dienstleistungsbetrieb möchte Websiteanfragen automatisch sortieren, im CRM anlegen und einen Antwortentwurf vorbereiten. Das Beispiel ist frei erfunden und stellt keinen Kundenfall dar.
Das Team sammelt Testfälle für angebotene und nicht angebotene Leistungen, unterschiedliche Regionen, fehlende Kontaktdaten, widersprüchliche Angaben und Nachrichten mit mehreren Anliegen. Für jeden Fall dokumentiert es die erwartete Kategorie, die benötigten CRM-Felder und die Entscheidung über eine menschliche Prüfung.
Ein Fall gilt nur dann als bestanden, wenn der gesamte Ablauf die vereinbarten Kriterien erfüllt. Eine passende Kategorie reicht nicht, wenn die Telefonnummer abgeschnitten wurde oder der Entwurf eine nicht bestätigte Leistung verspricht. Das Team hält Abweichungen fest, korrigiert die Ursache und prüft anschließend das vollständige Testset erneut.
Automatische Bewertung braucht eine Gegenprobe
Objektive Merkmale lassen sich oft automatisch prüfen. Ein Programm kann feststellen, ob ein Pflichtfeld gefüllt ist, ein Datenformat stimmt oder eine erlaubte Statusangabe verwendet wurde. Ton, fachliche Vollständigkeit und angemessene Zurückhaltung erfordern häufig zusätzlich eine menschliche Bewertung mit einer klaren Bewertungsanleitung.
Auch ein weiteres KI-Modell kann Antworten nach einer Rubrik bewerten. Google weist jedoch darauf hin, dass die Qualität dieser Bewertung von Kriterien und Anleitung abhängt. Prüfe deshalb eine Stichprobe selbst und vergleiche die Urteile. Eine automatische Punktzahl ist kein Ersatz für die fachliche Freigabe eines risikoreichen Ablaufs.
Die Freigabe gilt für eine benannte Version
Dokumentiere Modell, Anweisung, Wissensstand, Schnittstellen und Testdatum. Ändert sich ein Bestandteil, kann sich das Verhalten verschieben. NIST empfiehlt Tests vor der Einführung und regelmäßige Bewertungen im Betrieb. Produktionssignale wie Fehler, Weiterleitungen an Menschen und Korrekturen liefern neue Testfälle.
Lege vor dem Test fest, welche Fehler eine Freigabe verhindern. Ein System, das gelegentlich eine harmlose Formulierung verfehlt, hat ein anderes Risiko als ein Ablauf, der Bestellungen auslöst oder persönliche Daten falsch zuordnet. Umfang und Strenge der Evaluation müssen zum möglichen Schaden passen.
Checkliste für die erste KI-Evaluation
Diese Reihenfolge schafft eine prüfbare Grundlage für eine begrenzte Einführung.
- Einsatz, Startpunkt und erwartetes Endergebnis des Workflows beschreiben.
- Fachliche, technische und sicherheitsbezogene Kriterien getrennt festlegen.
- Typische Fälle, Grenzfälle und bewusst schwierige Eingaben sammeln.
- Testdaten auf notwendige Angaben begrenzen und sensible Inhalte schützen.
- Für jeden Fall erwartetes Verhalten und erlaubte Abweichungen dokumentieren.
- Automatische Prüfungen für eindeutige Regeln einrichten.
- Menschliche Bewertung mit einer gemeinsamen Anleitung durchführen.
- Fehler nach Ursache, Auswirkung und erforderlicher Korrektur ordnen.
- Freigabeblocker und zuständige Person vor dem Test benennen.
- Bestätigte Fälle als Regressionstest für spätere Änderungen speichern.
- Nach der Einführung Fehler und manuelle Korrekturen beobachten.
