Human in the Loop

Human in the Loop (HITL) bezeichnet ein Vorgehen, bei dem Menschen gezielt in einen ansonsten automatisierten Prozess eingebunden sind. Sie prüfen Ergebnisse, korrigieren Fehler, treffen Entscheidungen oder geben bestimmte Aktionen frei. Besonders beim Einsatz von KI-Systemen sorgt dieses Prinzip dafür, dass wichtige Entscheidungen unter menschlicher Kontrolle bleiben.

Ein Beispiel aus dem Arbeitsalltag: Eine Software prüft eingehende Rechnungen automatisch. Eindeutige Fälle verarbeitet das System direkt, während ungewöhnliche oder unsichere Vorgänge an eine Fachkraft übergeben werden. Diese prüft den Vorschlag und entscheidet über das weitere Vorgehen.

Für die Rolle des Menschen in automatisierten Prozessen werden drei Begriffe unterschieden:

• Human in the Loop: Ein Mensch ist an festgelegten Stellen direkt in den laufenden Prozess eingebunden.
• Human on the Loop: Ein Mensch überwacht das System und kann bei Bedarf eingreifen.
• Human out of the Loop: Der Prozess läuft während des Betriebs ohne menschlichen Eingriff ab.

Menschliche Beteiligung ist in unterschiedlichen Phasen eines KI-Projekts möglich:

1. Entwicklung und Training: Menschen bewerten oder kennzeichnen Trainingsdaten und geben Rückmeldung zu den Ergebnissen eines Modells. Beim Reinforcement Learning kann menschliches Feedback beispielsweise genutzt werden, um das Verhalten eines Modells gezielt zu beeinflussen.
2. Laufender Betrieb: Der Schwerpunkt liegt auf Einzelfällen. Ein System gibt unsichere Vorgänge an Fachkräfte weiter, die das Ergebnis prüfen und über das weitere Vorgehen entscheiden.
3. Überwachung und Qualitätssicherung: Stichproben und Kontrollen zeigen, ob die Qualität über die Zeit stabil bleibt oder sich beispielsweise die zugrunde liegenden Daten verändern.

Rechtliche Vorgaben zur menschlichen Aufsicht.

Bei automatisierten Entscheidungen können gesetzliche Anforderungen an die menschliche Beteiligung gelten. Artikel 22 der Datenschutz-Grundverordnung (DSGVO) regelt Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Auswirkungen auf eine Person haben. Die DSGVO sieht hierfür bestimmte Voraussetzungen, Ausnahmen und Schutzmaßnahmen vor. Dazu kann auch das Recht auf menschliches Eingreifen gehören.

Zusätzlich verlangt die EU-KI-Verordnung (AI Act) für bestimmte Hochrisiko-KI-Systeme eine wirksame menschliche Aufsicht. Die zuständigen Personen müssen die Fähigkeiten und Grenzen des Systems verstehen, Ergebnisse richtig einordnen und bei Bedarf eingreifen können. Der AI Act berücksichtigt dabei ausdrücklich das Risiko des Automation Bias, also die Neigung, automatisierten Ergebnissen zu stark zu vertrauen.

Für Unternehmen entstehen daraus Aufgaben rund um Verantwortlichkeiten, Kontrollprozesse und die organisatorische Absicherung von KI-Systemen. Den fachlichen Rahmen für diesen Bereich vermittelt beispielsweise die Weiterbildung zum KI-Governance Professional.

Wirksame Kontrolle braucht klare Bedingungen.

Human in the Loop erfüllt seinen Zweck, wenn Menschen Ergebnisse tatsächlich prüfen und Entscheidungen beeinflussen können. Bei einer großen Zahl automatisierter Vorschläge besteht die Gefahr, Empfehlungen zunehmend routinemäßig zu bestätigen. Dadurch kann die menschliche Kontrolle an Wirkung verlieren.

Für eine verlässliche Aufsicht sind deshalb klare Rahmenbedingungen wichtig:

• Prüfende Personen verfügen über die erforderliche Fachkenntnis und Entscheidungsbefugnis.
• Kritische oder unsichere Fälle werden gezielt zur manuellen Prüfung vorgelegt.
• Es steht ausreichend Zeit für die Bewertung zur Verfügung.
• Eingriffe und getroffene Entscheidungen werden nachvollziehbar dokumentiert.

Für Beschäftigte können dadurch Aufgaben wie Prüfung, Einordnung, Fehleranalyse und Steuerung automatisierter Prozesse wichtiger werden. Wie sich Tätigkeiten und Berufsbilder durch KI verändern, ordnet auch der Beitrag Wird KI meinen Job ersetzen? ein.

Verlangsamt Human in the Loop die Bearbeitung?

Menschliche Prüfungen benötigen zusätzliche Zeit. Durch klare Kriterien und Schwellenwerte lässt sich der Aufwand gezielt auf unsichere Ergebnisse oder Vorgänge mit weitreichenden Folgen konzentrieren.

Wer kann die menschliche Prüfung übernehmen?

Die Aufgabe setzt eine Person voraus, die über die notwendige Fachkenntnis verfügt und befugt ist, Ergebnisse zu hinterfragen, zu korrigieren oder einen Prozess zu stoppen. Entscheidend ist eine inhaltliche Prüfung mit tatsächlicher Eingriffsmöglichkeit.

Gilt Human in the Loop für jedes KI-System?

Nein. Wie viel menschliche Aufsicht erforderlich ist, richtet sich nach dem Anwendungsfall, den möglichen Folgen einer Entscheidung und den rechtlichen Vorgaben. Bei einer einfachen Produktempfehlung im Onlineshop ist beispielsweise eine andere Form der Kontrolle angemessen als bei einem Hochrisiko-KI-System.

Wie lassen sich menschliche Eingriffe dokumentieren?

Je nach Anwendung können der Zeitpunkt der Prüfung, das ursprüngliche Ergebnis des Systems, die Entscheidung der Fachkraft und vorgenommene Änderungen protokolliert werden. Solche Aufzeichnungen unterstützen die Nachvollziehbarkeit und können für die Qualitätskontrolle genutzt werden.

Wie verändert Human in the Loop die Rolle von Beschäftigten?

Menschen übernehmen dabei vor allem Aufgaben, bei denen Fachwissen und Urteilsvermögen gefragt sind: Sie prüfen Ausnahmen, bewerten Ergebnisse, analysieren Fehler und entscheiden in kritischen Fällen. Dadurch gewinnen sowohl fachliche Kompetenz als auch der sichere Umgang mit KI-Systemen an Bedeutung.