Human in the Loop: Warum KI-Agenten feste Freigabepunkte brauchen – gerade im Mittelstand

Human in the Loop heißt: Ein KI-Agent darf vorbereiten, vorschlagen und anstoßen, aber an festgelegten Stellen entscheidet ein Mensch. Das klingt nach Bremse, ist aber der Grund, warum Agenten überhaupt aus dem Pilotprojekt herauskommen. Eine Mitte September veröffentlichte Lünendonk-Studie zeigt, dass erst 19 Prozent der befragten Unternehmen KI-Agenten in einzelnen Aufgabenbereichen produktiv einsetzen. Der Engpass liegt selten im Modell, sondern in einer einfachen Frage: Wer prüft, wer gibt frei, und wie kommt diese Freigabe zu den Menschen, die gar nicht am Schreibtisch sitzen? Genau an dieser Stelle setzt eine Plattform wie Blupassion an.

Was die Zahlen aus dem September zeigen

Drei Erhebungen der vergangenen Wochen ergeben ein klares Bild:

• Lünendonk, 17. September 2026 (Pressemitteilung): Befragt wurden 180 CIOs, IT-Bereichsleiter und Fachbereichsverantwortliche aus gehobenem Mittelstand und Konzernen in der DACH-Region. 58 Prozent testen KI-Agenten in Pilotprojekten, 18 Prozent sind noch in der Explorationsphase, 19 Prozent nutzen sie in einzelnen Aufgabenbereichen. Eine durchgängige Integration über mehrere Kernprozesse hat erst ein Prozent erreicht. 66 Prozent sagen, dass weniger als ein Viertel ihrer KI-Piloten den Sprung in den Regelbetrieb geschafft hat. Die Studie entstand in Zusammenarbeit mit mehreren IT-Dienstleistern.
• YouGov im Auftrag von Alibaba.com und bevh, Ende September 2026 (Zusammenfassung): 24 Prozent der befragten kleinen und mittleren Unternehmen nutzen KI-Agenten, bei Betrieben ab zehn Mitarbeitenden rund 45 Prozent. Die meistgenannte Hürde: mangelndes Vertrauen in die Technologie (32 Prozent), knapp vor einem unklaren Business Case (31 Prozent).
• HP Work Relationship Index 2026 (dpa-Meldung): 49 Prozent der Büroangestellten in Deutschland nutzen bereits KI-Agenten. Unter diesen Nutzern befürchten 43 Prozent, durch KI oder KI-versiertere Kollegen verdrängt zu werden. Befragt wurden Büroangestellte, keine Beschäftigten in Produktion, Service oder Pflege.

Zusammengenommen heißt das: Die Erwartungen sind hoch (96 Prozent der Lünendonk-Befragten erwarten Effizienzgewinne), die Nutzung wächst, aber Vertrauen und klare Verantwortlichkeiten fehlen.

Warum Vertrauen eine Prozessfrage ist

Lünendonk-Studienautor Tobias Ganowski beschreibt, was für den Regelbetrieb fehlt: „klare Prozessverantwortlichkeiten, belastbare Datenarchitekturen und eine durchdachte Governance“. Übersetzt in den Betriebsalltag heißt das: Niemand vertraut einem Agenten, dessen Handlungen er nicht nachvollziehen und nicht stoppen kann.

Ein Beispiel aus der Instandhaltung: Ein Agent wertet Störungsmeldungen aus, erkennt ein Muster an einer Verpackungsanlage und schlägt vor, ein Ersatzteil zu bestellen und einen Techniker einzuplanen. Das ist nützlich. Problematisch wird es, wenn die Bestellung ohne Prüfung rausgeht, der Techniker den Auftrag ohne Kontext auf dem Handy findet und hinterher niemand weiß, wer das eigentlich entschieden hat.

Mit festen Freigabepunkten sieht derselbe Ablauf anders aus: Der Agent bereitet vor, die Schichtleitung bestätigt mit einem Klick, der Techniker bekommt Auftrag und Begründung, und seine Rückmeldung vom Einsatzort fließt zurück. Jeder Schritt ist dokumentiert.

Human in the Loop: vier Stellen, an denen ein Mensch entscheidet

Nicht jeder Handgriff eines Agenten braucht eine Freigabe. Sonst wäre er nur ein umständliches Formular. Bewährt hat sich, vier Arten von Entscheidungen zu unterscheiden:

1. Auslösen. Der Agent erkennt einen Anlass und bereitet eine Maßnahme vor, etwa eine Bestellung, eine Antwort an einen Kunden oder eine Einsatzplanung. Hier braucht es noch keinen Menschen.
2. Prüfen und freigeben. Sobald Geld, Kunden, Sicherheit oder Personal betroffen sind, entscheidet eine zuständige Person. Sie sieht den Vorschlag, die Begründung und die Datengrundlage und gibt frei, ändert oder lehnt ab.
3. Ausführen vor Ort. Viele Maßnahmen enden nicht im System, sondern bei Menschen an Maschine, Fahrzeug oder Baustelle. Dort muss der Auftrag ankommen, verständlich und mit allem, was zur Ausführung gehört.
4. Rückmelden und lernen. Was vor Ort tatsächlich passiert ist, geht strukturiert zurück: erledigt, nicht möglich, anderer Befund. Erst diese Rückmeldung macht den nächsten Vorschlag des Agenten besser.

Was das Recht dazu sagt

Für die meisten Agenten im Mittelstandsalltag gibt es keine Pflicht zu einer bestimmten Freigabe. Zwei Regeln zeigen aber, wohin die Richtung geht.

Art. 22 Abs. 1 DSGVO gibt Betroffenen das Recht, „nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt“. Entscheidet ein Agent etwa über Schichtzuteilung, Bonuszahlungen oder die Ablehnung eines Kunden, ist das kein theoretisches Thema mehr.

Die europäische KI-Verordnung schreibt für Hochrisiko-Systeme in Art. 14 ausdrücklich eine menschliche Aufsicht vor. Die meisten Agenten im Betrieb fallen nicht darunter. Die Logik dahinter gilt trotzdem: Wer ein System einsetzt, muss es verstehen, überwachen und im Zweifel anhalten können. Wie Unternehmen das intern regeln, gehört in eine KI-Richtlinie.

Wo die Freigabe scheitert: am letzten Meter

In den meisten Konzepten sitzt der „Human in the Loop“ am Bildschirm. In vielen Betrieben arbeitet der Mensch, der eine Maßnahme bestätigen oder ausführen muss, aber in der Halle, im Fahrzeug oder beim Kunden. Ohne Firmen-PC und oft ohne Firmen-E-Mail.

Das ist kein Randproblem. Wenn die Freigabe per E-Mail an eine Schichtleitung geht, die ihr Postfach einmal am Tag öffnet, wartet der Agent. Wenn der Techniker den Auftrag nur als Zeile im ERP-System bekommt, fehlt ihm der Kontext. Und wenn die Rückmeldung auf einem Zettel landet, lernt der Agent nichts. Wie groß diese Lücke ist, haben wir in KI ohne Schreibtisch beschrieben.

Wie Blupassion die Freigabestrecke trägt

Blupassion ist kein KI-Agent. Blupassion ist die mobile Strecke, auf der Vorschläge, Freigaben, Aufträge und Rückmeldungen zwischen System und Menschen laufen:

• Freigabe aufs Smartphone. Der Vorschlag des Agenten kommt als Push-Nachricht mit Begründung bei der zuständigen Person an. Freigeben, ändern oder ablehnen dauert Sekunden, auch in der Halle.
• Auftrag mit Kontext. Der freigegebene Auftrag erreicht den Techniker mit Ort, Anleitung und Fotos, gezielt nach Rolle, Standort oder Schicht, wie bei der Mitarbeiterkommunikation per App.
• Strukturierte Rückmeldung. Statt Freitext kommen feste Felder, Fotos und Statuswerte zurück, nach dem Prinzip der digitalen Checklisten und Rückmeldungen. Damit kann der Agent arbeiten.
• Nachvollziehbarkeit. Wer wann was freigegeben hat, ist dokumentiert. Das beantwortet die Governance-Frage, bevor sie jemand stellt.
• Ergänzen statt ersetzen. 73 Prozent der Lünendonk-Befragten erwarten, dass Agenten bestehende Anwendungen ergänzen statt ablösen. Blupassion verbindet sich über Schnittstellen mit vorhandenen Systemen, wie in bestehende Systeme ergänzen, verbinden, ersetzen beschrieben.

Ein pragmatischer Einstieg

Wählen Sie einen Ablauf, in dem heute schon Vorschläge entstehen, die jemand bestätigen muss, etwa Nachbestellungen, Störungsbewertungen oder Antworten auf Standardanfragen. Legen Sie fest, welche Entscheidungen der Agent allein treffen darf und welche nicht. Bauen Sie dann zuerst die Freigabe- und Rückmeldestrecke, und erst danach die Automatik. Warum Projekte sonst im Pilot hängen bleiben, zeigt unser Beitrag zu gescheiterten KI-Projekten.

Häufige Fragen

Was bedeutet Human in the Loop bei KI-Agenten? Ein Mensch ist an festgelegten Stellen in den Ablauf eingebunden und trifft dort die Entscheidung. Der Agent bereitet vor, der Mensch prüft und gibt frei, ändert oder lehnt ab.

Bremst eine Freigabe den Agenten nicht aus? Nur, wenn sie an der falschen Stelle sitzt oder zu lange dauert. Routineschritte laufen automatisch, Entscheidungen mit Folgen für Geld, Kunden, Sicherheit oder Personal werden freigegeben. Kommt die Freigabe aufs Smartphone, dauert sie Sekunden statt Stunden.

Ist Human in the Loop gesetzlich vorgeschrieben? Für Hochrisiko-Systeme verlangt die KI-Verordnung in Art. 14 eine menschliche Aufsicht. Art. 22 DSGVO schützt Betroffene vor ausschließlich automatisierten Entscheidungen mit erheblicher Wirkung. Für die meisten betrieblichen Agenten gibt es keine ausdrückliche Pflicht, aber gute Gründe.

Was hat eine App-Plattform mit KI-Agenten zu tun? Agenten brauchen Menschen, die freigeben und ausführen, und Rückmeldungen, aus denen sie lernen. Eine mobile Plattform bringt beides dorthin, wo gearbeitet wird, auch zu Beschäftigten ohne Schreibtisch.

Wie fange ich an? Mit einem einzigen Ablauf, klaren Freigaberegeln und einer funktionierenden Rückmeldung. Die Grundlagen beschreibt unser Beitrag KI-Agenten im Mittelstand.

Nächster Schritt

Nehmen Sie den Ablauf, bei dem Sie am ehesten einen KI-Agenten einsetzen würden, und beantworten Sie drei Fragen: Wer müsste einen Vorschlag freigeben? Wo arbeitet diese Person? Wie käme die Rückmeldung zurück? Wenn eine der Antworten „per E-Mail“ oder „auf Papier“ lautet, liegt dort der erste Schritt. Wir zeigen Ihnen gern, wie diese Freigabestrecke mit Blupassion aussieht.