AI Risk
Human in the loop
Human in the loop betekent dat een mens betrokken blijft bij een AI-proces, bijvoorbeeld om output te controleren, goed te keuren of bij te sturen. Dit is belangrijk in gevoelige of foutgevoelige contexten.
HITL · Ook bekend als: menselijke controle, HITL
De mens in het beslissingsproces
Human-in-the-loop (HITL) is het principe waarbij een menselijke beoordeling verplicht is op kritieke momenten in een geautomatiseerd AI-proces. In plaats van het systeem volledig autonoom te laten handelen, is er een controle- of goedkeuringsmoment waarbij een medewerker de AI-output beoordeelt voordat die output gebruikt wordt voor een actie met gevolgen.
De mate van betrokkenheid varieert. "Human-on-the-loop" houdt in dat de mens het systeem bewaakt en kan ingrijpen maar standaard niet betrokken is bij elke beslissing. "Human-in-the-loop" vereist actieve goedkeuring bij elke kritieke stap. De keuze hangt af van het risiconiveau van de taak en de bewezen betrouwbaarheid van het AI-systeem.
Wanneer is HITL verplicht of aanbevolen?
De EU AI Act schrijft menselijk toezicht voor bij hoog-risico AI-systemen, waaronder systemen die gebruikt worden voor beslissingen over mensen in domeinen als werkgelegenheid, krediet of essentiële diensten. Maar ook buiten de wettelijke verplichting is HITL verstandig voor elke taak waarbij een fout significante financiële, reputationele of juridische gevolgen heeft.
Concrete voorbeelden: een inkoopagent die contracten genereert, legt het concept voor aan een verantwoordelijke voor ondertekening. Een HR-agent die cv's screent, geeft een rangschikking maar neemt geen definitieve selectiebeslissing. Een klantenservicebot escaleert complexe klachten naar een medewerker.
Wat betekent Human in the loop?
Human in the loop betekent dat een mens betrokken blijft bij een AI-proces, bijvoorbeeld om output te controleren, goed te keuren of bij te sturen. Dit is belangrijk in gevoelige of foutgevoelige contexten.