Human in the loop: Ai beslist mee, maar jij blijft verantwoordelijk

Het is een verleidelijke gedachte. Als een Ai-systeem de beslissing neemt, ligt de verantwoordelijkheid toch ook bij dat systeem? Of bij de leverancier ervan? Maar helaas, de verantwoordelijkheid voor beslissingen kun je niet volledig uitbesteden aan een Ai-systeem. “Het systeem zei het” is geen verdediging. Niet richting je klant, niet richting je auditor, niet richting de toezichthouder en niet richting de rechter. In dit blog lees je wat human in the loop in de praktijk betekent, waarom het meer is dan een vinkje en hoe je vastlegt wie beslist, waar Ai stopt en wanneer een mens moet ingrijpen.

De chatbot die niet verantwoordelijk wilde zijn

Een bekend voorbeeld komt uit Canada. In 2024 oordeelde een tribunaal in de zaak Moffatt tegen Air Canada over een klant die van de chatbot van de luchtvaartmaatschappij onjuiste informatie had gekregen over een kortingsregeling. Air Canada voerde onder meer aan dat de chatbot als een soort afzonderlijke entiteit moest worden gezien, verantwoordelijk voor zijn eigen uitspraken.

Het tribunaal ging daar niet in mee. De chatbot was onderdeel van de website van Air Canada, dus Air Canada was verantwoordelijk voor wat hij zei. Het bedrijf moest de klant compenseren. Een heldere analyse van de uitspraak lees je bij advocatenkantoor McCarthy Tétrault.

De les is universeel:

Je kunt taken delegeren aan Ai. Verantwoordelijkheid niet.

Wat human in the loop eigenlijk betekent

Human in the loop betekent dat een mens een vaste rol heeft in de Ai-workflow. Dat kan op verschillende manieren:

  • Vooraf: een mens stelt de regels, grenzen en uitzonderingen vast waarbinnen Ai werkt.
  • Tijdens: een mens beoordeelt en accordeert de output voordat er iets gebeurt.
  • Achteraf: een mens controleert steekproefsgewijs en grijpt in bij afwijkingen.

Welke vorm past, hangt af van de impact. Een Ai-agent die een samenvatting maakt van een vergadering vraagt minder toezicht dan een agent die betalingen voorbereidt of klantclaims beoordeelt.

Ai voert beleid uit, geen intuïtie

Dat roept een vraag op die we vaak horen: neemt Ai dan beslissingen over van mensen? Nee. Een goed ingerichte Ai-agent neemt geen beslissingen over, maar voert beleid uit dat jij vooraf hebt vastgelegd. De echte beslissing valt eerder: op het moment dat je bepaalt welke regels gelden, welke drempels je hanteert en wanneer een mens het overneemt. Neem een crediteurenproces. Een agent controleert of een factuur past bij de inkooporder, of het bedrag binnen de afgesproken marge valt en of de leverancier bekend is. Klopt alles, dan zet hij de factuur klaar voor goedkeuring. Wijkt er iets af, dan gaat de factuur met de gevonden afwijking naar een medewerker. De agent besluit niets wat niet al in jullie werkafspraken stond. Hij past ze alleen consequenter toe dan een drukke maandagochtend dat doet. Niet de intuïtie van je beste medewerker wordt geautomatiseerd. Niet het oordeel over de lastige gevallen. Wel het beleid dat jullie al hadden, maar dat tot nu toe vooral in hoofden zat.

Vaag beleid geeft vage Ai

Hoe scherper je beleid, hoe voorspelbaarder je Ai. “Grote afwijkingen even checken” is geen regel. “Afwijkingen boven de 2 procent gaan naar de afdelingsmanager” wel. Een agent kan alleen zo precies zijn als de afspraken die je hem meegeeft. Is het beleid vaag, dan krijg je wisselende uitkomsten. En dan ligt dat niet aan het model. Dat maakt de inrichting een bestuurlijke vraag, geen technische. Precies daar zit de human in the loop: niet als controleur van elke stap, maar als eigenaar van het beleid. Ai automatiseert geen intuïtie. Ai automatiseert beleid. Zorg dus eerst dat je beleid het automatiseren waard is.

Wat de wet zegt

Ook de wetgever legt de verantwoordelijkheid bij mensen. De AVG geeft mensen in artikel 22 het recht om niet te worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking is gebaseerd, als dat besluit rechtsgevolgen heeft of hen anderszins in aanmerkelijke mate treft. Uitzonderingen zijn er, maar dan gelden extra waarborgen, zoals het recht op menselijke tussenkomst. De AI-verordening gaat verder. Voor hoog-risico Ai-systemen eist artikel 14 dat ze zo zijn ontworpen dat mensen effectief toezicht kunnen houden. En artikel 26 verplicht organisaties die zulke systemen gebruiken om dat toezicht te beleggen bij mensen met de juiste bekwaamheid, opleiding en bevoegdheid. Ook als jouw toepassing niet hoog-risico is, zijn dit nuttige maatstaven. Ze laten zien wat “verantwoord” in de praktijk betekent.

De valkuil: een mens die alleen nog op ‘OK’ klikt

Human in the loop klinkt geruststellend. Maar er zit een valkuil in. Als een medewerker honderden Ai-voorstellen per dag moet goedkeuren, wordt controleren al snel klikken. Dat verschijnsel heet automation bias: de neiging om een systeem te vertrouwen, juist omdat het meestal gelijk heeft. Goed ontworpen human in the loop voorkomt dat zo veel mogelijk. Laat Ai het voorspelbare werk afhandelen en alleen de afwijkingen voorleggen, met uitleg over waarom iets afwijkt. Zorg dat jouw ‘human-in-the-loop’ zich bewust is van deze valkuil, dat is al een goede stap om deze bias tegen te gaan.

Leg het vast: wie beslist, waar Ai stopt, wanneer je escaleert

Verantwoordelijkheid moet je niet alleen voelen, je moet hem vastleggen. Beantwoord per Ai-toepassing vier vragen:

1. Wie is eigenaar?

Eén persoon of rol die verantwoordelijk is voor de inrichting en de uitkomsten van de Ai-agent.

2. Waar liggen de grenzen van de Ai-agent?

Welke beslissingen neemt Ai zelfstandig, welke bereidt het alleen voor en welke zijn altijd voor een mens?

3. Wanneer escaleren?

Bij welke drempels, bedragen of afwijkingen wordt een mens ingeschakeld?

4. Hoe leg je het vast?

Logging van input, gebruikte bronnen, output en menselijke beslissingen, zodat je achteraf kunt uitleggen wat er is gebeurd. Het AI Risk Management Framework van NIST sluit hierop aan. Het noemt duidelijke rollen en verantwoordelijkheden als basis voor betrouwbare Ai. Meer over de praktijk lees je in Ai-governance in de praktijk.

Uitlegbaarheid is een voorwaarde

Je kunt alleen verantwoordelijkheid nemen voor iets wat je begrijpt. Een Ai-systeem dat beslissingen neemt zonder dat iemand kan uitleggen waarom, is bestuurlijk onhoudbaar. Zeker als het misgaat. Kies daarom voor Ai die laat zien welke bronnen en regels zijn gebruikt. Zo kan je medewerker de output beoordelen, en kun jij je keuzes verantwoorden. Lees ook Black box Ai uitgelegd.

De Vindex-visie

Bij Vindex ontwerpen we Ai-agents met de mens als vast onderdeel van het proces. Elke agent heeft een eigenaar, duidelijke grenzen en vaste escalatiemomenten. Alles wat een agent doet wordt gelogd, zodat je altijd kunt uitleggen wat er gebeurde en waarom. Dat draait op één centraal Ai-platform in een private cloud in Nederland. Zo houd je niet alleen grip op je data, maar ook op de beslissingen die met die data worden genomen.

Vindex. Ai op jouw voorwaarden.


Veelgestelde vragen

Wat betekent human in the loop?

Human in the loop betekent dat een mens een vaste rol heeft in een proces waarin Ai meewerkt: door regels vooraf vast te stellen, output te beoordelen of afwijkingen te controleren.

Wie is verantwoordelijk als Ai een fout maakt?

De organisatie die het Ai-systeem inzet. Je kunt taken delegeren aan Ai, maar de eindverantwoordelijkheid blijft bij jou.

Mag Ai zelfstandig beslissingen nemen?

Dat hangt af van de impact. Volgens de AVG hebben mensen het recht om niet te worden onderworpen aan een volledig geautomatiseerd besluit met rechtsgevolgen of vergelijkbare impact, behoudens uitzonderingen met extra waarborgen.

Neemt Ai beslissingen over van mensen?

Nee. Een goed ingerichte Ai-agent voert beleid uit dat jij vooraf hebt vastgelegd. Hoe scherper dat beleid, hoe voorspelbaarder de uitkomst. Afwijkingen gaan naar een medewerker.

Hoe voorkom ik dat medewerkers alleen nog op OK klikken?

Laat Ai het voorspelbare werk afhandelen en alleen afwijkingen voorleggen, met uitleg. Zo blijft menselijke controle gericht en scherp.

Wat kost een Ai-platform met ingebouwde controle?

Vindex werkt niet met een licentiemodel, maar met een all-in abonnement. Bekijk de mogelijkheden op onze pricingpagina.