2026-06-19

Menselijk toezicht op AI agents: wat dat in de praktijk betekent

In vrijwel elk kader voor verantwoorde AI duikt hetzelfde vereiste op: er moet menselijk toezicht zijn. De EU AI Act schrijft het voor bij hoog-risico systemen. De OESO-richtlijnen voor AI noemen het een kernprincipe. Interne AI-beleidsregels van organisaties herhalen het als vanzelfsprekendheid.

Maar wat betekent "menselijk toezicht" eigenlijk — en werkt het nog als het gaat om autonome agents?

Wat de wet bedoelt

De AI Act is het meest expliciet. Artikel 14 verplicht aanbieders van hoog-risico AI-systemen om "maatregelen voor menselijk toezicht" in te bouwen. Mensen moeten het systeem kunnen begrijpen, de werking kunnen volgen, kunnen ingrijpen of het systeem kunnen uitschakelen. Kortom: een mens moet op elk moment de controle kunnen overnemen.

Dit klinkt logisch voor een systeem dat een beslissing voorbereidt en ter goedkeuring voorlegt. Een kredietbeoordelingsalgoritme dat een aanvraag beoordeelt en de uitkomst aan een medewerker laat — dat past in dit model. De mens kijkt mee, beslist uiteindelijk, en draagt de verantwoordelijkheid.

Het model veronderstelt een duidelijk moment waarop een mens iets te zien krijgt en een keuze maakt. Bij agents is dat moment er vaak niet.

Hoe agents werken

Een autonome agent krijgt een doel en gaat aan de slag. Hij zoekt informatie op, neemt tussenbeslissingen, roept tools aan — een API hier, een database daar, een e-mailsysteem verderop — en werkt stap voor stap naar een resultaat. De meeste van die stappen zijn niet zichtbaar voor een mens, en hoeven dat ook niet te zijn: dat is juist de bedoeling.

Neem een agent die is ingezet voor contractbeheer. Hij monitort binnenkomende contracten, controleert standaardclausules, vlagt afwijkingen en bereidt een advies voor. Op het moment dat een mens dat advies te zien krijgt, heeft de agent al tientallen tussenstappen gezet — interpretaties gemaakt, prioriteiten gesteld, bepaalde risico's wel en andere niet benoemd. De mens ziet het eindresultaat, niet het redeneerproces.

Dit is niet een technisch probleem dat met betere logging is op te lossen. Het is een structureel kenmerk van hoe agents waarde toevoegen: door complexe, meerstappentaken te abstraheren.

Het probleem van betekenisloos toezicht

Er is een fundamenteel risico dat organisaties onderschatten: toezicht dat bestaat, maar niets voorstelt.

Gedragsonderzoek naar menselijke interactie met geautomatiseerde systemen laat consistent een patroon zien dat wel automation bias wordt genoemd. Mensen die het werk van een geautomatiseerd systeem moeten beoordelen, neigen er sterk naar de uitkomst te accepteren — zeker als het systeem een track record heeft, als de beslissing complex is, of als er tijdsdruk bestaat. De stempel "goedgekeurd" wordt dan een formaliteit, geen inhoudelijk oordeel.

Dit is niet irrationeel. Als een agent duizend contracten heeft beoordeeld en het is nooit misgegaan, waarom zou je dan bij nummer duizend en één diep in de redenering duiken? Maar het is precies die situatie waarin toezicht zijn betekenis verliest — en tegelijk het moment waarop het het hardst nodig is, omdat de agent voor het eerst met een situatie kan worden geconfronteerd die buiten zijn gebaande paden valt.

Toezicht dat op papier bestaat maar in de praktijk neerkomt op het klikken van "goedkeuren", voldoet misschien formeel aan de wet. Maar het biedt geen enkele bescherming tegen de fouten die agents maken op het moment dat het ertoe doet.

Drie vormen van toezicht

Het helpt om te onderscheiden hoe toezicht georganiseerd kan worden, en wat elk model wél en niet biedt.

Human-in-the-loop is de meest directe vorm: de mens neemt een beslissing op elk relevant moment. De agent bereidt voor, de mens beslist. Dit werkt goed voor taken met hoge impact en lage frequentie — een goedkeuring die consequenties heeft, een uitzondering op een standaardprocedure. Het schaalt slecht: bij hoge volumes verliest het zijn waarde snel door automation bias.

Human-on-the-loop is een stap verder: de agent handelt, maar een mens monitort het proces en kan ingrijpen. Dit is realistischer bij hogere volumes, maar stelt hogere eisen aan de zichtbaarheid van het agentgedrag. Als een mens pas ingrijpt als er iets fout gaat, moet duidelijk zijn wát er fout gaat en wanneer. Dat vereist goede logging, duidelijke signaleringsdrempels en een organisatie die er ook daadwerkelijk op reageert.

Human-out-of-the-loop is volledig autonoom: de agent handelt zonder menselijke tussenkomst. Dit is het eindpunt van het spectrum — voor sommige taken acceptabel (routinematige, laag-risico beslissingen), voor andere onverantwoord. De wet staat dit in hoog-risico domeinen niet toe, maar in de praktijk schuiven organisaties hier naartoe zodra de druk op efficiëntie groot genoeg is.

Wat zinvol toezicht dan wél is

Als automation bias reëel is en volledig autonoom werken voor hoog-risico toepassingen niet mag, wat werkt er dan?

De kern van zinvol toezicht is dat het moet bijten. Een mens moet in staat zijn om het agentgedrag te begrijpen, te bevragen en te verwerpen — niet alleen te bevestigen. Dat stelt concrete eisen aan hoe agents worden ingericht:

Verklaarbare tussenstappen. Niet alleen de uitkomst, maar de redenering moet toegankelijk zijn. Niet in technische zin — logs zijn geen toezicht — maar in de vorm van een begrijpelijke samenvatting van waarom de agent een bepaalde richting heeft gekozen.

Duidelijke escalatiepunten. Welke situaties vereisen altijd menselijke tussenkomst, ongeacht de track record van de agent? Die drempels moeten expliciet zijn en geborgd in het procesontwerp, niet overgelaten aan de inschatting van de agent zelf.

Variatie in controle-intensiteit. Niet elk geval hoeft even diep gecontroleerd te worden. Steekproeven, risicogestuurde selectie en periodieke audits van agentbeslissingen zijn effectiever dan schijntoezicht op alles. Ze houden de mens scherp en geven zicht op patronen die bij standaardcontrole onzichtbaar blijven.

Vastgelegde verantwoordelijkheid. Iemand in de organisatie is eindverantwoordelijk voor wat de agent doet — ook als de agent autonoom heeft gehandeld. Die verantwoordelijkheid moet benoemd, begrepen en aanvaard zijn, voordat de agent in productie gaat.

Een ontwerpvraagstuk, geen vinkje

Menselijk toezicht op autonome agents is geen compliance-checkbox. Het is een ontwerpvraagstuk dat vraagt om keuzes over procesarchitectuur, escalatieprocedures en organisatorische verantwoordelijkheid — voordat een agent wordt ingezet, niet erna.

De organisaties die dit goed doen, zullen merken dat zinvol toezicht agents niet minder waardevol maakt. Het maakt ze betrouwbaarder. En betrouwbaarheid is uiteindelijk de voorwaarde waaronder autonomie maatschappelijk acceptabel wordt.

De vraag is niet óf er toezicht moet zijn. Die vraag is al beantwoord. De vraag is of het toezicht dat organisaties inrichten, iets voorstelt.