2026-06-12
De AI Act en autonome agents: wat er nog niet geregeld is
De EU AI Act trad in augustus 2024 in werking en wordt sindsdien gefaseerd ingevoerd. In februari 2025 werden de regels rond verboden AI-toepassingen van kracht. In augustus 2025 volgden de verplichtingen voor aanbieders van grote taalmodellen. En in augustus 2026 — over enkele weken — worden de meest ingrijpende bepalingen van kracht: de volledige regelgeving voor hoog-risico AI-systemen.
Voor beleidsmakers en organisaties voelt dit als een mijlpaal. Eindelijk een Europees kader voor kunstmatige intelligentie, met tanden. Maar wie goed kijkt naar wat de wet wél en niet dekt, ziet dat de wet op een cruciaal punt tekortschiet: autonome AI agents — de systemen die momenteel het snelst aan terrein winnen — vallen in een juridisch grijs gebied waar de wet weinig houvast biedt.
Wat de AI Act regelt
De wet werkt met een risicogebaseerde indeling. AI-systemen vallen in vier categorieën: onaanvaardbaar risico (verboden), hoog risico, beperkt risico en minimaal risico. Hoog-risico-systemen omvatten toepassingen in domeinen als werving en selectie, kredietverlening, toegang tot onderwijs, kritieke infrastructuur en rechtshandhaving. Voor dit soort systemen gelden strenge eisen: technische documentatie, transparantie naar gebruikers, logging van beslissingen, en — cruciaal — maatregelen voor menselijk toezicht.
Naast de risicocategorieën bevat de wet aparte regels voor zogenaamde General Purpose AI-modellen, afgekort als GPAI. Dit zijn grote taalmodellen zoals de systemen achter ChatGPT of Claude, die breed inzetbaar zijn voor uiteenlopende taken. Aanbieders van GPAI-modellen moeten technische documentatie bijhouden, auteursrechtenbeleid publiceren en — voor modellen met een zogeheten systemisch risico, gedefinieerd als modellen getraind met meer dan 10²⁵ FLOPS — aanvullende evaluaties en incidentmeldingen uitvoeren.
Op papier klinkt dit als een sluitend systeem. In de praktijk rijzen er fundamentele vragen zodra je autonome agents in beeld brengt.
Agents zijn anders
Een AI agent is geen systeem dat reageert op een vraag. Het is een systeem dat een doel krijgt, zelfstandig een plan bedenkt, tools inzet — zoekopdrachten, API-aanroepen, het aanmaken of aanpassen van documenten, het versturen van berichten — en stap voor stap beslissingen neemt totdat het doel bereikt is. Bij complexere toepassingen orchestreert een agent meerdere andere agents, elk met eigen specialisaties.
Het wezenlijke verschil met traditionele AI-toepassingen is niet de technologie, maar de aard van de interactie met de buitenwereld. Een chatbot geeft informatie. Een agent handelt. Die handeling heeft consequenties in de echte wereld: een e-mail is verstuurd, een bestelling geplaatst, een contract voorbereid, een beslissing genomen. En die consequenties zijn niet altijd voorzien of geautoriseerd door een mens die meekijkt.
Drie blinde vlekken
1. Classificatie
De AI Act definieert een AI-systeem als "een op machines gebaseerd systeem dat ontworpen is om te werken met variërende niveaus van autonomie." Agents vallen technisch onder die definitie. Maar in welke risicocategorie?
Neem een agent die ingezet wordt door een bank voor klantenservice. De agent beantwoordt vragen, maar kan ook transacties uitvoeren, limieten aanpassen en escalaties starten. Afzonderlijk beschouwd valt geen van die functies automatisch onder de hoog-risico-categorie. Maar gecombineerd — en aangestuurd door een systeem dat zonder tussenkomst van een mens beslissingen neemt over financiële handelingen — is er een serieus argument dat de agent wél in die categorie thuishoort. De wet biedt geen mechanisme om zo'n samengesteld systeem te beoordelen. Organisaties zijn aangewezen op hun eigen interpretatie.
2. Het toezichtsvereiste
Hoog-risico-systemen moeten zo ontworpen zijn dat mensen "effectief toezicht kunnen houden" en, waar nodig, het systeem kunnen onderbreken of uitschakelen. Dit klinkt redelijk voor een systeem dat adviezen geeft. Voor een agent is het een fundamenteel probleem.
Een agent die bij elke stap menselijke goedkeuring nodig heeft, verliest zijn voornaamste voordeel: de mogelijkheid om complexe, meerstappentaken zelfstandig af te ronden. De praktijk laat zien dat organisaties agents juist inzetten om menselijke bottlenecks te omzeilen. De spanning tussen het toezichtsvereiste van de wet en de autonomie die agents waardevol maakt, is geen technisch detailvraagstuk. Het is een structurele tegenstrijdigheid die de wet onopgelost laat.
3. De provider-deployer grens
De AI Act maakt onderscheid tussen de partij die een AI-systeem ontwikkelt (provider) en de partij die het inzet in een specifieke context (deployer). Beide hebben eigen verplichtingen. Maar bij agents vervaagt die grens snel.
Wanneer een organisatie een agent bouwt die gebruik maakt van een extern taalmodel (een GPAI-systeem), een externe zoekdienst, en tools van een derde partij — wie is dan provider en wie is deployer? De GPAI-regels gelden voor de aanbieder van het onderliggende model, niet voor de organisatie die er een agent op bouwt. Maar het gedrag van de agent — de keuzes die hij maakt, de handelingen die hij uitvoert — wordt grotendeels bepaald door hoe de organisatie hem heeft geconfigureerd. De wet adresseert de laag waar het risico het meest concreet wordt niet adequaat.
De dubbele GPAI-laag
Dit brengt ons bij een bijzonder knelpunt. De meeste productie-agents zijn gebouwd op een GPAI-model. De GPAI-regels verplichten de modelprovider tot transparantie over hoe het model werkt. Maar ze zeggen weinig over hoe dat model zich gedraagt wanneer het is ingebed in een agent die autonoom handelt namens een organisatie.
Er ontstaat zo een situatie waarin twee lagen van regelgeving naast elkaar bestaan — GPAI-regels voor het model, AI Act voor de toepassing — maar de agent zelf, die de brug vormt tussen beide, in geen van beide volledig thuishoort. Dit is niet een gat dat met uitvoeringsbesluiten eenvoudig te dichten is. Het vraagt om een fundamentele herziening van hoe de wet autonome, meerstappensystemen benadert.
Wat organisaties nu kunnen doen
Wachten op wettelijke duidelijkheid is geen optie. De technologie beweegt sneller dan het wetgevingsproces, en de volledige inwerkingtreding van de AI Act in augustus 2026 brengt verplichtingen mee die organisaties nu al zouden moeten voorbereiden — ook voor de systemen die de wet nog niet adequaat dekt.
Enkele concrete stappen:
Breng agents in kaart. Welke agentische systemen zijn er in gebruik, in ontwikkeling, of in evaluatie? Wat zijn de taken, de tools die ze gebruiken, en de beslissingen die ze nemen zonder menselijke tussenkomst?
Stel interne verantwoordelijkheid vast. De wet doet dat nog niet goed genoeg. Maar intern moet helder zijn wie eindverantwoordelijk is voor het gedrag van een agent — ook als dat gedrag voortkomt uit een samenspel van externe modellen en tools.
Documenteer beslisketens. Voor welke handelingen heeft de agent expliciete autorisatie? Waar liggen escalatiepunten, en worden die daadwerkelijk gebruikt? Logging van agentgedrag is niet alleen nuttig voor audits — het is de enige manier om achteraf te reconstrueren wat er is gebeurd en waarom.
Ontwikkel een intern kader. De wet biedt het nog niet. Maar de vragen die een goed governance-kader zou moeten beantwoorden — wie beslist wat, hoe wordt toezicht gehouden, wat zijn de grenzen van autonomie — zijn nu al te stellen en te beantwoorden.
Een wet die moet groeien
De AI Act is een serieuze en noodzakelijke stap. Maar hij is geschreven in een periode waarin agentic AI nog nauwelijks bestond als productiecategorie. De explosieve opkomst van autonome agents viel buiten het gezichtsveld van de wetgever.
De Europese Commissie heeft voorzien in evaluatiemechanismen en een AI-kantoor dat toezicht houdt op de implementatie. Dat is goed. Maar evaluatie en aanpassing van Europese wetgeving duurt jaren. Organisaties die nu agents inzetten, opereren in een periode van structurele rechtsonzekerheid.
De praktische conclusie is ongemakkelijk maar helder: de organisaties die nu goed nadenken over governance voor autonome agents, doen dat niet omdat de wet het vereist. Ze doen het omdat ze begrijpen dat de risico's reëel zijn — en dat een wet die dat uiteindelijk erkent, er vroeg of laat komt.