Wanneer is menselijke controle bij AI-besluiten betekenisvol?

Onderzoek eerst welk besluit de persoon werkelijk raakt

Teken het besluitvormingsproces vanaf de eerste selectie. AI kan bijvoorbeeld bepalen welke aanvraag wordt bekeken, welk dossier extra onderzoek krijgt of wie een uitnodiging ontvangt. Het uiteindelijke bericht wordt misschien door een mens verstuurd, terwijl een eerdere geautomatiseerde stap al doorslaggevend was. Vraag daarom niet alleen wie op verzenden klikt.

Artikel 22 AVG ziet op uitsluitend geautomatiseerde besluiten met rechtsgevolgen of een vergelijkbaar aanmerkelijk effect. Niet ieder AI-advies valt daaronder. Waar de bepaling geldt, zijn uitzonderingen beperkt en passende waarborgen nodig. Laat noodzakelijkheid voor een overeenkomst, toelating bij wet of uitdrukkelijke toestemming zorgvuldig toetsen. Goedkopere uitvoering is geen volledige onderbouwing.

Geef de beoordelaar informatie, tijd en bevoegdheid

De AP noemt mens, technologie, proces en governance als samenhangende onderdelen van betekenisvolle tussenkomst. Vertaal die aandacht naar de werkplek: kan de beoordelaar relevante gegevens zien, ontbrekende context opvragen en een andere uitkomst kiezen? Is er tijd om een twijfelgeval te onderzoeken? En accepteert het management gemotiveerde afwijkingen?

Maak het mandaat concreet. Een medewerker die alleen een ontbrekend veld mag aanvullen, controleert niet automatisch de inhoudelijke beslissing. Beschrijf welke onderdelen opnieuw beoordeeld kunnen worden en wie escalaties behandelt. Neem beoordelaars mee in het ontwerp en laat hen aangeven welke informatie ontbreekt. Controle werkt beter wanneer mensen begrijpen welke fouten zij moeten kunnen ontdekken.

Maak van de interface geen overtuigingsmachine

Een groot groen vinkje met een score van 98 kan zekerheid suggereren die niet is aangetoond. Laat ontwerpers uitleggen wat een score betekent, waarop die is gebaseerd en welke onzekerheden buiten beeld blijven. Een model kan bijvoorbeeld zelfverzekerd antwoorden terwijl het een relevant document niet heeft gevonden. Meer decimalen lossen dat probleem niet op.

Test of beoordelaars hun eigen oordeel vormen voordat zij een aanbeveling zien. In sommige processen helpt het eerst broninformatie te tonen en pas daarna het AI-voorstel. In andere processen werkt een gerichte vergelijking beter. Kies de werkwijze op basis van de taak en toets haar met realistische fouten. Deze ontwerpkeuzes zijn praktische maatregelen; er bestaat geen universele schermindeling die betekenisvolle controle garandeert.

Gebruik een werktafel om schijncontrole te herkennen

Laat beoordelaars een lastig geval demonstreren. Kunnen zij werkelijk afwijken? De tafel maakt verschillen tussen procedure en praktijk zichtbaar; zij bepaalt niet of artikel 22 van toepassing is.

De tabel is opzij te schuiven.

Fictief voorbeeld: kandidaten selecteren voor een gesprek

Een fictieve werkgever laat software sollicitaties ordenen. De recruiter bekijkt alleen de tien hoogst geplaatste kandidaten. Het team zegt dat er menselijke controle is, omdat de recruiter de uitnodigingen verstuurt. Tijdens een oefening blijkt dat een geschikte kandidaat lager staat door een ongewone loopbaanbeschrijving. Die kandidaat zou zonder aanvullende controle nooit inhoudelijk worden bekeken.

Het team onderzoekt eerst of de geautomatiseerde selectie zelf bepalend is en welke regels daarop van toepassing zijn. Als ontwerpmaatregel stopt het met onzichtbare uitsluiting op de score. Beoordelaars krijgen relevante sollicitatiegegevens en beoordelen geschiktheid aan vooraf vastgestelde functiecriteria. Verschillen tussen hun oordeel en het voorstel worden gebruikt om de werking te onderzoeken.

Deze aanpassing maakt de inzet niet automatisch rechtmatig of vrij van discriminatie. Grondslag, gegevenskwaliteit, AI Act-classificatie en arbeidsrechtelijke voorwaarden blijven afzonderlijke vragen. Het voorbeeld laat vooral zien waarom controle over de zichtbare eindstap onvoldoende kan zijn wanneer eerdere selecties de kansen van mensen al bepalen.

Onderscheid controle vooraf van herbeoordeling achteraf

Een bezwaar- of klachtenroute kan belangrijk zijn, maar verandert een oorspronkelijk uitsluitend geautomatiseerd besluit niet vanzelf in een menselijk besluit. Maak daarom twee processen zichtbaar: de beoordeling voordat gevolgen ontstaan en de mogelijkheden daarna. Leg voor beide vast wie kijkt, welke informatie beschikbaar is en wat die persoon kan herstellen.

Bij een herbeoordeling helpt het wanneer iemand nieuwe omstandigheden kan aanvoeren en begrijpt waar het eerdere oordeel op berustte. Vermijd een procedure waarin dezelfde AI-uitkomst zonder onderzoek opnieuw wordt bevestigd. De AP benadrukt in haar uitleg aan de Belastingdienst dat de positie en inhoud van menselijke tussenkomst ertoe doen; alleen een symbolische menselijke handeling is onvoldoende.

Meet kwaliteit zonder blind op afwijkingspercentages te sturen

Een laag percentage afwijkingen kan betekenen dat het systeem goed werkt, maar ook dat medewerkers geen tijd hebben of de uitkomst blind volgen. Een hoog percentage kan wijzen op slechte aanbevelingen, maar ook op een bijzonder moeilijke caseload. Gebruik het getal daarom als onderzoekssignaal en bekijk concrete dossiers en omstandigheden.

Kies vooraf foutscenario’s voor oefeningen: ontbrekende context, verwisselde personen, een plausibel maar onjuist argument en een onverwachte uitkomst voor een relevante groep. Onderzoek of beoordelaars de fout herkennen en kunnen ingrijpen. Bewaar alleen de informatie die nodig is voor deze kwaliteitscontrole. Ook toezicht op beoordelaars mag niet ongemerkt uitgroeien tot een onbegrensd personeelsvolgsysteem.

Organiseer verantwoordelijkheid en een werkbare stoproute

Benoem een proceseigenaar en een meldroute voor terugkerende problemen. Leg vast wanneer de toepassing wordt stilgezet, bijvoorbeeld bij ontbrekende broninformatie of een fout die niet kan worden hersteld.

Bespreek bij periodieke evaluatie ook de bredere afweging: helpt de toepassing mensen eerlijk en zorgvuldig te behandelen, of wordt vooral de werklast verplaatst naar degenen die een fout moeten aanvechten? Een ethisch gesprek kan dat zichtbaar maken. Het vervangt geen wettelijke toets, maar voorkomt dat een juridisch formulier de plaats inneemt van aandacht voor de daadwerkelijke gevolgen.