Menselijke controle is geen knop achteraf

Nederlanders gebruiken AI steeds vaker en willen bij belangrijke beslissingen een mens in beeld houden. Volgens de Nationale AI Vertrouwensmonitor vindt 84 procent menselijke supervisie daarbij onmisbaar.

Een mens kan decor zijn

Veel Nederlanders ervaren AI als handig. Ze gebruiken het voor zoeken of praktische instructies. Zeven op de tien gebruikers zeggen de uitkomst standaard te controleren. Moeilijk te geloven, maar toch.

Bij een hypotheek of medische ingreep willen mensen weten dat iemand verantwoordelijk blijft voor de keuze. Dat is een oordeel over risico, geen afwijzing van techniek.

Organisaties zetten daarom een mens in het proces. Op papier kan die de uitkomst bekijken en tegenhouden.

Die rol wordt nietszeggend wanneer een medewerker honderden adviezen per dag krijgt en nauwelijks tijd heeft om ze te beoordelen. Het systeem presenteert één duidelijke uitkomst. Afwijken vraagt extra uitleg en veroorzaakt vertraging.

De mens zit dan in de lus, terwijl het systeem de richting bepaalt.

Verantwoordelijkheid begint eerder

Een organisatie die AI sollicitanten laat rangschikken, heeft al veel besloten voordat een recruiter de lijst ziet. Welke eigenschappen gelden als succes? Op welke eerdere medewerkers is het systeem gebaseerd?

De recruiter kan een naam verplaatsen en blijft werken binnen het eerder gekozen kader.

Menselijke verantwoordelijkheid begint daarom bij het doel en de gegevens. Iemand moet ook volgen wat de gevolgen zijn en het systeem kunnen stilzetten wanneer een verkeerd patroon zichtbaar wordt.

De monitor laat zien dat gebruikers bij gevoelige onderwerpen geen volledige autonomie aan AI willen geven. Mensen moeten weten wie een besluit kan uitleggen en herstellen. Wie bezwaar maakt tegen een automatisch besluit mag geen nieuw automatisch antwoord krijgen.

De medewerker moet ook bevoegd zijn om af te wijken. Formele eindverantwoordelijkheid betekent weinig wanneer de organisatie iedere afwijking ontmoedigt.

Laat twijfel bestaan

AI-systemen geven vaak antwoord omdat ze daarvoor zijn gebouwd. In belangrijke situaties kan informatie ontbreken of een geval buiten de gebruikelijke categorieën vallen.

Een goed systeem maakt zulke onzekerheid zichtbaar op de plek waar de beslissing wordt genomen. Een algemene melding dat AI fouten kan maken legt het probleem vooral bij de gebruiker.

Ontwerp daarom eerst de menselijke rol. Bepaal welk oordeel nodig blijft en hoeveel tijd daarvoor beschikbaar is. Kies daarna welke onderdelen AI kan ondersteunen.

Menselijke controle bestaat pas wanneer iemand het systeem kan begrijpen en corrigeren.

Kernzin

Wie alleen achteraf op akkoord klikt, houdt geen toezicht.