Mag kunstmatige intelligentie sollicitanten beoordelen?

Door: redactie-computertotaal | 07 september 2022 16:32

How To

Een robot die je sollicitatiebrief beoordeelt, is dat de toekomst van humanrecources? Het lijkt er wel op voor wie de snelle adoptie van kunstmatige intelligentie bij personeelszaken en recruitmentbedrijven observeert. Het lijkt slim: in plaats van een mogelijk bevooroordeeld mens krijg je nu een objectief rekenende robot die de beste cv’s eruit vist. Maar is dat juridisch wel in de haak?

Er zijn vele softwaresystemen waarmee sollicitanten gescreend kunnen worden. Het herkennen van interessante cv’s is populair, maar ook het meekijken bij videogesprekken of iemand zenuwachtig, ontwijkend of leugenachtig reageert, begint steeds meer op te komen. 

Wat al deze software gemeen heeft, is dat ze werkt met statistieken: op basis van een hele berg data van eerdere sollicitanten worden gemeenschappelijke en verdelende kenmerken opgespoord, waarmee nieuwe sollicitaties in het juiste bakje gelegd worden.

Objectiviteit

Voor veel bedrijven is objectiviteit hierbij een belangrijk voordeel. Zo weet je dat je hr-personeel niet onbewust vrouwen eerder afwijst, of andere discriminerende criteria toepast bij de selectie. Maar is zulke software wel echt zo objectief? Die data waarmee zo’n systeem gevoed wordt, is immers afkomstig uit de historische praktijk. En daar kunnen best discriminerende criteria tussen zitten. 

Een bekend voorbeeld komt van Amazon: hun hr-robot nam alleen maar mannen aan, omdat het bedrijf in de eerste vijftien jaar van zijn bestaan alleen met mannen had gewerkt.

Kunstmatige intelligentie Voorbeelden

Nieuwe wetgeving

De angst voor zulke ‘algoritmische uitsluiting’ heeft ertoe geleid dat de Algemene Verordening Gegevensbescherming (AVG of GDPR) een expliciet verbod kent op het toepassen van AI voor de selectie van sollicitanten. Of nou ja: het enkel op basis van AI laten selecteren van sollicitanten.

Want als hulpmiddel voor de recruiter, die vervolgens een eigen oordeel maakt, mag het wel. Dat in de praktijk die recruiter vooral op de AI zal afgaan, is natuurlijk lastig te bewijzen.

Vanuit Europa is er echter nieuwe, strengere wetgeving op komst: de Wet op de AI. Deze sciencefictionnaam is een tikje misleidend, het gaat namelijk om alle vormen van algoritmen en automatische beoordeling of besluitvorming over mensen. Dus ook met een standaard beslisboom of een programma dat vaste stappen en keuzes neemt. 

Voorop staat de impact die mensen kunnen ondervinden uit zo’n systeem. Als die verwaarloosbaar is, dan staat de wet het gebruik toe zonder nadere regels. Als de risico’s onaanvaardbaar zijn, dan is het gebruik simpelweg verboden.

Duidelijkheid

Hr-systemen zitten in het midden: AI met hoog risico, maar niet onaanvaardbaar hoog. Hiervoor gelden strenge eisen, zoals een duidelijke ontwerpdocumentatie met risicomanagement en ingebouwde uitlegmodules, zodat mensen snappen waarom het systeem tot haar conclusie kwam. Ook moet de nauwkeurigheid schriftelijk aangetoond zijn. O, en zowel de leverancier als de gebruiker zijn aansprakelijk voor fouten hierbij.

Op dit moment zijn dergelijke systemen dus legaal als hulpmiddel. De sollicitant heeft daarbij één handvat: een bedrijf moet hem of haar van de AVG uitleggen waarom ze hem afwijzen. ‘Onze AI vond uw competenties onder de maat en uw ervaring te beperkt.’ Niet leuk om te horen, maar wel duidelijk.

Tekst: Arnoud Engelfriet

0 Reactie(s) op: Mag kunstmatige intelligentie sollicitanten beoordelen?

  • Om te reageren moet je ingelogd zijn. Nog geen account? Registreer je dan en praat mee!
  • Er zijn nog geen reacties op dit artikel.

Wanneer je een reactie plaatst ga je akoord
met onze voorwaarden voor reacties.