Mag kunstmatige intelligentie sollicitanten beoordelen?

© PXimport

Mag kunstmatige intelligentie sollicitanten beoordelen?

Geplaatst: 7 september 2022 - 12:32

Aangepast: 27 november 2022 - 12:43

Redactie ID.nl

Een robot die je sollicitatiebrief beoordeelt, is dat de toekomst van humanrecources? Het lijkt er wel op voor wie de snelle adoptie van kunstmatige intelligentie bij personeelszaken en recruitmentbedrijven observeert. Het lijkt slim: in plaats van een mogelijk bevooroordeeld mens krijg je nu een objectief rekenende robot die de beste cv’s eruit vist. Maar is dat juridisch wel in de haak?

Er zijn vele softwaresystemen waarmee sollicitanten gescreend kunnen worden. Het herkennen van interessante cv’s is populair, maar ook het meekijken bij videogesprekken of iemand zenuwachtig, ontwijkend of leugenachtig reageert, begint steeds meer op te komen. 

Wat al deze software gemeen heeft, is dat ze werkt met statistieken: op basis van een hele berg data van eerdere sollicitanten worden gemeenschappelijke en verdelende kenmerken opgespoord, waarmee nieuwe sollicitaties in het juiste bakje gelegd worden.

Objectiviteit

Voor veel bedrijven is objectiviteit hierbij een belangrijk voordeel. Zo weet je dat je hr-personeel niet onbewust vrouwen eerder afwijst, of andere discriminerende criteria toepast bij de selectie. Maar is zulke software wel echt zo objectief? Die data waarmee zo’n systeem gevoed wordt, is immers afkomstig uit de historische praktijk. En daar kunnen best discriminerende criteria tussen zitten. 

Een bekend voorbeeld komt van Amazon: hun hr-robot nam alleen maar mannen aan, omdat het bedrijf in de eerste vijftien jaar van zijn bestaan alleen met mannen had gewerkt.

Kunstmatige intelligentie Voorbeelden

© PXimport

Nieuwe wetgeving

De angst voor zulke ‘algoritmische uitsluiting’ heeft ertoe geleid dat de Algemene Verordening Gegevensbescherming (AVG of GDPR) een expliciet verbod kent op het toepassen van AI voor de selectie van sollicitanten. Of nou ja: het enkel op basis van AI laten selecteren van sollicitanten.

Want als hulpmiddel voor de recruiter, die vervolgens een eigen oordeel maakt, mag het wel. Dat in de praktijk die recruiter vooral op de AI zal afgaan, is natuurlijk lastig te bewijzen.

Vanuit Europa is er echter nieuwe, strengere wetgeving op komst: de Wet op de AI. Deze sciencefictionnaam is een tikje misleidend, het gaat namelijk om alle vormen van algoritmen en automatische beoordeling of besluitvorming over mensen. Dus ook met een standaard beslisboom of een programma dat vaste stappen en keuzes neemt. 

Voorop staat de impact die mensen kunnen ondervinden uit zo’n systeem. Als die verwaarloosbaar is, dan staat de wet het gebruik toe zonder nadere regels. Als de risico’s onaanvaardbaar zijn, dan is het gebruik simpelweg verboden.

Duidelijkheid

Hr-systemen zitten in het midden: AI met hoog risico, maar niet onaanvaardbaar hoog. Hiervoor gelden strenge eisen, zoals een duidelijke ontwerpdocumentatie met risicomanagement en ingebouwde uitlegmodules, zodat mensen snappen waarom het systeem tot haar conclusie kwam. Ook moet de nauwkeurigheid schriftelijk aangetoond zijn. O, en zowel de leverancier als de gebruiker zijn aansprakelijk voor fouten hierbij.

Op dit moment zijn dergelijke systemen dus legaal als hulpmiddel. De sollicitant heeft daarbij één handvat: een bedrijf moet hem of haar van de AVG uitleggen waarom ze hem afwijzen. ‘Onze AI vond uw competenties onder de maat en uw ervaring te beperkt.’ Niet leuk om te horen, maar wel duidelijk.

Tekst: Arnoud Engelfriet

Deel dit artikel
Voeg toe aan favorieten
ID.nl logo

ID.nl, onderdeel van Reshift BV, is in 2022 gestart en uitgegroeid tot de meest toonaangevende en complete consumentensite van Nederland. Het doel van ID.nl is om de consument te helpen met alle technologie die hoort bij het dagelijks leven: van smart-health-meters tot e-bikes, van warmtepompen tot zonnepanelen - en alles daar tussenin!

Duidelijk, betrouwbaar en onafhankelijk: ID.nl maakt moeilijke dingen makkelijk.

Contact

ID.nl

Nijverheidsweg 18

2031 CP Haarlem

info@id.nl

Telefoon: 023-5430000