De toepassing van AI in recruitment ligt de laatste tijd op verschillende plekken zwaar onder vuur. Vooral de onderstaande slide van Princeton-hoogleraar Arvind Narayanan gaat gretig rond. De meeste Artificial Intelligentie mag niet eens zo heten, zegt hij in een recente MIT-talk How to recognize AI snake oil. En het wordt al helemaal ‘fundamenteel dubieus’ als AI-systemen prestaties gaan voorspellen. Want daar zijn die systemen nog helemaal niet toe in staat.
De kritiek komt bovenop bijvoorbeeld de recente berichtgeving van de Washington Post, die over het AI-algoritme van HireVue liet optekenen dat het ‘diep verontrustend’ was om kandidaten te rangschikken op basis van hun gezichtsbewegingen, woordkeuze en stemgeluid. Een wetenschapper noemde het algoritme zelfs ‘een vergunning om te discrimineren’. Business Insider volgde niet lang daarna, met enkele experts die AI ‘net zo discriminerend vinden als de mensen die de algoritmes voeden.’ HireVue heeft zelfs een officiële aanklacht tegen zich lopen, geïnitieerd vanuit de Electronic Privacy Information Center.
Tengai in Amsterdam
En de bezoekers van het Recruitment Tech Event in Amsterdam vorige week mochten dan het genoegen gehad hebben om kennis te maken met Tengai, ‘s werelds eerste interviewrobot (en Elin Öberg Mårtenzon, die haar presenteerde), dat wil niet zeggen dat iedere kandidaat daar ook enthousiast over is. Sterker nog: uit recent onderzoek van Carmichael Fisher blijkt de kandidaat juist heel sceptisch over dit soort AI-technologieën.
In de studie blijkt dat 86 procent van de kandidaten aangeeft dat ze liever hebben dat een mens naar hun cv kijkt dan een robot. De meeste kandidaten blijken zelfs liever geen zaken te doen met bedrijven die hun selectiebeslissingen alleen op basis van geautomatiseerde cv-selectie doen. En 9 van de 10 respondenten zei liever met een mens een sollicitatiegesprek te voeren dan met een robot. Dan konden ze in elk geval zelf ook nog vragen stellen, zo was hun idee.
Is het alternatief niet erger?
Aanklachten bij instanties, hoogleraren die zich druk maken, privacyzorgen, en kandidaten die liever met mensen zeggen te praten: als je het zo samenvat, ziet het er niet goed uit voor de toepassing van AI in recruitment. Maar de grote vraag is of het klopt. En of het alternatief – alles laten zoals het is – niet erger is dan de kwaal van AI. Niet voor niets geeft in hetzelfde Carmichael Fisher-onderzoek ook 84 procent van de kandidaten aan de traditionele werving- en selectieprocedure ‘ineffectief’ te vinden.
84 procent van de kandidaten vindt de traditionele werving- en selectieprocedure ‘ineffectief’.
En erger nog: dat blijkt ook daadwerkelijk uit de cijfers. In 82 procent van de gevallen gaan bedrijven namelijk de mist in met hun huidige selectieproces, melden onderzoekers van Gallup. Waar bias mogelijk aanwezig is in AI en algoritmes, is het dat zeker in de menselijke selecteur. Sterker: hoe minder vooroordelen je dénkt te bezitten, hoe meer je er last van hebt. En het mag nu (nog) zo zijn dat AI een slechte voorspeller is van werksucces, de mens is er zelf helemaal notoir slecht in.
Hoe dan wel?
Het wordt dan ook geen tijd voor mínder AI in recruitment, maar eerder voor méér. Maar dan wel beter, en ethischer, schrijven bijvoorbeeld hoogleraar Tomas Chamorro-Premuzic, neurowetenschapper (en Pymetrics-oprichter) Frida Polli, en Ben Dattner in Harvard Business Review. Anders dan traditionele methodes als referrals, cv-screening, en sollicitatiegesprekken, kan AI patronen ontdekken die het menselijke oog ontgaan. En dat kan volgens hen zeker waarde hebben in selectie.
Systemen ontwerpen zonder bias is moeilijk. Maar bias uit de mens halen is moeilijker.
Theoretisch gezien kunnen we met AI in recruitment sneller en efficiënter de juiste persoon voor de juiste rol vinden, zeggen ze. Mits de trainingsset van de data natuurlijk goed is – en niet op zichzelf ook weer vol met bias zit. Dat zal niet makkelijk zijn, aldus de auteurs. Maar het is volgens hen wel makkelijker dan het alternatief: proberen de vooroordelen en stereotypen uit de mens te halen. Want dat is bijna onbegonnen werk.
Geluk is nu bepalend
In huidige selectieprocessen besteden recruiters hooguit een paar seconden aan een cv. Hiring managers vertrouwen doorgaans op hun intuïtie (of beter gezegd: hun onderbuik), schuiven harde data aan de kant, en baseren zich te veel op een oneigenlijke cultural fit – een probleem dat nog eens wordt vergroot doordat objectieve prestatienormen ontbreken. Al na een paar seconden in een sollicitatiegesprek kampt de recruiter al met tal van vooroordelen, alleen maar gebaseerd op hoe iemand praat, zo blijkt uit recent onderzoek.
‘De succesvolste mensen hebben niet altijd het meeste talent. Ze hebben het meeste geluk.’
Niet zo gek dat ‘geluk’ een van de belangrijkste bepalende factoren is geworden in de loopbaan van mensen. We mogen misschien denken dat we in een meritocratie leven, waar mensen hun baan ‘verdienen’ op basis van hun talent, in realiteit is dat nauwelijks het geval, blijkt uit ander recent onderzoek. De conclusie? ‘De meest succesvolle mensen in de wereld zijn niet noodzakelijkerwijs degenen met het meeste talent. Het zijn degenen met het meeste geluk.’ En geluk in sollicitatieprocedures? Dat hoort daar dus zeker ook bij…
Zelfde debat als met zelfrijdende auto
Selectie door AI mag dan nog vol fouten zitten, dat zit de menselijke selectie dus ook. En waar AI nog steeds verbetert, geldt dat voor mensen veel minder. Training om van je onbewuste bias af te komen? Het werkt nauwelijks, en maakt dingen zelfs vaak erger, zo blijkt. Diversiteit blijkt er zelden mee gediend. En ja, de AI-algoritmes discrimineren ook (zoals het inmiddels overbekende Amazon-voorbeeld laat zien), maar bij menselijke selectie is het dramatisch veel slechter. Wat dat betreft lijkt het een beetje op het debat rondom de zelfrijdende auto, constateren de auteurs. Als er daar één ongeluk mee gebeurt, is het meteen groot nieuws. Terwijl we veel minder horen over de 1,25 miljoen jaarlijkse dodelijke slachtoffers in het wereldwijde verkeer, waarvan velen veroorzaakt door onoplettende chauffeurs.
Als met een zelfrijdende auto één ongeluk gebeurt, is het groot nieuws.
Het is dan wel heel makkelijk om cynisch of schamper te doen over wat AI op dit moment in selectie (niet) kan. Maar misschien kunnen we beter erop inzetten dat we de huidige algoritmes gaan verbéteren. Zoals in Californië gebeurt, waar zelfs regelgeving hiervoor is aangenomen. Dat verbeteren moet op een ethische manier, dus niet via een black box, stellen de auteurs van het HBR-artikel. En kandidaten moeten ook altijd hun toestemming verlenen. De tools worden het liefst ook open-source aangeboden, zodat iedereen de werking ervan kan beoordelen. Bovendien mogen er geen gegevens gebruikt worden die je ook niet mag gebruiken in een ‘normaal’ sollicitatieproces (zoals medische gegevens).
Conclusie: dit kan alleen maar beter worden
Maar als dat allemaal lukt, dan is er geen reden om te denken dat AI niet een significante verbetering kan laten zien in onze selectieprocedures. Het zal de link tussen talent, inspanning en succes kunnen vergroten, aldus de HBR-onderzoekers. En dat is waar het recruiters om te doen zou moeten zijn, toch? Het zou bovendien goed zijn voor de wereldwijde economie, zeggen ze. Als we bias kunnen vermijden, worden onze talentpools groter, en krijgen meer mensen kans hun talent te ontplooien.
Als AI onze eigen vooroordelen ter discussie weet te stellen, is er al veel gewonnen.
Dan geeft het geen pas om zomaar af te geven op de rudimentaire stappen die nu gezet zijn op AI-gebied. Dan moeten we niet minder, maar juist méér in AI investeren. En niet alleen in AI trouwens, maar ook in menselijke expertise om die AI te beoordelen. Mensen die snappen dat het uiteindelijk altijd moet gaan om de quality-of-hire. En dat je die nooit kunt vaststellen met nattevingergevoel. AI kan nooit zonder menselijke intelligentie. Net zo goed als het andersom ook heel moeilijk wordt. Als AI een tool wordt om onze eigen vooroordelen ter discussie te stellen, is er al veel gewonnen, aldus de HBR-auteurs.