Sinds de inmiddels overbekende Amazon-case is het een bij tijd en wijle oplaaiende discussie in de recruitmentwereld. Kunnen algoritmes op basis van artificial intelligence nou vooroordelen voorkomen? Of versterken zulke algoritmes de bestaande bias alleen maar (zoals bij Amazon het geval was)? Nieuw onderzoek, dat eind deze maand wordt gepresenteerd in Seattle, lijkt een voorzichtig positieve conclusie op te leveren.
‘Ik ben blij te melden hoe we een eerlijker speelveld kunnen creëren voor iedereen die solliciteert.’
Uit het onderzoek, uitgevoerd door Phai Labs, de R&D-afdeling van het Australische A.I.-bedrijf PredictiveHire, blijkt dat als je kandidaten vraagt géén cv in te sturen, maar alleen 5 werkgerelateerde vragen via tekst laat beantwoorden, er een significante vermindering van gendervooroordelen is in de uiteindelijke selectieprocedures. ‘Ik ben blij om dit werk te delen over hoe we een eerlijker speelveld kunnen creëren voor iedereen die naar een baan solliciteert’, aldus Chief Data Scientist Dr. Buddhi Jayatilleke, die het onderzoek begeleidde.
5 miljoen antwoorden
PredictiveHire liet al eerder duidelijke tegengeluiden horen ten opzichte van alle scepsis over A.I. in recruitment. Zo meldde het bedrijf na onderzoek dat al die algoritmes voor een kandidaat juist een bétere ervaring kunnen opleveren. Bijvoorbeeld omdat A.I. feedback kan verzamelen, en zo steeds beter leert wat kandidaten willen, en doordat algoritmes beter transparant kunnen maken wat je afwegingscriteria zijn, waardoor je kandidaten kunt helpen om jouw overweging te snappen. Bovendien kun je met de inzet van Natural Language Processing élke kandidaat goede, persoonlijke feedback geven, aldus hun onderzoek.
‘We hebben een dataset van meer dan 5 miljoen ongestructureerde antwoorden op vragen in sollicitatiegesprekken.’
Met de nieuwe wetenschappelijke paper (Identifying and Mitigating Gender Bias in Structured Interview Responses) gaat het bedrijf nader in op een veelgehoord bezwaar tegen algoritmes: ze zouden moeilijk genderneutraal zijn te maken. Maar volgens Jayatilleke is dat dus juist níet het geval. ‘We hebben een dataset van meer dan 5 miljoen ongestructureerde antwoorden op vragen in sollicitatiegesprekken – allemaal zonder enige identificerende informatie. In totaal gaat het nu om 630 miljoen woorden, en waarschijnlijk 1 miljard halverwege dit jaar. De studie laat zien dat als je beoordelingen maakt met alleen die interviewgegevens en met behulp van een reeks goed gedefinieerde scoredimensies, dat zelfs wanneer antwoorden hogere niveaus van genderinformatie bevatten, er nog steeds significant minder gendervooroordelen zijn.’
Níet anoniem solliciteren
Dit werkt volgens PredictiveHire beter dan meer ‘klassieke’ methoden om bias tegen te gaan, zoals anoniem solliciteren. ‘Ondanks de populariteit van zulke ‘blinde’ cv-screening, staat al lang vast dat je dan nog het geslacht kunt bepalen aan de hand van de cv-gegevens en nog steeds leidt tot vooringenomen werving door interviewers.’ Laat je die gegevens echter volledig weg, en richt je je volledig op de geschreven antwoorden, dan sluit je dat soort vooroordelen helemaal uit, aldus de onderzoekers.
Het onderzoek komt bovenop talloos ander onderzoek naar het nut van A.I. in werving en selectie, en de vraag in hoeverre je hiermee vooroordelen kunt voorkomen, of juist versterkt. Zo deed de Nederlandse Jacqueline van Breemen de afgelopen jaren voor NOA-VU ook onderzoek hiernaar. Haar conclusie: A.I. is nog niet het nieuwe wondermiddel binnen HR. Volgens haar zijn A.I.-algoritmes bijvoorbeeld vaker discriminerend ten opzichte van mensen met een niet-westerse migratieachtergrond. De discussie over de potentie van A.I. zal dan ook nog wel even doorgaan, zo lijkt het.