Vorige week schreef de Volkskrant over de sollicitatierobot, die kandidaten eerlijker moet beoordelen dan mensen. Maar, zo vroeg auteur Laurens Verhagen zich af: lukt dat al? Het is precies de vraag die centraal staat in een recente publicatie van het College voor de Rechten van de Mens, die hier onderzoek naar deed. Maar wie hier het finale oordeel verwacht, komt bedrogen uit. A.I. en algoritmes kunnen discriminatie zowel vergroten als verkleinen, aldus de onderzoekers.
A.I. en algoritmes kunnen discriminatie zowel vergroten als verkleinen, blijkt uit onderzoek.
In het onderzoek, getiteld Als de computers je cv beoordelen, wie beoordeelt dan de computers?, gaat het bijvoorbeeld over de procedure bij Hunkemöller, waarbij alle sollicitanten een filmpje van zichzelf moeten insturen. Het algoritme beoordeelt deze vervolgens, op basis van de gezichtsuitdrukkingen van al succesvolle medewerkers van de lingerieketen. Daar zit wel een risico aan, aldus de onderzoekers. De algoritmes kunnen de gezichtsuitdrukkingen soms niet goed registeren. Dit komt vaker voor bij mensen met een donkere huidskleur.
Te complex
Maar waarom zouden sommige algoritmes discriminatie eigenlijk vergroten? Dat kan bijvoorbeeld komen doordat het algoritme een bepaalde voorkeur heeft ontwikkeld die onbewust mensen uitsluit. Zo’n bias heeft volgens het onderzoek verschillende oorzaken, maar vaak zijn algoritmes zo complex dat niet te achterhalen is hoe ze tot besluiten komen. Zelfs over hoe een algoritme überhaupt werkt is nog weinig kennis. Daarnaast staat bias uit algoritmen halen nog in de kinderschoenen. Het wordt dus nog erg lastig om dit op een goede manier vorm te geven.
‘Bias uit algoritmes halen staat nog in de kinderschoenen.’
Volgens een woordvoerster van het College van de Rechten van de Mens is dit overigens niet alleen maar negatief: ‘Algoritmes kunnen ook zeker positief zijn en de kans op discriminatie verkleinen. Het risico is alleen dat je niet kunt vertrouwen op algoritmes alleen. Er zijn op dit moment verschillende onderzoeken gaande over algoritmes zónder bias, maar hoe lang dat duurt is nog niet duidelijk. Tot die tijd moet je zelf als bedrijf ook alert erop zijn en niet blind erop vertrouwen.’
Wat doe je eraan?
Dit onderzoek gelezen hebbende, wat kunnen werkgevers doen om op een eerlijker manier te werven? Ten eerste is het belangrijk om sollicitanten aan het begin van de procedure te informeren over de rol en de werking van algoritmes bij de selectie die zij gebruiken, aldus het College voor de Rechten van de Mens. Ook bevelen ze aan goed onderzoek te doen naar de recruitmenttechnologie die gebruikt wordt: ‘Inzicht hebben in welke algoritmes je gebruikt is erg belangrijk.’
‘Er is absoluut potentie om discriminatie in sollicitaties tegen te gaan door middel van A.I.’
Ook volgens Marina Lacroix, coördinator pilotprojecten ‘Verdere Integratie op de Arbeidsmarkt’, kun je beter geen recruitmenttechnologie gebruiken als je niet weet op basis van welke afwegingen de software beslissingen maakt. Volgens haar is er absoluut potentie om discriminatie in sollicitatieprocedures tegen te gaan door middel van A.I. Maar ook zij twijfelt nog wel aan de neutraliteit van de technologie. Wordt dus ongetwijfeld vervolgd…
Lees meer
- Lees hier de hele publicatie van het College van de Rechten voor de Mens: ‘Als computers je cv beoordelen, wie beoordeelt dan de computers?’
- Algoritme van de maand: hoe video-analyse bepaalt of je bij Hunkemöller past
- De mens weghalen uit het selectieproces? Zo dystopisch kan het worden