In de toekenning van banen vindt nog altijd grootschalig discriminatie plaats. In een wereld waarin we ons daarvan bewust zijn (en soms terecht ervoor schamen), kan A.I. een sleutelrol vervullen. A.I. maakt de arbeidsmarkt namelijk toegankelijker voor iedereen. Objectiever dan ooit tevoren kan nu de beste match worden bepaald. We hoeven echt niet blind te vertrouwen op alle A.I.-leveranciers, maar in dit stadium valt op het gebied van diversiteit nog zoveel te winnen dat we moeten uitkijken voor te veel regulering, en vooral gas moeten geven op deze ontwikkeling.
In dit stadium valt nog zoveel te winnen dat we moeten uitkijken met te veel regulering, maar vooral gas moeten geven.
Waarom dat zo is? Laten we daarvoor eerst even kijken naar in welke situaties het gebruik van vergelijkende algoritmes risicovol is en in welke situaties dit zelfs beter zou kunnen werken dan handmatige selectie. Een spannende vraag. Er wordt veel regelgeving ontwikkeld rond A.I.-toepassingen in HR, zoals vanuit de Europese AI-Act, die deze toepassingen als ‘High Risk‘ beschouwt.
Doemscenario’s
Eind vorig jaar bezocht ik namens 8vance een bijeenkomst van de Directie Algoritmes van de Autoriteit Bescherming Persoonsgegevens, gericht op het toezicht op algoritmes. Daar werd gesproken over doemscenario’s zoals het automatisch terzijde schuiven van cv’s van minderheidsgroepen, omdat zij minder vaak in trainingsdata voor bepaalde functies voorkomen. Maar is dit een reëel gevaar bij het gebruik van A.I. in werving en selectie?
Er zijn meer vrouwelijke verpleegkundigen met skills en competenties die vaker aan vrouwen worden toegeschreven.
Bij 8vance trainen wij onze A.I. op miljoenen publieke profielen en vacatures, waardoor we nieuwe cv’s of vacatures direct kunnen aanvullen met ontbrekende datapunten, geclassificeerd, gevalideerd en objectief vergeleken. Hierin kan – toegegeven – maatschappelijke bias doorsijpelen. Er zijn bijvoorbeeld meer vrouwelijke verpleegkundigen met skills en competenties die vaker aan vrouwen worden toegeschreven. Deze effecten kunnen we minimaliseren door ervoor te zorgen dat we alleen objectieve matching-attributen meenemen. Gender, leeftijd, afkomst en direct hiervan afgeleide parameters sluiten we daarom uit van de trainingsdata. Dit zorgt ervoor dat kandidaten met dezelfde vaardigheden een gelijke beoordeling krijgen, ongeacht geslacht of andere factoren.
Vrouw in de bouw
Een ander voorbeeld: Vrouwen werken minder vaak in de bouw, dus als bouwbedrijf vind je op basis van werkervaring automatisch meer mannen. Door bijvoorbeeld te kijken naar iemands skills, minimaliseren we deze effecten. Dit werkt dan juist positief: een vrouw – in dit voorbeeld – met de juiste skills, krijgt dezelfde beoordeling als een man met dezelfde skills; ongeacht werkervaring. Ook aan de vraagkant is bekend dat vacatures worden opgesteld op basis van het bestaande personeelsbestand. Daardoor komen nieuwe doelgroepen lastiger in aanmerking, maar door met A.I. objectivering (skills) toe te voegen, haal je die bias eruit.
Veel sceptici betogen dat online profielen geen dwarsdoorsnede van de arbeidsmarkt tonen. We denken dat het vaak enkel de hbo- en WO-opgeleiden zijn met een online profiel. In Nederland heeft 35% van de beroepsbevolking een hbo of hogere opleiding. Dat zijn 3,4 miljoen mensen.
Door met A.I. objectivering (skills) toe te voegen, haal je bias eruit.
Om dit een beetje in perspectief te zetten: er zijn tal van bronnen voor publiek beschikbare profielen. Alleen al LinkedIn heeft 9,12 miljoen gebruikers. Als die allemaal een profiel hebben, dan zijn er alleen daar al 6 miljoen profielen van opgeleiden met minder dan hbo beschikbaar. Natuurlijk staat niet iederéén online, maar er zijn genoeg profielen van alle doelgroepen om goede data van praktisch alle beroepen en groepen te kunnen verzamelen. In elk geval kan A.I. flink meer profielen vergelijken dan een recruiter in zijn hele leven te zien krijgt.
Foutieve data corrigeren
De kans dan dat foutieve datapunten in online profielen een rol spelen? Dat kun je ook door A.I.-statistiek minimaliseren. Statistisch kan A.I. bijvoorbeeld valideren of het wel logisch is dat iemand bepaalde skills heeft. De context waarin je een vaardigheid hebt opgedaan bepaalt het gewicht ervan. Je leert nu eenmaal beter koken in een sterrenrestaurant dan in de bedrijfskantine. Dus ook al zeggen twee mensen allebei dat ze goed kunt koken, in een skills-based vergelijking scoort iemand die ook de Horeca Academie heeft gevolgd hoger. Maar als je die skills vervolgens een tijd niet in de praktijk toepast, neemt het gewicht ervan weer af.
Je leert nu eenmaal beter koken in een sterrenrestaurant dan in de bedrijfskantine.
En A.I. heeft ook al weinig moeite om bepaalde fancy functietitels terug te leiden naar een meer gestandaardiseerde waarde. Opleidingen en werkervaring worden omgezet in kennisgebieden, vaardigheden en competenties. Dit alles binnen de grenzen van de GDPR, waarbij we bij 8vance bijvoorbeeld strenge privacy-protocollen hanteren, geen gevoelige persoonlijke informatie opslaan en de gebruiker in staat stellen zelf volledig het eigen profiel te beheren.
Sluiten we mensen buiten?
Selecteren op basis van persoonskenmerken, en dus: discrimineren, is de essentie van recruitment. Essentieel daarbij is dat je dus niet discrimineert op illegale kenmerken. We kunnen absoluut uitsluiten dat A.I. dit direct doet, simpelweg omdat deze kenmerken er in de data niet zijn. Het belangrijkste punt is dat deze systemen niet zelfstandig mensen aannemen, maar enkel adviseren. Ze sorteren kandidaten op basis van hun matchingscore en maken het verschil in skills en de overlap tussen een kandidaat en een vacature objectief inzichtelijk. Dit verhoogt de transparantie en toegankelijkheid van het selectieproces.
Het belangrijkste punt is dat deze systemen niet zelfstandig mensen aannemen, maar enkel adviseren.
A.I. kan daarmee juist discriminatie verminderen, snel kennis uit miljarden mogelijke combinaties tussen mensen en werk halen en miljoenen profielen tegelijk een eerlijke kans geven. In een wereld waarin discriminatie een groot probleem is, kan A.I. een cruciale rol spelen in het bevorderen van diversiteit en inclusie. Objectievere A.I.-matchingsystemen zouden in sommige situaties zelfs verplicht kunnen worden gesteld. Ik ben benieuwd in hoeverre toezichthouders zich ook gaan bemoeien met het niet inzetten van algoritmes op plekken waar dit maatschappelijk ongewenst is. Kun je daar straks ook een boete voor krijgen? Gelukkig was men het vorig jaar bij de Directie Algoritmes met mij eens: je bent en blijft als organisatie verantwoordelijk voor eventuele discriminatie. Ook als je géén algoritmes inzet.
Meer weten?
Talent Mobility Evangelist Laurens Waling (8vance), de auteur van dit blog, trapt op 5 februari de Webinar Week af met een sessie waarin hij de toekomst van A.I. in werving en selectie bespreekt met drie gasten: Associate Professors Jeroen Meijerink (HRM) en Maarten Renkema (HRM Innovatie) van de Universiteit Twente, en Aggie van Huisseling, Econoom bij het Economisch Bureau van ABN Amro.
Inschrijven