In de rubriek Algoritme van de maand laat Bas van de Haterd elke maand zijn licht schijnen op een algoritme in de recruitmentindustrie. Wat is er goed aan? Wat zijn de risico’s? Hoe werken algoritmes nu echt? En hoe is dat van toepassing op dit specifieke geval? In deze tweede aflevering gaat het niet over één specifiek algoritme, maar het begrip AI en de verwarring met algoritmes.
De term kunstmatige intelligentie, AI en zelfs machine learning wordt te pas en te onpas gebruikt. Zo bleek ook uit een recent onderzoek waar de Financial Times over schreef. 40% van alle Europese AI start-ups gebruiken helemaal geen AI in hun product. Ze maken geen gebruik van machine learning, de basis van kunstmatige intelligentie.
De definitie van AI
Een eenduidige, universele definitie van kunstmatige intelligentie is er niet. Het Nederlandse Wikipedia-artikel zegt hierover:
Het is moeilijk te definiëren wat ‘intelligentie‘ precies is. Het is derhalve ook moeilijk te definiëren wat artificiële intelligentie precies is.
Dingen die vroeger als heel intelligent beschouwd werden, zoals Deep Blue die Gary Kasparov versloeg met schaken, zijn nu ineens heel normaal en volgens de nieuwe definitie van AI helemaal geen kunstmatige intelligentie. Dat was wat men nu noemt ‘brute rekenkracht’.
Dingen die vroeger als heel intelligent beschouwd werden, zijn nu ineens heel normaal
Wat doorgaans wel algemeen geaccepteerd is, is dat het gaat om door de computer of het algoritme zelf verzonnen regels op basis van input en output. Dit wordt wel machine learning genoemd. Een voorbeeld hiervan is: dit zijn de cv’s, dit zijn de mensen die we hebben uitgenodigd voor een gesprek, dit zijn de mensen die we hebben aangenomen en dit zijn de prestaties van die mensen. Een computer kijkt dan zelf naar correlaties en patronen. Wanneer doet iemand het goed en wie zouden we dus moeten aannemen.
Risico’s
In pure machine learning cases zitten grote risico’s. In het bovenstaande geval komt de menselijke bias dus in het algoritme. Een bias als ‘mannen zijn beter dan vrouwen, want ze verdienen meer (als je prestaties bijvoorbeeld relateert aan salaris) of een tegen etnische minderheden. Zelfs als je die data niet meegeeft kan een algoritme mogelijk dit aflezen uit ‘omgevingsdata’, variërend van adres, basisschool of noem het maar op.
Een ander groot risico doet zich voor al, zoals met cv’s, het eigenlijk totaal onbekend is of er wel enige voorspellende waarde in zit voor toekomstige prestaties. Er is namelijk nog nooit aangetoond dat die voorspellende waarde er is.
Het is totaal onbekend of er wel enige voorspellende waarde zit in AI voor toekomstige prestaties
Een prachtig voorbeeld van hoe een AI verkeerde dingen kan begrijpen hoorde ik recent op een AI conferentie van een Duits televisiestation. Die hadden een AI gebouwd om de kinderwijzer te automatiseren. Veel input gegeven met scenes: dit is seks, dit is geweld, etc. Vervolgens het algoritme laten draaien op films en bij elke bank die in beeld kwam zei de AI: 16+ rating, seks. De trainingsdata was blijkbaar enigszins eenzijdig geweest met betrekking tot de plek waar mensen seks hebben in films…
Geen AI, geen probleem
Het feit dat een product geen AI heeft, wil niet zeggen dat het niet werkt of waardeloos is. Het is alleen misschien iets minder toekomstbestendig, omdat het product niet uit zichzelf leert. Het wordt niet automatisch beter. Vergelijk het met een werknemer. Het feit dat je werknemer geen opleidingen wil doen en elke dag alleen zijn of haar werk doet, maakt deze persoon niet waardeloos, maar over een paar jaar zal je hem of haar waarschijnlijk wel moeten vervangen, omdat de eisen van het werk veranderd zijn.
Dat een product geen AI heeft, betekent niet dat het waardeloos is
40% claimt onterecht AI
Terug naar het artikel in de Financial Times. 40% van de start-ups in Europa die in de AI hoek zitten claimen dus onterecht AI. Op zich geen probleem, maar wel handig om te weten. Ik weet niet hoeveel hiervan in de HR/Recruitment scene zitten, maar op basis van mijn eigen ervaringen is dat ook best veel.
Als je bij een leverancier wilt weten of deze echt met AI werken of enkel de term gebruiken om je te paaien is het goed om na te vragen hoe het systeem leert. Ook is het belangrijk vanuit ethisch perspectief hoe je het geleerde van het systeem kan bekijken. Waarop selecteert het systeem nu echt? Wat zijn de indicatoren die wel en niet meewegen? Daar moet over nagedacht worden.
Over de auteur van dit blog
Bas van de Haterd is onder meer initiatiefnemer van Digitaal-Werven, een jaarlijks onderzoek naar welke organisatie aan kandidaten de beste digitale sollicitatie-ervaring biedt, en samen met Werf& organisator van TA Live.
Lees hier meer van Bas.