Amazon verwijst een ‘selectierobot’ met een voorkeur voor mannen naar de prullenbak. Goed nieuws, aldus Bas van de Haterd: de robot zegt namelijk meer over de waarde van het cv als selectiemiddel dan over AI.

Amazon werkte de afgelopen jaren in het diepste geheim aan een selectie-algoritme. Op basis van cv’s en eerdere selectie van de honderdduizenden mensen die voor Amazon werken deed het algoritme aanbevelingen over wie je moest aannemen.

Onderwaardering van vrouwen

Het bedrijf startte het project in 2014, maar Reuters schrijft dat Amazon er al in 2015 achterkwam dat dit algoritme een serieuze onderwaardering van vrouwen had. Was het voor het systeem bijvoorbeeld een plus als je ‘voorzitter van de schaakclub’ op je cv had staan, zodra er ‘voorzitter van de vrouwenschaakclub’ stond bleek dit juist een min op te leveren.

‘wat amazon ook probeerde, het lukte deze ai niet discriminerend aannamebeleid te voorkomen’

Amazon heeft wel geprobeerd dit te corrigeren, maar wat het ook probeerde, het bleek geen garantie dat discriminerend aannamebeleid voorkomen kon worden. Uiteindelijk geloofde het bedrijf dan ook niet meer dat het systeem zou kunnen gaan werken. Vorig jaar werd de stekker er daarom definitief uitgetrokken, vertellen ingewijden aan Reuters.