Britse campagne en Stanford-cijfers zetten AI-screening onder druk

In Groot-Brittannië is een campagne gestart die werkgevers aanspreekt op afwijzingen die door software worden uitgedeeld. Volgens een artikel van Werf& valt die actie samen met nieuwe onderzoekscijfers over hoe vaak veelgebruikte screeningtools groepen kandidaten achterstellen. Daarmee verschuift de discussie van de vraag of AI in selectie mag naar de vraag wie controleert of zo'n systeem eerlijk werkt.

De campagne en het onderzoek eronder

De Britse non-profitorganisatie People Like Us startte samen met creatief bureau Worth Your While de campagne Reject the Rejections. Middelpunt is Dear [Name], een film van vier minuten met acteur Ebenezer Gyau, waarin zinnen uit echte afwijzingsmails aan etnisch diverse kandidaten zijn verwerkt tot een spoken word-performance. Sinds 16 september staat de campagne op 19 grootformaat schermen van JC Decaux in Londen, vanaf 2 oktober draait een verkorte versie in Britse bioscopen en in november volgt een landelijke uitrol. Op 29 oktober komt People Like Us naar Amsterdam.

Onder de campagne ligt onderzoek onder 2.000 Britse werkzoekenden. Daaruit blijkt dat 70% van de etnisch diverse kandidaten iets aan het cv heeft aangepast of verborgen, zoals de naam, het geloof of het land van herkomst. Bij witte kandidaten is dat 57%. Ook wist 3 op de 4 respondenten niet dat er een recht kan bestaan op een menselijke beoordeling van een geautomatiseerd besluit. Medeoprichter Sheeraz Gulsher voegt daaraan toe dat van de werkgevers die hun eigen proces wel controleerden, 82% verschillen per etniciteit vond.

Wat de cijfers uit Stanford laten zien

Harder zijn de getallen die Werf& aanhaalt uit onderzoek van het Stanford Institute for Human-Centered AI. Dat analyseerde 4 miljoen sollicitaties van 3,4 miljoen mensen op 1.700 vacatures bij 150 werkgevers.

• Bij 26% van de sollicitaties van zwarte kandidaten en 15% van die van Aziatische kandidaten discrimineerde een veelgebruikte AI-tool tegen hun groep.
• Waren zij in hetzelfde tempo doorgelaten als de meest bevoordeelde groep, dan waren 40.000 extra sollicitaties naar de volgende ronde gegaan.
• Van de kandidaten die vier sollicitaties instuurden, werd 10% door alle werkgevers afgewezen. De onderzoekers noemen dat systemic rejection, omdat veel werkgevers dezelfde leverancier gebruiken.
• Volgens de onderzoekers gebruikt 90% van de Amerikaanse werkgevers inmiddels een AI-tool om sollicitanten te prescreenen.

Dat laatste punt maakt het vraagstuk groter dan een kwestie van een verkeerd ingesteld filter bij een enkele werkgever. Zit de fout in het model van een leverancier, dan telt die fout niet eenmaal maar bij elke klant van die leverancier. Een kandidaat valt dan overal af op dezelfde grond, zonder dat een van die werkgevers het merkt.

Het tegengeluid

Werf& stelt zelf de vraag of AI werkelijk meer discrimineert dan mensen al doen. Recruitmentexpert Matt Alder noemt zich een optimist en vindt dat AI vaak de schuld krijgt van processen die al slecht waren. De juiste vergelijking is volgens hem niet AI tegenover een zorgvuldige menselijke lezer, maar "A.I. tegenover niemand die leest", zoals Werf& hem citeert. Bij implementaties die wel werkten, was volgens Alder vooraf duidelijk waar AI werd ingezet en wat het deed.

Ook juridisch loopt de discussie op. In de Amerikaanse zaak Mobley tegen Workday stelt kandidaat Derek Mobley dat hij sinds 2018 op meer dan 100 vacatures solliciteerde bij bedrijven die Workdays wervingssoftware gebruiken en telkens werd afgewezen, soms binnen een uur na het versturen. In Europa krijgen wervingsalgoritmes onder de EU AI Act de status van hoogrisicosysteem, met verplichtingen rond menselijk toezicht en transparantie. Onderzoek van ThriveMap onder 1.000 Britse werkzoekenden liet eerder dit jaar zien dat 49% het oneerlijk vindt dat werkgevers AI inzetten bij werving en selectie, tegenover 22% die het juist eerlijk vindt.

Wat dit betekent als je selectie inkoopt

Voor wie een screening- of assessmentleverancier kiest, verandert die hoogrisicostatus de aard van het gesprek. Een leverancier die niet kan laten zien dat hij op uitkomstverschillen test, legt dat risico stilzwijgend bij de werkgever neer. Drie vragen maken dat snel zichtbaar.

• Meet je uitkomsten per groep, hoe vaak gebeurt dat, en is de laatste rapportage in te zien?
• Welke stap in het proces is de menselijke beoordeling, en kan een kandidaat die opvragen?
• Werken andere klanten met hetzelfde model, en wat gebeurt er als daarin een fout zit?

Komt op geen van die drie vragen een concreet antwoord, dan koopt een werkgever geen onderbouwde selectie maar alleen snelheid. De campagne in Londen vraagt uiteindelijk om precies dat eerste stukje openheid, namelijk vermelden wanneer software screent en controleren of die software bevooroordeeld is.

Bron: Grote Britse campagne gestart tegen A.I. in recruitment, Werf&, https://werf-en.nl/grote-britse-campagne-gestart-tegen-a-i-in-recruitment/