KUNSTIG INTELLIGENS: Amazon, her ved toppsjef Jeff Bezos, utviklet et AI-verktøy for å hjelpe selskapet med å ansette de beste søkerne. Det gikk ikke helt etter planen. Foto: EPA / NTB Scanpix
KUNSTIG INTELLIGENS: Amazon, her ved toppsjef Jeff Bezos, utviklet et AI-verktøy for å hjelpe selskapet med å ansette de beste søkerne. Det gikk ikke helt etter planen. Foto: EPA / NTB ScanpixVis mer

Laget AI-verktøy for å ansette. Så fant de den pinlige feilen

Da færre og færre kvinner ble anbefalt av den kunstige intelligensen, skjønte utviklerne at noe hadde gått alvorlig galt.

Da gigantselskapet Amazon i 2014 begynte å utvikle et AI-verktøy som skulle gjøre det enklere å ansette de best kvalifiserte søkerne, var optimismen stor.

Selskapet bruker allerede høyteknologiske automatiserte løsninger på sine nettsteder, og i sine varehus.

AI-verktøyet de jobbet med, altså kunstig intelligens, skulle automatisk gå gjennom jobbsøkernes CV-er og rangere dem etter et poengsystem, hvor fem var det høyeste.

- Alle ønsket denne «hellige gralen». De ønsket spesifikt en maskin som kunne ta imot 100 CV-er og spytte ut de fem beste kandidatene, og så kunne vi ansette dem, sier en person med kjennskap om prosjektet til nyhetsbyrået Reuters.

Men ett år seinere oppdaget utviklerne av den kunstige intelligensen at det var noe alvorlig feil med måten programmet rangerte søkerne, ifølge nyhetsbyrået.

Flest mannlige søkere

Det viste seg at programvaren ikke vurderte søkere kjønnsnøytralt. Den var rett og slett diskriminerende overfor kvinner.

En følgefeil, skriver Reuters.

For å lære hvilke søkere Amazon ønsket seg, ble AI-verktøyet lært opp ved å analysere hva slags type folk selskapet hadde ansatt over en tiårsperiode.

Men de aller fleste søknadene i denne perioden, kom fra menn. De aller fleste som ble ansatt, var følgelig menn. Den kunstige intelligensen lærte rett og slett at mannlige søkere var å foretrekke.

Artikkelen fortsetter under annonsen

Den skal dessuten ha trukket poeng fra søkere med CV-er som inneholdt avarter av ordet «kvinne», og nedgraderte søkere som hadde en grad fra universiteter eller skoler hvor bare kvinner studerte, ifølge de anonyme kildene Reuters har snakket med.

Kastet prosjektet

Utviklerne tok så grep. Det skal imidlertid ha vært langt fra sikkert at justeringene kom til å fungere.

I fjor ble derfor prosjektet avsluttet, ifølge Reuters.

Overfor nyhetsbyrået ønsker ikke Amazon å kommentere problemene med teknologien, men fastholder at verktøyet aldri ble brukt til å evaluere faktiske jobbsøkere.

Amazon er langt fra de eneste som ønsker å bruke AI, eller allerede bruker AI, for å evaluere søkere.

ET UNIKUM: Den kattelignende krabaten mangler kanskje hals og hale, men det hindrer den ikke fra å te seg som en huskatt. Video: EPFL News Vis mer

Ikke de eneste

Finansbanken Goldman Sach har tidligere utviklet et eget verktøy som skal analysere CV-er og plassere søkerne i avdelingene de egner seg, ifølge The Guardian.

Med en spesialutviklet algoritme rangerer det sosiale nettverket LinkedIn kandidater på vegne av arbeidsgivere som annonserer ledige stillinger på nettstedet.

Men LinkedIn er forsiktige med å undervurdere tradisjonell rekruttering.

- Jeg ville ikke ha stolt på at et AI-system som skal ta avgjørelser om ansettelser på egen hånd. Teknologien er ganske enkelt ikke klar ennå, sier John Jersin, visepresident i LinkedIn, til The Guardian.

Mannsdominert

Teknologibransjen i USA er dominert av menn. Det har blitt bedre de siste åra, men fremdeles er det langt fra likt mellom kvinner og menn.

Amazon er imidlertid bedre enn andre gigantselskaper, som for eksempel Facebook, Apple, Google og Microsoft, ifølge Reuters.

Av alle Amazon-ansatte er om lag 40 prosent av dem kvinner, mot bare 26 prosent hos Microsoft.