Kunstig intelligens og rekruttering

Kort forklart er kunstig intelligens teori og utvikling av datasystemer som er i stand til å gjennomføre oppgaver som vanligvis krever menneskelig intelligens. Maskinlæring er en type kunstig intelligens som fordrer at et datasystem – en algoritme – evner å forbedre sin ytelse ved eksponering for informasjon, uten å måtte følge eksplisitte instrukser for programmering. Algoritmen oppdager automatisk mønstre i data og kan deretter benytte mønsteret for å løse et problem, utføre en oppgave eller fatte en beslutning.

Selv om en maskinlæringsalgoritme ikke behøver eksplisitte instrukser, må algoritmen læres opp. Opplæringen består i at algoritmen mates med datasett som gjør den i stand til å bygge matematiske modeller basert på informasjonen. De matematiske modellene danner grunnlaget for algoritmens beslutninger når den blir presentert for ny informasjon. For eksempel kan en algoritme bli eksponert for en database med informasjon om ansatte ved en bedrift, som kjønn, alder, utdanning, samt egenskaper og hvordan den ansatte har prestert i en gitt stilling. Via denne informasjonen lærer algoritmen mønstre som gjør den i stand til å forutsi hvem som er best egnet til de ulike stillingene i bedriften. Teoretisk vil det være slik at jo mer informasjon algoritmen behandler, desto bedre blir anslagene for hvilke kandidater som kommer til å prestere best.

Kunstig intelligens og maskinlæringsalgoritmer er hovedsakelig utviklet og tatt i bruk av teknologibransjen – erfaringsmessig er det en bransje som har vært dominert av menn i en viss alder med gitte egenskaper. Ettersom en maskinlæringsalgoritme programmeres ut fra informasjon den får presentert, er det en ikke ubetydelig risiko for at algoritmen programmeres ut fra den eller de ansvarlige menneskenes egen erfaring og virkelighet.

I den forbindelse kan det være grunn til å stille spørsmål ved om bruk av algoritmer faktisk bidrar til rekruttering av de objektivt beste kandidatene. Et eksempel fra teknologibransjen viser at dette ikke nødvendigvis kan besvares bekreftende.

Amazon utviklet et ansettelsesverktøy basert på en maskinlæringsalgoritme. Det ble utviklet 500 ulike datamodeller for ansettelse og algoritmen ble trent med 50 000 forskjellige vilkår. Til tross for et bredt datatilfang, diskriminerte likevel algoritmen kvinner systematisk i sine ansettelsesbeslutninger. En del av problemet var at Amazon hentet algoritmens treningsdata fra sin egen databank med oversikt over CV-er, stillingskategorier og ansettelsesbeslutninger fra de siste ti årene. Ettersom tidligere data favoriserte menn, lærte også algoritmen å foretrekke menn fremfor kvinner i når den vurderte kandidatene.

En slik favorisering er et klassisk eksempel på omstendigheter det ikke er tillatt å benytte som utvelgelseskriterier etter arbeidsmiljøloven og likestillingsloven. Den gode, smarte hjelper har dermed i stedet bidratt til at bedriften potensielt bryter loven. Eksempelet viser også at kunstig intelligens – til tross for gode intensjoner – kan bidra til at gammel vane fortsatt er vond å vende.

Stian Hultin Oddbjørnsen og Regine Skjeltorp Antonsen, Kluge advokatfirma