Stor studie: til og med selvkjørende biler diskriminerer

Det er ingen hemmelighet at AI påvirkes av menneskene som utvikler den. Eksempler på dette er rekrutteringsverktøy som favoriserer menn over kvinner, eller ansiktsgjenkjenning som sliter med mørke hudtoner.  I mai annonserte Unesco at de oppretter et nettverk av kvinnelige eksperter for å sikre at AI ikke resulterer i en teknologi som domineres av menn, noe som viser at diskriminering i AI er på dagsordenen.

Det viser seg at selv de selvkjørende bilene ikke kommer unna fordommer fra sine skapere. 

– Rettferdighet når det kommer til AI er når et AI-system behandler privilegerte og underprivilegerte grupper på samme måte, noe som ikke er det som skjer når det gjelder autonome kjøretøy, uttaler Jie Zhang, en av forskerne bak studien.

Forskjellsbehandling

Forskere i London og Beijing har testet åtte ulike AI-drevne fotgjengerdetektorer på hvordan faktorer som kjønn, rase og alder spiller inn for at de ser fotgjengere. De brukte over 8000 bilder for å teste programvaren, og de fant at deteksjonsnøyaktigheten for voksne var nesten 20 prosent høyere enn for barn, og litt over 7,5 prosent mer nøyaktig for fotgjengere med lys hud sammenlignet med fotgjengere med mørkere hud. 

– Bilprodusenter frigir ikke detaljene til programvaren de bruker for fotgjengerdeteksjon, men siden de vanligvis er bygget på de samme åpne kildekodesystemene som vi brukte i forskningen vår, kan vi være ganske sikre på at de støter på de samme problemene med partiskhet, sier forsker Jie Zhang.

Ønsker regulering

Ikke overraskende har dette å gjøre med datasettene som programvaren for å gjenkjenne fotgjengere er trent på. Forskerne sier det er vesentlig flere mennesker med lys hud enn mørk hud i datasettene, noe som resulterer i mangel på lik vurdering i møte med faktiske fotgjengere. 

– Faren som selvkjørende biler kan utgjøre er akutt. Før kan minoritetsindivider ha blitt nektet livsviktige tjenester, nå kan de bli utsatt for alvorlig skade, mener Zhang. 

Det vil også være vanskeligere for detektorene å se mørkhudede fotgjengere når det er lav kontrast og lite lys, noe som skaper ekstra problemer ved kveldskjøring. 

Zhang mener det er på tide at myndighetene og bilprodusentene sammen skaper regulering som vil sikre trygghet for alle typer fotgjengere. 

Etter hvert som AI blir mer og mer integrert i hverdagen vår, fra hvilke typer biler vi kjører på, til måten vi samhandler med rettshåndhevelse på, vil dette spørsmålet om rettferdighet bare øke i betydning, avslutter Zhang.