Etikk og mangfold vil øke tilliten til kunstig intelligens

Kun fire av ti synes det er greit at kunstig intelligens påvirker hva de blir anbefalt på Netflix og Spotify. Det viser en ny undersøkelse om kunstig intelligens gjennomført av Respons på oppdrag fra forsikringsselskapet Fremtid.

– Kunstig intelligens styrer dine valg hver gang du åpner Spotify eller Netflix, og de fleste synes nok dette er veldig praktisk. Men, det har vært mye snakk om hvilke konsekvenser algoritmer kan føre med seg. Derfor tror jeg nordmenn fått mer kunnskap om kunstig intelligens og utviklet en sunn skepsis til hva som er greit og ikke, sier Emanuele Lapponi i Fremtind, i en pressemelding.

Lapponi har en doktorgrad i språkteknologi.

Samme teknologi – ulik konsekvens

Lapponi peker på at varslingene om blant annet Facebook har vist at algoritmer som avgjør hva du får presentert av innhold, kan trekke folk i radikale retninger, bli utsatt for mobbing eller eksponeres for innhold som eksempelvis fremmer selvskading eller spiseforstyrrelser.

– Det er en vesentlig forskjell mellom det å få anbefalt musikk på Spotify, og få anbefalinger på Facebook eller Youtube som kan være falske nyheter, innhold med grov vold eller noe som en med spiseforstyrrelser ikke bør se. Det er den samme teknologien, men sistnevnte er farligere og kan gi alvorlige konsekvenser, sier Lapponi.

Fremtinds undersøkelsen viser at få ønsker at kunstig intelligens, fremfor mennesker, tar avgjørelser, spesielt i enkelte situasjoner innenfor bank og forsikring. I disse situasjonene mener nordmenn det er greit at kunstig intelligens tar eller hjelper en med valg:

• Hva jeg bør se eller høre på Netflix, Spotify eller andre strømmetjenester. 40 prosent
• Hva jeg bør ha til middag. 25 prosent
• Hvilke aksjer eller aksjefond jeg bør kjøpe. 25 prosent
• Hvilke forsikringer jeg bør kjøpe. 20 prosent
• Ingen av de over. 45 prosent.

Umulig å se forskjell

De aller fleste av oss har ikke kompetanse til å se forskjell på etisk god og forsvarlig, og dårlig og uetisk kunstig intelligens.

– Det finnes dessverre ikke et stempel som sier: «Dette er god og etisk forsvarlig kunstig intelligens». Derfor må vi som lager løsninger med kunstig intelligens ha både etikk og mangfold med inn i datasamlingene og algoritmene, sier Lapponi.

– Også er det viktig å være klar over hvilke konsekvenser og problemer som kan oppstå med de løsningene vi utvikler, og iverksette tiltak for å forhindre dem. Da vil tilliten til kunstig intelligens og vi som lager løsningene øke.

Lapponi påpeker at etikk ikke er en fast størrelse, og den etiske jobben må gjøres hver eneste gang et selskap eller et team utvikler nye løsninger med kunstig intelligens.

– I tillegg er dialogen med kundene viktig. For eksempel om du har fått oppgjør på en skade, så bør du få vite om det er en maskinlæringsmodell som har avgjort det eller et menneske.

Flere funn fra undersøkelsen

• Det er de mellom 18 og 34 år som i størst grad synes det er greit at kunstig intelligens hjelper dem med valg. Det gjelder alle fire situasjoner nevnt over. I motsatt ende finner vi de over 65 år. Over 70 prosent av de eldre oppgir at de ikke vil at kunstig intelligens skal hjelpe dem med valg i noen av de fire situasjonene.
• Det er menn som i størst grad oppgir at de synes det er greit, og er mer positive til dette enn kvinner i alle fire situasjoner.
• Det er de med høyest inntekt som i størst grad (i forhold til de som tjener mindre) synes det er greit at kunstig intelligens hjelper dem med avgjørelser.
• Det er innbyggerne i Oslo som i størst grad er positive til å la kunstig intelligens hjelpe dem med valg, mens innbyggerne i Møre og Romsdal er mer skeptiske.