Kunstig intelligens: Er utviklingen på ville veier?

I oktober 1996 kom internett til Norge. Sparebanken i Hedmark ville bli verdens første «nettbank». Lanseringen ble satt til 8. oktober og med Hedmarks store sønn, Sigbjørn Johnsen, som gudfar. De fikk imidlertid nyss om at Landsbanken ville annonsere sin nettbank tidligere. Åpningen ble derfor fremskyndet til 30. september. Det var om å gjøre å være først ute.

Få dager etter var skandalen et faktum. Kundenes betalingsinformasjon lå åpent ute på nettet. Slagordet «sikkert som banken» fikk en knekk.

Senere har alle norske banker ikke bare blitt nettbanker, men bruk av teknologi har gjort finansnæringen til den mest produktive næring i Norge, og et eksempel for andre land.

I november 2022 tok KI verden med storm med språkmodellen ChatGPT. Det begynner å haste med å ta i bruk KI, mener mange. Riksrevisjonen har nylig lagt frem en rapport hvor de peker på at staten er alt for sent ute med å bruke KI, til tross for at KI kan løse store samfunnsutfordringer. Digitaliseringsminister Karianne Tung lover bot og bedring; 80 prosent av offentlig sektor skal bruke KI innen 2025.  

Arild Haraldsen

Cand. polit. (statsvitenskap). Mangeårig konsulent innen strategi, digitalisering og organisasjonsutvikling. Tidligere administrerende direktør Norstella, nå selvstendig næringsdrivende (Stratit). 

Regjeringen følger opp og har gitt 1 milliard kroner til KI-forskning.

Men hva skal det forskes på?

Kavli-prisen 2024

Kavli-prisen deles hvert år ut til forskere som har bidratt til fremragende forskning innen realfag, i år innen astrofysikk, nevrovitenskap og nanofysikk. Kavlifondet er bl.a. opptatt av hvilke konsekvenser teknologien har på samfunnet og de underliggende strukturene.

Årets Kavli-forelesning var om Kunstig intelligens og ble holdt av professor Stuart Russell fra Berkeley i California. Hans hovedtese er at forskningen på KI går i feil retning. Det er ikke er for sent å snu, men da må vi endre perspektivet på hva KI er.

ChatGPT er en endring fra regelbaserte modeller til datadrevne modeller, såkalt maskinlæring. I kategorien Maskinlæring finnes Dyp læring og Nevrale nettverk, begge basert på prinsipper som går langt utover de mulighetene, men også konsekvensene, regelbasert KI har.

Russell pekte på at selv med regelbaserte modeller som brukes til beslutningsstøtte og bearbeiding av statistikk, er det en fare for å bli datadrevet i en ureflektert tro på at dataene er «sanne». Eksemplet er bruk av KI til å lage statistikk. En må ha en fagkompetanse på statistikk for å forstå hva dataene sier, f.eks. at en vet forskjell på korrelasjon og kausalitet. Kan man ikke forskjellen, kan dette føre til gale beslutninger som vi skal se nedenfor.

Han pekte også på at beslutninger ikke tas kun basert på data, men at også på persepsjon, resonnering, interaktiv læring, reaktiv respons etc. altså elementer som inngår i fagfelter som psykologi og sosiologi.

Mer avanserte anvendelser av KI som dyp læring, bidrar til å redusere vårt kognitive nivå, og manipulering av data endrer våre preferanser. Kunstig intelligens, og særlig den generative, er så generell at vi har liten kontroll på konsekvensene av bruken, sa han.

Så hva er løsningen? Russell peker på  XAI, Explainable AI.

Det er en teknologi som er åpen og transparent om hvordan maskinen kommer frem til de beslutninger de foreslår og i et språk som beslutningstagerne forstår. Den baserer seg på balansen mellom treffsikkerhet og forklarbarhet. Hva betyr det?

Inga Strümke og Ishita Barua har forklart dette nærmere i Ishitas bok «Kunstig intelligens redder liv». Teknologiens «forklaring» er å representere mange tall på en måte som gir mening. Menneskets forklaringsbehov er basert på sosial interaksjon og en bestemt kontekst. Et eksempel:

Ishita Barua illustrerer forskjellen på regelbasert KI (beslutningstrær) og datadrevet KI (nevrale nettverk). Caset var hvordan en behandler pasienter med lungebetennelse. Et av spørsmålene som KI stilte, var om pasienten hadde astma. Hvis ja, var det lavere sannsynlighet for å dø av lungebetennelse, ifølge KI. 

Alle leger vet det ikke er greit å ha astma når du har lungebetennelse. Det KI bommet på var forskjellen mellom korrelasjon og kausalitet.

I et regelverkdrevet KI kunne en ha unngått denne feilen ved å fjerne spørsmålet om astma. Men med nevrale nettverk er ikke dette lett. Riktignok gir det nevrale nettverket mye data om beslutningen som kan ettergås, men det er vanskelig for den menneskelige hjerne å absorbere alle disse tallene. Maskinen får overtaket, beslutningene som tas kan bli fatale.

Både professor Russell, Inga og Ishita peker på spillteori  som en modell for større åpenhet. Dette er matematiske modeller for å forklare sosiale interaksjoner, særlig i konfliktsituasjoner. Russell mener en bør utvikle «spill-assistenter» til å hjelpe brukere av KI til å forstå beslutningene. Dette utviklet Lloyd Shapley noen spede forsøk på allerede i 1953, noe som i dag har fått stor betydning for XAI-utviklingen. 

Russells hovedpoeng er at vi må ta kontroll over KI-utviklingen og styre den for å løse de store samfunnsutfordringene på menneskets egne premisser. Hans svar er:

• Utviklingen av selve teknologien må bygge på de prinsipper som XAI legger til grunn: Åpenhet og innsyn i parameterne som danner en beslutning
• Fokus må være å lage sikker KI, og ikke på å gjøre KI sikker
• Anvendelsen av KI må utvikles i den sammenheng KI skal brukes. Empiriske studier og tverrfaglig forskning er nødvendig. Forskning på teknologien alene er utilstrekkelig

Hva skal vi forske på?

Dette foredraget spiller rett inn i debatten om hvordan vi skal bruke KI-milliarden. Skal KI-forskningen kun konsentrere seg om forskning av selve teknologien slik noen mener?

Professor Petter Bae Brandtzæg peker på at KI dreier seg om langt mer enn teknologisk utvikling; det handler om en fundamental samfunnsmessig utfordring. For å forske på dette temaet trengs tverrfaglig innsats, og ikke bare fokus på teknologien i seg selv. Forskning på disse «mykere» aspektene ved kunstig intelligens bør være komplementære til teknologisk utvikling, 

Teknologiutvikling som feiler slik Sparebanken Hedmark gjorde, er ofte teknologi som ikke setter menneske og menneskelige behov i sentrum. Kunstig intelligens er ingen isolert enhet, sier Brandtzæg, men en komponent i et omfattende økosystem hvor samspillet mellom menneske og maskin er avgjørende. 

Internasjonalt samarbeid om innsikten i hvordan KI-teknologi og innovativ bruk av KI, kan styrke den teknologisk innovasjon og forståelse for teknologiens innvirkninger på samfunnet. Slik kan Norge både bidra til, og forme, utviklingen av kunstig intelligens på en måte som gagner hele samfunnet. Hvorvidt det foreslåtte nordiske KI-samarbeidet bidrar til det, gjenstår å se.

Da norsk ble verdensspråk

Det er i denne sammenheng på sin plass å minne om vårt komparative fortrinn som nasjon.

Kristen Nygaard tilbrakte sin sivilforsvarstjeneste på Kjeller i 1948. Der ble han satt til å lage matematiske modeller for beregning av hva den enkelte soldat kunne bære av utstyr gjennom et gitt terreng. Det var selvsagt avhengig av soldatens høyde, vekt og styrke, samt terrengets beskaffenhet.

Han regnet hver gang feil. Hvorfor?

Soldatene sa at forskere måtte komme ut i felten og se hva de faktisk gjorde, se helheten. Soldatene hjalp hverandre, de samarbeidet og utnyttet hverandres styrke. Det førte til denne erkjennelsen fra Nygaard:

Data lever ikke sitt eget liv, de er en del av den sosiale, adferdsmessige og organisatoriske sammenheng. Da må dataene beskrive den virkelighet de opptrer i, og den virkelighetsforståelse de som bruker dataene, har.

Denne erkjennelsen førte til Objektorientert programmering som i dag er kjernen i all programmering, men også til den sosio-tekniske og tverrfaglige tilnærming som har preget den skandinaviske tradisjonen for utvikling av IKT-løsninger.

Det er derfor mye å lære av Russells dype forståelse av KIs samfunnsmessige konsekvenser.