Superintelligens – Trumps neste maktmiddel?

Hva skjer hvis USA gjør et gjennombrudd innen kunstig intelligens mens Donald Trump er president? Det spørsmålet reiser en artikkel på nrk.no (21. november 2024), og er en påminnelse om hvor stor innflytelse KI kan få på global politikk og samfunnsutvikling. 

Og Trumps forhold til andre lands suverenitet øker relevansen av spørsmålet. Men er det grunn for bekymring? Hvor langt unna er vi egentlig generell kunstig intelligens (AGI) og er AGI risikofri?

Kunstig intelligens (KI) har allerede transformert måten vi lever og jobber på, fra smarttelefoner til helsevesen og finans. Men dagens KI-løsninger er smale, de kan utføre spesifikke oppgaver svært effektivt, men mangler evnen til å lære og tilpasse seg på tvers av områder. Dette står i sterk kontrast til AGI. AGI kan beskrives som en "universell arbeidstaker", som kombinerer menneskelig kreativitet, logikk og fleksibilitet, og som vil overgå oss på mange områder. 

Potensielt kan en slik superintelligens løse mange av samfunnets utfordringer, og representerer dermed kilde til stor makt. For å realisere AGI må vi overvinne grunnleggende begrensninger ved dagens teknologi, som er avhengig av store datasett og smale KI-modeller.

Hva kreves for å utvikle AGI?

Utviklingen av AGI er en av de mest komplekse utfordringene i teknologiens historie. AGI innebærer systemer som kan integrere tekst, bilde, lyd og video for å skape en helhetlig forståelse, bruke logikk og kreativitet for å løse ukjente problemer og trekke slutninger basert på begrenset informasjon.

I dette arbeidet er hjernen benchmark. Menneskehjernen har en uovertruffen evne til å lære, resonnere og tilpasse seg. For å utvikle AGI må vi hente inspirasjon fra hvordan hjernen organiserer informasjon, danner minner og bruker kontekst til å ta beslutninger. Dette krever ikke bare avanserte algoritmer, men også gjennombrudd innenfor grunnforskning for å få bedre forståelse for hvordan hjernen fungerer. Vi må kombinere kunnskap fra fagfelt som psykologi, nevrovitenskap og informatikk for å bygge systemer som både kan etterligne og overgå menneskelig intelligens. 

Vi snakker om kvantesprang på flere områder samtidig.

Hva står på spill? 

AGI kan løse globale utfordringer som klimaendringer og fattigdom, men kan også skape nye risiki hvis teknologien ikke utvikles med klare kontrollmekanismer. For å sikre at AGI handler i tråd med menneskelige verdier og intensjoner, må vi utvikle mekanismer for verdiforankring, transparens og sikkerhet.

Dette betyr blant annet å definere hvilke verdier og normer som skal være styrende for AGI, og hvordan disse kan integreres i komplekse algoritmer.

Transparens krever forståelige og etterprøvbare beslutningsprosesser i AGI, noe som utfordres av systemenes tekniske kompleksitet. Allerede i dagens KI er det uklart hvordan de oppnår sine resultater. For eksempel kan smale KI-systemer i helsesektoren anbefale behandlinger basert på mønstre de har lært, uten at vi fullt ut forstår hvorfor én behandling prioriteres fremfor en annen. Denne manglende innsikten gjør det vanskelig å avdekke skjevheter, rette feil og fullt ut stole på modellene. Dette illustrerer hvor krevende det vil være å bygge tillit til fremtidige AGI-systemer som tar beslutninger på tvers av sektorer.

Sikkerhet handler ikke bare om å forhindre uønsket atferd, men også om å utvikle robuste mekanismer for å gripe inn dersom AGI handler i strid med sine opprinnelige mål eller intensjoner.

Verdier og normer er ikke universelle

Problemet er at verdier og normer ikke er universelle, men ofte kontekstuelle og kulturelt betingede. Dette skaper en risiko for at AGI kan skape uønskede forskjeller eller bli misbrukt av ulike aktører. 

Videre er det teknologiske utfordringer knyttet til å balansere verdiforankring med effektivitet og autonomi. Detaljerte kontrollmekanismer kan redusere systemets evne til å tilpasse seg og løse oppgaver dynamisk. Kompleksiteten i denne ambisjonen understreker behovet for å utvikle klare retningslinjer og standarder som gjenspeiler bred konsensus på tvers av sektorer og land. Det vil være utfordrende i en verden der viljen til internasjonalt samarbeid er avtagende.

Uten slike mekanismer risikerer vi utilsiktede konsekvenser, som autonome systemer som avviker fra opprinnelige mål. Derfor må arbeidet med etikk og kontroll skje parallelt med teknologisk utvikling, selv om AGI fortsatt ligger langt frem i tid.

Veivalg

Det er lite sannsynlig at Donald Trump får AGI som et nytt maktmiddel, men muligheten for AGI er en påminnelse om viktige spørsmål som ligger foran oss: Hvordan sikrer vi at teknologien styrker, og ikke truer, menneskelige verdier? Overgangen fra smal KI til AGI handler ikke bare om teknologi, men om hvilke veivalg vi som samfunn tar.