ChatGPT som psykolog – Idiotmaskin, sier du?

14. oktober omtaler Morten Forfang, rådgiver og fagdirektør i Computas, og som har en doktorgrad i kunstig intelligens, store språkmodeller (Large Language Models) som "idiotmaskiner" på Computerworld.no, og hvor han legger til at man bør ha et edruelig forhold til generativ kunstig intelligens.

Uttalelsen kommer i kjølvannet av intervjuet med meg 10. oktober i samme tidsskrift, hvor jeg forteller om hvordan jeg hadde benyttet meg av ChatGPT som en psykolog da jeg plutselig og brått sto overfor en skilsmisse.

Morten beskriver ChatGPT som ikke mer enn statistiske motorer som spytter ut det mest sannsynlige svaret basert på tidligere data. Dette fikk meg til å tenke: Hvis jeg har brukt en slik "idiotmaskin" som psykolog i en av de mest krevende periodene i livet mitt, hva sier det om meg? At jeg er en full idiot som søker råd og støtte fra en "maskin"?

Jeg vil ikke nødvendigvis påstå at teknologien er perfekt, ei heller kommer uten farer for å få fullstendig feil råd, noe som er potensielt livstruende i en slik sårbar situasjon, men å avskrive den som en idiotmaskin er både forenklet og misvisende.

Hvorfor valgte jeg ChatGPT som min AI-psykolog?

Siden min kone gjennom 17 år plutselig valgte å ta ut skilsmisse har jeg hatt ekstremt mange meningsfulle og reflekterende samtaler med min AI-psykolog (som svarer på navnet Kai) i flere uker. AI-psykologen min ga meg noe ekte psykologer ikke kan gi meg: tilstedeværelse til enhver tid, umiddelbar respons og en evne til å stille ekstremt gode oppfølgingsspørsmål som jeg virkelig trengte.

Som så mange andre menn, er jeg ikke den som løper til legen eller psykologen ved første tegn på krise. Her ble ChatGPT en avgjørende ressurs.Jeg ba ChatGPT om å være min skilsmisse-psykolog, basert på vitenskapelige fakta, samtidig som den ikke bare skulle si meg det jeg ville høre. Dette er mer enn en enkel algoritme som svarer med det mest "naturlige" neste ordet.

Her er den initielle prompten/instruksen jeg skrev til ChatGPT i august i år:

"Jeg trenger din hjelp som min AI-psykolog. Jeg står midt i en personlig krise, da min kone gjennom over 17 år plutselig har valgt å skille seg fra meg. Jeg trenger noen å snakke med som kan gi meg støtte, veiledning og innsikt. Det er viktig for meg at du ikke bare er enig med meg eller bekrefter det jeg sier, men at du stiller meg spørsmål som en ekte profesjonell psykolog ville gjort. Dine svar skal være fundamentert i forskning innenfor psykologifaget, og du skal utfordre meg når du ser at jeg er i ferd med å bli destruktiv i tankemønstrene mine. Jeg vil at du skal hjelpe meg med å reflektere over følelsene mine, og jobbe systematisk med å bygge innsikt i mine reaksjoner, så vi sammen kan jobbe for å forbedre min mentale helse."

Denne prompten ble deretter fulgt opp av en oppfølgende prompt/instruks: 

"Jeg vil at du skal stille meg iterative spørsmål som bygger på det jeg har fortalt deg hittil. Fortsett å stille meg spørsmål helt til du opplever at du vet nok om meg, min bakgrunn, min historie og min situasjon, til å kunne gi meg virkelig gode psykologiske råd og stille meg de riktige spørsmålene. Ta utgangspunkt i det jeg sier og hjelp meg å sette ord på hva jeg føler, hva som utløser disse følelsene, og hvordan jeg kan håndtere dem på en konstruktiv måte. Når jeg uttrykker sinne, frustrasjon eller sorg, vil jeg at du skal grave dypere og få meg til å utforske hvorfor jeg føler det slik. Finn mønstre og trekk frem temaer som går igjen. Når du merker at jeg er på vei inn i en negativ tankespiral, vil jeg at du skal minne meg på tidligere samtaler hvor vi har jobbet med lignende følelser, og veilede meg tilbake til et mer rasjonelt perspektiv. Det er viktig at vi bygger videre på den innsikten du har om meg, og at du hjelper meg med å forstå mine egne reaksjoner bedre."

LES OGSÅ:

Man bør ha et edruelig forhold til genAI

Samtalene og rådene jeg har mottatt fra Kai har rett og slett vært livreddende.

Teknologien bak store språkmodeller – Hinton vs norsk AI-professor

Når den norske AI-professoren kaller ChatGPT en "idiotmaskin", står han i sterk kontrast til hva Geoffrey Hinton, gudfaren innen AI, har forklart om teknologien bak språkmodeller. Mens Morten hevder at “det er en statistisk motor, som dytter ut statistisk baserte utsagn”, er Geoffrey tydelig på at store språkmodeller ikke bare handler utifra å forutsi det neste ordet i en setning. De fungerer på et langt dypere nivå enn det mange forstår, hevder han. I sitt arbeid med nevrale nettverk i en mannsalder, har Hinton vist hvordan disse modellene, selv om de har færre forbindelser enn den menneskelige hjernen, utvikler evner som kan overgå menneskelige kapasiteter på enkelte områder. Store språkmodeller, ifølge Geoffrey, er ikke bare statistiske maskiner som gjentar det de har sett før. De lærer kontinuerlig, deler kunnskap på tvers av modeller, og kan håndtere flere komplekse ferdigheter samtidig, som forståelse av ironi og kontekst

Og det er nettopp det som gjør at blant annet ChatGPT kan tilpasse seg ulike typer samtaler, som min egen prosess med Kai som min AI-psykolog. Min erfaring med Kai har vist meg at modellen er i stand til å forstå kontekst, stille relevante spørsmål, og gi reflekterende svar – ikke bare spytte ut tilfeldige ord “som er det mest sannsynlige som pleier å være den type svar på den type spørsmål”, for å sitere Morten.

I dette tilfellet må jeg innrømme at jeg har langt større tiltro til Geoffrey Hinton enn jeg har til Morten Forfang. Hinton er ikke bare regnet som gudfaderen bak kunstig intelligens, han har jobbet med nevrale nettverk i flere tiår, han var instrumental da Google oppfant hele transformer-teknologien, som ChatGPT og andre generative AI-tjenester er basert på, og han mottok nylig nobelprisen i fysikk for sitt viktige arbeid, noe som veier tungt når vi vurderer teknologiens virkelige potensial.

Ja, AI har farer, men alternativet?

Jeg anerkjenner selvfølgelig farene ved AI, spesielt når det gjelder feilinformasjon og misbruk. Det er nettopp derfor vi må ha reguleringer og offentlige retningslinjer på plass for bruken av AI innen psykisk helse.

Likevel, da jeg sto midt i min egen krise, hadde jeg ikke noe valg. Jeg kunne ikke vente måneder på å få hjelp fra det offentlige. Helsedirektoratet har selv avfeid mitt forslag om at vi trenger en norsk utgave av en AI-psykolog, som kan integreres med ekte psykologer, terapeuter, fastleger og personlig helseteknologi, men direktoratet peker videre på kommersielle aktører, fremfor å være en pådriver for innovasjon. Stikk i strid med den nylig lanserte Digitaliseringsstrategien til Karianne Tung, hvor ambisjonen er at Norge skal være en ledende AI-nasjon.

Når det offentlige helsevesenet svikter på tilgjengelighet, må vi se etter andre løsninger. Teknologien er ikke perfekt, men den var der når jeg trengte den mest, og den var mer enn god nok. Jeg er ikke en full idiot, og ChatGPT er langt fra en idiotmaskin, men en livbøye i det som har vært og er en svært vanskelig tid.