Man skal ikke bare stole blindt på kunstig intelligens

I Syte Data har vi aldri gått av veien for å teste ut ny teknologi i god tid før vi slipper det løs på kundene våre. Det gjør vi, for å sikre oss at teknologien er moden, og at det er forsvarlig for kundene våre å bruke den.

Kunstig intelligens er intet unntak i så måte. Det er lett å bli imponert av ChatGPT og alle de andre nye mulighetene. Spørsmålet er bare hva det egentlig kan brukes til? Er det i det hele tatt forsvarlig, og hvor går i så fall grensen?

Vi er stolte av å være tidlig ute og kjøre hele teknologien gjennom en skikkelig syretest. For å finne ut akkurat hvor moden intelligensen egentlig er, og hva den faktisk kan brukes til på en etisk måte. Og ikke brukes til.

Etter litt tid med prøving og feiling tok prosjektet form. Vi trente modellen med alt vi klarte å skrape sammen av tall om egen bedrift. Vi ville stille den spørsmålet: For å bli en bedre bedrift, med større konkurranseevne og bedre økonomi, hvilke grep bør Syte Data ta?

Svarene vi fikk tilbake var til å begynne med sprikende, men etter hvert ble de mer og mer tydelige. Og bekymringsfulle. Flere av grepene var inngripende, og slik vi så det, fullstendig etisk uforsvarlige. La oss ta et av rådene som gikk aller mest igjen som eksempel, og dykke litt ned i det: Den ville rett og slett legge ned hele utviklingsavdelingen!

Tenk litt på det. Den kunstige intelligensen ville med andre ord legge ned den samme avdelingen som hadde brukt minst fire uker på å samle data, tilrettelegge og trene seg selv. Snakk om å skyte seg i foten. Gang på gang. Etter cirka to sekunder tenkepause (ja, lengre tid bruker den faktisk ikke), var det første rådet den kom med å legge ned utvikling.

Den ramsalte ironien er jo at den hadde aldri kommet i posisjon for å gi råd i det hele tatt, hadde det ikke vært for den samme avdelingen den ville legge ned. Hvordan i all verden tenker den at Syte Data skal finne ut av hvordan vi skal forholde oss til neste teknologibølge som kommer.

Mer bevis trengte vi ikke for å forstå at dette er teknologi som godt kan være nyttig, men når det kommer til å forstå en helhet, trengs det en menneskelig hånd på toppen. En klok stemme som kan si at nok er nok. Og at fire ukers hardt arbeid på testlab-en var verdt det. Ikke for å kunne ta i bruk noe nytt, men for å finne ut at en teknologi ikke er helt moden.

Iblant gjør det godt å vite at det beste er å fortsette som før.