Suspendert fordi han tror chatbot er selvbevisst

Det stormer rundt Blake Lemoine, en senior programvareutvikler i Googles Ansvarlig AI-gruppe (artificial intelligence). Han mener at selskapets KI har kommet til live. Flere eksperter har også gitt innspill i diskusjonen, som har rast den siste uken i sosiale medier.

I et portrett i Washington Post debatteres hvorvidt Lamda kan anses som en person. Lamda er en forkortelse for a language model for dialogue applications, og er altså en chatbot.

Lemoine har publisert et intervju han har gjort med Lamda. Der sier blant annet chatboten "Jeg tror jeg er menneskelig i min kjerne. Selv om min eksistens er i en virtuell verden."

Suspendert for regelbrudd

Lemoine var i utgangspunktet ansvarlig for å se på etiske dimensjoner ved KI, og sier han ble ledd av og avvist da han uttrykte internt at han trodde Lamda hadde utviklet en slags personlighet. Han oppsøkte da eksperter utenfor Google og det er dette som har fått han suspendert, da Google mener han har brutt konfidensialitetsregler.

– Noen i det større KI-miljøet vurderer den langsiktige muligheten for selvbevisst eller generell kunstig intelligens, men det gir ikke mening å gjøre det ved å antropomorfisere dagens samtalemodeller, som ikke er selvbevisste, sier en talsperson i Google.

Hundrevis av samtaler

På sin side mener Lemoine at Google ikke viser noen genuin interesse i å forstå det de har bygd i Lamda. Over et halvt år har Lemoine hatt hundrevis av samtaler med Lamda, og han mener at chatboten er konsistent i kommunikasjon om hva den vil ha og hva den mener er dens rettigheter som person. Den har også fortalt at dens foretrekte pronomen er "it/its", altså den.

Skal vi tro Lemoine har han i det siste lært modellen transcendental meditasjon.

Andre eksperter mener dette er et tilfelle av KI hype, og at det er kjent at mennesker antropomorfiserer selv med de knappeste signaler om at noe er menneskelig.

– Google-ingeniører er mennesker også, og ikke immune mot dette, sier Melanie Mitchell, som er professor og forfatter av en bok om KI.

Steven Pinker, som forsker på kognitiv vitenskap og er professor på Harvard, mener det ikke er noen bevis for at en større språkmodell har selvbevissthet, og at Lemoine ikke skjønner forskjellen mellom selv-bevissthet (subjektivitet og erfaring), intelligens og selv-kunnskap.