Nav gir første rapport fra sandkassa
Datatilsynet og Navs rapport peker på én tydelig utfordring for offentlig og ansvarlig kunstig intelligens fremover.
– Hensikten med sandkassa er blant annet å vise at personvern og samfunnsnytte kan gå hånd i hånd, og å avdekke om regelverket er en hindring for innovasjon. Både denne og de kommende sluttrapportene, viser hvor viktig Datatilsynets sandkasse er, sier Datatilsynets direktør Bjørn Erik Thon.
Innovasjon og ansvarlig KI
Det siste året har Datatilsynets regulatoriske sandkasse hjulpet en håndfull bedrifter med innovasjon og ansvarlig KI. Blant disse finner man Nav, som kanskje ikke er den første assosiasjonen man har til KI. Like fullt har Nav arbeidet med et KI-verktøy utviklet for å følge opp sykemeldte på en mer brukervennlig og effektiv måte.
Prosjektet har brukt maskinlæring til å forutse hvilke sykmeldte brukere som vil ha behov for oppfølging to måneder frem i tid. Det skal hjelpe veiledere med å gjøre bedre vurderinger, som igjen vil spare Nav, arbeidsgivere og sykemeldte for unødvendige møter.
Stor utfordring ved offentlig KI-bruk
Gjennom dette sandkasseprosjektet har Nav og Datatilsynet avdekket en stor og viktig utfordring for offentlige virksomheter som ønsker å ta i bruk KI. Lover som hjemler behandling av personopplysninger ble ikke laget for bruk i maskinlæring og KI. Dermed må loven oppdateres for at Nav eller andre instanser skal kunne bruke KI innenfor ansvarlige rammer.
Cathrine Phil Lyngstad er seksjonssjef for dataseksjonen hos Nav, og sier arbeidet med Datatilsynets sandkasse har inspirert Nav til å skape enda bedre løsninger for å informere brukerne om hvordan personopplysninger behandles.
– Sammen har vi også funnet svakheter i dagens lovtekst, og vi er glade for at Datatilsynet etterspør et tydeligere lovverk på området. Det vi gi brukere og NAV større trygghet, og derfor har vi også satt regelverksutvikling på dagsordenen, avslutter Lyngstad.
For Nav må det komme et supplerende rettsgrunnlag dersom de skal kunne utvikle modellen sin videre. Kari Laumann, programleder for Datatilsynets regulatoriske sandkasse, er positiv til fremtiden.
– Det er dette som er sandkassemetoden. Ved å hjelpe én, hjelper vi mange. Ved å få mengdetrening i vurderinger og kreative løsninger gjennom mange nok caser helt i front av utviklinga, får vi kartlagt gråsoner i regelverket. Og vi kan lettere komme med tydelige anbefalinger. Det skal gjøre det enklere for små gründere eller store investorer – eller offentlige institusjoner for den saks skyld – å satse på innovasjon av personvernvennlig kunstig intelligens.
