Black Box Medicine

En av sektorene der dette snakkes mye om er i helsetjenesten, der helsepersonell kan bruke kliniske beslutningsstøttesystemer i forbindelse med å fastsette en medisinsk diagnose på en pasient.

Det er flere årsaker til at avanserte beslutningsstøttesystemer har et stort potensial i helsesektoren, og én fremtredende årsak er at alle helseinstitusjoner er forpliktet til å ha elektroniske journalsystemer. Ser man pasientenes journaler i sammenheng finnes det i helsesektoren store mengder tilgjengelig informasjon. Beslutningsstøttesystemer kan i teorien blant annet brukes til systematisk å analysere informasjonen i pasientjournalene, som videre kan bidra til at man finner nye metoder for å diagnostisere pasienter. Helsetjenesten er altså et område som er godt egnet for bruk av beslutningsstøttesystemer i kombinasjon med såkalt «Big Data».

Det er imidlertid flere teknologiske og rettslige hindre i veien før avanserte beslutningsstøttesystemer som utnytter Big Data blir en vanlig del av helsetjenesten. Blant annet er det et problem at de aller fleste pasientjournaler inneholder ustrukturert informasjon, i tillegg til at man må ha beslutningsstøttesystemer med god nok utviklet kunstig intelligens.

Uavhengig av hva teknologien og lovgivningen tillater, vil bruken av avanserte kliniske beslutningsstøttesystemer nok også være en utfordring opp mot at det alltid er helsepersonell som må ta den endelige diagnostiske beslutningen. Dette gjelder særlig for beslutningsstøttesystemer som kan gå innenfor det som ofte defineres som «black box»-teknologi.

Begrepet «black box» viser til at et system foretar vurderinger som ikke er synlig for den som bruker systemet. Systemet er selvstyrt, og det vil være vanskelig eller umulig for brukeren å tolke hvorfor systemet kommer til en avgjørelse. En bruker av et «black box»-system vil altså bare ha kontroll over hva vedkommende gir av informasjon til systemet og hva som er den endelige beslutningen til systemet. Innenfor helsesektoren kalles slike diagnostiske verktøy for «black box medicine».

Helselovgivningen er per dags dato egentlig ganske godt rustet for at helsepersonell kan ta lovlige medisinske avgjørelser selv om de benytter seg av beslutningsstøttesystemer. Det er en grunnleggende rettslig standard i helselovgivningen at enhver avgjørelse helsepersonell fatter skal være «forsvarlig». Dette er en fleksibel standard som tar hensyn til helsepersonells kvalifikasjoner, arbeidets karakter og situasjonen for øvrig. For at helsepersonell skal fatte en forsvarlig avgjørelse kreves det imidlertid at det alltid foreligger et tilstrekkelig beslutningsgrunnlag som helsepersonellet kan basere avgjørelsen på. Systemer med «black box»-teknologi kan ta bort helsepersonells beslutningsgrunnlag gjennom at det ikke er mulig å tolke hvorfor systemet kom til den avgjørelsen den gjorde.

Å diagnostisere pasienter riktig på kort tid kan for noen være forskjellen på liv og død, for eksempel i forbindelse med infeksjonssykdommer og aggressive kreftvarianter. I slike situasjoner kan beslutningsstøttesystemer være til stor hjelp for å stille riktig diagnose hurtigst mulig.

Det vil imidlertid være kritisk hvis et system kommer til en diagnose som helsepersonellet ikke skjønner eller er uenig i. Skal helsepersonellet da stole på maskinen eller seg selv i diagnostiseringen? I relasjon til forsvarlighetskravet kan helsepersonell her komme i en situasjon hvor det er vanskelig å ta en lovlig avgjørelse, med mindre lovgivningen spesifikt tillater at helsepersonell kan legge til grunn avgjørelsen til beslutningsstøttesystemet.

Iver Brække og Stian Oddbjørnsen, Kluge Advokatfirma