IBM signerer stor avtale om ansiktsgjenkjenning – anklages for å bryte løfte

I fjor sommer vant IBM en stor kontrakt med britiske myndigheter verdt 740 millioner kroner for å utvikle en nasjonal biometrisk plattform, som blant annet skal tilby politimyndigheter funksjoner for ansiktsgjenkjenning. Det kommer frem i en anmeldelse av The Verge og britiske Liberty Investigates.

Nå møter IBM kritikk for avtalen, ettersom selskapet for tre år siden kom med løfter om ikke å bidra til at ansiktsgjenkjenning blir brukt til ting som masseovervåkning.

Det var i kjølvannet av Black Lives Matters-protestene i 2020 at IBMs administrerende direktør Arvind Krishna skrev i et brev til den amerikanske kongressen at «IBM motsetter seg bestemt og vil ikke tolerere bruken av noen teknologi, inkludert ansiktsgjenkjenningsteknologi som tilbys av andre leverandører, for masseovervåkning, raseprofilering, brudd på grunnleggende menneskerettigheter og friheter, eller noe annet formål som er uforenlig med våre verdier og prinsipper om tillit og åpenhet».

IBM er uenig

Nå mener kritikere at IBM bryter tidligere uttalelser med den nye avtalen. Plattformen vil tillate bilder av enkeltpersoner å bli matchet mot en database med bilder, noe som kalles et «en til mange»-system. IBM har selv pekt på denne typen systemer som et verktøy for masseovervåkning og raseprofilering i 2020.

– Forskningen rundt om i verden er klar: Det er ingen bruk av ansiktsgjenkjenning som er i samsvar med menneskerettighetene, og selskaper – inkludert IBM – må stoppe salget og respektere deres tidligere uttalelser om utfasing av disse verktøyene, sier Matt Mahmoudi i Amnesty International til The Verge.

IBM mener på sin side at de ikke bryter sine tidligere løfter.

– IBM tilbyr ikke lenger ansiktsgjenkjenning for generell bruk, og i samsvar med vår forpliktelse fra 2020 støtter vi ikke bruk av ansiktsgjenkjenning for masseovervåkning, raseprofilering eller andre menneskerettighetsbrudd, sier selskapets talsperson Imtiaz Mufti til The Verge.

- Home Office Biometrics Matcher Platform og relaterte servicekontrakter brukes ikke til masseovervåkning. Det hjelper politiet og immigrasjonsmyndighetene med å identifisere mistenkte i en database med fingeravtrykk og fotodata. Den kan ikke motta video, noe som vanligvis ville være nødvendig for å støtte biometrisk bruk av ansikter i en folkemengde.