Ta for deg følgende tankeeksperiment. Du har fått i oppgave å vurdere om et sett transaksjoner fra en av bankens kunder bør karakteriseres som «mistenkelige». Til rådighet har du tilgang på informasjon om kundeforholdet, litt om kunden og informasjon om transaksjonene. Du har altså noe av konteksten, men i alt lite grunnlag for å vurdere om transaksjonene er «mistenkelige». 

Brått får du tilgang på lærdommer og betraktninger, fra alle etterforskere i hele bransjen som er relevante for dette spesifikke tilfellet. Dette i form av hvilke konkrete karakteristika dette samlede panelet av eksperter mener kjennetegner mistenkelig og ikke mistenkelige transaksjoner med tilsvarende kontekst. 

Med dagens teknologi, og eksisterende lovverk, trenger ikke et slikt scenario være ren utopi.

Forklarbar AI åpner for nye muligheter

Ren kvalitativ erfaringsdeling er åpenbart viktig og bidrar til at gode praksiser og tankesett etableres. Dette kan komme til nytte når man står ovenfor situasjonen i tankeeksperimentet, men det er lite sannsynlig at man der og da sitter med et dekkende sett relevante erfaringer fra lignende situasjoner. Kvalitative erfaringer og generell livsvisdom tar deg kun et stykke på vei. 

I et mer ekstremt scenario kan man se for seg at man som etterforsker har tilgang på all relevant informasjon om den aktuelle kunden og dets kundeforhold, også fra andre banker. I tillegg har man tilgang på et register som gir full innsikt i alle lignende saker og dets utfall. Et slikt scenario lyder kanskje attraktivt for etterforskeren, men er dystopisk for stort sett alle andre, og ei heller innenfor gjeldende lover og regler. 

Forklarbar AI åpner opp for en middelvei som gjør det mulig å trekke ut den konkrete lærdommen som ligger i dataene og tilgjengeliggjøre denne for oss mennesker på et format som vi forstår. 

Kobler man forklarbar AI på et felles historisk anonymisert datasett som beskriver kunders transaksjonsadferd og andre etterforskeres vurderinger av disse, har man en løsning som gjør det mulig å hente ut den konkrete lærdommen fra alle lignende saker, uten å måtte eksponeres for enkeltsaker. Rent konkret kan en slik løsning gi ut de karakteristika som historisk sett har kjennetegnet mistenkelige og ikke-mistenkelige transaksjoner og som er direkte sammenlignbare med saken man har framfor seg. 

Konseptuelt kan man se på dette som et panel av etterforskere som har gått igjennom alle lignende saker og abstrahert ut den konkrete lærdommen som er relevant for deg og saken du har foran deg. 

Gjennom tilrettelagt datadeling og forklarbar AI kan vi faktisk anvende den kollektive kunnskapen til alle landets AML-spesialister på hver eneste sak. Hverken teknologi eller lovverk står i veien for dette. 

Karan Kathuria, leder for AI-produkter i Bearingpoint.