– Det som er farlig, er når banker eller andre virksomheter bruker data til å kategorisere deg og begrense valgene dine uten at du vet om det. Kunstig intelligens kan definere noen mennesker som innenfor, og andre mennesker som utenfor. Da er vi fort ute å kjøre, sier Elisabeth Austad Asser på UiAs egne hjemmesider.

Hun har nettopp disputert for doktorgraden sin ved Universitetet i Agder. Hun har undersøkt hvordan bruken av kunstig intelligens kan hemme eller fremme verdiene til Sparebanken Sør, der hun til daglig er ansvarlig for bærekraft.

Nabo kan avgjøre om du får lån

Asser peker blant annet på at kunstig intelligens kan ta beslutninger basert på andre opplysninger enn hva en et enkelt individ kan stå til ansvar for. Eksempelvis mener Asser at teknologien kan føre til at området en bor i kan avgjøre om en kunde får lånesøknaden innvilget eller ikke. Tidligere ble slike avgjørelser tatt av en rådgiver i banken, som kunne vite om denne kunden var like dårlig på å betale som naboene eller ikke.

– Det er farlig når alt blir gjort om til data. Når du først har blitt definert inn i en kategori, så kan dette bli brukt videre i nye algoritmer. Om banker gjør dette galt, kan de være med å sementere sosiale forskjeller. Og i verste fall øke dem, sier Asser.

13 råd til bankene

I sin doktorgrad lister Asser opp 13 punkter på hvordan bankene bør ta i bruk kunstig intelligens.