Når algoritmer diskriminerer


Det selvsamme juridiske system i USA, som forbyder diskrimination, diskriminerer i stor stil, når man anvender algoritmer i forbindelse med udmåling af straf. Også i Danmark er der eksempler på statistisk diskrimination, påpeger professor Kasper Lippert-Rasmussen, som står i spidsen for et nyt grundforskningscenter på Aarhus BSS ved Aarhus Universitet om netop diskrimination.

21.08.2018 | INGRID FOSSUM

FOTO: Markus Spiske/Unsplash

Videoen af en hvid, amerikansk politimand, som brutalt holder den afroamerikanske George Floyd nede med et knæ på hans hals, mens Floyd fremstammer ”I can’t breathe”, spredte sig som en steppebrand på sociale medier i maj måned. Dette gjorde for alvor borgerrettighedsbevægelsen Black Lives Matter og deres kamp for sortes rettigheder kendt ud over USA's landegrænser.

USA har en lang historie med racisme og diskrimination med rødder tilbage til slaveriet. Politivold og –brutalitet med tilsyneladende racistiske motiver, er jævnligt dukket op i medierne gennem en årrække. Men der findes også en form for diskrimination, der er indlejret i samfundets strukturer, herunder mere ubevidst i befolkningens værdier, vaner og adfærdsmønstre.

”Det er ikke nødvendigvis noget, som afspejler, at folk er negativt indstillet over for afroamerikanere, men som simpelthen bare reflekterer, at de institutioner og praksisser, vi har, er skruet sammen på en sådan måde, at de favoriserer hvide på bekostning af sorte.” Det fortæller Kasper Lippert-Rasmussen, der er leder for det nye grundforskningscenter i diskrimination på Aarhus BSS, Aarhus Universitet.

Han har i årevis forsket i diskrimination og har udgivet flere videnskabelige artikler i anerkendte tidsskrifter om statistisk diskrimination, senest et bidrag til bogen ”Principled Sentencing and Artificial Intelligence” redigeret af Jesper Ryberg og Julian Roberts, som snart udkommer på forlaget Oxford University Press.

”Statistisk diskrimination kan underminere vores sociale status som ligeværdige og vores ret til at behandles som et selvstændigt individ.”    

Kasper Lippert-Rasmussen, professor, Institut for Statskundskab, Aarhus BSS

Algoritmer afgør straf

Det amerikanske retsvæsen er et eksempel, hvor denne systemiske statistiske diskrimination gør sig gældende. Her er det praksis, at når man straffer en forbryder, spiller det ind på strafudmålingen, hvor farlig en forbryder man vurderes at være, og hvor stor faren for gentagelse er. Der har imidlertid tidligere været en tendens til, at dommere diskriminerer ubevidst, så sorte idømmes strengere straffe end hvide. For at undgå denne bias er man derfor overgået til at bruge computeralgoritmer til at vurdere forbrydernes gentagelsesfare, da algoritmerne er mere neutrale end det menneskelige skøn.

Algoritmerne bliver fodret med informationer om forbryderens bosted, uddannelsesniveau, indkomstniveau, hvorvidt ens forældre har haft problemer med loven, hvorvidt vedkommende er arbejdsløs, og om man tidligere er straffet. Man må ikke fodre algoritmerne med informationer om race, men de andre variabler er i forvejen så stærkt associeret med race, at race alligevel giver sig udslag på straffeudmålingen, fordi afroamerikanere statistisk set oftere er arbejdsløse og tidligere straffede end hvide amerikanere, og netop disse to faktorer indikerer større risiko for gentagelse.

”Algoritmerne er meget præcise i deres bud på, om forbryderen vil begå en forbrydelse igen. Alligevel vurderer algoritmerne, at faren for gentagelse er større hos de sorte forbrydere. Så hvis en sort og en hvid har begået samme forbrydelse, vil algoritmerne vurdere den sorte som mere farlig og dermed give vedkommende strengere straf. Og er det nu retfærdigt? Det har der været meget debat omkring, og det er et af de mange kritikpunkter, som Black Lives Matter-bevægelsen har på vegne af den sorte befolkning,” siger Kasper Lippert-Rasmussen.

Lyt også til podcast: Diskrimination

Uretfærdige konsekvenser for sorte

Amerikanske borgerrettighedsbevægelser som Black Lives Matter har i årevis ønsket et opgør med, hvad de ser som hvides dominans, racistisk vold og diskrimination mod sorte. Diskriminationen mod de sorte i det amerikanske retsvæsen er ikke intenderet og defineres således som indirekte diskrimination. Men kender man de uretfærdige konsekvenser, som brugen af algoritmerne får for de sorte forbrydere, og er man stadig fortaler for dem, er der måske tale om direkte diskrimination, ifølge Kasper Lippert-Rasmussen.

”Der er stigmatisering og underlegenhed forbundet med algoritmerne. Og de gør ikke noget godt for afroamerikanere, som i forvejen ser sig selv som profilerede af politiet og føler sig som andenrangs borgere. Man er uheldig at blive placeret i den sociale gruppe, som algoritmerne mener, man hører til, selv om man som enkeltperson måske ikke er farlig og ikke vil begå kriminalitet igen. På denne måde bliver man behandlet som en statistisk størrelse frem for et individ,” siger Kasper Lippert-Rasmussen.

På den anden side er algoritmer mere nøjagtige end psykologsamtaler og tests, som ellers har været brugt til at vurdere kriminelle. De er således også en billigere løsning, der faktisk også beskytter borgere mod kriminalitet.

”Rigtig meget kriminalitet i USA sker mellem personer inden for samme gruppe, dvs. sorte begår forbrydelser mod andre sorte, og hvide begår forbrydelser mod andre hvide. Det er derfor tænkeligt, at det faktisk er en hjælp for andre sorte i samfundet, at sorte forbrydere får lange straffe, da de på den måde holder dem væk fra nærmiljøet. Blandt andet fordi, at meget tyder på, at straf faktisk kan øge fremfor at mindske kriminalitet,” siger Kasper Lippert-Rasmussen.

Underminerer individet

Brugen af algoritmer har netop gode kortsigtede effekter på at forebygge kriminalitet, men er dårligt for forholdet mellem sorte og hvide på lang sigt. Og mange mener, at det er uretfærdig behandling, når man vægter faren for gentagelse så højt i forhold til selve forbrydelsen.

”Det er meget svært at forestille sig en verden uden statistisk diskrimination. Og det gælder uanset, om den er kritisabel eller ikke,” siger Kasper Lippert-Rasmussen.

For eksempel er det nok uproblematisk, når politiet ofrer flere ressourcer på at forebygge voldskriminalitet blandt yngre mænd end blandt ældre kvinder. Mens det er mere problematisk, hvis arbejdsgivere foretrækker mandlige ansøgere alene med den begrundelse, at kvinder statistisk set har længere barselsorlovsperioder. Det ville også være utænkeligt, at forsikringsbrancherne ikke lavede risikoprofiler på deres kunder. De baserer sig også på statistik og fører til, at unge mænd skal betale mere for bilforsikring, og ældre mennesker betale mere for livsforsikring.

”Men statistisk diskrimination kan underminere vores sociale status som ligeværdige og vores ret til at behandles som et selvstændigt individ,” påpeger Kasper Lippert-Rasmussen.

Fakta:

Videnskabelige publikationer:

  • ”Principled Sentencing and Artificial Intelligence” redigeret af Jesper Ryberg og Julian Roberts, udkommer på Oxford University Press