Voiko algoritmi olla rasistinen?

Amerikkalaisen vankiongelman ytimessä näyttää olevan syrjintä sen erilaisissa muodoissaan. Syrjintä näyttäisi olevan niin luontainen piirre ihmiselle, ettemme ole vieläkään löytäneet tehokkaita tapoja sen taltuttamiseen.

Amerikkalaisia on maailman väestöstä noin viisi prosenttia, mutta koko maailman vangeista joka neljäs istuu tuomiotaan amerikkalaisessa vankilassa. Tiilenpäitä lukee häkellyttävät 2,4 miljoonaa ihmistä – määrä, joka on viisinkertaistunut viimeisen kolmenkymmenen vuoden aikana. Vuonna 2012 joka 108. amerikkalainen aikuinen oli joko tuomittuna vankilassa tai tutkintavankeudessa. Joka 28. lapsella on jompikumpi vanhemmista vangittuna. Tällä hetkellä 65 miljoonalla yhdysvaltalaisella on rikosrekisteri. Kuluja tästä järjestelmästä syntyy noin 8 miljardia taalaa.

Toinen paljon huomiota saanut fakta on vankien etnisen taustan jakauma. Afroamerikkalaiset muodostavat koko Yhdysvaltojen väestöstä noin 13 prosenttia, mutta vankilaväestöstä huikeat 60 prosenttia. Eurooppalaistaustaisia kaukasialaisia on telkien takana olevasta rikollisista noin 13 prosenttia, vaikka edustavat koko väestöstä 80 prosenttia. Vinouma näkyy selkeimmin huumausainerikosten tilaistoissa ja niiden tuomioissa. Kyselyiden perusteella huumeiden käyttäjiä on etnisen enemmistön väestössä noin viisinkertainen määrä vähemmistöihin verrattuna, mutta tuomioista jaetaan vähemmistön edustajille kymmenkertainen määrä.

Vinouman syntyä on selitetty useilla eri teorioilla. Yhdysvaltojen synkkä orjahistoria ja sen jälkeinen entisten orjien systemaattinen syrjintä on yleisin pohja, jolla selitetään mustan väestön kehno sosioekonominen asema, jonka voidaan katsoa ajavan väestöä heikompaan asemaan yhteiskunnassa. Tämä puolestaan saattaisi selittää korkeamman rikollisuuden vähemmistön keskuudessa. Vaikka tämä selitys on yleinen, se asetetaan usein myös kyseenalaiseksi. Systemaattista syrjintää näyttää olevan rakennettu juridisen järjestelmän ytimeen. Kokaiinia vai crackia?

Huumausainerikostuomioista on nostettu esiin hälyttäviä faktoja. Esimerkiksi huumausainetutkimukseen erikoistunut huippuyliopisto Columbian psykologian professori Carl Hart yrittää nostaa ristiriitaisia faktoja esiin lukuisissa kirjoituksissaan. Hän mainitsee usein esimerkiksi kokaiinin. Kokaiinia voidaan käyttää sekä myydä eri muodoissa. Kalliimpi versio aineesta on elokuvista tuttu pulverimuoto, jota valkokankaan rokkitähdet sekä huumeparonit imevät sieraimiinsa viiva kerrallaan peilin päältä – mielellään sadan taalan seteli pilliksi käärittynä. Samaa ainetta voidaan myös muuntaa pienempiin annoksiin poltettavaksi muodoksi, katutermillä crackiksi. Kyseessä on edelleen kokaiini, mutta hintaeron takia käyttäjäkunta crackin ja pulverin välillä on selkeä: rikkaat käyttävät pulveria ja köyhät crackia. Ainut käytännön ero näiden välillä onkin, tohtori Hartin mukaan, nimenomaan käyttäjäkunta. Tuomiot kokaiiniin liittyvistä rikoksista vaihtelevat suuresti näin kahden muodon välillä, vaikka kyseessä on sama huumausaine. Crackin hallussapidosta tuomitaan huomattavasti ankarammin kuin pulverin.

Crack-kokaiiniesimerkin lisäksi tuomiotilastoista löytyy muitakin räikeitä eroja. British Columbian tutkija Marit Rehavi ja University of Michigan Law Schoolin tutkija Sonja Starr toteavat 58 000 tuomiota käsittelevässä tutkimuksessaan, että afroamerikkalaistaustaiset rikolliset tuomittiin noin 60 prosenttia pidempiin tuomioihin samoista rikoksista kuin heidän eurooppalaistaustaiset kanssa-amerikkalaiset. Yksi syy tähän näyttäisi olevan käytäntö, joka luotiin nimenomaan poistamaan mielivaltaisia tuomioita. Tämän mandatory sentencingin eli mandatoorinen määrätty tuomio -järjestelmän idea on rajata tuomarin tai tuomioistuimen valtuuksia. Laki asettaa taulukkomaisen vankeusrangaistuksen vähimmäispituuden, jonka mukaan tuomio annetaan. Ongelma on, että tätä käytäntöä ei sovelleta jokaiseen rikokseen tai pikemminkin jokaiseen rikoksentekijään. Liittovaltion syyttäjillä on liikkumavaraa sen kanssa, milloin he vaativat rikoksentekijälle näitä vähimmäisrangaistuksia. Tutkimuksesta käy ilmi, että syyttäjät vaativat vähimmäsrangaistuksia kaksi kertaa enemmän vähemmistösyytetyille kuin valtaväestölle, vaikka rikos olisi sama. Järjestelmä, jonka tarkoitus oli tasapäistää tuomioita, osoittautuikin työkaluksi syrjinnälle.

Syrjintä voi olla alitajuista

Syrjintää on tutkittu paljon. Systemaattisenkin syrjinnän takana mylläävät psykologiset voimat, jotka ovat kehittyneet meille evoluution tuloksena. Syrjimiseen ei siis tarvita natsien eugeniikka-ajattelua eikä Ku Klux Klanin jäsenyyttä. Sosiaalipsykologit ovat mitanneet vuosikymmeniä ihmisten luonnollista tapaa erotella ihmisiä erilaisiin sisä- ja ulkoryhmiin. Taipumuksemme ajatella ”me ja sitten ne muut” -asenteella nousee esiin useimmissa sosiaalisissa tilanteissa.

Tämän ilmiön tutkimisen kantaisiksi nimetään usein ennakkoluulojen ja sosiaalisen identiteetin tutkijoita Henri Tajfelia ja Gordon Allportia. Tajfel valaisi identiteettipsykologiaa kokeillaan, jossa ihmisiä jaettiin satunnaisesti erilaisiin ryhmiin. Ihmiset alkoivat vaistonvaraisesti suosia omaa ryhmäänsä sekä syrjiä toisia ryhmiä eri tavoin, vaikka ryhmän jäsenillä ei satunnaisjaon lisäksi ollut mitään yhteisiä tekijöitä. Kokeet johtivat niin sanotun minimaalisten ryhmien paradigman teorian luomiseen, jossa Tajfel kollegoineen osoittivat, että häkellyttävän pienet ihmisiä näennäisesti yhdistävät tekijät, kuten yhteinen paidan väri tai mieltymys tiettyyn tauluun, saavat ihmiset kokemaan kuuluvansa omaan ryhmäänsä ja samalla syrjimään muita. Gordon Allport puolestaan toi systemaattisen tieteen piiriin etnisten stereotypioiden teoriaa. Tärkeimpinä löytöinä pidetään hänen tutkimuksiaan etnisten stereotypioiden muuttumattomuudesta. Kun olemme kerran oppineet, että saksalaiset ovat pikkutarkkoja, italialaiset miehet mammanpoikia tai venäläiset kaikki juoppoja, on näistä ennakkoluuloista todella vaikeaa päästä eroon.

Syrjimistä on tutkittu myös neurologisella tasolla. Ihmisten taipumuksia assosioida negatiivisia tai positiivisia piirteitä toisiin ihmisiin on mitattu esimerkiksi arvostuksia kartoittavalla IA-testillä, englanniksi Implicit Association Test. Kokeen tuloksista on tullut käyttäytymistieteiden yksi kulmakivi, jolla todetaan ihmisten liittävän helpommin positiivisia piirteitä itseltään näyttäviin ihmisiin ja negatiivisia erilaisilta näyttäviin ihmisiin. Naiset liittävän nopeammin mukavia piirteitä toisiin naisiin, miehet miehiin ja kaikki valitettavan hitaasti ihoväriltään eri värisiin ihmisiin. Testi ei toki mittaa ennakkoluuloja tai rasismia suoraan, vaan alleviivaa faktaa, että joudumme tekemään kognitiivisesti enemmän työtä yhdistääksemme eri näköiseksi kokemiimme ihmisiin positiivisia piirteitä.

Voiko algoritmi olla rasistinen?

Minimirangaistuslakien tapaisia työkaluja tuomioiden järkeistämiseen on etsitty myös tilastotieteen ja tietokonelaskennan maailmasta. Osittain myös edelle mainitusta valtavasta tuomioiden määrästä, tuomarit ovat ylityöllistettyjä liki koko Yhdysvalloissa. Heitä helpottaakseen on luotu tietokoneohjelmistoja, jotka laskevat suuntaa-antavan todennäköisyyden rikoksen uusimisesta. Jos todennäköisyys on korkea, annetaan rikollisille pidemmät tuomiot. Riskihallintaohjelmistot otettiin käyttöön laajalti, mutta seurantaa järjestelmien antamille laskennallisille tuloksille ei järjestetty. Yhteisöllisiin teemoihin keskittyvä tutkivan journalismin organisaatio ProPublica päätti tehdä seurannan, mikä oikeusjärjestelmästä puuttui.

Uutisorganisaatio analysoi 7000 tuomiota vuosilta 2012 ja 2013. Tulos ei ollut järjestelmää imarteleva: väkivaltarikosten kohdalle vain 20 prosenttia ”todennäköisistä rikoksen uusijoista” todellisuudessa uusi rikoksen. Algoritmi näytti laskevan riskit väärin. Kun kaikki rikokset otettiin huomioon, pärjäsi algoritmi hieman kolikon heittoa paremmin – rikoksen uusija ennustettiin 61 prosentin todennäköisyydellä. Huolestuttavin piirre oli ohjelmiston riskianalyysin ero mustaihoisten ja valkoihoisten rikollisten väillä. Molempia ryhmiä arvioitiin väärin noin yhtä usein, mutta virheen laatu oli huolestuttava. Mustaihoisten tekijöiden rikoksenuusinta-arviot olivat virheellisiä kaksi kertaa todennäköisemmin kuin valkoihoisten. Tämän lisäksi valkoihoisia arvioitiin algoritmin perusteella useammin pienen riskin rikoksenuusijoiksi. Laskukaava siis syrji vähemmistöjä.

ProPublica raportoi tehneensä syväluotaavan tieteellisen tilastoanalyysin erottaen muuttujia, kuten tekijöiden iät, aiempien rikosten määrät ja vakavuudet, sukupuolen ja useita eri muuttujia. Tulos näytti kuitenkin selkeästi ohjelmiston syrjivän nimenomaan etnisen taustan mukaan. Ohjelman toimittanut yritys Norhpointe kiistää uutismedian analyysin. Yritys ei ymmärrettävästi halua julkaista, miten heidän analyysinsa ja algoritminsa toimivat. Nämä salaisuudet ovat toki heidän leipäpuunsa.

Syrjiminen näyttäisi olevan sisäsyntyistä ja järjestelmällistä niin perinpohjaisella tavalla, että jopa ulkoistaessamme arvostelumme ja analyysimme teknisille työkaluille ulkoistamme samalla omat ennakkoluulomme.

Lähteitä:

Carl Hart. High Price: A Neuroscientist's Journey of Self-Discovery That Challenges Everything You Know About Drugs and Society. Harper Parennial, 2013.

David B. Mustard Racial. Ethnic and Gender Disparities in Sentencing: Evidence from the U.S. Federal Courts, University of Georgia. Journal of Law and Economics, vol. XLIV, April 2001.

Julia Angwin, Jeff Larson, Surya Mattu & Lauren Kirchner. Machine Bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica. 2016.

Michelle Alexander. The New Jim Crow: Mass Incarceration in the Age of Colorblindness. The New Press, 2012.

N.A.A.C.P (National Association for the Advancement of Colored People). Criminal Justice Factsheet. 2016.

Rehavi, M. Marit, and Sonja B. Starr. Racial disparity in federal criminal charging and its sentencing consequences. University of Michigan Law & Economics. Empirical Legal Studies Center Paper 12-002, 2012.

Statistics as of June 30, 2010 and December 31, 2010. Correctional Population in the United States and from U.S. Census Summary File 1.

Kuva: The All-Nite Images from NY, NY, USA (Black Lives Matter Black Friday) [CC BY-SA 2.0 (http://creativecommons.org/licenses/by-sa/2.0)], via Wikimedia Commons