Voiko algoritmi syrjiä?

Googlaamalla ”algoritmi”, saa ensimmäisenä eteensä aina niin avuliaan Wikipedian. Sen mukaan algoritmi on ”yksityiskohtainen kuvaus tai ohje siitä, miten tehtävä tai prosessi suoritetaan; jota seuraamalla voidaan ratkaista tietty ongelma - - Nykyisin algoritmin käsite kuitenkin liittyy ennen kaikkea tietokoneiden ohjelmointiin ja tietojenkäsittelytieteeseen, joissa niillä on erityisen suuri merkitys etenkin tietorakenteiden yhteydessä”. Okei, kyseessä siis melko hankala termi selittää yksinkertaisesti auki.

Ensimmäisenä algoritmeista tulee mieleeni toimintaani vakoilevat suuryritykset, kuten Google, Netflix ja Facebook, jotka tarkkailevat tekemisiäni ja osaavat minusta kerätyn datansa perusteella työntää näytölleni mainoksia autohuolloista tai suosituksia rikossarjoista ja häämekkosivustoista. Omalla kohdallani en ole kovinkaan huolissani tästä ja mielelläni myös itse manipuloin esimerkiksi Instagramia näyttämään minulle vain minua kiinnostavaa sisältöä, kuten tällä hetkellä niitä häämekkoja ja söpöjä koiravideoita. Tämä onnistuu klikkaamalla auki tarjottua sisältöä. Simppeliä.

Tiedostan kuitenkin, ettei kyseessä ole kepeä ja hassunhauska asia, vaan ilmiön takana on valtava koneisto ja järjetön määrä dataa ja resursseja. Ja valtaa. Koiravideoistani toiseen ääripäähän mentäessä algoritmien mahdollistamien somekuplienhan pelättiin vaikuttavan jopa USA:n presidentinvaaleihin. Se onkin jo hurja ajatus, että kaikilla ei olekaan yhtäläistä pääsyä samoihin tietoihin, vaan toisille tarjottu sisältö voi poiketa omastani radikaalisti.

Jos siirrytään algoritmit ja yhdenvertaisuus -teemassa itseäni kiinnostavaan aiheeseen, päästään rekrytointiin. Tänä päivänä puhuttaa erityisesti yritysten monimuotoisuus ja yhdenvertaisuus, joiden halutaan näkyvän jo rekrytoinnissa. Näitä pyritään tuomaan esille käyttämällä anonyymia rekrytointia tai kuten Barona Technologies Oyn: kohdalla, käyttämällä tekoälyä hakemusten lajitteluun ja sopivimpien ehdokkaiden löytämiseen. Tässä algoritmit hyödyntävät yrityksen suurta dataa ansioluetteloista ja aiemmin tehdyistä valinnoista.

Kuten Amazonin kokeilusta sai huomata, tekoälykin voi omata ennakkoasenteita vaikka algoritmit pyritäänkin rakentamaan ilman ihmisille tyypillisiä ennakkoluuloja. Jari Hakkarainen kiteyttää hyvin Ylen artikkelissa, että tekoälyt oppivat sen, mitä niille opetetaan. Ja opettamassahan on yleensä ihminen, joka on viimekädessä vastuussa siitä, että luomansa algoritmi on toimiva ja syrjimätön. Vastuu on siis esimerkiksi datan puhdistamisessa, jottei algoritmi vääristy ja näin ollen aiheuta vääränlaisia tuloksia. On ihan sama piilottaako Instagram minulta kaikki kissavideot, mutta jos missaan unelmatyöni virheellisen algoritmin piilotettua minut rekrytoijalta, on harmitus huomattavasti isompi.

Voiko algoritmi siis syrjiä? Ilmeisesti voi. Syrjivyys ei kuitenkaan (todennäköisesti) ole tarkoituksellista ja se voi johtua monesta seikasta. Näitä ovat Tiina Valosen mukaan esimerkiksi datan virheet ja puutteet, lajittelukriteerit tai se, että algoritmi on rakennettu antamaan merkitystä syrjintäperusteelle. Olisikin hyvä, että kaikkea ei automatisoida, vaan tekoälyä käytettäisiin tukiälynä kuten Barona Technologies Oy:n Kirsi Louhelainen sanoo. Tällöin tekoäly tukee päätöksentekoa ja automatisoi mekaanisempia tehtäviä, mutta jättää tilaa rekrytoijalle tehdä lopulliset päätökset.

I.H.