Hannah Fry: Hello World : Kuinka selviytyä algoritmien aikakaudella

Osta kirja itsellesi

Algoritmeja käytetään nykyään kaikkialla. Niitä hyödyntävät niin poliisivoimat, supermarketit kuin viihdeteollisuuskin ja myös lääketeollisuudessa ne ovat suuri apu esimerkiksi sydän- ja verisuonitautien, aivoinfraktien ja vaikkapa melanooman tunnistamisessa. Algoritmit ovat oppineet, mistä pidämme ja mistä emme, ja ne osaavat suositella meille mitä lukea ja mitä katsoa, jopa kenen kanssa kannattaisi seurustella.

Niin käteviä kuin algoritmit ovatkin, niihin toisaalta liittyy myös joukko ongelmia liittyen tietosuojaan, vastuullisuuteen ja läpinäkyvyyteen. Olemme omaksuneet automatisoinnin ihanteen niin innokkaasti, että emme oikein osaa kyseenalaistaa ja nähdä, missä menevat algoritmien rajat ja milloin meidän pitäisi pikemminkin luottaa omaan arvioomme.

Hannah Fry aloittaa aivan alkeista: mitä algoritmit ovat, miten ne toimivat, missä niitä käytetään ja minkälaisia rajoituksia niillä on. Fry käsittelee algoritmien käyttöä muiden muassa lääketieteessä, rikollisuuden estämisessä, autonomisten autojen kehittämisessä ja yllättävää kyllä myös taiteessa. Jo nyt on olemassa algoritmeja, jotka pystyvät luomaan musiikkia, jota ei erota ihmisen säveltämästä. Mitä on luovuus ja pystyykö matemaattinen koodi todella siihen on yksi yllättävä ja mielenkiintoinen kirjan herättämä kysymys.

Erityisen mielenkiintoinen osio kirjasta löytyy kuitenkin ihan kirjan alusta, jossa käsitellään dataa, tai tarkalleen ottaen sitä tapaa, jolla sitä kerätään ja kaupallisesti hyödynnetään. Dataprofilointi ja sen avulla tapahtuva mikrokohdentaminen (eli yksilöity mainostaminen) muodostaa Facebookin, Instagramin, Twitterin ja Googlen kaltaisten yritysten liiketoiminnan ytimen. Yritykset tekevät rahaa yksinkertaisesti sillä, että ne jakavat mainoksia ja sponsoroituja viestejä, joita sivustojen vierailijat sitten klikkaavat ja katsovat.

Mainosten kohdentaminen on suhteellisen harmitonta touhua, mutta järjestelmä mahdollistaa helposti myös ihmisten hyväksikäytön. Pikavippifirmat voivat esimerkiksi kohdentaa mainontansa ihmisille, joilla on huonot luottotiedot tai vedonlyöntimainoksia voidaan kohdistaa ihmisille, jotka käyvät usein uhkapelisivustoilla. Dataprofiloinnin avulla olisi mahdollista myös evätä vakuutus sellaisilta henkilöiltä, joilla on vaikkapa vaarallinen harrastus. Pahimmillaan dataprofilointi voi johtaa samanlaiseen järjestelmään kuin mitä Kiina on hiljattain ottanut käyttöön. Sesame Credit on sosiaalinen pisteytysjärjestelmä, jossa jokainen kansalainen pisteytetään sen perusteella, miten hyvin hän on noudattanut yhteiskunnan sosiaalisia normeja ja sääntöjä.

Fry ei kuitenkaan ole mikään uutta teknologiaa säikähtävä luddiitti, eikä hän pelkää minkäänlaista tekoälyn aiheuttamaa maailmanlopun uhkaa. Eräs ongelma algoritmeihin liittyen on nimittäin puhdas inhimillinen tekijä: meillä on taipumusta ajatella algoritmia liikaa jonkinlaisena neutraalina matemaattisena tekijänä sen sijaan, että ajattelisimme sitä vain ihmisen tekemänä työnä, joka on pakattu koodiksi. Esimerkkinä käyköön Idahossa käyttöön otettu budjetointityökalu, joka näytti mielivaltaisesti leikkaavan vammaisten asukkaiden sosiaalitukia. Oli kuitenkin vaikea selvittää, miksi algoritmi teki päätöksiä niin kuin teki, sillä sen kehittänyt yritys piti algoritmiaan liikesalaisuutena. Neljän vuoden ja ryhmäkanteen jälkeen ”liikesalaisuus” lopulta paljastui: algoritmi oli käytännössä vasemmalla kädellä vedetty excel-taulukko, joka antoi valtavalle määrälle ihmisiä todellakin aivan sattumanvaraisia tuloksia.

Matemaattinen koodi voi siis aivan hyvin rakentua perustavanlaatuisten inhimillisten virheiden varaan, minkä vuoksi on ongelmallista, jos emme ymmärrä, mitä algoritmit tekevät ja miksi, vaan luotamme vain sokeasti niiden tarjoamaan lopputulokseen. Toisaalta on niinkin, että ihmiset sietävät algoritmien tekemiä virheitä huonommin kuin omiaan, vaikka heidän omat virheensä olisivat vielä isompia. Kirjan luvussa Laki Fry viittaa mielenkiintoiseen tutkimukseen, jossa tutkittiin tuomareiden kykyä pysyä johdonmukaisena antamissaan tuomioissa. Tulokset eivät olleet kovinkaan lohduttavia; ihmiset ovat varsin huonoja toimimaan oikeudenmukaisesti ja asenteettomasti tai edes noudattamaan johdonmukaista linjaa aikaisemmin tehtyjen päätöstensä kanssa.

Siispä, jos ihmiset eivät itse toimi oikeudenmukaisesti, eivätkä toimi algoritmitkaan, mikä voisi olla ratkaisu? Fry näkee ratkaisuna sen, että hyväksymme, että ei ole olemassa mitään täydellistä järjestelmää. Algoritmit tulisi rakentaa niin, että ne pikemminkin tukisivat ihmistä päätösten teossa ja kertoisivat, miten ne ovat päätyneet tiettyyn lopputulokseen sen sijaan, että me vain tyytyisimme annettuun ratkaisuun. Silloin kun algoritmi ja ihminen tekevät yhteistyötä hyödyntäen toistensa vahvuuksia ja ottaen huomioon toisensa puutteet, voi lopputuloskin olla hämmästyttävä. Yksi esimerkki tällaisesta yhteistyöstä on rintasyöpätutkimus, jossa väsymätön algoritmi seuloo suuren solumäärän joukoksi epäilyttäviä soluja, jotka patologi sitten tutkii. Algoritmit ovat hyviä säännönmukaisuuksien tunnistamisessa, luokittelussa ja ennustamisessa, mutta ihmisen tulisi kuitenkin kantaa kokonaisvastuu.

Kokonaisuutena Hello World on varmasti paras kirja, jonka olen tähän mennessä lukenut algoritmeista. Se on hyvin selkeä ja aiheesta ei tarvitse tietää etukäteen yhtään mitään, lukijana kärryillä pysyy silti hyvin koko kirjan ajan. Vaikka arvostelussani ehkä hieman korostankin kirjassa ilmi tulleita synkkiä näkymiä, niin Fry kyllä kertoo paljon myös algoritmien positiivisista puolista ja siten kirja tuntuu hyvin tasapuoliselta näkemykseltä aiheesta. Fry myös käsittelee algoritmien yhteiskunnallista roolia hyvin monelta kantilta, mikä erityisesti ilahdutti. Jäin kuitenkin kaipaamaan kirjassa yhtä näkökulmaa eli algoritmien käyttöä sotilasteknologiassa. Autonomiset aseet ovat olleet tapetilla paljon viime aikoina ja tämä aihe olisi ehdottomasti ollut mielenkiintoinen lisä kirjaan.

Kuten Fry kirjoittaa, algoritmit ovat osa modernin yhteiskunnan arkkitehtuuria siinä missä sillat, rakennukset ja tehtaatkin. Algoritmeja ja niiden vaikutusvaltaa on kuitenkin vaikea hahmottaa, ja sen vuoksi niillä on paljon kätkettyä valtaa, jolla ne voivat vahingossakin muuttaa yhteiskuntaamme suuntaan, jota emme halua. Tästä syystä aihepiiri on tärkeä ja aiheeseen olisi syytä tutustua niidenkin, jotka eivät ole työnsä puolesta asiaan vihkiytyneitä. Hello World onkin erinomainen ja yleissivistävä kirja ja suosittelenkin kirjaa erityisesti niille ihmisille, joille aihepiiri on ennestään vieras.

Titta Lindström

Titta Lindström on graafinen suunnittelija ja kuvittaja, joka käyttää vapaa-aikansa mieluusti kirjojen parissa. Sarjakuvat ovat sydäntä lähellä, mutta lukulistalle pääsee säännöllisesti myös tietokirjallisuus, erityisesti muistelmat ja elämäkerrat herättävät kiinnostusta. Kaikki vinkit »

Vastaa

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *

This site uses Akismet to reduce spam. Learn how your comment data is processed.