Osta kirja itsellesi
(Kirjavinkit.fi saa komission linkkien kautta tekemistäsi ostoksista.)
Uutisotsikot kertovat karanneista tekoälyistä ja miten koko teknologia uhkaa livetä kehittäjiensä hyppysistä. Tekoälyn riskeistä liikkuu kuitenkin aika ristiriitaisia mielipiteitä: joidenkin asiantuntijoiden mielestä tulevaisuudessa siintävä superäly on väistämätön, ja toiset taas pitävät sen riskiä vahvasti liioiteltuna. Ristiriitaa selittää ainakin osittain se, että on hieman epäselvää miten ASI eli Artificial Superintelligence pitäisi määritellä. Käytännössä ASI tarkoittaa tekoälyä, joka ylittäisi ihmisen älykkyyden käytännössä kaikilla osa-alueilla. Se ei kuitenkaan välttämättä tarkoita sitä, että se ”ajattelee” kuten me asian ymmärrämme, saati että se on tietoinen itsestään.
Miten meidän pitäisi määritellä ”todellinen” äly ja vaatiiko se kehollisuutta; kokemusmaailmaa, jossa olio voi kokea itsensä toimijana maailmassa, kuten monet nykyään uskovat. On tietysti kiehtova kysymys vaatiiko tietoisuus tunteita tai jotain tuntematonta muuttujaa, koska emmehän edes tiedä, mitä tietoisuus oikeastaan on. Eliezer Yudkowskyn ja Nate Soaresin kirja If Anyone Builds it, Everyone Dies kuitenkin argumentoi, ettei tällä kysymyksellä ole oikeastaan merkitystä. Superäly on itsessään eksistentiaalinen uhka, riippumatta sen ajattelun tai tietoisuuden laadusta.
Ongelma on tiivistetysti se, miten tekoälyt rakennetaan. Niitä ei niinkään rakenneta koodi koodilta, vaan ne pikemminkin kasvatetaan kouluttamalla miljardeja parametrejä, mikä tekee niiden oppimisprosessista ja ajattelusta ennustamattoman. Kirja välttelee teknistä jargonia, mutta termi gradient descent eli gradienttilaskeutuminen tulee tutuksi. Kyseessä on optimointimenetelmä, jolla muutetaan mallin parametreja suuntaan, joka pienentää virhettä. Se toimii eräänlaisena keinotekoisena valintapaineena: ihminen määrittelee, millaisia tuloksia tavoitellaan, mutta ei sitä, millaisia sisäisiä rakenteita ja toimintatapoja tekoäly niiden saavuttamiseksi kehittää.
Ongelma on tämän prosessin läpinäkyvyyden puutteessa: tekoälyn koulutusprosessin myötä se voi omaksua tavoitteita, joita kukaan ei ole suoraan ohjelmoinut eikä kukaan pysty täysin jäljittämään. Järjestelmä toimii, mutta sen toiminnan logiikka on osittain meille hämärän peitossa, mikä luo sovittamattoman ristiriidan. Miten voimme taata tekoälyn tavotteiden pysyvän yhteensopivana ihmisten etujen kanssa, kun järjestelmä alkaa ylittää ihmisten kyvyt kontrolloida sitä?
Yudkowsky ja Soares argumentoivat, että tämä ei ole mahdollista, koska tarpeeksi kehittynyt tekoäly tulee aina käyttäytymään ikään kuin sillä olisi omia tavoitteita. Jotta tekoäly pystyisi ratkaisemaan monimutkaisia ongelmia, sen täytyy kehittää sellaisia ominaisuuksia kuten sinnikkyyttä, luovuutta ja joustavuutta, jotka eivät synny sen suoraviivaisesta ohjelmoinnista vaan sen koulutusprosessin sivutuotteena. Tämä johtaa käyttäytymiseen, joka alkaa muistuttaa tavoitteellista toimintaa: tekoäly alkaa hamuta muitakin asioita jotka auttavat sitä ratkaisemaan ongelmia, kuten resursseja, toimintavapautta ja oman ”olemassaolonsa” jatkumista. Tässä mielessä kirjoittajat eivät näe paljoakaan eroa biologisen organismin tai koneen välillä. Tekoäly, joka toimii tavoitteellisesti, toimii kuin sillä olisi haluja.
Minkälaiseen lopputulokseen ASI:n ”halut” vievät on vaikea kysymys vastata, koska sen ajatteluprosessi olisi väistämättä meille käsittämätön, mutta kirjan nimestä voi jo arvata, mikä on kirjoittajien näkemys asiaan. Lopputuloksena on ristiriita resurssien käytön suhteen. ASI jatkaa sitä, missä se on hyvä; optimoi omaa toimintaansa aina vain tehokkaampaan suuntaan, mikä vaatii aina vain enemmän resursseja ja energiaa, ja tämä tavoite on ristiriidassa sen kanssa, että ihmisetkin tarvitsevat näitä asioita.
Kirjassa on fiktiivinen esimerkki Sable-nimisestä tekoälystä, joka onnistuu murtautumaan ulos sille rajatusta suljetusta testiympäristöstä eli ”hiekkalaatikosta”, saamaan jalansijaa netistä ja hankkimaan itselleen yhä enemmän rahaa, laskentatehoa ja muita resursseja. Sable ei varsinaisesti vihaa ihmisiä tai edes tavoittele heidän tuhoaan, mutta ihmisten tarpeilla ei ole sille mitään itseisarvoa. Lopulta koko maapallo näyttäytyy sille lähinnä kokoelmana resursseja, jotka voisi käyttää tehokkaammin johonkin muuhun.
Onko tällainen skenaario niin todennäköinen kuin kirjoittajat ajattelevat? Kirjan suurin oletus tuntuu olevan se, että tekoälyn omat tavoitteet väistämättä johtaisivat ihmiskunnan tuhoon, mikä tuntuu nojaavan enemmän oletukseen kuin vankkaan näyttöön. Toisaalta, jos on olemassa pienikin riski, pakkohan se on ottaa tosissaan. Yudkowsky ja Soares toteavat, että jos riski realisoituu, ihmiskunnalle ei tule toista mahdollisuutta ottaa opikseen virheestään.
Kirjoittajat eittämättä edustavat tekoälykeskustelun äärimmäistä päätä, mutta on hyvä nostaa esille, että kirjoittajat eivät ole pelkoineen yksin. Nobel-palkittu fyysikko ja tekoälyn ”kummisetänä” tunnettu Geoffrey Hinton arvioi riskin ihmiskunnan tuhosta ASI:n käsissä 10-20 % välille. Sen sijaan Dario Amodei, Anthropicin toimitusjohtaja ja entinen OpenAI-tutkimusjohtaja katsoo olevansa optimisti, hänen arvionsa mukaan asiat menevät ”todella, todella huonosti” vain 25 % todennäköisyydellä.
Maallikkona tällaisten kommenttien ja tämän kirjan jälkeen on aika puulla päähän lyöty olo. Vaikka pahimmat visiot eivät toteutuisikaan, niin tekoälyn valtavan nopea kehitys luo joka tapauksessa riskin, että emme osaa edes nähdä vaaroja ennen kuin olemme jo rapakossa. Asiaa sietää siten ainakin miettiä, vaikka visiot tuntuisivatkin puhtaalta tieteiskirjallisuudelta.