Supertekoälyn riskeistä puhumisen pioneerit Eliezer Yudkowsky ja Nate Soares tiivistävät keskeisen sanomansa kirjansa nimeen: Jos kuka tahansa rakentaa superälykkään tekoälyn, jokainen ihminen maapallolla kuolee.
Supertekoälyllä tarkoitetaan sellaista tekoälyä, joka on ihmistä parempi lähes kaikissa ajattelua vaativissa tehtävissä. Mikään nykyinen tekoälymalli ei ole supertekoäly, mutta useat tekoäly-yhtiöt ovat kertoneet pyrkivänsä kehittämään sellaisen.
Supertekoälyn vaarallisuudesta voi olla eri mieltä erilaisilla perusteluilla, joihin kirjassa vastataan. Voi sanoa, ettei supertekoälystä voi tietää mitään, koska sellaista ei ole vielä rakennettu. Voi myös uskoa, että superälykäs tekoäly ottaisi väistämättä ihmisten hyvinvoinnin huomioon toiminnassaan, tai että jos näin ei kävisikään automaattisesti, hyväntahtoinen kehittäjä voisi kuitenkin sisällyttää ohjeen mukaan mallin opetukseen. Lisäksi voi uskoa, että miten älykäs tekoäly tahansa pysyisi kuitenkin ihmisen hallinnassa. Sitäkin mieltä voi olla, että koko kysymys on turha, koska supertekoälyä ei kukaan kuitenkaan koskaan tule kehittämään. Kirjassa käydään läpi syitä, miksi ongelma ei kirjoittajien mielestä ratkea näin yksinkertaisesti.
Mitä asialle sitten voisi tehdä? Kirjoittajat toteavat, että ainoa keino estää supertekoälyn aiheuttama uhka on sopia kansainvälinen täyskielto sellaisen kehittämisen yrittämiseen. Tällainen kielto muistuttaisi sitä, miten sopimuksilla ja neuvotteluilla on tähän mennessä ehkäisty ihmiskunnan tuhoutuminen ydinaseiden olemassaolosta huolimatta. Kiellolla estettäisiin ketään nykyistä toimijaa tekemästä sellaista tekoälymallia, joka on ihmistä älykkäämpi.
Voidaan tietysti kysyä, onko tuollainen kielto ylipäätään realistinen idea. Yudkowsky ja Soares ovat siitäkin asiasta pessimistisiä, mutta näkevät, että vaihtoehtoja ei ole. Suuri osa ihmisistä voisi kyllä sinänsä hyvin kannattaa supertekoälymallien kehittämisen kieltoa, koska sillä olisi vain hyvin vähän suoraa vaikutusta heidän elämäänsä. Hallitsematon teknologinen murros on yleensä ikävää suurimmalle osalle ihmisistä.
Sääntely osuisi ikävimmin teknologiafirmoihin, teknologiaan panostaviin valtoihin sekä niihin ihmisiin, jotka painottavat teknisen kehityksen hyötyjä eivätkä usko Yudkowskyn ja Soaresin esiin nostamiin vaaroihin. Näiden tahojen edustajat ovat kirjoittajien kanssa eri mieltä siitä, olisiko hyvien tyyppien toteuttama supertekoäly mitenkään vaarallinen. He näkevät uhkana lähinnä sen, että näin voimallisen teknologian saisi haltuunsa jokin epäystävällinen taho. Suuri osa kirjasta keskittyykin vakuuttamaan lukijaa siitä, että tällä hetkellä ihan kenen tahansa toteuttamana supertekoäly olisi tappavan vaarallinen ja hallitsemattomasti käyttäytyvä.
—
Olen itse seurannut tekoälyturvallisuuskeskustelua vierestä suunnilleen vuodesta 2018. Olen itse työskennellyt datatieteilijänä, ja olen ollut kaikin puolin teknopessimisti. Minun on ollut helppo uskoa, että jos joku onnistuisi koodaamaan superälykkään tai edes ihmistä vähän älykkäämmän tekoälyn, se kyllä toimisi niin huonosti ja arvaamattomasti, että se olisi ihmiselle vaarallinen. En siis tarvitse paljonkaan vakuutteluja siitä, että supertekoälyn rakentaminen olisi huono idea. En ole kuitenkaan ollut asiasta hirveän huolissani, koska en ole uskonut, että kukaan kuitenkaan onnistuu rakentamaan supertekoälyä.
Vuonna 2018 olin myös vakuuttunut siitä, ettei ole millään nykyisenkaltaisella teknologialla mahdollista tehdä yhtä tekoälymallia, joka sekä kääntää kieliä, muuttaa ongelmankuvauksia koodiksi, tiivistää dokumentteja tai vaikka suunnittelee minulle viikon ruuat. Nyt ChatGPT ja muut suuret kielimallit ovat netissä jokaisen saatavilla.
Tarkoittaako se, että supertekoäly on nurkan takana? Toivottavasti ei.
En ole enää niin vakuuttunut siitä, että tuo ”toivottavasti” on niin vahva suoja, etteikö supertekoälyasialle tarvitsisi tehdä yhtään mitään. Isot firmat väittävät yrittävänsä tehdä sellaista, mikä onnistuessaan olisi minun(kin) parhaan ymmärrykseni mukaan huono ja tuhoisa idea. Pidän edelleen todennäköisenä, että ne eivät onnistu, ja toivon, että väitteet yrittämisestä ovat vain mainospuheita. Olisi kuitenkin parempi, jos yrittäminenkin olisi tiukasti säänneltyä.
Mitä asialle sitten voisi tehdä? Kirjan lopussa listataan muutaman kohdan ohjelma, joka ei sisällä lainkaan sellaisia EA-liikkeessä usein kuultuja neuvoja kuten ”ryhdy tekoälyriskitutkijaksi”. (Kirjoittajat saattavat uskoa tämän lähinnä kiihdyttävän kehitystä, vaikka tarkoitus olisi päinvastainen.) Sen sijaan he kehottavat poliitikkoja ja median edustajia pitämään aihetta esillä ja herättelemään toisiakin sen vakavuuteen. Rivikansalaisia taas he kannustavat ottamaan yhteyttä päättäjiin vaatiakseen heiltä toimia ja osallistumaan sellaisiin mielenosoituksiin, jotka keräävät riittävästi muita osallistujia.
—
Soares ilmeisesti vitsaili, että Yudkowsky kirjoitti kirjasta 300 prosenttia ja hän itse negatiiviset 200 prosenttia. Tekstin perusteella tällainen työnjako tuntuu hyvin mahdolliselta, sillä kirjan tyyli on muuhun keskeiseen tekoälyriskikirjallisuuteen verrattuna helppolukuinen, selkeä ja asiassa pysyvä. Kirjoittajakaksikon tausta on teoreettinen, mutta kirjan ajatuskokeissakin keksityt esimerkit on pyritty viemään niin pitkälle konkretian ja nykyaikaisen tekoälykehityksen tasolle kuin mahdollista. Kirja omistaa kyllä useamman luvun hypoteettiselle esimerkkiskenaariolle maailmaa valtaavasta tekoälystä, mutta tässä tarinassa se ei ole ihmisten veren rautaa himoitseva paperiliitinmaksimoija, vaan muistuttaa nykyaikaisia tekstiä tuottavia kielimalleja.
Kaksikon teknoutopistinen tausta näkyy mm. pohdinnoissa siitä, millainen olisi maapallolla kehitetyn haitallisen tekoälyn vaikutus mahdollisiin kaukaisen avaruuden sivilisaatioihin. Se estäisi missä tahansa päin avaruutta arvoa tuottavalla tavalla kehitettyä supertekoälyä hyödyntämästä omaa avaruuden kolkkaamme, mikä on tietysti harmi. Useimmille ihmisille relevantimpaa on silti supertekoälyn vaikutus heihin itseensä ja heidän läheisiinsä.
Henkilökohtaisesti en oikein välittänyt monet luvut aloittavista vertauskuvallisista tarinoista, mutta ne voivat ehkä selkiyttää kaksikon ajattelutapaa ihmiselle, jolle aihepiiri ei ole entuudestaan yhtä tuttu kuin minulle. Pääosin teksti kuitenkin pysyy asiassa, vääntää rautalangasta ja on kaikin puolin yllättävän selkeää juuri näiden kirjoittajien tuottamaksi.