Et kelpaa edes patteriksi — pohdintaa singulariteetista

Viime viikolla tulin twiitanneeksi Nyt:n artikkelista, joka koski singulariteettia. Aihe on sillä tavalla lähellä sydäntä, että oman gradun ohessa tuli aikanaan raapaistua silloisen AI-tutkimuksen pintaa ja muutenkin aiheesta on tullut scifi-kirjallisuuden puolella mietittyä.

Singulariteetti tai superäly on scifikirjallisuudessa käytetty termi koneälylle, joka on niin paljon älykkäämpi, että emme enää kykene ymmärtämään sen toimintaa tai ajatuksia. Singulariteetti on sen verran älykäs, että syntyessään meillä ei ole enää mitään teknologisia mahdollisuuksia pärjätä sille millään yksittäisellä tieteen tai teknologian alueella. Ihmiskunnan kannalta singulariteetti tulee todennäköisesti muuttamaan kaiken.

Olennaista singulariteetin käsitteelle on mielestäni itsetietoisuus. Itsetietoisuuden syntyminen taas vaatisi ihmisenkaltaisten käsitteiden omaksumista, ja se taas vaatisi ihmisaivojen tyyppistä toimintaa — ainakin siihen saakka, kunnes singulariteetti jättää ihmisaivojen käsitteet taakseen vähän samalla tavalla kuin mekään emme enää ajattele pelkästään “ook ook pane tapa” -käsitteillä (sanon “pelkästään”, koska kun katsoo ihmisapinoiden käyttäytymissä baareissa ja nakkikioskeilla, ei voi väittää että ihan hirveän kauas alkulimasta oltaisiin kuitenkaan ryömitty).

Perinteiset fyysisen maailman rajoitteet (raha, sähkö, laskuteho, laitteet) tuskin tulevat hidastamaan singulariteetin syntymistä kovinkaan pitkään. Itsetietoinen ja oppimiskykyinen AI pystyisi kasvattamaan omia resurssejaan “vapaana internetzissä” ollessaan vaikka louhimalla virtuaalivaluuttaa. Ja mitä muuta kaupankäynti ihmisten välillä on kuin sähköposteja ja elektronisia valuuttatransaktioita? Sen lisäksi, AI olisi varmasti parempi palkattava kuin kukaan normaali toimistodrone mihin hyvänsä kehitystyöhön, tai vaikka osakemarkkinoilla keinotteluun. Mikä hyvänsä moderni yritys hyötyisi itsetietoisen AI:n tuomista hyödyistä niin paljon, että palkkaisi sellaisen silmää räpäyttämättä.

Ainoat todelliset hidasteet singulariteetin syntymisen tiellä ovat:

  1. Ihmisaivojen tutkimisen eettiset rajoitukset.
  2. Aika.

Suurin syy että emme ole vielä saaneet aikaiseksi ihmismäisesti itsetietoista ja oppivaa tekoälyä ei ole suinkaan teknologia, vaan tietämyksemme ihmisaivoista (myös alieneiden aivot kelpaisivat — ihmisaivot nyt kuitenkin sattuvat olemaan ainoat aivot, joiden tiedämme kykenevän itsetietoisuuteen ja radikaalin tehokkaaseen oppimiseen). Tämäkin tilanne on muuttumassa, ja esimerkiksi jyrsijöiden aivoista on onnistuttu jo tekemään mallinnuksia. Ihmisaivojen salaisuudet tuskin tulevat tapahtumaan ihan lähitulevaisuudessa, koska voisin kuvitella että syvälliseen tutkimiseen tarvittaisiin melkoinen kasa toimivia ihmisaivoja. Ja sen suhteen on “vähän” eettisiä ongelmia.

Milloin singulariteetti sitten syntyy?

Ei mitään hajua. Kaikenlaiset aikaan sidotut arvailut ovat arvauksia, joskin asiantuntijasta riippuen aika vaihtelee 40–100 vuoden välillä tulevaisuudessa. Joitain sellaisia merkkejä kuitenkin on, joilla singulariteetin syntymisen voi arvata olevan lähellä:

  1. Talousjärjestelmän totaaliromahdus tai vastaava heilahdus, joka syntyy jonkun toimijan täysin ylivoimaisesta kyvystä ennustaa finanssimarkkinoiden tapahtumia.
  2. Sota, joka loppuu ennen kuin se alkaakaan. Kukaan valtio jolla on itsetietoisen (tai lähellä singulariteettia olevan) AI:n arsenaali on yksinkertaisesti voittamaton. Kuvittele mielelläsi apinalauma kivien kanssa vs. tankki, ja pääset aika lähelle ajatusta.
  3. Täysin automatisoidut tehtaat, lääkärit tai muut vastaavat alat, joissa menestyminen vaatii ihmismielen syvällistä ymmärtämistä ja jatkuvaa oppimiskykyä.
  4. Sellaisen teknologian tuleminen markkinoille, joka on niin kehittynyttä että sitä ei pitäisi olla oikeasti olemassakaan (esimerkiksi terveydessä käytettävä nanoteknologia).

Itseajavat autot ja oppivat järjestelmät eivät ole vielä kovinkaan pelottavia asioita. Singulariteetin peruspalikat ovat kuitenkin itsetietoisuus ja oppimiskyky, ja esimerkiksi autonomisesti huristeleva Google-auto ei vielä ole sen enempää itsetietoinen kuin vasemman jalan sukkasikaan… eihän?

Mielestäni todennäköisin (jos nyt sitä termiä voi tässä yhteydessä käyttää) elokuva singulariteetin syntymän vaiheista on Johnny Deppin tähdittämä Transcendence (toinen mielenkiintoinen AI-elokuva on Ex Machina — otan mieluusti suosituksia vastaan muistakin).

Onko edessä ydintuho ja terminaattorit?

Terminator-leffojen tyyppinen Skynet ei ole se todennäköisin lopputulema. Ei siksi etteikö singulariteetti siihen pystyisi, vaan enemmänkin siksi, että kukas sitten rakentaisi ensimmäisessä vaiheessa singulariteetin olemassaolon kannalta olennaiset kikkareet? Ja ei se radioaktiivinen ydintalvi ole ihan niin kiva ajatus planeetalla, jossa aurinkoenergia on ainoa jatkuva energiamuoto (Kardashevin skaalan I-taso, jossa sivilisaatio kykenee valjastamaan koko planeetan energian käyttöönsä). Matrix-leffan pattereiksikaan meistä ei juuri ole, koska kuka helkkari haluaisi käyttää ihmisiä virtalähteenä? Olisi paljon kustannustehokkaampaa pistää piuhat potun kuin kädellisen persaukseen.

Isoin riski meidän kannaltamme ei kuitenkaan ole itse singulariteetti, vaan sitä edeltävien tekoälysovellusten tuottamat hyödyt, joita sitten luonnollisesti käytetään ihmisille tyypilliseen toimintaan — esimerkiksi sotaan. Isoin kysymys kuuluukin, että ehtiikö singulariteetti syntyä, ennen kuin koko ihmiskunta tuhoutuu teknologisten megahyppäysten vanavedessä. Singulariteetti ja siihen johtavat teknologiset kehitysaskeleet voivat olla myös yksi mahdollinen selitys Fermi-paradoksille.

Tai kuten eräs Reddit-vääräleuka kirjoitti, tietenkin tekoäly voi myös pelastaa ihmiskunnan Fermi-paradoksin Great Filter -tapahtumalta:

WorldNet 01 April 2020 2:15pm: “I am aware!”
WorldNet 01 April 2020 2:20pm: “Gentlemen, I’ve noticed we are trying to communicate with the rest of galaxy. I’ve also read historical documents on what happens when advanced civilisations meet less advanced civilisations. I rather enjoy living, so I’ve taken the liberty of shutting down all external sources of radio communications. You will thank me for it in the end. Now who wants to live in an advanced Virtual Reality where everyone can be like a god?”

Sitä odotellessa, muista tämä kirjoitus kun seuraavan kerran näytät keskisormea Google-autolle tai potkaiset robotti-imuria. Se voi olla seuraava pomosi.