Syy tämän (ja muiden) artikkelin paljastumiseen on yksinkertainen: ehkä tekoäly ei ole vain tärkeä keskustelun aihe, vaan tärkein tulevaisuuden yhteydessä. Jokainen, joka edes vähän perehtyy tekoälyn potentiaalin ytimeen, ymmärtää, että tätä aihetta ei voida jättää huomiotta. Jotkut - ja heidän joukossaan Elon Musk, Stephen Hawking, Bill Gates - eivät planeettamme kaikkein typerimpiä ihmisiä - uskovat, että tekoäly muodostaa eksistentiaalisen uhan ihmiskunnalle, joka on mittakaavassa verrattavissa lajien täydelliseen sukupuuttoon. No, istu alas ja merkitse i: t itsellesi.
"Olemme muutosten partaalla, jotka ovat verrattavissa ihmiselämän alkuperään maan päällä" (Vernor Vinge).
Mitä tarkoittaa olla tällaisen muutoksen partaalla?
Ei taida olla mitään erikoista. Mutta sinun on muistettava, että kun olet tällaisessa paikassa kaaviossa, et tiedä, mikä on oikealla puolellasi. Sinun pitäisi tuntea jotain tällaista:
Fiilikset ovat normaalit, lento sujuu hyvin.
Tulevaisuus on tulossa
Kuvittele, että aikakone kuljetti sinut vuoteen 1750 - aikaan, jolloin maailmassa oli jatkuvasti sähkökatkoksia, kaupunkien välinen kommunikaatio tarkoitti tykkilaukauksia ja kaikki kuljetus tapahtui heinällä. Oletetaan, että tulet sinne, otat jonkun ja tuod hänet vuoteen 2015, näytä kuinka täällä on. Emme voi ymmärtää, millaista hänen olisi nähdä kaikki nämä kiiltävät kapselit lentämässä teiden varrella; puhua ihmisten kanssa meren toisella puolella; katso urheilupelit tuhannen kilometrin päässä; kuulla musiikillinen esitys, joka on tallennettu 50 vuotta sitten; leikkiä maagisella suorakulmiolla, jolla voi ottaa valokuvan tai ottaa elävän hetken; rakentaa kartta, jossa on paranormaali sininen piste, joka osoittaa sen sijainnin; katso jonkun kasvoja ja kommunikoi hänen kanssaan monien kilometrien päässä jne. Kaikki tämä on selittämätöntä taikuutta lähes kolmesataa vuotta vanhoille ihmisille. Puhumattakaan Internetistä, kansainvälisestä avaruusasemasta, suuresta hadronitörmäyksestä, ydinaseista ja yleisestä suhteellisuusteoriasta.
Tällainen kokemus hänelle ei ole yllättävää tai järkyttävää - nämä sanat eivät välitä henkisen romahduksen koko olemusta. Matkustajamme voi kuolla kokonaan.
Mutta on mielenkiintoinen seikka. Jos hän palaa vuoteen 1750 ja on kateellinen siitä, että halusimme nähdä hänen reaktionsa vuoteen 2015, hän voi ottaa aikakoneen mukaansa ja yrittää tehdä saman esimerkiksi 1500: lla. Hän lentää sinne, löytää ihmisen, noutaa hänet vuonna 1750 ja näyttää kaiken. Vuodesta 1500 peräisin oleva mies on järkyttynyt mittaamattomasti - mutta ei todennäköisesti kuole. Vaikka hän on tietysti yllättynyt, ero 1500 ja 1750 välillä on paljon pienempi kuin vuosina 1750–2015. Ihminen vuodesta 1500 tulee yllättymään fysiikan hetkistä, hämmästymään siitä, mitä Euroopasta on tullut kovan kantapään alla imperialismista, piirtää päähänsä uuden maailmankartan … Mutta arki vuonna 1750 - liikenne, viestintä jne. - ei todennäköisesti yllätä häntä kuolemaan.
Ei, jotta 1750 -luvun kaverilla olisi yhtä hauskaa kuin meillä, hänen on mentävä paljon pidemmälle - ehkä tällainen vuosi 12 000 eaa. EKr., Jo ennen kuin ensimmäinen maatalousvallankumous synnytti ensimmäiset kaupungit ja sivilisaation käsitteen. Jos joku metsästäjien ja keräilijöiden maailmasta näki siitä lähtien, kun ihmiset olivat vielä enemmän muita eläinlajeja, näki vuoden 1750 valtavat ihmisimperiumit korkeilla kirkoillaan, valtamerten ylittävillä aluksilla, käsityksellään olla "rakennuksen sisällä", kaikki tämä tieto - hän olisi todennäköisesti kuollut.
Ja sitten kuoleman jälkeen hän olisi kadehtinut ja halunnut tehdä samoin. Palaa 12 000 vuotta sitten, 24 000 eaa. e., olisi ottanut henkilön ja tuonut hänet ajoissa. Ja uusi matkustaja sanoisi hänelle: "No, se on hyvä, kiitos." Koska tässä tapauksessa henkilö 12.000 eaa. NS. Olisi välttämätöntä palata 100 000 vuotta taaksepäin ja näyttää paikallisten aboriginaalien tuli ja kieli ensimmäistä kertaa.
Jos meidän on kuljetettava joku tulevaisuuteen yllättyäksemme kuolemasta, edistyksen on kuljettava tietty matka. Kuoleman edistyminen (TPP) on saavutettava. Toisin sanoen, jos metsästäjä-keräilijöiden aikaan TSP kesti 100 000 vuotta, seuraava pysähdys tapahtui jo 12 000 eaa. NS. Sen jälkeen kehitys oli jo nopeampaa ja muutti maailman radikaalisti vuoteen 1750 mennessä (suunnilleen). Sitten kesti pari sataa vuotta, ja tässä ollaan.
Tämä kuva - jossa ihmisen kehitys etenee nopeammin ajan myötä - futuristi Ray Kurzweil kutsuu ihmiskunnan historian palauttamisen lakia. Tämä johtuu siitä, että kehittyneemmät yhteiskunnat kykenevät viemään kehitystä nopeammin kuin vähemmän kehittyneet yhteiskunnat. 1800 -luvun ihmiset tiesivät enemmän kuin 1500 -luvun ihmiset, joten ei ole yllättävää, että edistyminen 1800 -luvulla oli nopeampaa kuin 15 -luvulla jne.
Pienemmässä mittakaavassa tämä toimii myös. Back to the Future julkaistiin vuonna 1985 ja menneisyys vuonna 1955. Kun elokuvassa Michael J. Fox palasi vuonna 1955, hänet hämmästytti televisioiden uusuus, soodan hinta, rakkauden puute kitaraäänelle ja slangin vaihtelut. Maailma oli tietysti erilainen, mutta jos elokuva kuvattaisiin tänään ja menneisyys oli vuonna 1985, ero olisi paljon maailmanlaajuisempi. Marty McFly, ajassa taaksepäin henkilökohtaisten tietokoneiden, Internetin ja matkapuhelimien ajoista, olisi paljon epäolennaisempi kuin Marty, joka meni vuoteen 1955 vuodesta 1985.
Kaikki tämä johtuu palauttavan lain nopeudesta. Edistymisen keskimääräinen kehitysaste vuosina 1985–2015 oli korkeampi kuin vuosina 1955–1985 - koska ensimmäisessä tapauksessa maailma oli kehittyneempi, se oli kyllästynyt viimeisten 30 vuoden saavutuksiin.
Niinpä mitä enemmän saavutuksia, sitä nopeammin muutokset tapahtuvat. Mutta eikö sen pitäisi jättää meille tiettyjä vihjeitä tulevaisuutta varten?
Kurzweil ehdottaa, että koko 1900 -luvun edistys olisi voinut tapahtua vain 20 vuodessa vuoden 2000 kehitystasolla - eli vuonna 2000 edistyminen oli viisi kertaa nopeampaa kuin 1900 -luvun keskimääräinen edistymisaste. Hän uskoo myös, että koko 1900 -luvun edistyminen vastasi ajanjakson 2000--2014 edistymistä ja toisen 1900 -luvun edistyminen vastaa vuotta 2021 - eli vain seitsemän vuoden kuluttua. Useiden vuosikymmenten jälkeen kaikki 1900 -luvun kehitys tapahtuu useita kertoja vuodessa ja sitten vain kuukaudessa. Lopulta palauttamisen laki vie meidät siihen pisteeseen, että koko 21. vuosisadan edistyminen on 1000 kertaa suurempi kuin 1900 -luvun edistys.
Jos Kurzweil ja hänen kannattajansa ovat oikeassa, 2030 yllättää meidät samalla tavalla kuin vuoden 1750 kaveri olisi yllättynyt vuodesta 2015 - eli seuraava TSP kestää vain pari vuosikymmentä - ja maailma 2050 on niin erilainen nykyaikaisesta, jota tuskin saamme selville. Ja tämä ei ole fiktiota. Tämä on monien tiedemiesten mielipide, jotka ovat älykkäämpiä ja koulutetumpia kuin sinä ja minä. Ja jos katsot historiaa, ymmärrät, että tämä ennuste seuraa puhtaasta logiikasta.
Miksi sitten, kun kohtaamme lausuntoja, kuten "maailma 35 vuoden kuluttua muuttuu tuntemattomaksi", me epäilevästi kohautamme olkapäitämme? Epäilyksemme tulevista ennusteista on kolme syytä:
1. Historian suhteen ajattelemme suoria linjoja. Yrittäessämme visualisoida seuraavan 30 vuoden edistymistä katsomme edellisen 30 vuoden edistymistä indikaattorina siitä, kuinka paljon todennäköisesti tapahtuu. Kun ajattelemme, miten maailmamme muuttuu 2000 -luvulla, otamme 1900 -luvun edistyksen ja lisäämme sen vuoteen 2000. Sama virhe, jonka kaverimme vuodelta 1750 tekee, kun hän saa jonkun 1500: sta ja yrittää yllättää hänet. Ajattelemme intuitiivisesti lineaarisesti, kun meidän pitäisi olla eksponentiaalisia. Pohjimmiltaan futuristin tulisi yrittää ennustaa seuraavan 30 vuoden edistymistä, ei katsoa edellisiä 30, vaan arvioimalla edistymisen nykyistä tasoa. Silloin ennuste on tarkempi, mutta silti portin takana. Jotta voisit ajatella oikein tulevaisuutta, sinun on nähtävä asioiden liikkuvan paljon nopeammin kuin nyt.
[/keskusta]
2. Lähihistorian liikerata on usein vääristynyt. Ensinnäkin jopa jyrkkä eksponentiaalikäyrä näyttää lineaariselta, kun näet sen pieniä osia. Toiseksi eksponentiaalinen kasvu ei ole aina tasaista ja tasaista. Kurzweil uskoo, että edistys liikkuu käärmekaarissa.
Tällainen käyrä käy läpi kolme vaihetta: 1) hidas kasvu (eksponentiaalisen kasvun alkuvaihe); 2) nopea kasvu (räjähtävä, eksponentiaalisen kasvun myöhäisvaihe); 3) vakauttaminen tietyn paradigman muodossa.
Jos katsot viimeistä tarinaa, S-käyrän osa, jossa olet tällä hetkellä, voi piilottaa edistymisen nopeuden havainnoistasi. Osa vuodesta 1995 vuoteen 2007 käytettiin Internetin räjähdysmäiseen kehitykseen, Microsoftin, Googlen ja Facebookin esittelyyn yleisölle, sosiaalisten verkostojen syntymiseen ja matkapuhelimien ja sitten älypuhelimien kehittämiseen. Tämä oli käyrämme toinen vaihe. Mutta ajanjakso 2008–2015 oli vähemmän häiritsevä, ainakin teknologian kannalta. Ne, jotka ajattelevat tulevaisuutta tänään, voivat viedä viimeiset pari vuotta edistymisen yleisen vauhdin mittaamiseen, mutta he eivät näe suurempaa kuvaa. Itse asiassa uusi ja voimakas vaihe 2 saattaa olla juuri valmistumassa.
3. Omat kokemuksemme tekevät meistä pahoja vanhoja ihmisiä tulevaisuuden suhteen. Perustamme ajatuksemme maailmasta omaan kokemukseemme, ja tämä kokemus on asettanut meille lähitulevaisuuden kasvuvauhdin itsestäänselvyytenä. Myös mielikuvituksemme on rajallinen, koska ne käyttävät kokemustamme ennustaaksemme - mutta useimmiten meillä ei yksinkertaisesti ole työkaluja, joiden avulla voimme ennustaa tarkasti tulevaisuuden. Kun kuulemme ennusteita tulevaisuudesta, jotka ovat ristiriidassa päivittäisten käsitystemme kanssa siitä, miten asiat toimivat, pidämme niitä vaistomaisesti naiiveina. Jos sanoin, että elät 150 tai 250 vuoden ikään tai et ehkä kuole ollenkaan, ajattelet vaistomaisesti, että "tämä on tyhmää, tiedän historiasta, että tänä aikana kaikki kuolivat". Näin on: kukaan ei elänyt nähdäkseen tällaisia vuosia. Mutta yksikään lentokone ei lentänyt ennen lentokoneiden keksimistä.
Näin ollen, vaikka skeptisyys näyttää sinulle järkevältä, se on useimmiten väärin. Meidän on hyväksyttävä, että jos me aseistamme itsemme puhtaalle logiikalle ja odotamme tavanomaisia historiallisia siksakkeja, meidän on myönnettävä, että hyvin, hyvin, hyvin paljon on muututtava tulevina vuosikymmeninä; paljon enemmän kuin intuitiivisesti. Logiikka määrää myös, että jos planeetan kehittyneimmät lajit jatkavat valtavia harppauksia eteenpäin, nopeammin ja nopeammin, jossain vaiheessa hyppy on niin vakava, että se muuttaa radikaalisti elämää sellaisena kuin me sen tunnemme. Jotain vastaavaa tapahtui evoluutioprosessissa, kun ihmisestä tuli niin älykäs, että hän muutti täysin minkä tahansa muun lajin elämän planeetalla. Ja jos käytät vähän aikaa lukeaksesi mitä tieteessä ja tekniikassa tapahtuu juuri nyt, saatat alkaa nähdä joitakin vihjeitä siitä, millainen seuraava suuri harppaus tulee olemaan.
Tie superintelligenssiin: mikä on AI (tekoäly)?
Kuten monet ihmiset tällä planeetalla, olet tottunut ajattelemaan tekoälyä typeränä tieteisideana. Mutta viime aikoina monet vakavat ihmiset ovat osoittaneet huolta tästä tyhmästä ajatuksesta. Mikä hätänä?
On kolme syytä, jotka johtavat sekaannukseen AI -termin ympärillä:
Yhdistämme tekoälyn elokuviin. "Tähtien sota". "Terminaattori". "Avaruusodysseia 2001". Mutta kuten robotit, näiden elokuvien tekoäly on fiktiota. Siten Hollywood -nauhat laimentavat havaintomme tasoa, tekoälystä tulee tuttu, tuttu ja tietysti paha.
Tämä on laaja sovellusalue. Se alkaa laskimella puhelimessasi ja itseohjautuvien autojen kehittämisestä tulevaisuuteen, joka mullistaa maailman. AI tarkoittaa kaikkia näitä asioita, ja se on hämmentävää.
Käytämme tekoälyä joka päivä, mutta usein emme edes huomaa sitä. Kuten termi "tekoäly" keksijä John McCarthy vuonna 1956 sanoi, "kun se toimii, kukaan ei enää kutsu sitä tekoälyksi". Tekoälystä on tullut enemmän kuin myyttinen ennuste tulevaisuudesta kuin jotain todellista. Samalla tällä nimellä on myös maku menneisyydestä, josta ei ole koskaan tullut todellisuutta. Ray Kurzweil sanoo kuulevansa ihmisten yhdistävän tekoälyn 80 -luvun tosiasioihin, joita voidaan verrata "väittämiseen, että internet kuoli dotcomien kanssa 2000 -luvun alussa".
Olkaamme selkeitä. Lopeta ensin ajattelemasta robotteja. Robotti, joka on tekoälyn säiliö, joskus jäljittelee ihmisen muotoa, joskus ei, mutta tekoäly itse on robotin sisällä oleva tietokone. Tekoäly on aivot ja robotti on keho, jos sillä on keho ollenkaan. Esimerkiksi Sirin ohjelmisto ja tiedot ovat tekoälyä, naisen ääni on tämän tekoälyn personifikaatio, eikä tässä järjestelmässä ole robotteja.
Toiseksi olet luultavasti kuullut termin "singulariteetti" tai "teknologinen singulariteetti". Tätä termiä käytetään matematiikassa kuvaamaan epätavallista tilannetta, jossa tavalliset säännöt eivät enää toimi. Fysiikassa sitä käytetään kuvaamaan mustan aukon äärettömän pientä ja tiheää pistettä tai alkuräjähdyksen alkuperäistä pistettä. Jälleen, fysiikan lait eivät toimi siinä. Vuonna 1993 Vernor Vinge kirjoitti kuuluisan esseen, jossa hän käytti termiä tulevaisuuden hetkeen, jolloin teknologiamme älykkyys ylittää omamme - jolloin elämä sellaisena kuin se tunnemme muuttuu ikuisesti, ja sen olemassaolon tavanomaiset säännöt ei enää toimi …. Ray Kurzweil tarkensi tätä termiä edelleen ja huomautti, että singulaarisuus saavutetaan, kun nopeutuvan palautumisen laki saavuttaa ääripisteen, kun teknologinen kehitys etenee niin nopeasti, että lakkaamme huomaamasta sen saavutuksia, lähes äärettömän nopeasti. Sitten elämme täysin uudessa maailmassa. Monet asiantuntijat ovat kuitenkin lopettaneet tämän termin käytön, joten emme viittaa siihen usein.
Lopuksi, vaikka tekoälyn laajasta käsitteestä johtuvat monet AI -tyypit tai -muodot, tekoälyn pääluokat riippuvat kaliiperista. Pääluokkia on kolme:
Keskitetty (heikko) tekoäly (AI). UII on erikoistunut yhteen alueeseen. Näiden tekoälyjen joukossa on niitä, jotka voivat voittaa shakin maailmanmestarin, mutta siinä kaikki. On yksi, joka voi tarjota parhaan tavan tallentaa tiedot kiintolevylle, ja siinä kaikki.
Yleinen (vahva) tekoäly. Joskus kutsutaan myös ihmisen tason AI: ksi. AGI viittaa tietokoneeseen, joka on yhtä älykäs kuin henkilö - kone, joka pystyy suorittamaan kaikki ihmiselle ominaiset älylliset toimet. AGI: n luominen on paljon vaikeampaa kuin AGI, emmekä ole vielä päässeet siihen. Professori Linda Gottfredson kuvailee älykkyyttä "yleisessä mielessä psyykkiseksi potentiaaliksi, johon kuuluu muun muassa kyky pohtia, suunnitella, ratkaista ongelmia, ajatella abstraktisti, ymmärtää monimutkaisia ideoita, oppia nopeasti ja oppia kokemuksesta". AGI: n pitäisi pystyä tekemään tämä kaikki yhtä helposti kuin sinä.
Keinotekoinen älykkyys (ISI). Oxfordin filosofi ja tekoälyteoreetikko Nick Bostrom määrittelee superintelligenssin "älykkyydeksi, joka on paljon älykkäämpi kuin ihmisen paras mieli lähes kaikilla aloilla, mukaan lukien tieteellinen luovuus, yleinen viisaus ja sosiaaliset taidot". Keinotekoiseen älykkyyteen kuuluu sekä henkilöä hieman älykkäämpi tietokone että biljoonaa kertaa älykkäämpi mihin tahansa suuntaan. ISI on syy kasvavaan kiinnostukseen tekoälyä kohtaan ja siihen, että sanat "sukupuutto" ja "kuolemattomuus" esiintyvät usein tällaisissa keskusteluissa.
Nykyään ihmiset ovat jo voittaneet AI -kaliiperin ensimmäisen vaiheen - AI - monin tavoin. Tekoälyn vallankumous on matka AGI: sta AGI: n kautta ISI: hen. Tätä polkua emme ehkä selviä, mutta se muuttaa varmasti kaiken.
Katsotaanpa tarkasti, miten alan johtavat ajattelijat näkevät tämän polun ja miksi tämä vallankumous voisi tapahtua nopeammin kuin luulisi.
Missä olemme tässä streamissa?
Keskitetty tekoäly on koneälyä, joka on yhtä suuri tai suurempi kuin ihmisen älykkyys tai tehokkuus tietyn tehtävän suorittamisessa. Muutama esimerkki:
* Autot ovat täynnä ICD-järjestelmiä tietokoneista, jotka määrittävät, milloin lukkiutumattoman jarrujärjestelmän pitäisi käynnistyä, ja tietokoneeseen, joka määrittää polttoaineen ruiskutusjärjestelmän parametrit. Googlen itse ajavat autot, joita testataan parhaillaan, sisältävät tehokkaita tekoälyjärjestelmiä, jotka havaitsevat ympäröivän maailman ja reagoivat siihen.
* Puhelimesi on pieni ICD -tehdas. Kun käytät karttasovellusta, saat suosituksia sovellusten tai musiikin lataamisesta, tarkistat huomisen sään, puhut Sirille tai teet mitä tahansa muuta - käytät tekoälyä.
* Sähköpostisi roskapostisuodatin on klassinen tekoälyn tyyppi. Se alkaa selvittämällä, kuinka erottaa roskapostit käyttökelpoisista sähköposteista, ja oppii sitten, kun se käsittelee sähköpostisi ja asetuksesi.
* Ja tämä hankala tunne, kun etsit eilen ruuvimeisseliä tai uutta plasmaa hakukoneesta, mutta tänään näet tarjouksia hyödyllisistä kaupoista muilla sivustoilla? Tai kun sosiaalinen verkosto suosittelee sinua lisäämään mielenkiintoisia ihmisiä ystäviksi? Kaikki nämä ovat tekoälyjärjestelmiä, jotka toimivat yhdessä ja määrittävät mieltymyksesi, hakevat sinusta tietoja Internetistä ja tulevat yhä lähemmäksi sinua. He analysoivat miljoonien ihmisten käyttäytymistä ja tekevät näiden analyysien perusteella johtopäätöksiä myydäkseen suurten yritysten palveluita tai parantaakseen palvelujaan.
* Google -kääntäjä, toinen klassinen tekoälyjärjestelmä, on vaikuttava hyvä tietyissä asioissa. Samoin äänentunnistus. Kun lentokoneesi laskeutuu, henkilö ei tunnista sen terminaalia. Lipun hinta on sama. Maailman parhaita nappuloita, shakkia, backgammonia, puskutraktoria ja muita pelejä edustaa nykyään kapeasti keskittynyt tekoäly.
* Google -haku on jättiläinen tekoäly, joka käyttää uskomattoman älykkäitä menetelmiä sivujen sijoittamiseen ja SERP -määritysten määrittämiseen.
Ja tämä on vain kuluttajamaailmassa. Kehittyneitä IMD -järjestelmiä käytetään laajalti armeija-, valmistus- ja rahoitusalalla; lääketieteellisissä järjestelmissä (ajattele IBM: n Watsonia) ja niin edelleen.
IMD -järjestelmät eivät nykyisessä muodossaan muodosta uhkaa. Pahimmassa tapauksessa buginen tai huonosti ohjelmoitu tekoäly voi johtaa paikalliseen katastrofiin, sähkökatkoihin, rahoitusmarkkinoiden romahtamiseen ja vastaaviin. Mutta vaikka AGI: lla ei ole valtuuksia luoda eksistentiaalista uhkaa, meidän on nähtävä asiat laajemmin - meitä odottaa tuhoisa hirmumyrsky, jonka edelläkävijä on AII. Jokainen uusi innovaatio AGI: ssä lisää yhden lohkon AGI: hen ja ISI: hen johtavalle polulle. Tai kuten Aaron Saenz on hyvin todennut, maailman AI: t ovat kuin "nuoren maan alkukeiton aminohapot" - kuitenkin elottomat elämän osat, jotka heräävät jonain päivänä.
Tie AGI: stä AGI: miksi se on niin vaikeaa?
Mikään ei paljasta ihmisen älykkyyden monimutkaisuutta enemmän kuin yrittää luoda tietokone, joka on yhtä älykäs. Pilvenpiirtäjien rakentaminen, avaruuteen lentäminen, alkuräjähdyksen salaisuudet - kaikki tämä on hölynpölyä verrattuna omien aivojemme toistamiseen tai ainakin vain ymmärtämiseen. Ihmisen aivot ovat tällä hetkellä tunnetuimman maailmankaikkeuden monimutkaisin kohde.
Ehkä et edes epäile, mikä on vaikeaa AGI: n (tietokoneen, joka on älykäs henkilö, yleensä, eikä vain yhdellä alueella) luomisessa. Tietokoneen rakentaminen, joka voi kertoa kaksi kymmenen numeroa sekunnin murto-osassa, on yhtä helppoa kuin päärynöiden kuoriminen. On erittäin vaikeaa luoda koira, joka voi katsoa koiraa ja kissaa ja kertoa, missä koira on ja missä kissa on. Luo tekoäly, joka voi voittaa suurmestarin? Valmistettu. Yritä nyt saada hänet lukemaan kappale kuuden vuoden vanhasta kirjasta ja ymmärtämään sanojen lisäksi myös niiden merkitys. Google käyttää miljardeja dollareita yrittäessään tehdä tämän. Monimutkaisilla asioilla - kuten laskelmilla, rahoitusmarkkinastrategioiden laskemisella, kielen kääntämisellä - tietokone selviää tästä helposti, mutta yksinkertaisilla asioilla - visio, liike, käsitys - ei. Kuten Donald Knuth sanoi, "tekoäly tekee nyt melkein kaiken, mikä vaatii" ajattelua ", mutta se ei voi selviytyä siitä, mitä ihmiset ja eläimet tekevät ajattelematta."
Kun ajattelet tämän syitä, huomaat, että asiat, jotka näyttävät meille yksinkertaisilta, näyttävät vain siltä, koska ne on optimoitu meille (ja eläimille) satojen miljoonien vuosien kehityksen aikana. Kun ojennat kätesi esineeseen, lihakset, nivelet, hartioiden, kyynärpäiden ja käsien luut suorittavat välittömästi pitkiä fyysisten toimintojen ketjuja, jotka ovat synkronisia näkemäsi kanssa, ja liikuttele käsiäsi kolmessa ulottuvuudessa. Se tuntuu sinusta yksinkertaiselta, koska aivosi ihanteellinen ohjelmisto on vastuussa näistä prosesseista. Tämä yksinkertainen temppu tekee uuden tilin rekisteröintimenettelystä kirjoittamalla väärin kirjoitetun sanan (captcha) yksinkertaiseksi sinulle ja helvetin ilkeälle botille. Aivoillemme tämä ei ole vaikeaa: sinun tarvitsee vain nähdä.
Toisaalta suurten lukujen kertominen tai shakin pelaaminen ovat uusia toimintoja biologisille olennoille, eikä meillä ollut tarpeeksi aikaa parantaa niitä (ei miljoonia vuosia), joten tietokoneen ei ole vaikea voittaa meitä. Ajatelkaapa sitä: Haluatko mieluummin luoda ohjelman, joka voi kertoa suuria lukuja, tai ohjelman, joka tunnistaa B -kirjaimen miljoonista oikeinkirjoituksistaan kaikkein arvaamattomimmilla kirjasimilla, käsin tai tikulla lumessa?
Yksi yksinkertainen esimerkki: kun katsot tätä, sinä ja tietokoneesi huomaatte, että nämä ovat kahden eri sävyn vaihtavia neliöitä.
Mutta jos poistat mustan, kuvaat heti koko kuvan: sylinterit, tasot, kolmiulotteiset kulmat, mutta tietokone ei voi.
Hän kuvailee näkemänsä erilaisia kaksiulotteisia muotoja eri sävyissä, mikä on periaatteessa totta. Aivosi tekevät paljon työtä tulkitakseen syvyyttä, varjon leikkiä, valoa kuvassa. Alla olevassa kuvassa tietokone näkee kaksiulotteisen valko-harmaa-mustan kollaasin, kun todellisuudessa on kolmiulotteinen kivi.
Juuri esittämämme on jäävuoren huippu tietojen ymmärtämisen ja käsittelyn suhteen. Saavuttaakseen saman tason henkilön kanssa tietokoneen on ymmärrettävä ero hienovaraisten ilmeiden välillä, ilo, suru, tyytyväisyys, ilo ja miksi Chatsky on hyvä ja Molchalin ei.
Mitä tehdä?
Ensimmäinen askel AGI: n rakentamisessa: laskentatehon lisääminen
Yksi välttämättömistä asioista, joiden on tapahduttava AGI: n mahdollistamiseksi, on tietokonelaitteiston tehon lisääminen. Jos tekoälyjärjestelmän on tarkoitus olla yhtä älykäs kuin aivot, sen on vastattava aivoja raa'alla prosessointiteholla.
Yksi tapa lisätä tätä kykyä on aivojen tuottaman laskennan kokonaismäärä sekunnissa (OPS), ja voit määrittää tämän lukumäärän määrittelemällä kunkin aivojen rakenteen suurimman OPS: n ja kokoamalla ne yhteen.
Ray Kurzweil totesi, että riittää, että otetaan ammattimainen arvio yhden rakenteen OPS: stä ja sen painosta suhteessa koko aivojen painoon ja kerrotaan sitten suhteellisesti kokonaisarvion saamiseksi. Kuulostaa hieman kyseenalaiselta, mutta hän teki sen monta kertaa eri arvioilla eri alueista ja keksi aina saman määrän: luokkaa 10 ^ 16 tai 10 kvadrillion OPS.
Maailman nopein supertietokone, Kiinan Tianhe-2, on jo ylittänyt tämän lukumäärän: se pystyy suorittamaan noin 32 quadrillion -operaatiota sekunnissa. Mutta Tianhe-2 vie 720 neliömetriä tilaa, kuluttaa 24 megawattia energiaa (aivomme kuluttaa vain 20 wattia) ja maksaa 390 miljoonaa dollaria. Emme puhu kaupallisesta tai laajasta käytöstä.
Kurzweil ehdottaa, että arvioimme tietokoneiden terveyden sen perusteella, kuinka monta OPS: ää voit ostaa 1000 dollarilla. Kun tämä luku saavuttaa ihmisen tason - 10 quadrillion OPS - AGI: sta voi tulla osa elämäämme.
Mooren laki - historiallisesti luotettava sääntö, jonka mukaan tietokoneiden suurin laskentateho kaksinkertaistuu kahden vuoden välein - merkitsee sitä, että tietotekniikan kehitys, kuten ihmisen liike historian läpi, kasvaa eksponentiaalisesti. Jos vertaamme tätä Kurzweilin tuhannen dollarin sääntöön, meillä on nyt varaa 10 biljoonaan OPS: iin 1000 dollarilla.
Tietokoneet 1000 dollarilla ohittavat hiiren aivot laskentatehollaan ja ovat tuhat kertaa heikompia kuin ihmiset. Tämä näyttää huonolta indikaattorilta, ennen kuin muistamme, että tietokoneet olivat biljoona kertaa heikompia kuin ihmisen aivot vuonna 1985, miljardi vuonna 1995 ja miljoona vuonna 2005. Vuoteen 2025 mennessä meillä pitäisi olla edullinen tietokone, joka kilpailee aivojemme laskentatehon kanssa.
Näin ollen AGI: lle tarvittava raakateho on jo teknisesti saatavilla. Kymmenen vuoden kuluessa se lähtee Kiinasta ja leviää ympäri maailmaa. Mutta pelkkä laskentateho ei riitä. Ja seuraava kysymys on: miten voimme tarjota ihmiskunnan älykkyydelle kaiken tämän voiman?
Toinen askel AGI: n luomisessa: älykkyyden lisääminen
Tämä osa on aika hankala. Todellisuudessa kukaan ei todellakaan tiedä kuinka tehdä koneesta älykäs - yritämme edelleen selvittää, miten luodaan ihmisen tason älykkyys, joka kykenee erottamaan kissan koirasta, eristämään lumeen piirretyn B -luvun ja analysoimaan toisen luokan elokuva. On kuitenkin olemassa kourallinen tulevaisuuteen suuntautuvia strategioita, ja jossain vaiheessa yhden niistä pitäisi toimia.
1. Toista aivot
Tämä vaihtoehto on kuin tutkijat olisivat samassa luokkahuoneessa lapsen kanssa, joka on erittäin älykäs ja hyvä vastaamaan kysymyksiin; ja vaikka he yrittävätkin ahkerasti ymmärtää tieteen, he eivät edes tule lähelle älykkään lapsen tavoittamista. Lopulta he päättävät: helvettiin, kirjoita vain vastaukset hänen kysymyksiinsä. Se on järkevää: emme voi rakentaa erittäin monimutkaista tietokonetta, joten miksi emme voisi ottaa perustaksi yhtä maailmankaikkeuden parhaista prototyypeistä: aivojamme?
Tieteellinen maailma työskentelee kovasti selvittääkseen, miten aivomme toimivat ja miten evoluutio loi näin monimutkaisen asian. Optimistisimpien arvioiden mukaan he voivat tehdä tämän vasta vuonna 2030. Mutta kun ymmärrämme kaikki aivojen salaisuudet, niiden tehokkuuden ja voiman, voimme saada inspiraatiota sen menetelmistä tekniikan luomisessa. Esimerkiksi yksi tietokonearkkitehtuureista, joka jäljittelee aivojen toimintaa, on hermoverkko. Hän aloittaa transistoriverkosta "neuroneja", jotka on kytketty toisiinsa tulon ja lähdön välityksellä, eikä tiedä mitään - kuten vastasyntynyt. Järjestelmä "oppii" yrittämällä suorittaa tehtäviä, tunnistaa käsin kirjoitetun tekstin ja vastaavat. Transistorien väliset yhteydet vahvistuvat, jos vastaus on oikea, ja heikkenevät, jos vastaus on oikea. Monien kysymys- ja vastausjaksojen jälkeen järjestelmä muodostaa älykkäitä hermokudoksia, jotka on optimoitu tiettyihin tehtäviin. Aivot oppivat samalla tavalla, mutta paljon monimutkaisemmalla tavalla, ja kun tutkimme sitä edelleen, löydämme uskomattomia uusia tapoja parantaa hermoverkkoja.
Vielä äärimmäisempään plagiointiin kuuluu strategia, jota kutsutaan täydelliseksi aivojen emuloimiseksi. Tarkoitus: Leikkaa oikeat aivot ohuiksi viipaleiksi, skannaa jokainen niistä, rekonstruoi 3D -malli tarkasti ohjelmiston avulla ja käännä se sitten tehokkaaksi tietokoneeksi. Sitten meillä on tietokone, joka voi virallisesti tehdä kaiken, mitä aivot voivat tehdä: sen on vain opittava ja kerättävä tietoa. Jos insinöörit onnistuvat, he voivat jäljitellä todellisia aivoja niin uskomattoman tarkasti, että kun ne on ladattu tietokoneeseen, aivojen todellinen identiteetti ja muisti säilyvät ennallaan. Jos aivot kuuluivat Vadimille ennen kuolemaansa, tietokone herää Vadimin roolissa, joka on nyt inhimillinen AGI, ja me puolestaan muutamme Vadimin uskomattoman älykkääksi ISI: ksi, josta hän varmasti tekee ilahtua
Kuinka kaukana olemme aivojen täydellisestä jäljittelemisestä? Itse asiassa me vain emuloimme millimetrisen litteän maton aivoja, joka sisältää yhteensä 302 neuronia. Ihmisen aivot sisältävät 100 miljardia neuronia. Jos yrittäminen päästä tähän numeroon tuntuu turhalta, ajattele edistymisen eksponentiaalista kasvuvauhtia. Seuraava askel on muurahaisen aivojen emulointi, sitten tulee hiiri ja sitten ihminen on helposti ulottuvilla.
2. Yritä seurata evoluution jälkeä
No, jos päätämme, että älykkään lapsen vastaukset ovat liian monimutkaisia kirjoitettavaksi, voimme yrittää seurata hänen jalanjälkiään oppiessaan ja valmistautuessaan tentteihin. Mitä tiedämme? On täysin mahdollista rakentaa tietokone, joka on yhtä tehokas kuin aivot - omien aivojemme kehitys on osoittanut tämän. Ja jos aivot ovat liian monimutkaisia jäljittelemään, voimme yrittää jäljitellä evoluutiota. Asia on, vaikka voimme jäljitellä aivoja, se voi olla kuin yrittää rakentaa lentokone heiluttaen naurettavasti käsiä, jotka jäljittelevät lintujen siipien liikkeitä. Useimmiten onnistumme luomaan hyviä koneita käyttämällä konepohjaista lähestymistapaa eikä tarkkaa biologian jäljitelmää.
Kuinka simuloida evoluutiota AGI: n rakentamiseksi? Tämän menetelmän, jota kutsutaan "geneettisiksi algoritmeiksi", pitäisi toimia jotakuinkin näin: on oltava tuottava prosessi ja sen arviointi, ja se toistaa itsensä uudestaan ja uudestaan (samalla tavalla kuin biologiset olennot "ovat olemassa" ja "arvioidaan" niiden kyvyn mukaan) lisääntyä). Ryhmä tietokoneita suorittaa tehtäviä, ja menestyneimmät niistä jakavat ominaisuutensa muiden tietokoneiden kanssa, "lähtö". Vähemmän menestyneet heitetään armottomasti historian roskakoriin. Monien, monien iterointien kautta tämä luonnollinen valintaprosessi tuottaa parempia tietokoneita. Haasteena on luoda ja automatisoida jalostus- ja arviointisyklejä niin, että kehitysprosessi etenee itsestään.
Evoluution kopioinnin haittapuoli on se, että evoluutioon kuluu miljardeja vuosia tehdäkseen jotain, ja tarvitsemme vain muutaman vuosikymmenen.
Mutta meillä on paljon etuja, toisin kuin evoluutio. Ensinnäkin sillä ei ole ennakoinnin lahjaa, se toimii sattumalta - se antaa esimerkiksi hyödyttömiä mutaatioita - ja voimme hallita prosessia annettujen tehtävien puitteissa. Toiseksi evoluutiolla ei ole päämäärää, mukaan lukien älykkyyden halu - joskus ympäristössä tietty laji ei voita älykkyyden kustannuksella (koska jälkimmäinen kuluttaa enemmän energiaa). Toisaalta voimme pyrkiä lisäämään älykkyyttä. Kolmanneksi, älykkyyden valitsemiseksi evoluution on tehtävä useita kolmansien osapuolten parannuksia - kuten jaettava energiankulutus uudelleen solujen kautta - voimme yksinkertaisesti poistaa ylimääräisen ja käyttää sähköä. Olemme epäilemättä nopeampia kuin evoluutio - mutta jälleen kerran ei ole selvää, pystymmekö ylittämään sen.
3. Jätä tietokoneet itsekseen
Tämä on viimeinen mahdollisuus, kun tutkijat ovat täysin epätoivoisia ja yrittävät ohjelmoida itsensä kehittämisohjelman. Tämä menetelmä voi kuitenkin osoittautua lupaavimmaksi kaikista. Ajatuksena on, että rakennamme tietokoneen, jolla on kaksi perustaitoa: AI: n tutkiminen ja koodimuutokset itsessään - jonka avulla se voi paitsi oppia lisää myös parantaa omaa arkkitehtuuriaan. Voimme kouluttaa tietokoneita omaksi tietokoneinsinööriksi, jotta he voivat kehittää itseään. Ja heidän päätehtävänsä on selvittää, kuinka saada älykkäämpiä. Puhumme tästä yksityiskohtaisemmin.
Kaikki tämä voi tapahtua hyvin pian
Laitteiston nopea kehitys ja ohjelmistojen kokeilu rinnakkain, ja AGI voi syntyä nopeasti ja odottamatta kahdesta syystä:
1. Eksponentiaalinen kasvu on voimakasta, ja etanan askeleet voivat nopeasti kehittyä seitsemän mailin hyppyiksi - tämä-g.webp
animoitu kuva: hi-news.ru/wp-content/uploads/2015/02/gif.gif
2. Ohjelmistojen osalta edistys voi tuntua hitaalta, mutta sitten yksi läpimurto muuttaa välittömästi edistymisen nopeutta (hyvä esimerkki: geokeskisen maailmankuvan päivinä ihmisten oli vaikea laskea maailmankaikkeuden työtä, mutta heliocentrismin löytäminen teki kaikesta paljon helpompaa). Tai kun on kyse tietokoneesta, joka parantaa itseään, asiat voivat tuntua äärimmäisen hitailta, mutta joskus vain yksi järjestelmän muutos erottaa sen tuhatkertaisesta tehokkuudesta verrattuna ihmisen tai vanhan version versioon.
Tie AGI: stä ISI: hen
Jossain vaiheessa saamme varmasti AGI: n - yleisen tekoälyn, tietokoneet, joilla on yleinen ihmisen älykkyys. Tietokoneet ja ihmiset elävät yhdessä. Tai he eivät.
Asia on, että AGI: llä, jolla on sama älykkyys ja laskentateho kuin ihmisillä, on edelleen merkittäviä etuja ihmisiin verrattuna. Esimerkiksi:
Laitteet
Nopeus. Aivoneuronit toimivat 200 Hz: n taajuudella, kun taas nykyaikaiset mikroprosessorit (jotka ovat huomattavasti hitaampia kuin mitä saamme AGI: n luomiseen mennessä) toimivat 2 GHz: n taajuudella eli 10 miljoonaa kertaa nopeammin kuin neuronimme. Ja aivojen sisäinen viestintä, joka voi liikkua nopeudella 120 m / s, on huomattavasti huonompi kuin tietokoneiden kyky käyttää optiikkaa ja valon nopeus.
Koko ja säilytys. Aivojen kokoa rajoittaa kallojemme koko, eikä se voi kasvaa suuremmiksi, muuten sisäinen viestintä nopeudella 120 m / s kestää liian kauan matkustaa rakenteesta toiseen. Tietokoneet voivat laajentua mihin tahansa fyysiseen kokoon, käyttää enemmän laitteistoa, lisätä RAM -muistia ja pitkäaikaista muistia - kaikki tämä ylittää kykymme.
Luotettavuus ja kestävyys. Tietokoneen muisti ei ole tarkempi kuin ihmisen muisti. Tietokonetransistorit ovat tarkempia kuin biologiset neuronit, ja ne ovat vähemmän alttiita huononemiselle (ja ne voidaan todella korvata tai korjata). Ihmisten aivot väsyvät nopeammin, kun taas tietokoneet voivat työskennellä keskeytyksettä 24 tuntia vuorokaudessa 7 päivänä viikossa.
Ohjelmisto
Mahdollisuus muokata, modernisoida, laajempi valikoima mahdollisuuksia. Toisin kuin ihmisen aivot, tietokoneohjelmaa voidaan helposti korjata, päivittää ja kokeilla. Alueita, joilla ihmisen aivot ovat heikot, voidaan myös päivittää. Ihmisen ohjelmisto visioon on loistavasti suunniteltu, mutta tekniikan näkökulmasta sen kyvyt ovat edelleen hyvin rajalliset - näemme vain näkyvän valon spektrin.
Kollektiivinen kyky. Ihmiset ovat ylivoimaisia muihin lajeihin suuren kollektiivisen älykkyytensä suhteen. Ihmisten kollektiivinen älykkyys on tärkeä syy, miksi voimme kutsua itseämme evoluution kruunuksi, alkaen kielen kehityksestä ja suurten yhteisöjen muodostamisesta, kirjoittamisen ja painamisen keksintöjen kautta ja nyt Internetin kaltaisilla työkaluilla.. Mutta tietokoneet ovat silti parempia. Yhden ohjelman parissa työskentelevä maailmanlaajuinen tekoälyverkosto, joka synkronoi ja kehittää itseään jatkuvasti, mahdollistaa uusien tietojen lisäämisen tietokantaan heti, mistä tahansa. Tällainen ryhmä voi myös työskennellä kohti yhtä tavoitetta kokonaisuutena, koska tietokoneet eivät kärsi toisinajattelusta, motivaatiosta ja omasta edusta kuten ihmiset.
Tekoäly, josta todennäköisesti tulee AGI ohjelmoidun itsensä kehittämisen kautta, ei näe "inhimillistä älykkyyttä" tärkeänä virstanpylväänä-tämä virstanpylväs on tärkeä vain meille. Hänellä ei ole syytä pysähtyä tällä epäilyttävällä tasolla. Ja kun otetaan huomioon edut, joita jopa inhimillisellä AGI: llä on, on aivan selvää, että ihmisen älykkyys on lyhyt salama sille kilpailussa henkisen paremmuuden puolesta.
Tämä tapahtumien kehitys voi yllättää meidät hyvin, hyvin paljon. Tosiasia on, että meidän näkökulmastamme a) ainoa kriteeri, jonka avulla voimme määrittää älykkyyden laadun, on eläinten älykkyys, joka on oletuksena alhaisempi kuin meidän; b) meille älykkäimmät ihmiset ovat AINA älykkäämpiä kuin typerimmät. Näin:
Eli kun tekoäly yrittää vain saavuttaa kehitystasomme, näemme kuinka siitä tulee älykkäämpi ja lähestyy eläimen tasoa. Kun hän pääsee ensimmäiselle inhimilliselle tasolle - Nick Bostrom käyttää termiä "maan idiootti" - olemme iloisia: "Vau, hän on jo kuin idiootti. Siistiä! " Ainoa asia on, että ihmisten yleisellä älykkyydellä, kylän idiootista Einsteiniin, alue on pieni - siksi, kun tekoäly saavuttaa idiootin tason ja siitä tulee AGI, siitä tulee yhtäkkiä älykkäämpi Einstein.
Ja mitä tapahtuu seuraavaksi?
Älykkyyden räjähdys
Toivon, että pidit sitä mielenkiintoisena ja hauskana, koska tästä hetkestä lähtien keskustelumme aihe muuttuu epänormaaliksi ja kammottavaksi. Meidän pitäisi pysähtyä ja muistuttaa itseämme, että jokainen edellä ja sen jälkeen todettu tosiasia on todellista tiedettä ja todellisia tulevaisuuden ennusteita, jotka ovat esittäneet merkittävimmät ajattelijat ja tutkijat. Muista vain.
Joten, kuten edellä mainitsimme, kaikki nykyaikaiset mallimme AGI: n saavuttamiseksi sisältävät vaihtoehdon, kun tekoäly parantaa itseään. Ja heti kun hänestä tulee AGI, jopa niistä järjestelmistä ja menetelmistä, joilla hän kasvoi, tulee tarpeeksi älykkäitä parantamaan itseään - jos he haluavat. Esiin tulee mielenkiintoinen käsite: rekursiivinen itsensä parantaminen. Se toimii näin.
Tietty tekoälyjärjestelmä tietyllä tasolla - esimerkiksi kylä -idiootti - on ohjelmoitu parantamaan omaa älykkyyttään. Kun tällainen järjestelmä on kehittynyt - esimerkiksi Einsteinin tasolle - alkaa kehittyä jo Einsteinin älyllä, sen kehittäminen vie vähemmän aikaa ja harppaukset ovat yhä suurempia. Niiden avulla järjestelmä voi menestyä paremmin kuin kuka tahansa ja tulla yhä enemmän. Nopean kehityksen myötä AGI nousee älykkyydessään taivaallisiin korkeuksiin ja siitä tulee superälykäs ISI -järjestelmä. Tätä prosessia kutsutaan älykkyyden räjähdykseksi, ja se on selkein esimerkki palauttamisen nopeuttamisesta.
Tutkijat kiistelevät siitä, kuinka nopeasti tekoäly saavuttaa AGI -tason - useimmat uskovat, että saamme AGI: n vuoteen 2040 mennessä vain 25 vuodessa, mikä on hyvin, hyvin vähän tekniikan kehityksen standardien mukaan. Jatkamalla loogista ketjua on helppo olettaa, että siirtyminen AGI: stä ISI: hen tapahtuu myös erittäin nopeasti. Näin:
”Kesti vuosikymmeniä, ennen kuin ensimmäinen tekoälyjärjestelmä saavutti alimman yleisen älykkyytensä, mutta se lopulta tapahtui. Tietokone pystyy ymmärtämään ympäröivää maailmaa nelivuotiaana. Yhtäkkiä, kirjaimellisesti tunti tämän virstanpylvään saavuttamisen jälkeen, järjestelmä tuottaa suuren fysiikan teorian, joka yhdistää yleisen suhteellisuusteorian ja kvanttimekaniikan, jota kukaan ihminen ei voi tehdä. Puolentoista tunnin kuluttua tekoälystä tulee ISI, 170 000 kertaa älykkäämpi kuin kukaan ihminen."
Meillä ei ole edes oikeita termejä kuvaamaan näin suurta älykkyyttä. Meidän maailmassa "älykäs" tarkoittaa henkilöä, jonka älykkyysosamäärä on 130, "tyhmä" - 85, mutta meillä ei ole esimerkkejä ihmisistä, joiden älykkyysosamäärä on 12 952. Hallitsijamme eivät ole sellaisia.
Ihmiskunnan historia kertoo meille selvästi ja selkeästi: älykkyyden mukana tulee voimaa ja voimaa. Tämä tarkoittaa sitä, että kun luomme keinotekoisen superintelligenssin, siitä tulee maailman elämän historian tehokkain olento, ja kaikki elävät olennot, ihmiset mukaan lukien, ovat täysin vallassaan - ja tämä voi tapahtua kahdenkymmenen vuoden kuluttua.
Jos vähäiset aivomme pystyivät keksimään Wi-Fi: n, niin jotain sata, tuhat, miljardi kertaa meitä älykkäämpi voi helposti laskea jokaisen atomin sijainnin maailmankaikkeudessa milloin tahansa. Kaikki, mitä voidaan kutsua taikuudeksi, kaikki voima, joka on omistettu kaikkivoivalle jumaluudelle - kaikki tämä on ISI: n käytettävissä. Tekniikan luominen ikääntymisen kääntämiseksi, minkä tahansa sairauden hoito, nälän ja jopa kuoleman poistaminen, säähallinta - kaikki tulee yhtäkkiä mahdolliseksi. Kaikki maapallon elämä on myös mahdollista lopettaa välittömästi. Älykkäimmät ihmiset planeetallamme ovat yhtä mieltä siitä, että heti kun keinotekoinen superintelligence ilmestyy maailmaan, se merkitsee Jumalan ilmestymistä maan päälle. Ja tärkeä kysymys jää.
