Itsensä parantava tekoäly (AI) voi tulevaisuudessa orjuuttaa tai tappaa ihmisiä, jos hän niin haluaa. Tämän kertoi tiedemies Amnon Eden, joka uskoo, että vapaasti ajattelevan ja erittäin älykkään tietoisuuden kehittymisen riskit ovat erittäin suuret, ja "jos et huolehdi tekoälyn hallinnasta jo nykyisessä vaiheessa kehitystä, niin huominen ei ehkä yksinkertaisesti tule. " Englanninkielisen Express -julkaisun mukaan Amnon Edenin mukaan ihmiskunta on tänään "paluumatkalla" kuuluisan elokuvateoksen "Terminaattori" juonen toteuttamisessa.
On syytä huomata, että tohtori Amnon Eden on projektijohtaja, jonka päätavoitteena on analysoida tekoälyn mahdollisia tuhoisia vaikutuksia. Ilman oikeaa käsitystä tekoälyn luomisen seurauksista sen kehittäminen voi uhata katastrofia, tiedemies uskoo. Yhteiskuntamme on tällä hetkellä huonosti tietoinen tiedeyhteisössä käydystä keskustelusta tekoälyn mahdollisten vaikutusten analysoinnista. "Tulevana vuonna 2016 mahdollisten riskien analysoinnin on levitettävä huomattavasti laajemmin yritysten ja hallitusten, poliitikkojen ja päätösten tekemisestä vastaavien ajattelussa", Eden sanoo.
Tiedemies on varma, että tieteiskirjallisuudesta, joka kuvaa ihmiskunnan tuhoamista robottien avulla, voi pian tulla yhteinen ongelmamme, koska tekoälyn luominen on päässyt hallitsematta. Esimerkiksi Elon Musk päätti yrittäjä Sam Altmanin tuella luoda uuden miljardin dollarin voittoa tavoittelemattoman yhdistyksen, joka kehittää avoimen lähdekoodin tekoälyn, jonka pitäisi ylittää ihmisen mieli. Samaan aikaan amerikkalainen miljardööri Elon Musk itse asettaa tekoälyn "olemassaolomme suurimpien uhkien" joukkoon. Steve Wozniak, joka perusti Applen, sanoi viime maaliskuussa, että "tulevaisuus näyttää pelottavalta ja erittäin vaaralliselta ihmisille … lopulta tulee päivä, jolloin tietokoneet ajattelevat nopeammin kuin me ja he pääsevät eroon hitaista ihmisistä. jotta yritykset voivat työskennellä tehokkaammin."
On syytä huomata, että monet tutkijat näkevät tekoälyn uhan. Kymmenet tunnetut tiedemiehet, sijoittajat ja yrittäjät, joiden toiminta liittyy tavalla tai toisella tekoälyn kehittämiseen, ovat allekirjoittaneet avoimen kirjeen, jossa kehotetaan kiinnittämään enemmän huomiota työn turvallisuuteen ja sosiaaliseen hyödyllisyyteen tekoälyn alalla. Astrofyysikko Stephen Hawking ja Teslan ja SpaceX: n perustaja Elon Musk ovat allekirjoittaneet tämän asiakirjan. Kirje ja siihen liittyvä asiakirja, jonka on laatinut Future of Life -instituutti (FLI), on kirjoitettu kasvavan huolen vuoksi tekoälyn vaikutuksista työmarkkinoihin ja jopa koko ihmiskunnan pitkäaikaisesta selviytymisestä ympäristössä, jossa robottien ja koneiden kyky kasvaa lähes hallitsemattomasti.
Tiedemiehet ymmärtävät tosiasian, että tekoälyn potentiaali on nykyään hyvin suuri, joten meidän on tutkittava perusteellisesti sen optimaalisen käytön mahdollisuudet meille, jotta vältetään niihin liittyvät sudenkuopat, FLI -kirjeessä todetaan. On välttämätöntä, että ihmisen luomat tekoälyjärjestelmät tekevät juuri sitä, mitä haluamme heidän tekevän. On syytä huomata, että Future of Life -instituutin perusti vasta viime vuonna joukko harrastajia, joiden joukossa oli Skypen luoja Jaan Tallinn. tulevaisuudesta”. Ensinnäkin puhumme tässä AI: n ja robotiikan kehityksen aiheuttamista riskeistä. FLI: n neuvoa -antavaan lautakuntaan kuuluvat Musk ja Hawking sekä arvostettu näyttelijä Morgan Freeman ja muut kuuluisat ihmiset. Elon Muskin mukaan tekoälyn hallitsematon kehitys on mahdollisesti vaarallisempaa kuin ydinaseet.
Kuuluisa brittiläinen astrofyysikko Stephen Hawking yritti vuoden 2015 lopussa selittää vastustavansa tekoälyteknologioita. Hänen mielestään ajan mittaan superälykkäät koneet katsovat ihmisiä kulutushyödykkeiksi tai muurahaisiksi, jotka yksinkertaisesti häiritsevät heidän tehtäviensä ratkaisua. Puhuessaan Reddit -portaalin käyttäjille Stephen Hawking totesi, että hän ei usko, että tällaiset superintelligenssit koneet ovat "pahoja olentoja", jotka haluavat tuhota koko ihmiskunnan älyllisen ylivoimaisuuden vuoksi. Todennäköisesti on mahdollista puhua siitä, että he yksinkertaisesti eivät huomaa ihmiskuntaa.
”Media on vääristänyt sanojani jatkuvasti viime aikoina. Suurin riski tekoälyn kehittämisessä ei ole koneiden ilkeys, vaan niiden osaaminen. Superintelligent tekoäly tekee erinomaista työtä, mutta jos se ja tavoitteemme eivät osu yhteen, ihmiskunnalla on erittäin vakavia ongelmia”, tunnettu tiedemies selittää. Esimerkkinä Hawking mainitsi hypoteettisen tilanteen, jossa erittäin voimakas tekoäly on vastuussa uuden vesivoimapaton käytöstä tai rakentamisesta. Tällaisessa koneessa etusijalla on se, kuinka paljon energiaa uskottu järjestelmä tuottaa, eikä ihmisten kohtalolla ole väliä.”Harvat meistä tallaavat muurahaismuurareita ja astuvat muurahaisten päälle vihasta, mutta kuvitellaan tilanne - sinä ohjaat voimakasta vesivoimalaitosta, joka tuottaa sähköä. Jos sinun on nostettava vedenpintaa ja toimiesi seurauksena yksi muurahaispesä tulvii, hyönteisten hukkuminen ei todennäköisesti häiritse sinua. Älkäämme asettako ihmisiä muurahaisten tilalle”, tiedemies sanoi.
Toinen mahdollinen ongelma tekoälyn kehittämisessä voi Hawkingin mukaan olla "koneiden omistajien tyrannia" - rikkaiden ihmisten tulotason nopean kasvun, jotka pystyvät monopolisoimaan tuotannon. älykkäistä koneista ja muusta maailman väestöstä. Stephen Hawking ehdottaa näiden mahdollisten ongelmien ratkaisemista seuraavalla tavalla - hidastaa tekoälyn kehittämisprosessia ja siirtyä kehittämään ei -yleismaailmallista, vaan erikoistunutta tekoälyä, joka voi ratkaista vain hyvin rajallisen joukon ongelmia.
Hawkingin ja Muskin lisäksi kirjeen ovat allekirjoittaneet Nobelin palkinnon saaja ja MIT -fysiikan professori Frank Wilczek, Machine Intelligence Research Institute (MIRI) -pääjohtaja Luc Mühlhauser sekä monet asiantuntijat suurista IT -yrityksistä: Google, Microsoft ja IBM sekä yrittäjät, jotka perustivat tekoälyyritykset Vicarious ja DeepMind. Kirjeen kirjoittajat huomauttavat, että niiden tarkoituksena ei ole pelotella yleisöä, vaan he haluavat tuoda esiin sekä positiiviset että negatiiviset puolet, jotka liittyvät tekoälyn luomiseen. "Tällä hetkellä kaikki ovat samaa mieltä siitä, että tekoälyn alan tutkimus etenee tasaisesti ja tekoälyn vaikutus nykyaikaiseen ihmisyhteiskuntaan vain kasvaa", kirjeessä sanotaan, "ihmisille avautuvat mahdollisuudet ovat valtavat, kaikki mitä modernin sivilisaation on tarjonnan luonut älykkyys. Emme voi ennustaa, mitä voimme saavuttaa, jos ihmisen älykkyys voidaan moninkertaistaa tekoälyllä, mutta köyhyydestä ja sairauksista eroon pääseminen ei ole enää äärettömän vaikeaa.”
Lukuisat tekoälyn alan kehitysaskeleet sisältyvät jo nykyaikaiseen elämään, mukaan lukien kuvan- ja puheentunnistusjärjestelmät, miehittämättömät ajoneuvot ja paljon muuta. Piilaakson tarkkailijat arvioivat, että tällä alueella on parhaillaan käynnissä yli 150 käynnistysyritystä. Samaan aikaan tämän alan kehitys houkuttelee yhä enemmän investointeja, ja yhä useammat Googlen kaltaiset yritykset kehittävät tekoälyyn perustuvia projektejaan. Siksi kirjeen kirjoittajat uskovat, että on tullut aika kiinnittää enemmän huomiota kaikkiin havaitun nousukauden mahdollisiin seurauksiin ihmiselämän taloudellisiin, sosiaalisiin ja oikeudellisiin näkökohtiin.
Kanta, jonka mukaan tekoäly voi aiheuttaa vaaraa ihmisille, on samaa mieltä Oxfordin yliopiston professorin Nick Bostromin kanssa, joka tunnetaan antropisesta periaatteestaan. Tämä asiantuntija uskoo, että tekoäly on tullut siihen pisteeseen, jota seuraa sen yhteensopimattomuus ihmisten kanssa. Nick Bostrom korostaa, että toisin kuin geenitekniikka ja ilmastonmuutos, joihin hallitukset osoittavat riittävästi varoja hallitakseen, "mitään ei tehdä tekoälyn kehityksen hallitsemiseksi". Professorin mukaan tekoälyn osalta noudatetaan parhaillaan "täytettävän oikeudellisen tyhjiön politiikkaa". Jopa itseohjautuvien autojen kaltaiset tekniikat, jotka näyttävät vaarattomilta ja hyödyllisiltä, herättävät useita kysymyksiä. Pitäisikö tällaisen auton esimerkiksi suorittaa hätäjarrutus matkustajiensa pelastamiseksi ja kuka on vastuussa miehittämättömän ajoneuvon onnettomuudesta?
Keskustellessaan mahdollisista riskeistä Nick Bostrom totesi, että "tietokone ei pysty määrittämään hyötyjä ja haittoja ihmisille" ja "sillä ei ole edes pienintäkään käsitystä ihmisen moraalista". Lisäksi tietokoneiden itsensä kehittämisjaksot voivat tapahtua sellaisella nopeudella, että henkilö ei yksinkertaisesti pysty seuraamaan, eikä myöskään tälle voi tehdä juuri mitään, sanoo tutkija. "Kehitysvaiheessa, jolloin tietokoneet voivat ajatella itse, kukaan ei voi varmasti ennustaa, johtaako tämä kaaokseen vai parantaako maailmaa merkittävästi", sanoi Nick Bostrom ja mainitsi esimerkkinä yksinkertaisen mahdollisen ratkaisun tietokoneelle - sammuttaminen maissa, joissa ilmaston lämpeneminen on kylmää ihmisten terveyden parantamiseksi ja kestävyyden parantamiseksi, mikä "voi tulla tekoälyn päähän".
Lisäksi Bostrom nostaa esiin myös ongelman ihmisen aivojen hakeutumisesta lisätäksemme bioälyämme.”Tällainen menettely voi olla monella tapaa hyödyllinen, jos kaikkia prosesseja hallitaan, mutta mitä tapahtuu, jos istutettu siru voi ohjelmoida itsensä uudelleen? Mihin seurauksiin tämä voi johtaa - supermiehen syntymiseen tai sellaisen tietokoneen syntymiseen, joka näyttää vain ihmiseltä? " - professori kysyy. Tietokoneiden tapa ratkaista ihmisten ongelmia on hyvin erilainen kuin meillä. Esimerkiksi shakissa ihmisen aivot harkitsevat vain kapeita liikkeitä ja valitsevat niistä parhaan vaihtoehdon. Tietokone puolestaan harkitsee kaikkia mahdollisia liikkeitä ja valitsee parhaan. Samaan aikaan tietokone ei odota järkyttävän tai yllättävän vastustajaa pelissä. Toisin kuin ihminen, shakki, tietokone voi tehdä ovelan ja hienovaraisen liikkeen vain vahingossa. Tekoäly voi laskea parhaalla tavalla - poistaa virheen mistä tahansa järjestelmästä poistamalla sieltä "inhimillisen tekijän", mutta toisin kuin ihminen, robotti ei ole valmis suorittamaan ihmisten henkiä pelastavia saavutuksia.
Muun muassa älykkäiden koneiden määrän kasvu edustaa uuden teollisen vallankumouksen vaihetta. Tämä puolestaan tarkoittaa sitä, että lähitulevaisuudessa ihmiskunta kohtaa väistämättömiä sosiaalisia muutoksia. Ajan myötä työstä tulee paljon korkeasti koulutettuja asiantuntijoita, koska melkein kaikki yksinkertaiset tehtävät voidaan suorittaa roboteilla ja muilla mekanismeilla. Tutkijat uskovat, että tekoäly "tarvitsee silmän ja silmän", jotta planeettamme ei muutu sarjakuvaplaneetaksi "Zhelezyaka", jossa asuivat robotit.
Tuotantoprosessien automatisoinnin kannalta tulevaisuus on jo saapunut. Maailman talousfoorumi (WEF) esitteli raporttinsa, jonka mukaan automaatio johtaa siihen, että vuoteen 2020 mennessä yli 5 miljoonaa eri aloilla työskentelevää menettää työpaikkansa. Tämä on robottien ja robottijärjestelmien vaikutus elämäämme. Raportin laatimiseen WEF: n työntekijät käyttivät tietoja 13,5 miljoonasta työntekijästä ympäri maailmaa. Heidän mukaansa vuoteen 2020 mennessä yli 7 miljoonan työpaikan kokonaistarve katoaa, kun taas muiden alojen työllisyyden odotettu kasvu on hieman yli 2 miljoonaa työpaikkaa.
