Sotilasasiantuntijat kutsuvat itsenäisiä aseita tai itsenäisiä asejärjestelmiä (AWS) aseiksi, jotka tekevät kaiken itse: he löytävät kohteen ja suorittavat tehtävän ilman ihmisen väliintuloa. Yksi tunnetuimmista, toistaiseksi vain science fiction -elokuvista ja AWS-kirjoista, ovat niin sanotut "tappajarobotit".
Elon Musk ja yli sata muuta robotiikka -asiantuntijaa kirjoittavat tappajarobottien tappavasta uhasta avoimessa varoituskirjeessä YK: lle. Musk, Mustafa Suleiman, Googlen omistaman tekoälyyrityksen DeepMind Technologiesin luoja, ja 114 asiantuntijaa 26 maasta varoittavat YK: ta, että AWS: n asekilpailu voi avata Pandoran laatikon, mikä voi aiheuttaa arvaamatonta ja erittäin suuri vahinko ihmiskunnalle. He vaativat autonomisten asejärjestelmien kehittämisen ja toteuttamisen kieltämistä.
Kaikki allekirjoittajat tuntevat asian hyvin, koska he työskentelevät tekoälyn (AI) alalla. He ovat vakuuttuneita siitä, että tappajarobottien ottamisella kehittyneiden maiden armeijoiden aseisiin on sotilasasioissa sama merkitys kuin ruuti- ja ydinaseiden keksinnöllä, jota he kutsuvat sotilasasioiden ensimmäiseksi ja toiseksi vallankumoukseksi. He uskovat, että AWS tulee olemaan kolmas vallankumous.
"Kun autonomiset asejärjestelmät on nostettu korkealle tasolle, ne nostavat sotilaalliset konfliktit sellaiselle tasolle, jota ihmiskunta ei ole koskaan ennen nähnyt", kollektiivisessa kirjeessä todetaan. - Lisäksi se tapahtuu suurella nopeudella. AWS: stä voi tulla terrorin ase, ase, jota despotit ja terroristit käyttävät siviilejä vastaan …"
Kirjeen kirjoittajat varoittavat edelleen hypoteettisesta aseesta, joka voi tuhota ihmiset ilman ihmisen väliintuloa. Päivä on lähellä, kun siitä tulee fiktiivisten luokkien ankara todellisuus ja se pakottaa meidät etsimään vastauksia moniin vaikeisiin kysymyksiin aina tällaisten järjestelmien turvallisesta hallinnasta moraalisiin ja eettisiin ongelmiin, jotka johtuvat "raudan" julmuudesta ja arvaamattomuudesta. tappavista koneista.
Musk ja kannattajat, jotka jakavat kantansa AWS: n vaaroista ihmiskunnalle, korostavat, ettei ole aikaa pohdiskeluun ja keskusteluun ja että on toimittava välittömästi. "Meillä on hyvin vähän aikaa", he kirjoittavat YK: ssa. "Kun Pandoran laatikko on auki, sen sulkeminen on erittäin vaikeaa."
Avoimen kirjeen kirjoittamisen aikaa ei valittu sattumalta. Asiantuntijat halusivat samaan aikaan Melbournessa järjestettävän kansainvälisen tekoälyn konferenssin (IJCAI) kanssa. Sen piti avata maanantaina 21. elokuuta, mutta YK päätti siirtää sen marraskuuhun.
Avoimen kirjeen lopussa Elon Musk ja hänen kollegansa kehottavat YK: ta kaksinkertaistamaan ponnistelunsa strategian luomiseksi marraskuuhun mennessä planeetan suojelemiseksi tappajaroboteilta.
Aiemmin Musk itse varoitti tekoälyyn liittyvän työn vaaroista sellaisenaan, koska siihen perustuvat järjestelmät voivat päästä ihmisten hallintaan. Samaan aikaan autot, joissa on Teslan sähkömoottori, ajavat jo Yhdysvaltojen teillä miehittämättömässä tilassa, mikä ei ole vaaratilanteita.
