Joe Allen: Countdown to Gigadeath – A mesterséges intelligencia fegyverkezési versenyétől az Artilect Warig

Az igaz hívők számára a mesterséges intelligencia elkerülhetetlenül emberfelettivé válik. Mítoszuk szerint egy istentelen kozmoszban sodródunk. Tehát rajtunk múlik, hogy digitális istenségeket hozzunk létre. Illetve néhány tech geeken múlik, hogy megalkossák őket. A többiek vagy letérdelhetünk az oltáruk elé, vagy a mélységbe lökhetünk.

Ahogy a botok özönlenek az életünkbe, egyre nő a feszültség köztünk és közöttük. Néha úgy tűnik, hogy egy számítógépes fajháború felé rohanunk születőben lévő kiborgok és örökölt emberek között. Túl sok képernyőidő után – ahogy a szinapszisaim átrendeződnek, hogy illeszkedjenek a beáramló adatokhoz – nem világos, hogy melyik alfajhoz tartozom.

Ami azt illeti, én inkább agnosztikus vagyok, mint igaz hívő. A technikusok mindenféle üres ígéretet tesznek. A misztikus erők kivetítésével boldogulnak. Ennek ellenére a saját kárunkra figyelmen kívül hagyjuk a techno-kulturális forradalmukat.

A technológiai vállalatok birtokolják az információszabályozás valódi hatalmát. Szó szerint nagymértékben torzítják a köztudatot. A katonai oldalon a végrehajtók képesek felrobbantani a világ másik feléről. Gúnyolhatja, hogy az amerikai fegyveres erők több transztisztet hoztak létre, mint kiborg katonát. De ha nem tudod gyorsabban célozni az AR-15-öt, mint amennyit a drónjuk be tud lőni, akkor a csizma alól vihogsz. A mesterséges intelligencia csak megerősíti ezt a támaszt.

2018-ban az Egyesült Államok Védelmi Fejlett Kutatási Projektek Ügynöksége bejelentés „befektetéseit a mesterséges intelligencia harmadik hullámára összpontosítja, amely olyan gépeket hoz létre, amelyek képesek megérteni és érteni a kontextust”. A DARPA Információs Innovációs Hivatalának igazgatója, Brian Pierce vadul lelkes a Homo sapiens és a feltörekvő Machina sapiens közötti valódi szimbiózisról.

A 2021 fehér papír Az Egyesült Királyság Védelmi Minisztériuma megerősíti: „A jövőbeli katonai előnyök középpontjában az emberek, a mesterséges intelligencia és a robotika hatékony integrálása áll majd a harci rendszerekbe – ember-gép csapatokba –, amelyek kihasználják az emberek és a technológiák képességeit, hogy felülmúlják ellenfeleinket. ”

Kína hasonló kiborg ambíciói vannak. Így tedd Oroszország és a NATO. „A mesterséges intelligencia a jövő” – hirdette híresen Vlagyimir Putyin. „Aki ebben a szférában lesz a vezető, az a világ ura lesz.”

Talán a tábornokok pénzt pazarolnak stréber hadviselésre. Talán csak új játékokkal játszanak.

nem számolnék vele.

Már most is azt látjuk, hogy a szűk mesterséges intelligencia túlszárnyalja az emberi mintafelismerést az általuk tervezett konkrét feladatokban – fehérjemodellezés, radiológiai elemzés, harctéri megfigyelés és célpontszerzés, hogy csak néhányat említsünk. Példaként említhető, hogy az amerikai védelmi vállalkozó, a Palantir szabadon bocsátja az AI-t Ukrajnának. Ez a fő oka annak, hogy olyan sokáig kitartottak a nagyobb orosz erőkkel szemben.

„A fejlett algoritmikus hadviselési rendszerek ereje ma már olyan nagy, hogy az egyenértékű taktikai nukleáris fegyverekkel egy olyan ellenféllel szemben, amely csak hagyományos fegyverekkel rendelkezik” – mondta Alex Karp, a Palantir vezérigazgatója. mondta a Washington Post. „A nagyközönség hajlamos alábecsülni ezt. Ellenfeleink már nem.”

Az elit csúcsragadozók kezében ezek a digitális eszközök halálosan komolyak. Amikor a vezetők nem vetnek be technológiát a riválisok ellen, azt saját polgáraikra fordítják. Ne feledje, hogy a Clearview AI arcfelismerés engedélyezve a rendőrök a január 6-i tüntetők felkutatására.

A technológia hatalom. Mindig is volt.

Ennek ellenére nem mindenki riad el. A kétkedők gúnyolódnak az „intelligens” gépek fogalmán. „A mesterséges intelligencia nem létezik” – mondják. – Ez csak egy algoritmus. – Szemet be, szemét ki. Jellemzően egykori programozók, akik még a 90-es években élnek. Olyan gyakran ismételgetik, hogy „szemet be, szemét ki” – mintha arra lettek volna programozva, hogy ezt mondják.

Ezeknek a srácoknak van értelme. Egy mesterséges intelligencia csak annyira jó, amennyire a neurális hálózatának kialakítása és az adatok, amelyekre kiképezték. Ebben a tekintetben nem különbözik az emberektől. De ha jó, akkor ijesztően jó. Ha egy szilárd mesterséges intelligencia például bankszámlakivonatok felismerésére van kiképezve, akkor szeméthegyeken keresztül tud ásni, és másodpercek alatt megtalálni egyet – akár egy kukába merülő Rain Man, hogy ellopja a személyazonosságát.

A mesterséges intelligencia, amely felébresztett, az AlphaZero volt, amelyet a Google DeepMind fejlesztett ki 2017-ben. Ez a neurális hálózat, amely csak az alapvető játékszabályokkal és a győzelem „vággyal” programozott. tanította magát órák alatt játszhat Got, sakkot és számos videojátékot. A Go elsajátítása különösen fontos. A szkeptikusok évtizedekig ragaszkodtak ahhoz, hogy egyetlen számítógép sem fogja megragadni ezt az ősi kínai játékot. Állításuk szerint Go bonyolultsága olyan mély intuíciót igényel, amellyel csak az emberek rendelkeznek. Kiderült, hogy ez vágyálom volt.

Az AlphaZero, akárcsak elődje, az AlphaGo, olyan hatékony stratégiákat talál ki, amelyekre embernek még soha nem jutott eszébe. És ami a legriasztóbb, ezek a digitális elmék összetörni emberi mesterek a saját játékaikban. Ha az embereknek lenne esze, akkor azonnal kihúzták volna a dugót. Az egészben. De tudod, mit mondanak: "Nem tudod megállítani a fejlődést."

A következő lépés a kombinálás ezeket a kognitív képességeket egyetlen „mesterséges agyba” szűkítik. Ez mesterséges általános intelligencia (AGI) elég rugalmas lenne ahhoz, hogy egyik tartományról a másikra lépjen, vagy egyidejűleg különböző modulokat alkalmazzon a valós problémák megoldására.

Elméletileg a képességek tetszőleges kombinációja – arcfelismerés, természetes nyelvi feldolgozás, társadalmi modellezés, robotvezérlő rendszerek, esztétikai algoritmusok – összeragasztható – bármit, amire egy robotagyban szüksége lehet. A gép valószínűleg ezeken a területeken felülmúlja az embert. De akármilyen kombinációt is kitalálsz, az nem lenne teljesen emberi. Nem osztja meg értékeinket vagy a világgal kapcsolatos tapasztalatainkat. Vak, torz gyerek lenne, szilíciumba vésve, de kiváló kognitív erővel – hasonlóan a gnosztikus Demiurgoszhoz.

A transzhumanisták számára az önfejlesztő AGI megjelenése „egyedülálló pillanatot jelent a történelemben” – Singularity. Innentől kezdve az örökölt emberek csak útra kelnek. Ha szerencsénk van.

Amúgy ez az álom. A nagyvállalatok, mint például a DeepMind és az OpenAI – valamint kínai társaik a Baidunál és a Tencentnél – verseny hogy valamilyen verziót valóra váltsunk. Vezérigazgatóik egy digitális utópia ígéretét, vagy valamilyen közelítést ígérnek. Jobban szeretik, ha lazítasz, és nem kérdeznek.

Vannak azonban olyan riasztók, akik szerint az elszabadult mesterséges intelligencia az emberi faj megsemmisülését jelentheti. Mivel szülésznők vagyunk az AGI-nél, azt tanácsolják, központi feladatunk az, hogy megtanítsuk ezt a csecsemő számítógépes Istent, hogy jóindulatú legyen – hogy összhangba hozza értékeit a miénkkel. Ellenkező esetben rabszolgává válunk, vagy meghalunk. Ezt „AI-igazítási problémának” hívják. Miközben a különböző frakciók azon veszekednek, hogy a ChatGPT milyen „ébredt” vagy „alapú” legyen, a helyzet elég komornak tűnik.

Furcsa módon a leghangosabb riasztások az AGI-n dolgozóktól jönnek. Köztük Sam Altman és Elon Musk (OpenAI), Demis Hassabis (DeepMind), valamint a Kínából tevékenykedő Ben Goertzel (SingularityNET) és a technokalypszis őrült prófétája, Hugo de Garis (Xiameni Egyetem).

Az oxfordi transzhumanista Nick Bostrom, a 2014-es könyv szerzője elmagyarázta a Tesla-vezetés jelentőségét TED közönség:

A szuperintelligencia lehetőségei az anyagban szunnyadnak, hasonlóan ahhoz, ahogy az atom ereje az emberi történelem során szunnyadt, türelmesen várva ott – egészen 1945-ig. Ebben az évszázadban a tudósok megtanulhatják felébreszteni a mesterséges intelligencia erejét. És azt hiszem, akkor láthatunk egy hírszerzési robbanást.

Az egzisztenciális kockázatoktól függetlenül, ezek a férfiak azt állítják, hogy minden nemzet, amely nem veszi fel a mesterséges intelligenciát, lemarad azoktól, akik ezt teszik. Ugyanez a dinamika érvényes a nemzeteken belül egymással versengő egyénekre és szervezetekre. A digitális ökoszisztémában ez a legrátermettebb kiborgok túlélése – a mesterséges intelligencia a mitikus Erőgyűrűként jelenik meg.

A transzhumanisták által előrevetített összes jövő közül a Hugo de Garis által varázsolt a legborzasztóbb. Ez is a legőszintébb. A Szilícium-völgyben sokan úgy vélik, hogy az emberfeletti gépi intelligencia „radikális bőséghez” és határtalan tudáshoz vezet az univerzumról. Fizikusként és robotépítőként de Garis hiszi, hogy ezek a dolgok meg fognak valósulni.

Ugyanakkor azt is megjövendöli, hogy „műalkotások” létrehozása – a „mesterséges intellektusok” rövidítése; alapvetően az AGI – valószínűleg az emberiség pusztulásához vezet. Lehet, hogy ezeknek a digitális isteneknek nem lesz hasznunk, és bogarakként zúdítanak ránk. De Garis szerint ugyanennyire valószínű, hogy egy „gigadeath” esemény fog bekövetkezni, amikor az emberek azon veszekednek, hogy létrehozzák-e őket. Ez azt jelenti, hogy milliárdok halnak meg villámgyorsan.

„A kérdés, amely dominálni fog 21^st századi globális politika a következő lesz: „Ki vagy mi legyen a domináns faj a bolygón, a műalkotások vagy az emberi lények?” Ez egy nyugtalanító, bár zavaróan megfogalmazott szlogen megfogalmazására késztet: „Isteneket építünk, vagy a sajátjainkat építjük. potenciális kiirtók?”

De Garis szokatlan új szavakat talál ki, mint egy rakoncátlan Scrabble-játékos, és ezt a konfliktust tárja fel 2005-ös könyvében. „Ez a háború a valaha kifejlesztett legpusztítóbb fegyvert fogja használni, a 21. év végén^st századi tudomány és technológia.”

Szupernukleáris atomfegyverekről és mesterséges intelligencia által tervezett biofegyverekről beszélünk – egy sötét horizontról, amely robot-pokolkutyákkal és nanobotrajokkal kúszik.

között fog megvívni az Artilect War a „terraiak”, akik azért ölnének, hogy megőrizzék az organikus emberiséget, és a „kozmisták”, akiknek vallási elkötelezettsége a műalkotások építése iránt olyan intenzív, hogy hajlandóak lesznek meghalni ezért a megistenítésért. Sőt, szívesen látják mindenki halj meg érte:

A 20^th században a nácik 20 millió oroszt irtottak ki, a japánok 20 millió kínait, Sztálin 30 milliót ölt meg tisztogatásai során, Mao pedig 50 millió kínai parasztot éheztetett. Ezek a történelem legnagyobb bűnei közé tartoznak, mégis elhalványulnak a tragédia méretéhez képest, ha a művészek úgy döntenek, hogy kiirtják az emberiséget. A tragédia teljes lenne abban az értelemben, hogy többé nem maradna egyetlen ember sem, aki gyászolná a faj eltűnését.

Ahogy de Garis megjegyzi, elképesztő, hogy bármely ember ilyen célt követne, tudva, hogy milliárdokat lemészárolhatnak. De a kozmisták számára az emberfeletti gépek létrehozása a jón és a rosszon túlmutató vallási küldetés. Az őrült tudósok bűntudattal teli hagyománya szerint de Garis az utóbbi táborba sorolja magát, a gigadeath legyen átkozott:

Végső célom, hogy lássam, hogy az emberiség, vagy legalábbis az emberiség egy része kozmistává válik, és ezt sikeresen megtegyem azáltal, hogy valóban istenszerű alkotásokat építek, amelyek a mi csekély emberi intellektuális és egyéb képességeink fölé magasodnak.

Kulcsfogalom benne A műalkotások háborúja a „fajdominancia”. A mesterséges élet megteremtése után az emberiség egy új evolúciós versenytárssal szembesül. Ahogy egyesek úgy olvadnak össze a digitális élettel, mint a galandférgek egy mecha-bélben, az emberiség alfajokra szakad – botszívó kiborgokra és „csípős” emberekre.

A specifikációval együtt a verseny is. A politikai és evolúciós elméletre támaszkodva de Garis azt mondja, hogy csak annyi hely van a szarhalom tetején. Mivel a természetben nem létezik egyenlőség, a fajok dominanciája elkerülhetetlen. Ha az emberi történelem a vezetőnk, ez erőszakot jelent.

A csúcsot azok a magas IQ-jú számítógépek foglalják el, amelyek a bolygó körül keringenek, és „billió billió tényezővel gyorsabbak és jobbak az embereknél”?

Vagy a kozmikusok fogják elfoglalni, akik ezeket a gépeket építik és telepítik?

Vagy a terránok megölik ezt a transzhumán kultuszt, és visszatérnek az erdőben dobolni?

Valószínűnek tűnik, hogy egy nukleáris háborúba csöppenünk Oroszországgal vagy Kínával, teljesen megkímélve minket ettől a cikkháborútól. Rengeteg gigadeath van, amit egy szuperszámítógép-isten nélkül meg lehet tenni.

De ha sikerül elkerülnünk, hogy egymást űrporba lövelljük, akkor előfordulhat, hogy a nagyhatalmi rivalizálás a technológiai evolúciót – különösen a haditechnikát – valami olyan felé tereli, ami de Garis elképzeléséhez hasonlít. Tekintsd úgy, mint egy hatalmas szingularitást.

A valóságban a fontosság Hugo de Garis rémálmának hatása lehet a kínai technológiai kultúrára. 2006 és 2010 között Kínában fejezte be szakmai pályafutását – először a Wuhan Egyetemen, majd a Hsziamen Egyetem mesterséges agylaboratóriumát vezette. A járványig közeli kollégája, Ben Goertzel futott SingularityNET ki Hongkongból. Ez az AGI projekt partnerségben működött Hanson Robotics– még mindig Hongkongban él –, akinek Sophia robotját transzhumán istennővé emelik a világ színpadán.

A Kínai Kommunista Pártnak történő technológiatranszfer mértéke nem ismert. De ésszerű azt feltételezni, hogy bármi is legyen a szándéka, de Garis és Goertzel segített Kínának abban, hogy megelőzze az Egyesült Államokat a mesterséges intelligencia terén. Ez az ambíció magában foglalja az emberi agy összekapcsolását a mesterséges intelligenciával, valamint általános mesterséges intelligencia létrehozását – tekintettel a katonai alkalmazásokra.

A DC-i Nemzetvédelmi Egyetem által kiadott PRISM 2021. novemberi kötete egy szemet nyitó kutatási tanulmányt tartalmaz: „Kína „új generációs” mesterséges intelligencia-agy projektje.” Kétségtelen, hogy a transzhumán impulzus átjárja a kínai lelket. A szerzők a KKP vezető kutatóját, Xu Bo-t idézik, aki a Tudományos és Technológiai Minisztérium hivatalos lapjának nyilatkozott:

Amint Xi Jinping főtitkár rámutatott a Politikai Hivatal kollektív tanulmányában, a mesterséges intelligencia kutatásának „pilóta nélküli területeket” kell feltárnia. A raj-intelligencia, az ember-gép hibrid intelligencia és az autonóm intelligencia területén nagy, pilóta nélküli területeket kell feltárni. … Úgy gondoljuk, hogy az autonóm evolúció híd a gyenge mesterséges intelligenciától az általános mesterséges intelligenciáig.

Vagy ahogy a pekingi Mesterséges Intelligencia Akadémia dékánja, Huang Tiejun elmondta az Élet jövője konferencián:

Emberi fajunk csak egy szakaszban van. Miért álljunk meg? Az emberek túl lassan fejlődnek. Az embereket lehetetlen összehasonlítani a gépi szuperintelligenciával. Előbb-utóbb megtörténik, akkor minek várni? Még az emberi centrikusság vagy az emberi kivételesség szemszögéből is szuperintelligenciára van szükség ahhoz, hogy szembenézzünk azokkal a nagy kihívásokkal, amelyeket nem tudunk kitalálni. Ezért támogatom az ötletet.

A PRISM-cikk szerzői a kínai technológiai intézmény kijelentéseit fordítva szárazon megjegyezték: „Más ilyen előrejelzések mindennaposak”.

A jövő sivárnak tűnik, de a lehetőségek még mindig tágra nyíltak. Ismét valahol a kétkedők és az igaz hívők között vagyok – és bevallom, ez egy langyos sövény.

Az okostelefonokhoz vagy az internethez hasonlóan a mesterséges intelligencia soha nem fog úgy működni, ahogy hirdetik. A technológiai evolúció váratlan hibák és nem kívánt következmények sorozata. Tele van feltöltött részvényekkel, túlzásba vitt állami szerződésekkel és túlfinanszírozott tudományos projektekkel.

Repülő autók (még) nincsenek. Hidegfúzió (még) nincs. Nincsenek elmekontroll nanobotok (ugye?).

Ennek ellenére csak a bolond nem hajlandó belátni, hogy az okostelefonok és az internet feldarabolta az organikus kultúrát. Ugyanez vonatkozik a tömeges megfigyelésre és a drónok hadviselésére is. Bármilyen formát is ölt a mesterséges intelligencia, meggyőződésem, hogy hasonló hatásai lesznek, ha nem rosszabbak.

Lehetséges, hogy a mesterséges intelligencia csevegőrobotjai és virtuális szexrabszolgái kihámoznak néhány embert a valóságból, és még őrültebbé teszik őket, mint amilyenek. Vagy az is lehet, hogy mesterséges intelligenciával továbbfejlesztett, genetikailag módosított, agycsipkés kiborgok hada száll le nanobotok felhőire, hogy versenyháborút vívjon az örökölt emberekből maradt dolgok ellen.

Csak az idő fogja megmondani. Tartsa szorosan az alufóliát és szárazon a port. És az isten szerelmére, kapcsolja ki az okostelefonját. Így kapnak rád.

Olvassa el a teljes történetet itt ...