A sokrétűség jön, és a világ még nem áll készen

In Az erőszak jövője, Benjamin Wittes és Blum Gabriella zavaró hipotetikus forgatókönyvet tárgyalnak. A nigériai magányos színész, aki „sok spam- és online csalásnak ad otthont”, becsapja a nőket és a tizenéves lányokat olyan rosszindulatú programok letöltésére, amelyek lehetővé teszik tevékenységük figyelemmel kísérését és rögzítését zsarolás céljából.

Az igazi történet egy kaliforniai emberről szól, akit az FBI végül elfogott és hat évre börtönbe küldött, de ha máshol lenne a világon, valószínűleg megszabadult volna tőle. Számos ország, amint azt Wittes és Blum megjegyezte, „nincs sem akarata, sem eszköze a kiberbűnözés nyomon követésére, az elkövetők büntetőeljárására vagy a gyanúsítottak kiadatására az Egyesült Államokban”. 

Más szavakkal: a technológia lehetővé teszi a bűnözők számára, hogy bárkit bárhol megcélozzanak, és a demokratizálódás miatt egyre inkább léptékben. A kialakuló bio-, nano- és számítógépes technológiák egyre hozzáférhetőbbé válnak. Daniel Deudney politológusnak van egy szava arra, hogy mit eredményezhet: „mindenhatóság”.

A gyilkosok és a megöltek aránya, vagyis a „K / K arány” csökken. Például Stuart Russell számítástechnikus tudósítóan élénken hangzott el leírt hogyan lehet egy rosszindulatú ügynökök egy csoportja részt venni a mindenekelõségben: "Egy nagyon, nagyon kicsi, egy hüvelyk átmérõjû négykopter képes egy vagy két gramm alakú töltést hordozni" - mondja. „Kínai dróngyártónál rendelheti meg őket. Beprogramozhatja a kódot, hogy a következőt mondja: "Itt van ezer fénykép többféle dologról, amit meg akarok célozni." Egy gramm kummulatív töltet lyukaszthat kilenc milliméter acélból, ezért feltehetően lyukaszthat is valaki fejében.

Körülbelül hárommillió beilleszthető egy félpótkocsiba. Három teherautóval felhajthatja az I-95-et, és 10 millió fegyverrel támadhatja meg New York Cityjét. Nem kell, hogy nagyon hatékonyak legyenek, csak az 5 vagy az 10% -oknak kell megtalálniuk a célt. ”A gyártók milliókat fognak gyártani ezekre a drónokra, amelyek megvásárolhatók ugyanúgy, mint most a fegyverekhez - mutat rá Russell,„ kivéve milliókat a fegyvereknek nem számít, ha nincs millió katonád. Csak három srácra van szükséged a program írására és az indításra. ”Ebben a forgatókönyvben a K / K arány lehet 3 / 1,000,000, feltételezve, hogy 10 százalékos pontosságot és drónonként csak egy grammos alakú töltöttséget feltételez. 

Figyelem: Ez a videó dramatizált, és nem történt meg!

Ez teljesen - és borzalmasan - példátlan. A jövő terroristájának vagy pszichopatának azonban nemcsak az Internet vagy a drónok lesznek - ezt a videót a Future of Life Institute-tól -, de szintén rendelkezésre állnak a szintetikus biológia, a nanotechnológia és a fejlett AI rendszerek. Ezek az eszközök triviálissá teszik a nemzetközi határokon átnyúló pusztítást, ami felveti a kérdést: A kialakulóban lévő technológiák elavítják-e az állami rendszert?

Nehéz megérteni, miért nem. Thomas Hobbes angol filozófus azt állította, hogy az állam fennállása „társadalmi szerződés”. Az emberek bizonyos szabadságokat feladnak az állam által biztosított biztonságért cserébe, amelynek során az állam semleges „bíróként” jár, amely beavatkozhat, amikor az emberek vitákba büntesse a lopást és gyilkosságot okozó embereket, és hajtsa végre az egymással versengő érdekű felek által aláírt szerződéseket. 

A probléma az, hogy ha bárki bárhol máshol támadhat meg, akkor az államok képesek lesznek - és egyre inkább - nem tudnak eleget tenni elsődleges bírói kötelességüknek. Ez egy tendencia az anarchia felé, azaz „mindenki háborúja mindenkinek ellen”, amint Hobbes állította - más szavakkal olyan helyzet, hogy mindenki állandóan attól tart, hogy félt attól, hogy a szomszédai sértik őket. Valójában egy közelmúltban papír, "A sebezhető világhipotézis", közzétéve a Globális politika, az oxfordi filozófus, Nick Bostrom azt állítja, hogy a globális katasztrófa elleni védekezés egyetlen módja egy univerzális és invazív megfigyelő rendszer alkalmazása, amelyet „high-tech panopticonnak” hív.

Hang disztopikus? Ez biztosan nekem is. „A High-tech Panopticon létrehozásához és üzemeltetéséhez jelentős beruházásokra lenne szükség - írja a Bostrom -, de a kamerák csökkenő árai, az adatátvitel, a tárolás és a számítástechnika, valamint az AI-kompatibilis tartalomelemzés gyors fejlődésének köszönhetően hamarosan előfordulhat, hogy technológiailag megvalósíthatóvá és megfizethetővé válnak. ”A Bostrom jól ismeri a hátrányait - egy állam korrupt szereplői kihasználhatják ezt a megfigyelést totalitárius célok érdekében, vagy a hackerek zsarolhatják a gyanútlan áldozatokat. A tény azonban az, hogy ez továbbra is jobb megoldás, mint az egyik globális katasztrófa a másik után szenvedni. 

Hogyan tudják a társadalmak ellensúlyozni a mindenhatóságot? Egy stratégia lehet egy szuper intelligens gép - lényegében egy rendkívül nagy teljesítményű algoritmus -, amelyet kifejezetten a tisztességes irányításra terveztek. Ezután az algoritmust politikai felelősségre vonhatjuk, és amennyiben ez valami „Filozófus királynak” tekinthető, ne aggódjon folyamatosan az összegyűjtött adatokkal való visszaélés vagy visszaélés miatt. Természetesen ez egy fantasztikus javaslat. Még az AI valós felhasználása az igazságszolgáltatásban is rengeteg problémák. De ezen a ponton van-e jobb ötletünk az állami rendszer összeomlásának megakadályozására a széles körű technológiai felhatalmazás hatására?

Olvassa el a teljes történetet itt ...