A Világgazdasági Fórum úgy tudja, hogy az AI nemzetközi fegyverkezési versenyt indított el, de az eredmény még mindig nem világos. Technokrata nézőpontból az AI a megoldás az emberiség összes társadalmi és személyes problémájára. ⁃ TN szerkesztő
A gépek emelkednek, aláhúzva az emberiséget. Ez egy tudományos fantasztikus trófea, amely majdnem olyan régi, mint maguk a gépek. A döntetlen nap körül forgatott forgatásai annyira külföldiek, mint a A Mátrix, amelyben az ember által létrehozott mesterséges intelligencia beilleszti az embereket egy szimulált valóságba, hogy energiát gyűjtsön a testéből - nehéz őket súlyos fenyegetésként megjeleníteni.
Eközben a mesterségesen intelligens rendszerek tovább fejlődnek. Az önvezető autók kezdik megosztani az utunkat; a zsebméretű eszközök válaszolnak kérdéseinkre és valós időben kezelik ütemezéseinket; algoritmusok vertek minket Go-nál; a robotok jobban tudnak felkelni, amikor összeesnek. Nyilvánvaló, hogy ezen technológiák fejlesztése haszonnal jár az emberiség számára. De akkor - vajon az összes disztopikus sci-fi történet nem így kezdődik?
Az AI disztopópiás potenciáljáról folytatott bármilyen vita a két szélsőség egyikéhez vezethet. Az egyik túlságosan hitetlen ijesztő. Természetesen Siri nem akar hamarosan HAL-ból transzmogrifikálni 2001: A Space Odyssey. De a másik véglet ugyanolyan veszélyes - elégedettség, hogy nem kell ezeket a kérdéseket átgondolnunk, mivel az emberiséget fenyegető AI évtizedekkel vagy annál tovább van.
Igaz, hogy a sci-fi iránt imádott mesterséges „szuperintelligencia” a jövőben sok évtizeddel később lehet, ha ez egyáltalán lehetséges. Azonban a a vezető AI kutatók közelmúltbeli felmérése, amelyet a TechEmergence készített sokféle aggodalmat talált az AI biztonsági veszélyeivel kapcsolatban egy sokkal reálisabb, 20-éves időkereten belül - ideértve a pénzügyi rendszerek összeomlását, mivel az algoritmusok váratlanul kölcsönhatásba léptek, és az AI potenciálját arra, hogy segítsen a rosszindulatú szereplőknek a biotechnológiai fegyverek optimalizálásában.
Ezek a példák megmutatják, hogy a technológiai haladás mellett, a sokoldalúság mellett, a negyedik ipari forradalom is igen nagymértékben ígéretezi a pusztítás képességének gyors és hatalmas demokratizálódását. A „mély web” sötét oldalán, ahol az információkat a keresőmotorok elrejtik, már léteznek romboló eszközök számos új technológiában, az 3D nyomtatott fegyverektől a hasadó anyagokig és az otthoni laboratóriumokban alkalmazott géntechnikai eszközökig. Az AI mindkét esetben súlyosbítja a károsodást.
Vegyünk egy másik lehetőséget, amelyet a TechEmergence felmérés említ. Ha fegyvert, quadrocopter dront, nagy felbontású kamerát és egy arcfelismerő algoritmust kombinálunk, amelynek nem kell sokkal fejlettebbnek lennie, mint a jelenlegi A legjobb az osztályban, elméletileg elkészíthetnénk egy gépet, amelyet úgy programozhatunk, hogy tömeg felett repüljön, bizonyos arcokat keresve és meggyilkolva a látványt.
Egy ilyen eszköznek nem lenne szüksége szuperintelligenciára. Elképzelhető a jelenlegi, „szűk” AI használata, amely még nem képes megtenni a kreatív ugrásszerű ugrást a megértés különböző területein, amelyekre az emberek képesek. A „mesterséges általános intelligencia” vagy az AGI kifejlesztésekor - amint valószínűnek tűnik, hogy előbb vagy utóbb - előbb jelentősen növeli mind az AI potenciális előnyeit, mind a szavak Jeff Goddell, biztonsági kockázata, "újfajta könyvelést kényszerítve a technológiai démonnal".
De nem eléggé gondolkodnak az AI fegyverrel felruházható lehetőségeiről. Mint Wendell Wallach azt mondja: „A technológiai lehetőségek jövőbeni navigálása veszélyes vállalkozás” - jegyzi meg. "A helyes kérdések felteszésének megtanulásával kezdődik - olyan kérdésekkel, amelyek felfedik a tétlenség buktatóit, és ami még fontosabb, a folyosók, amelyek a tanfolyam biztonságos kikötőjéhez való megtervezéséhez rendelkezésre állnak."
Az atomsorompó kihívások
Kiemelkedő tudósok, köztük Stuart russell kiadtak egy cselekvésre szólít fel hogy elkerüljék a potenciális buktatókat az AI kialakításában háttal ellátott vezető technológusok, köztük Elon Musk, Demis Hassabis, Steve Wozniak és Bill Gates. Az egyik nagy horderejű bukás lehet „halálos autonóm fegyverrendszerek” (LAWS) - vagy többnyelvűen „gyilkosrobotok”. A robotika és a biztonság digitális átalakulásának technológiai fejlődése már megváltoztatta a hadviselés alapvető paradigmáját. Szerint század technológiája mélyen zavaró módon változtatja meg a háború megértését. ”A teljesen kifejlesztett törvények valószínűleg ugyanolyan drámai módon fogják átalakítani a modern hadviselést, mint a puskapor és a nukleáris fegyverek.
Az ENSZ Emberi Jogi Tanácsa rendelkezik felszólított moratóriumra a törvények továbbfejlesztéséről, míg más aktivisták és kampányok teljes körű tilalmat szorgalmaztak, analógiát húzva a vegyi és biológiai fegyverekkel, amelyeket a nemzetközi közösség a sápadtságon kívül tart. Az Egyesült Nemzetek Tagállamai a harmadik hónapban egymás után találkoztak a múlt hónapban, hogy megvitassák a tilalom felhívását és annak biztosítását, hogy a törvények további fejlesztése a nemzetközi humanitárius jogon belül maradjon. Ugyanakkor, amikor az úttörő fegyverek technológiája már nem korlátozódik néhány nagy katonaságra, az atomsorompó erőfeszítések sokkal nehezebbé válnak.
A vitát bonyolítja az a tény, hogy a fogalommeghatározások továbbra is zavartak. Az olyan platformokat, mint a drónok, általában összekeverik a fegyverekkel, amelyeket peronokra lehet betölteni. Az a gondolat, hogy a rendszereket szigorúan meghatározott feladatok elvégzésére kérik, például egy adott földrajzi területen mozgó páncélozott járművek azonosítására és megszüntetésére, nem mindig különbözik attól az elképzeléstől, hogy a rendszereknek diszkrecionális jogkört kell biztosítani az általánosabb küldetések, például a „győzelem” értelmezésére. A háború" .
wpDiscuz