A nap végén a technikával telített emberi technokraták, nem pedig programok fogják létrehozni az emberiség elleni politikákat és eredményeket, amelyek károsak az emberiség számára. Rejtõzködni fognak az AI mögött, hogy elkerüljék a felelõsséget, és mindenki azt fogja gondolni, hogy az algoritmusok elvitték őket.⁃ TN szerkesztő
Félelmetes az a gondolat, hogy az emberek kis csoportjai ellenőrizzék a valaha építendő legerősebb fegyverek feletti ellenőrzést, de ez a valóság, amelyben élünk. A nem túl távoli jövőben a hihetetlen hatalom és felelősség átadható AI és robotrendszerek, amelyek már aktív fejlesztésben vannak. Egy pár nyílt levélben a zavaró Ausztrália és Kanada miniszterelnökéhez több száz AI kutató és tudós beadványát kérdezi, hogy ez ne történjen meg.
Azt mondják, attól tartanak, hogy az emberi elem eltávolítása az élet és a halál döntéseiből pusztító korban jelentkezhet, amely végül az emberiség végét jelzi. Az AI fegyverrendszerek, ahogyan a kutatók állítják, „tömegpusztító fegyverek”, amelyeket egyenesen be kell tiltani, mielőtt bármilyen komoly károkat elkövetnének.
"Az élet- vagy halálos döntések gépekre történő átruházása alapvető erkölcsi vonalon halad át - függetlenül attól, hogy melyik oldal építi vagy használja őket" - mondta a levél magyarázza. „Az orosz rulett másokkal való játékát soha nem lehet igazolni pusztán a hatékonyság alapján. Ez nemcsak az emberi jogok alapvető kérdése. Az önálló fegyverek betiltásáról vagy bevonásáról szóló döntés az emberiség lényege.
Egy olyan környezetben, ahol a számítógépeknek leginkább szólnak az ellenséges cselekedetek elkövetése - akár saját területük megvédése, akár azoknak a lakosságnak a védelme érdekében, amelyek védelmére programozva vannak -, a konfliktusok sokkal gyorsabban eszkalálódhatnak, mint az emberek valaha láttak. Hetek, hónapok, sőt évekig tartó kiküldetés és diplomácia mindössze percekre vagy akár másodpercekké változhat, és a rakéták repülnek, még mielőtt az emberek beavatkozni kezdenek. És akkor természetesen az a kérdés, hogy az AI-t előre nem látható módon manipulálják.
"Ezek tömegpusztító fegyverek lesznek" - mondják a tudósok. „Egy programozó képes egy egész hadsereg irányítására. Minden más tömegpusztító fegyvert megtiltottak: vegyi fegyverek, biológiai fegyverek, sőt nukleáris fegyverek. Az önálló fegyvereket hozzá kell adnunk a fegyverek listájához, amelyek erkölcsi szempontból elfogadhatatlanok. "
wpDiscuz