A technokraták létrehoztak egy szörnyeteget, amelyről most rájönnek, hogy megfordíthatja és megsemmisítheti alkotóikat; így „háborús játékok” jönnek létre, hogy megtanulják, hogyan kell legyőzni - Mesterséges Intelligencia. Ez egy újabb példa arra, hogy a „világ megmentésére” tett kísérlet „a világ megsemmisítése” forgatókönyvvé vált. ⁃ TN szerkesztő
A mesterséges intelligencia fokozói a repülő autók és a rákos gyógymódok új, bátor világát jósolják. A detaktorok olyan jövő miatt aggódnak, ahol az embereket rabszolgává teszik a robotfelügyelők gonosz fajának. Eric Horvitz veterán mesterséges tudós és Lawrence Krauss, a Doomsday Clock guru középutat keresve szakértői csoportot gyűjtöttek össze az arizonai sivatagba, hogy megvitassák a lehető legrosszabbat - és hogyan állítsák meg.
Műhelyükre a múlt hétvégén került sor az Arizonai Állami Egyetemen, a Tesla Inc. társalapítója, Elon Musk és a Skype társalapítója, Jaan Tallinn támogatásával. Hivatalosan „A káros AI-kimenetel elképzelése és kezelése” néven egyfajta mesterséges intelligencia-világméretű játék volt, amely mintegy 40 tudóst, kiberbiztonsági szakértőt és szakpolitikai csapatot szervezett támadócsoportokba - a piros csapat és a védők - kék csapat - AI-t játszva. - nagyon téves forgatókönyvek, a tőzsdei manipulációtól kezdve a globális hadviselésig.
Horvitz optimista - jó dolog, mert a gépi intelligencia az élet munkája -, de a projekt néhány más, disztópikusabb gondolkodású támogatója túl pozitívnak találta a kilátásait, amikor körülbelül két évvel ezelőtt elkezdődtek az esemény tervei - mondta Krauss, egy elméleti elmélet fizikus, aki irányítja az ASU Origins projektjét, a műhelyt lebonyolító programot. Horvitz mégis azt mondta, hogy ezeknek a technológiáknak a sikeres előrehaladásához és a közvélemény széles körű bizalmának elnyeréséhez minden aggodalmat teljes mértékben fel kell hívni és kezelni kell.
„Az AI-nek óriási lehetősége van arra, hogy társadalmunk oly sok aspektusát sokféleképpen átalakítsa. Ugyanakkor vannak durva élek és potenciális hátrányok, mint minden technológia. ”- mondta Horvitz, a Microsoft washingtoni Redmond-i Kutatólaboratóriumának ügyvezető igazgatója. "A maximális előnyök elérése érdekében a lehetséges eredményeket is részletesebben át kell gondolnunk, mint korábban, és el kell gondolkodnunk azon, hogyan kezeljük őket."
A résztvevők „házi feladatot” kaptak a legrosszabb esetekre vonatkozó pályázatok benyújtására. Reálisaknak kellett lenniük - a jelenlegi vagy lehetségesnek tűnő technológiákon alapulva - és a jövőben 25-XNUMX évig. A „győztes” rémálmok jelentkezőit választották a panelek vezetésére, amelyekben a két csapatban körülbelül négy szakértő vett részt, hogy megvitassák a támadást és annak megakadályozását.
wpDiscuz