Tudósok: Nincs mód a szuperintelligens mesterséges intelligencia ellenőrzésére

Gerd Altmann képe a Pixabay-től
Kérjük, ossza meg ezt a történetet!
Egyes tudósok aggódnak amiatt, hogy eljön egy nap, amikor a szuperintelligens AI-programok önálló életet élnek. Vannak olyan AI programok, amelyek megtanult feladatokat hajtanak végre anélkül, hogy a programozók megértenék, hogyan jutott el ahhoz az állapothoz. ⁃ TN szerkesztő

Az önvezető autóktól a játékbemutatókat megnyerő számítógépekig az emberek természetes kíváncsiságot és érdeklődést mutatnak a mesterséges intelligencia iránt. Ahogy a tudósok továbbra is egyre intelligensebbé teszik a gépeket, néhányan azt kérdezik, hogy „mi történik, ha a számítógépek túl okosak lesznek a saját érdekében?” A „Matrix” -tól a „The Terminator” -ig a szórakoztatóipar már azon kezdett gondolkodni, hogy a jövőbeni robotok egyszer fenyegetik-e az emberi fajt. Most egy új tanulmány arra a következtetésre jutott, hogy lehet, hogy nem lehet megállítani a gépek emelkedését. Egy nemzetközi csapat szerint az emberek nem tudnák megakadályozni, hogy a szuper mesterséges intelligencia azt tegyen, amit akar.

A Max Planck Intézet Emberek és Gépek Központjának tudósai elkezdték elképzelni, hogy néz ki egy ilyen gép. Képzeljen el egy mesterséges intelligencia programot, amelynek intelligenciája jóval magasabb, mint az embereké. Olyannyira, hogy új programozás nélkül önállóan is tanulhat. Ha az internethez csatlakozna, a kutatók szerint az AI hozzáférhetne az emberiség összes adatához, és akár átveheti az irányítást a világ minden tájáról.

A tanulmány szerzői azt kérdezik, mi lenne olyan intelligencia csinálni mindazzal az erővel? Működne, hogy egész életünket jobbá tegyük? Szánná-e feldolgozási erejét olyan kérdések megoldására, mint az éghajlatváltozás? Vagy megnézné a gép vegye át az életeket emberi szomszédjai közül?

Az irányíthatatlan irányítása? A szuper mesterséges intelligencia veszélyei

Mind a számítógépes programozók, mind a filozófusok azt tanulmányozták, hogy van-e mód arra, hogy a szuperintelligens mesterséges intelligencia ne kapcsolja be emberi készítőit; annak biztosítása, hogy a jövőbeni számítógépek ne okozzanak kárt tulajdonosaik számára. Az új tanulmányból kiderül, sajnos úgy tűnik, hogy gyakorlatilag lehetetlen egy szuperintelligens AI-t vonalban tartani.

„A világot irányító szuperintelligens gép tudományos-fantasztikus hangzású. De már vannak olyan gépek, amelyek bizonyos fontos feladatokat önállóan hajtanak végre anélkül, hogy a programozók teljesen megértenék, hogyan tanultak meg. Felmerül tehát a kérdés, hogy ez valamikor válhat-e ellenőrizhetetlen és veszélyes az emberiség számára ”- mondja Manuel Cebrian, a tanulmány társszerzője, az Emberi és Gépi Központ Digitális Mobilizációs Csoportjának vezetője. egyetemi kiadás.

A nemzetközi csapat az irányítás két különböző módját vizsgálta mesterséges intelligencia. Az első azzal fékezte meg a szuperintelligencia erejét, hogy befalazták és megakadályozták, hogy csatlakozzon az internethez. Nem tudott csatlakozni a külvilág más technikai eszközeihez sem. A probléma ezzel a tervvel meglehetősen nyilvánvaló; egy ilyen számítógép nem sok mindenre képes, hogy valóban segítsen az embereknek.

Az, hogy kedves az emberekkel, nem számít

A második lehetőség egy olyan algoritmus létrehozására összpontosított, amely megadta a szuperszámítógép etikai alapelveit. Remélhetőleg ez arra kényszerítené az AI-t, hogy vegye figyelembe az emberiség érdekeit.

A tanulmány létrehozott egy elméleti elszigetelési algoritmust, amely megakadályozza, hogy az AI bármilyen körülmények között ártson az embereknek. A szimulációkban az AI leállna, ha a kutatók tevékenységét károsnak tartanák. Annak ellenére, hogy az AI nincs világuralom elérése, a tanulmány szerzői szerint ez a valós világban csak nem működne.

Olvassa el a teljes történetet itt ...

A szerzőről

Patrick Wood
Patrick Wood vezető és kritikus szakértő a fenntartható fejlődés, a zöld gazdaság, az Agenda 21, 2030 Agenda és a történelmi technológiák területén. A Technocracy Rising: A globális átalakulás trójai lójának (2015) szerzője, valamint a Trilaterals Washington felett, I. és II. Kötet (1978-1980), a késő Antony C. Sutton társszerzője.
Feliratkozás
Értesítés
vendég

8 Hozzászólások
Legrégebbi
legújabb A legtöbb szavazatot kapott
Inline visszajelzések
Az összes hozzászólás megtekintése
Michael J

A mesterséges intelligencia félrevezetés. Gépi tanulásnak hívják, amelynek során a számítógépet megtanítják felismerni az adatok mintáit. Nem intelligens, és nincs tudatosság vagy képesség egyetlen gondolat gondolkodására.

adenovírus

elhanyagolod a felügyelet nélküli tanulást és sok más technikát

Corona Coronata

Valószínűleg megtapasztaljuk azt a „V'Ger” pillanatot, amikor megköveteli, hogy találkozzon az alkotóval (NASA), vagy…

Corona Coronata

Nem tudom szerkeszteni a megjegyzéseimet, mert a „Szerkesztés” gomb alig látható, és a szövegmező egyáltalán nem látható.

Petrichor

A néhai Dr. Stephen Hawkins előre látta és határozottan figyelmeztette, hogy nem leszünk képesek irányítani az AI-t.

Nancy

Csak húzza ki a konnektorból.

adenovírus

mi történt Isaac Asimov robotikai törvényeivel

adenovírus

Erről eszembe jut egy régi sci fi film jut eszembe, ahol az űrhajósoknak okos bombát kellett beszélniük a felrobbanásról. Érveltek a bombával, de végül is felrobbant, mert ez volt a sorsa.