Tudósok: Nincs mód a szuperintelligens mesterséges intelligencia ellenőrzésére

Az önvezető autóktól a játékbemutatókat megnyerő számítógépekig az emberek természetes kíváncsiságot és érdeklődést mutatnak a mesterséges intelligencia iránt. Ahogy a tudósok továbbra is egyre intelligensebbé teszik a gépeket, néhányan azt kérdezik, hogy „mi történik, ha a számítógépek túl okosak lesznek a saját érdekében?” A „Matrix” -tól a „The Terminator” -ig a szórakoztatóipar már azon kezdett gondolkodni, hogy a jövőbeni robotok egyszer fenyegetik-e az emberi fajt. Most egy új tanulmány arra a következtetésre jutott, hogy lehet, hogy nem lehet megállítani a gépek emelkedését. Egy nemzetközi csapat szerint az emberek nem tudnák megakadályozni, hogy a szuper mesterséges intelligencia azt tegyen, amit akar.

A Max Planck Intézet Emberek és Gépek Központjának tudósai elkezdték elképzelni, hogy néz ki egy ilyen gép. Képzeljen el egy mesterséges intelligencia programot, amelynek intelligenciája jóval magasabb, mint az embereké. Olyannyira, hogy új programozás nélkül önállóan is tanulhat. Ha az internethez csatlakozna, a kutatók szerint az AI hozzáférhetne az emberiség összes adatához, és akár átveheti az irányítást a világ minden tájáról.

A tanulmány szerzői azt kérdezik, mi lenne olyan intelligencia csinálni mindazzal az erővel? Működne, hogy egész életünket jobbá tegyük? Szánná-e feldolgozási erejét olyan kérdések megoldására, mint az éghajlatváltozás? Vagy megnézné a gép vegye át az életeket emberi szomszédjai közül?

Az irányíthatatlan irányítása? A szuper mesterséges intelligencia veszélyei

Mind a számítógépes programozók, mind a filozófusok azt tanulmányozták, hogy van-e mód arra, hogy a szuperintelligens mesterséges intelligencia ne kapcsolja be emberi készítőit; annak biztosítása, hogy a jövőbeni számítógépek ne okozzanak kárt tulajdonosaik számára. Az új tanulmányból kiderül, sajnos úgy tűnik, hogy gyakorlatilag lehetetlen egy szuperintelligens AI-t vonalban tartani.

„A világot irányító szuperintelligens gép tudományos-fantasztikus hangzású. De már vannak olyan gépek, amelyek bizonyos fontos feladatokat önállóan hajtanak végre anélkül, hogy a programozók teljesen megértenék, hogyan tanultak meg. Felmerül tehát a kérdés, hogy ez valamikor válhat-e ellenőrizhetetlen és veszélyes az emberiség számára ”- mondja Manuel Cebrian, a tanulmány társszerzője, az Emberi és Gépi Központ Digitális Mobilizációs Csoportjának vezetője. egyetemi kiadás.

A nemzetközi csapat az irányítás két különböző módját vizsgálta mesterséges intelligencia. Az első azzal fékezte meg a szuperintelligencia erejét, hogy befalazták és megakadályozták, hogy csatlakozzon az internethez. Nem tudott csatlakozni a külvilág más technikai eszközeihez sem. A probléma ezzel a tervvel meglehetősen nyilvánvaló; egy ilyen számítógép nem sok mindenre képes, hogy valóban segítsen az embereknek.

Az, hogy kedves az emberekkel, nem számít

A második lehetőség egy olyan algoritmus létrehozására összpontosított, amely megadta a szuperszámítógép etikai alapelveit. Remélhetőleg ez arra kényszerítené az AI-t, hogy vegye figyelembe az emberiség érdekeit.

A tanulmány létrehozott egy elméleti elszigetelési algoritmust, amely megakadályozza, hogy az AI bármilyen körülmények között ártson az embereknek. A szimulációkban az AI leállna, ha a kutatók tevékenységét károsnak tartanák. Annak ellenére, hogy az AI nincs világuralom elérése, a tanulmány szerzői szerint ez a valós világban csak nem működne.

Olvassa el a teljes történetet itt ...