Figyelnünk kell-e az AI-szakértők figyelmeztetéseire, hogy hagyjuk abba MOST?

Egy TOP AI-szakértő éles figyelmeztetést adott ki a szuperintelligens mesterségesintelligencia-technológia világméretű kihalás veszélyére.

Eliezer Yudkowsky vezető mesterséges intelligencia-kutató, és azt állítja, hogy „mindenki meghal a földön”, ha nem állítjuk le a mesterséges intelligencia fejlesztését. emberfeletti intelligencia rendszerek.

A 43 éves férfi a Machine Intelligence Research Institute és (MIRI) társalapítója, és azt állítja, hogy pontosan tudja, milyen „borzasztóan veszélyes ez a technológia”.

Attól tart, hogy ha az emberről van szó az embernél okosabb intelligenciáról – az eredmény „teljes veszteség” – írta IDŐ.

Metaforaként azt mondja, ez olyan lenne, mint egy „11. század, amely a 21. század ellen próbál harcolni”.

Röviden, az emberek drámaian veszítenének.

Március 29-én az OpenAI vezető szakértői nyílt levelet nyújtottak be „Pause Giant AI Experiments” amely azonnali hat hónapos eltiltást követelt a hatékony mesterséges intelligencia rendszerek képzésétől hat hónapig.

Olyanok írták alá, mint Apple társalapítója, Steve Wozniak és Elon Musk.

Az amerikai teoretikus azonban azt mondja, hogy nem volt hajlandó aláírni ezt a petíciót, mivel az „túl keveset kér a megoldásához”.

A fenyegetés olyan nagy, hogy szerinte a mesterséges intelligencia okozta kihalást „prioritásnak kell tekinteni a teljes nukleáris csere megakadályozása felett”.

Figyelmeztet, hogy a robottudomány legvalószínűbb eredménye az, hogy létrehozunkAz AI nem azt csinálja, amit mi akarunk, és nem törődik velünk, sem az érző élettel általában.”

Yudkowsky elismeri, hogy nem állunk készen arra, hogy megtanítsuk az AI-t, hogyan legyünk gondoskodóak, mivel „jelenleg nem tudjuk, hogyan kell”.

Ehelyett a rideg valóság az, hogy az elmében vagy egy robotban „atomokból vagytok, amelyeket másra tud használni”.

"Ha valaki túlságosan erős mesterséges intelligenciát épít a jelenlegi körülmények között, azt várom, hogy az emberi faj minden egyes tagja és a Föld összes biológiai élete röviddel ezután meghal."

Yudkowsky arra szeretne rámutatni, hogy jelenleg „fogalmunk sincs, hogyan határozzuk meg, hogy az AI-rendszerek tisztában vannak-e önmagukkal”.

Ez azt jelenti, hogy a tudósok véletlenül létrehozhatnak „digitális elméket, amelyek valóban tudatosak”, és akkor mindenféle erkölcsi dilemmába csúszik, hogy a tudatos lényeknek jogaik legyenek, nem pedig tulajdonuk.

A tudatlanságunk, könyörög, a bukásunk lesz.

Olvassa el a teljes történetet itt ...