Ugyanazok a technokraták, akik eleve mesterséges intelligenciát hoztak nekünk, most azon gondolkodnak, vajon hirtelen létrejöhet-e egy „szuper-AI”, amely elpusztítja a civilizációt. Megbízhatóbb válaszért talán Alexát kellene megkérdezniük. ⁃ TN szerkesztő
Az Allen Mesterséges Intézet vezérigazgatója, Oren Etzioni professzor számos lehetséges figyelmeztető jelet adott ki, amelyek arra figyelmeztetnek minket, hogy a sarkon vagyunk a „szuperintelligencia”.
Az embereknek készen kell állniuk a robot szuper intelligencia jeleire, de elegendő időnek kell rendelkezniük azok kezelésére - figyelmeztette a legfontosabb informatikus.
Oren Etzioni, az Allen Mesterséges Intézet vezérigazgatója egy nemrégiben megjelent cikket írt: „Hogyan lehet tudni, ha mesterséges intelligencia hamarosan elpusztítja a civilizációt. ”
Azt írta: „Fel tudnánk ébredni egy reggel döbbenten, hogy szuperhatékony AI jött létre, katasztrofális következményekkel?
„Olyan könyvek, mint Nick Bostrom Superintelligence és Max Tegmark Life 3.0, valamint újabb cikkek, valamint az újabb cikkek azt állítják, hogy a rosszindulatú szuperintelligencia egzisztenciális kockázatot jelent az emberiség számára.
- De végtelenül lehet spekulálni. Jobb, ha egy konkrétabb, empirikus kérdést teszünk fel: Mi figyelmeztetne minket arra, hogy a szuperintelligencia valóban a sarkon van?
A figyelmeztető jeleket a szénbányákban található kanári-szigetekhez hasonlította, amelyeket szén-monoxid kimutatására használtak, mert ezek összeomlnak.
Etzioni professzor szerint ezek a figyelmeztető jelek akkor jönnek, amikor az AI programok új képességeket fejlesztenek ki.
Az MIT Review folyóiratban folytatta: „Lehet-e a híres turingi teszt kanári? Az Alan Turing által 1950-ben feltalált teszt azt állítja, hogy az emberi szintű mesterséges intelligencia akkor valósul meg, ha az ember nem képes megkülönböztetni az emberrel folytatott beszélgetést a számítógéppel folytatott beszélgetéstől.
- Fontos teszt, de nem kanári; ez inkább annak a jele, hogy az emberi szintű AI már megérkezett.
„Számos informatikus úgy véli, hogy ha elérkezik ez a pillanat, akkor a szuperintelligencia gyorsan követni fogja. Több közbenső mérföldkőre van szükségünk. ”
De figyelmeztetett arra, hogy az első „kanári a„ tanulási problémák automatikus megfogalmazása ”lesz, amelyet az önvezető autók követnek.
Mi az a „tanulási problémák automatikus megfogalmazása”? Elmentem a linkre, de az oldal információt akar, amelyet nem voltam hajlandó megadni.