Newspeak AI: Teljesen hamis hírek elpusztíthatják az internetet

Frissült egy mesterséges intelligencia rendszer, amely valósághű történeteket, verseket és cikkeket generál. Néhányan azt állítják, hogy ez majdnem olyan jó, mint az emberi író.

A szöveggenerátor, amelyet az OpenAI kutatócég épített, eredetileg „túl veszélyesnek” tartották a nyilvánosság számára a visszaélések lehetősége miatt.

De most megjelent a rendszer új, erőteljesebb változata - amely hamis hírek vagy visszaélő spamek létrehozására használható a közösségi médiában - megjelent.

A BBC, néhány AI-szakértővel együtt, úgy döntött, hogy kipróbálja.

A GPT-2 elnevezésű modell nyolc millió weboldal adatkészletben került kiképzésre, és képes alkalmazkodni a neki adott eredeti szöveg stílusához és tartalmához.

Be tudja fejezni egy Shakespeare-verset, valamint cikkeket és epitet írt.

Akkor a cég kijelentette: „A technológia rosszindulatú alkalmazásával kapcsolatos aggodalmaink miatt nem adjuk ki a betanított modellt. A felelősségteljes nyilvánosságra hozatali kísérletként ehelyett sokkal kisebb modellt adunk ki a kutatók számára, hogy kísérletezzenek. "

Ennek eredményeként a kiadott változat jóval kevesebb paraméterrel - kifejezéssel és mondattal - rendelkezett, mint az edzés során használt.

Ebben a hónapban az OpenAI úgy döntött, hogy kibővíti a paramétereket, és sokkal szélesebb adatbázist kínál a képzési adatokkal.

Technikai hírportál A Next Web mondta a frissítésről: "Ez majdnem elég jól működik ahhoz, hogy általános mesterséges intelligenciaként használják a szövegalkotáshoz - szinte."

Tristan Greene, a cikk szerzője hozzátette: Rettegek a GPT-2-től, mert ez azt a fajta technológiát képviseli, amelyet a gonosz emberek a lakosság manipulálására használnak - és véleményem szerint ez veszélyesebbé teszi, mint bármelyik fegyvert.

A BBC úgy döntött, hogy teszteli a rendszert azáltal, hogy beírja a legutóbbi történet első néhány mondatát, megfelelően egy az AI-ről.

Az igazi történet első mondatával kezdtük:

A kínai Sogou keresőmotor mesterséges intelligencia-kereséseket hoz létre, hogy népszerű regényeket olvasson a szerzők hangján.

A szöveggenerátor a következőket találta ki annak befejezéséhez:

A kutatók szerint ez az olvasási módszer nemcsak az Amazon Kindle felhasználók gondolata. Az Android készülékek felhasználói szintén figyelemre méltó piac a hamis olvasás számára. Számos elmélet magyarázza ezt.

Először is, a felhasználó kezében lévő eszköz eltér attól a táblagéptől vagy számítógéptől, amelyen olvasnak. Másodszor, az internet eléréséhez használt eszközt valamilyen módon meg lehet hamisítani. A harmadik ok az, hogy a felhasználó egyszerűen másolhatja és beillesztheti a tartalmat közvetlenül a virtuális karaktereikbe.

Egy másik magyarázat az, hogy az eszköz egyáltalán nem rendelkezik hangfelismerési képességekkel. Ebben az esetben a hangfelismerés fejlettebb, mint a Google fordítómotorja. Mint ilyen, ezeket a felhasználókat arra késztetik, hogy azt gondolják, valódi szerzőtől olvasnak - a könyv hitelessé válik, amint megpróbálja és elolvassa.

Most ide kattintva olvashatja az igazi történetet Összehasonlításképp.

Noel Sharkey, a Sheffieldi Egyetem számítástechnikai professzora saját vizsgálatokat végzett a generátoron, és nem volt lenyűgözve.

Az ember sétál egy bárba

„Ha a szoftver az Open AI szándéka szerint működne, akkor ez nagyon hasznos eszköz lenne a hamis hírek és a clickbait spam egyszerű generálásához. Szerencsére a jelenlegi formájában összefüggéstelen és nevetséges szöveget generál, kevéssé viszonyítva a bevitt „címsorokhoz” - mondta.

Hozzátette: „Számos címsorral teszteltem a szoftvert, és nevetséges eredményeket kaptam. Például a „Törökország utálja a karácsonyt” kifejezésre azt kaptam, hogy „Törökország az egyetlen nemzet a világon, amely nem ünnepli a karácsonyt”, és számos, egymással nem összefüggő mondatot.

„Boris Johnson szereti a backstopot”, következetlen hömpölygést és néhány dolgot produkált az AI-ről és a sportról. Amikor azt a kijelentést vezettem be, hogy „Boris Johnson utálja a visszalépést”, kaptam egy összefüggőbb történetet, amelyet úgy tűnik, hogy lehúztak egy Google-keresésből. ”

Dave Coplin, az AI tanácsadói, a Envisioners alapítója szintén játszott a rendszerrel, beadva egy klasszikus vicc első sorát: Egy férfi bemegy egy bárba…

Az AI javaslata nem az volt, amire számított: „… És rendelt két korsó sört és két skótot. Amikor megpróbálta kifizetni a számlát, két férfi szembesült vele - egyikük azt kiabálta, hogy „Ez Szíriának szól”. A férfit vérezve hagyták, és torkon szúrták ”.

Ez a „társadalmunk elsöprően disztópikus tükröződése” tanulság volt arra vonatkozóan, hogy bármely mesterséges intelligencia-rendszer hogyan fogja tükrözni a képzési adatokban rejlő torzítást - mondta.

"A modellel végzett rövid kísérleteim alapján teljesen egyértelmű, hogy az adatok nagy részét internetes hírek képezték ki" - mondta.

Olvassa el a teljes történetet itt ...