Ha a látás hisz, készülj fel a csalásra

1 lépés: Használja az AI-t a kültéri fényképeken észlelhetetlen változtatások végrehajtására. 2 lépés: engedje szabadon a nyílt forráskódú világba, és élvezze a káoszt.

Aggódik mély hamisítványok- a gépeken manipulált videók a hírességek és a világ vezetői számára, akik állítólag azt mondják, vagy olyan dolgokat csinálnak, amelyek valójában nem voltak - furcsa, mint egy új fenyegetés: maga a Föld doktorantált képei.

Todd Myers, az automatizálás vezetője és a technológiai igazgató hivatalának informatikai igazgatója Kína elismert vezetője egy generálódó, egymással versengő hálózatoknak nevezett kialakuló technika alkalmazásával, hogy becsapja a számítógépeket a tájban vagy műholdas képekben lévő objektumok látására. a National Geospatial-Intelligence Agency-nál.

„A kínai jó előtt állnak. Ez nem minősített információ ”- mondta Myers, a második éves csütörtökön Genius Machines csúcstalálkozó, házigazda: Védelmi Egy és a Nextgov. „A kínai emberek már megtervezték; már most is ezt csinálják, GAN-ekkel - amelyek generatív egymás elleni hálózatok - használják a jeleneteket és a képpontokat manipulálva, hogy gonosz okokból hozzanak létre dolgokat. ”

Myers szerint például egy ellenfél becsaphatja számítógéppel támogatott képalkotó elemzőit azzal, hogy arról számolnak be, hogy egy híd egy adott ponton átlép egy fontos folyót.

„Tehát taktikai szempontból vagy küldetés-tervezésből kiképezi erőit egy bizonyos útvonalra, egy híd felé, de ott nincs. Akkor nagy meglepetés vár rád - mondta.

vezetéknév az 2014, A GAN-ek nagy evolúciót képviselnek abban, ahogyan az idegi hálózatok megtanulják látni és felismerni az objektumokat, sőt felismerik az igazságot a kitalálásból.

Tegyük fel, hogy megkérdezi a hagyományos ideghálózatot, hogy találja ki, mely objektumok vannak a műholdfotókon. A hálózat több részre, vagy pixelcsoportokra bontja a képet, kiszámítja, hogy ezek a törött darabok hogyan viszonyulnak egymáshoz, majd meghatározza, hogy mi a végtermék, vagy hogy a fotók valódiak-e vagy doktoráltak-e. Mindez a sok műholdas fotó megtekintésének tapasztalatán alapul.

A GAN-k megfordítják ezt a folyamatot úgy, hogy két hálózatot egymásra vetnek - ebből kifolyólag az „ellenfél” szó. A hagyományos hálózat azt mondhatja: „Az x, y és z jelenléte ezekben a pixel klaszterekben azt jelenti, hogy ez egy macska képe.” De egy GAN-hálózat mondhatja: „Ez egy macska képe, tehát x, y és z jelen kell lennie. Mik az x, y és z, és hogyan kapcsolódnak egymáshoz? ”Az ellenfél hálózata megtanulja, hogyan kell x, y és z-t felépíteni vagy generálni oly módon, hogy meggyőzze az első neurális hálózatot, vagy a diszkriminátort, hogy van valami ott amikor talán nem így van.

Sok tudós találta hasznosnak a GAN-eket tárgyak észlelésére és az érvényes képek válogatására a hamis tárgyakból. Az 2017-ben a kínai tudósok használtak Gans az utak, hidak és egyéb jellemzők azonosítására a műholdas képeken.

Az aggodalom, mint a madárinfluenza technikusai mondta Kvarc tavaly az volt, hogy ugyanaz a technika, amely meg tudja különböztetni a valódi hidakat a hamis állatoktól, segíthet olyan hamis hidak létrehozásában is, amelyeket az AI nem képes megmondani a valódi dolgokból.

Myers attól tart, hogy amint a világ egyre inkább támaszkodik a nyílt forráskódú képekre, hogy megértsék a fizikai terepet, csak egy maroknyi szakszerűen manipulált adatkészlet, amely a nyílt forráskódú képszolgáltatási vonalba lépett be, pusztítást okozhat. „Felejtsd el a [Védelmi Minisztériumot] és a [hírszerző közösséget]. Képzelje el, hogy a Google Maps célzottan beszivárog-e ehhez? És képzelje el öt év múlva, amikor a Tesla [önjáró] fél odakinn útmutatók vannak? - mondta.

Amikor mély hamis emberekről készült videókról van szó, biometrikus mutatók mint például az impulzus és a beszéd legyőzheti a hamis hatást. De a hamisított táj nem érzékeny ugyanazon technikákra.

Olvassa el a teljes történetet itt ...