Az AI fő feltalálója, Bengio szerint "Ez az 1984-es Big Brother forgatókönyv". Bengiónak és technokrata tudós társainak már korábban gondolkodniuk kellett volna ezen a módszeren, de ez tükrözi a Pollyanna-féle emberiségről alkotott nézetüket. ⁃ TN szerkesztő
Yoshua Bengio, a kanadai számítógépes tudós, aki úttörőként szolgálta a technikákat, amelyek a jelenlegi izgalom nagy részét megalapozzák a mesterséges intelligencia körül, aggódik amiatt, hogy Kína az AI-t megfigyeléshez és politikai ellenőrzéshez használja.
Bengio, aki egyben a monrealói székhelyű AI szoftvercég, az Element AI társalapítója, elmondta, hogy aggódik az általa létrehozott technológia miatt, amelyet az emberek viselkedésének ellenőrzésére és tudatuk befolyásolására használnak.
"Ez az 1984-es Big Brother forgatókönyv" - mondta egy interjúban. - Azt hiszem, egyre félelmetesebb.
Bengiót, a montreali egyetem professzorát Yann LeCun és Geoff Hinton mellett a mély tanulás három „keresztapjának” tartják. Ez egy olyan technológia, amely ideghálózatokat használ - egyfajta szoftvert, amely lazán az emberi agy aspektusain alapul -, hogy adatok alapján jósoljon. Felelős az arcfelismerés, a természetes nyelv feldolgozása, a fordítás és az ajánlási algoritmusok legújabb fejleményeiért.
A mély tanuláshoz nagy mennyiségű adatra van szükség ahhoz, hogy példákat lehessen adni a tanuláshoz - ám Kína, hatalmas népességével és állami nyilvántartási rendszerével, ennek nagyon sok van.
A kínai kormány zártláncú videokamerákat és arcfelismerést kezdett használni annak figyelemmel kísérésére, hogy polgárai mit csinálnak a nyilvánosság előtt, a jawwalkingtól kezdve a politikai nézeteltérésig. Létrehozta a Nemzeti Hitelinformációs Megosztó Platformot is, amelyet arra használnak, hogy feketelistára tegye a vasúti és légi utasokat „antiszociális” magatartás céljából, és fontolóra veszi ennek a rendszernek a más helyzetekre történő kiterjesztését.
"Az arcod használatát a nyomon követéshez szigorúan szabályozni kell" - mondta Bengio.
Bengio nem egyedül aggodalmát fejezi ki amiatt, hogy Kína használja az AI-t. George Soros milliomos milliárdos nemrégiben beszédet tartott a 24. Januárjában a Világgazdasági Fórumon, hogy kiemelje azokat a kockázatokat, amelyeket az ország a polgári szabadságjogok által okozott polgári szabadságjogokat és kisebbségi jogokat jelent.
Egyes társaktól eltérően, Bengio, aki a Montreali Intézet Algoritmusok Tanulására (Mila) vezet, ellenállt a kísértésnek, hogy egy nagy, reklámvezérelt technológiai vállalatnál dolgozzon. Azt mondta, hogy az AI felelősségteljes fejlesztése egyes nagy technológiai vállalatokat igényelhet működési módjának megváltoztatásához.
A nagy technológiai vállalatok által ellenőrzött adatok mennyisége szintén aggodalomra ad okot. Szerinte az adatbizalom létrehozása - nonprofit szervezetek vagy jogi keretek, amelyek alapján az emberek tulajdonában vannak az adataik, és lehetővé teszik, hogy azokat csak bizonyos célokra használják fel - egy megoldás lehet. Ha egy vagyonkezelő elegendő adatot birtokol, akkor jobb feltételeket tud tárgyalni olyan nagy technológiai vállalatokkal, amelyekre szüksége van - mondta csütörtökön az Amnesty International UK londoni irodájában tartott beszélgetés során.
wpDiscuz