Követelés: Az arcfelismerés AI felfedheti a politikai pártodat

A kutatók létrehoztak egy gépi tanulási rendszert, amely állításuk szerint ésszerű pontossággal, csak az arcuk alapján határozhatja meg az ember politikai pártját. A tanulmány egy olyan csoporttól, amely azt is megmutatta, hogy a szexuális preferenciákra látszólag ilyen módon lehet következtetni, őszintén foglalkozik és óvatosan elkerüli a „modern frenológia” buktatóit, ami ahhoz a kellemetlen következtetéshez vezet, hogy a megjelenésünk több személyes információt fejezhet ki, amelyet gondolunk.

A héten megjelent tanulmány a Nature tudományos folyóirat tudományos folyóiratában, a Stanford Egyetem Michal Kosinski vezette. Kosinski 2017-ben olyan munkával került a címlapokra megállapította, hogy egy személy szexuális preferenciája megjósolható az arcadatok alapján.

A tanulmány nem annyira a módszerei miatt keltett kritikát, hanem éppen azért az elképzelésért, hogy valami, ami elméletileg nem fizikai, így felismerhető. De Kosinski munkája, amint azt akkor és később kifejtette, kifejezetten e feltételezések megkérdőjelezésére készült, és ugyanolyan meglepő és zavaró volt számára, mint mások számára. Az ötlet nem az volt, hogy egyfajta AI gaydart építsenek - sőt, éppen ellenkezőleg. Amint a csapat akkoriban írta, közzé kellett tenni, hogy figyelmeztesse a többieket, hogy ilyen dolgot olyan emberek is felépíthetnek, akiknek érdekei meghaladják az akadémiát:

Nagyon zavartak ezek az eredmények, és sok időt töltöttünk azon, hogy egyáltalán nyilvánosságra hozzuk-e őket. Nem akartuk engedélyezni azokat a kockázatokat, amelyekre figyelmeztetünk. Az a képesség, hogy ellenőrizze, mikor és kinek fedje fel szexuális irányultságát, döntő fontosságú nemcsak a közérzete, hanem a biztonsága szempontjából is.

Úgy éreztük, hogy sürgősen tudatosítani kell a döntéshozókat és az LMBTQ közösségeket a szembesülő kockázatokban. Nem hoztunk létre adatvédelmi eszközt, inkább megmutattuk, hogy az alapvető és széles körben alkalmazott módszerek komoly fenyegetéseket jelentenek a magánélet védelmére.

Hasonló figyelmeztetések hangzanak el itt, mert bár a politikai hovatartozás legalább az Egyesült Államokban (és legalábbis jelenleg) nem as érzékeny vagy személyes elem, mint szexuális preferencia, még mindig érzékeny és személyes. Alig telik el egy hét anélkül, hogy politikai vagy vallási „disszidenseket” vagy másokat letartóztattak vagy megöltek volna. Ha az elnyomó rendszerek úgy érhetik el, hogy mi következik be valószínű okból, ha azt mondják, hogy „az algoritmus lehetséges szélsőségesként jelölte meg”, ahelyett, hogy például lehallgatták volna az üzeneteket, az sokkal könnyebbé és skálázhatóbbá teszi ezt a fajta gyakorlatot.

Maga az algoritmus nem valami fejlett technológia. Kosinski tanulmánya egy meglehetősen hétköznapi eljárást ír le egy gépi tanulási rendszerről, amely több mint egymillió arcot tartalmaz, és amelyeket az Egyesült Államok, Kanada és az Egyesült Királyság társkereső oldalairól, valamint az amerikai Facebook-felhasználókról gyűjtöttek. Azokat az embereket, akiknek arcát használták, politikailag konzervatívnak vagy liberálisnak nevezték a webhely kérdőívének részeként.

Az algoritmus nyílt forráskódú arcfelismerő szoftveren alapult, és az alapos feldolgozás után, hogy csak az arcot vágják le (így semmilyen háttérelem nem kúszik be tényezőként), az arcokat 2,048 pontszámra csökkentik, amelyek különböző jellemzőket képviselnek - mint más arcfelismerés esetén algoritmusok, ezek nem szükségesek intuitív dolgok, mint például a „szemöldök színe” és az „orr típusa”, hanem sokkal inkább számítógép-fogalmak.

A rendszernek politikai hovatartozásra vonatkozó adatokat kaptak, amelyeket maguk az emberek szereztek, és ezzel szorgalmasan elkezdte tanulmányozni a konzervatívként és liberálisnak vallók arcképének különbségeit. Mivel kiderült, vannak különbségek.

Természetesen ez nem olyan egyszerű, mint „a konzervatívok szemöldökét jobban összegyűjtik” vagy a „liberálisok jobban ráncolják a szemöldöküket”. Az sem a demográfiai adatokra vonatkozik, amelyek túl egyszerűvé és egyszerűvé tennék a dolgokat. Végül is, ha a politikai pártok azonosulása mind az életkorral, mind a bőrszínnel összefügg, ez egy egyszerű előrejelzési algoritmust tesz lehetővé. De bár a Kosinski által használt szoftvermechanizmusok meglehetősen szabványosak, gondosan lefedte alapjait annak érdekében, hogy ez a tanulmány, akárcsak az utolsó, ne utasítható el áltudományként.

Ennek kezelésére a legnyilvánvalóbb módszer az, ha a rendszer találgatásokat tesz az azonos korú, nemű és etnikumú emberek politikai pártjára vonatkozóan. A teszt során két arcot mutattak be, mindkét fél egyikét, és kitalálták, melyik melyik. Nyilvánvaló, hogy az esély pontossága 50%. Az emberek nem nagyon képesek ebben a feladatban, csak valamivel meghaladják az esélyeket, körülbelül 55% -ban pontosak.

Az algoritmus elérte a 71% -os pontosságot, amikor két hasonló egyén között megjósolta a politikai pártot, és 73% -uk két, bármilyen korú, etnikumú vagy nemű egyént mutatott be (de garantáltan egy konzervatív, egy liberális).

Olvassa el a teljes történetet itt ...