Az Amazon arcfelismerő technikájának „Supercharges” helyi rendőrsége

üres
Kérjük, ossza meg ezt a történetet!
image_pdfimage_print
Az Amazon szerint a Recognition AI rendszere „megkülönböztethetetlen a mágiaktól”, de most névleges díjakért kínálja azt a rendőrség számára minden szinten, a helyi városi rendőrségtől és a seriff hivataloktól az FBI-ig. Jelenleg nincs olyan nemzeti törvény, amely szabályozná az arcfelismerést. ⁃ TN szerkesztő

Amikor az Ace Hardware munkatársai arról számoltak be, hogy egy nő egy 11.99 dolláros hegesztőgáz-tartállyal ment ki az üzletből, amelyet még nem fizetett be a táskájába, egy bonyolult, csúcstechnológiával küzdő, bűncselekmény elleni küzdelem történt.

Egy washingtoni megyei seriff nyomozó, az ügynökség Különleges Nyomozó Egységével együttműködve, az Amazon által készített belső arcfelismerő program segítségével az üzlet megfigyelési felvételeit vezetett fel, feltárva egy lehetséges mérkőzést.

Ezt a nő rendszámát megjelölték, és három hónappal később egy jelöletlen terepjáróban a kábítószer-tiszt látta, és rádión ment más járőrparancsnokok számára, hogy megállítsák. Egy képviselő tapsolt egy bilincset a csuklója körül, és a letartóztatási jelentés kimondja. Azt mondta, szüksége lenne benzinre az autója rögzítéséhez.

A Nyugat-Oregon e sarkában, az ultraliberal Portland területén kívüli képviselõk a régimódi módon követik fel a bûnözõket, és faxon faxozták az irodában egy gyanúsított kamerával rögzített képeit, abban a reményben, hogy valaki felismeri az arcát.

Aztán, 2017 végén, a Washington megyei seriff hivatala az ország első rendészeti ügynökségévé vált, amelyről ismert, hogy az Amazon mesterséges intelligencia eszközét ismeri fel a Recognition segítségével, és erdők és külvárosok tömegeit nyilvános tesztpályává alakítja egy új, kísérleti rendőri felügyelet hullámaként. technikákat.

Szinte egyik napról a másikra a képviselők láthatták, hogy a vizsgálati hatáskörök feltöltődtek, lehetővé téve számukra a gyanúsított arcának mérkőzéseinek vizsgálatát a 300,000 óta a megyei börtönben készített több mint 2001 bögrefelvételben. Valaki arcának szemcsés képe - amelyet biztonsági kamera, szociális média-fiók vagy egy helyettes okostelefonja rögzített - gyorsan linkévé válhat személyazonosságához, ideértve a nevét, családját és címét. A tavalyi évnél több mint az 1,000 arcfelismerési keresést naplóztak - mondta a képviselők, akik az eredményeket néha felhasználták egy gyanúsított Facebook oldalának felkeresésére vagy az otthoni látogatásukra.

De Washington megye szintén nullpontjává vált egy magas szintű csata számára a rendészet algoritmus által szabályozatlan növekedése miatt. A védelmi ügyvédek, a mesterséges intelligencia kutatói és a polgári jogi szakértők azt állítják, hogy a technológia olyan ártatlan személyek jogellenes letartóztatásához vezethet, akik csak a videofájlhoz hasonlítanak. A felismerés pontosságát szintén hevesen vitatják, és egyes szakértők attól tartanak, hogy a fegyveres képviselõk téves személyazonossága veszélyes következményekkel járhat, veszélyeztetve a magánélet és az emberek életét.

Egyes rendőrségi ügynökségek az utóbbi években arcfelismerési kutatásokat végeztek állami vagy FBI adatbázisok ellen, olyan vállalkozók által épített rendszerek segítségével, mint például a Cognitec, az IDEMIA és a NEC. Az Amazon bevezetése azonban talán a legnagyobb lépést jelentette az ellentmondásos arc-letapogató technológia érvényesítésében. A felismerés könnyen aktiválható, nem igényel jelentős műszaki infrastruktúrát, és gyakorlatilag bárkinek kínálják olcsón. Washington megye körülbelül 700 dollárt költött az első nagy méretű fotó feltöltésére, és most minden kereséséért kb. 7 dollárt fizet havonta.

Lehetetlen azonban megmondani, mennyire pontos és eredményes volt a technológia az első 18 hónapos valós tesztek során. A képviselõknek nem kell megjegyezniük a letartóztatási jelentésekben, amikor arcfelismerõ keresést hajtottak végre, és nem egyértelmû, hogy hányszor vezettek letartóztatást. A seriff tisztviselői szerint a szoftver tucatnyi letartóztatáshoz vezetett lopás, erőszak vagy egyéb bűncselekmények miatt, ám egy nyilvános nyilvántartás iránti kérelem kilenc esetjelentést hozott létre, amelyekben az arcfelismerést említették.

"Ugyanúgy, mint bármelyik nyomozási technikánk, nem mondjuk el az embereknek, hogy elkapjuk őket" - mondta Robert Rookhuyzen, az ügynökség súlyos bűncselekményekkel foglalkozó csapata nyomozója, aki szerint "több tucat" keresést hajtott végre, és hasznosnak találta az 75% -ról. az idő. "Azt akarjuk, hogy továbbra is találgassanak."

A seriff tisztviselői szerint az arcszkennelés nem mindig jelzi a nyomozás végét: A képviselőknek még mindig meg kell határozniuk a valószínűsíthető okot vagy bizonyítékokat, mielőtt a gyanúsítottat bűncselekmény miatt vádolnák. A seriff hivatala azonban meghatározza az arcfelismerés használatának saját szabályait, és lehetővé teszi a képviselők számára, hogy az eszköz segítségével azonosítsák a testüket, az öntudatlan gyanúsítottat és a nevét megtagadó embereket.

A keresőeszköz hiányos eredményei felveszik annak veszélyét, hogy ártatlan személyeket megjelöljenek és letartóztassanak, különösen olyan esetekben, amikor a beolvasott képek elmosódottak, gyenge minőségűek vagy részben el vannak rejtve. A képviselõk megengedhetik a mûvészi vázlatok futtatását a keresés során, ami egy szokatlan felhasználás, amelyet az AI szakértõi szerint gyakrabban hamis egyezést eredményezhet.

Az Amazon bűnüldözési iránymutatásai szerint a tisztviselőknek csak akkor szabad használni a Rekognition eredményeit, ha a rendszer 99% -ban magabiztos a mérkőzésen. De az itt képviselõk nem mutatják be a keresés-bizalom mérését az eszköz használatakor. Ehelyett minden lehetséges kereséshez öt lehetséges egyezést kapnak, még akkor is, ha a rendszer bizonyossága egyezésnél sokkal alacsonyabb.

Miután a The Washington Post kérdéseire támaszkodott, az Amazon nyelvet adott az iránymutatásokhoz, kijelentve, hogy a tisztviselőknek a gyanúsított letartóztatása előtt manuálisan felül kell vizsgálniuk az összes mérkőzést, és hogy a keresést „nem szabad használni a cselekvés egyetlen meghatározójaként”.

Az Amazon és az Oregon harmadik legnagyobb bűnüldöző ügynöksége közötti kapcsolat kölcsönösen előnyös: A seriff hivatala segíti a rendszer finomítását, amelyet az Amazon az ország egész területén várhatóan eladni fog. Az Amazon azonban a rendészeti értékesítésbe szorulása rögtönzött néhány jogi támogatót, akik szerint a rendszer túl sok kockázatot jelent a polgári szabadságjogokra. (Az Amazon alapítója és vezérigazgatója, Jeff Bezos a The Post tulajdonosa.)

"A kormány hihetetlenül hatalmas, és sok esetben sok polgárt hoznak az egyes állampolgárok ellen" - mondta Mary Bruington, a washingtoni megyei közvédõ hivatal igazgatója, amely olyan alpereseket képvisel, akik nem engedhetik meg maguknak az ügyvédet. - Ezt párosítod az Amazon-szal? Ez egy erős partnerség. ”

Matt Wood, az Amazon Web Services cég felhőalapú számítástechnikai részlegének mesterséges intelligencia vezérigazgatója kijelentette, hogy a felismerés csupán „újabb bemenetek az 100 százalékos, ember által vezérelt nyomozás sok más vezetője között”.

Ennek ellenére a vállalat számos fronton kritikával szembesül: AI legfontosabb kutatói, a Kongresszus és a polgári jogi csoportok tagjai -, valamint az Amazon saját befektetői és alkalmazottai - sürgette a társaságot, hogy hagyja abba a technológiát a bűnüldözés számára, rámutatva olyan tanulmányokra, amelyek úgy találták, hogy a rendszer kevésbé pontos a sötét bőrű arcoknál. Az Amazon vitatta ezt a kutatást.

Az Amazon néhány riválisa hasonló szerződéseket kötött. A Microsoft elnöke, Brad Smith, áprilisban elmondta, hogy a cég nemrégiben elutasította arcfelismerő szoftverének a kaliforniai rendészeti ügynökség számára, amely arcszkennelést akart bármikor elvégezni, amikor a tisztviselõk valakit áthárítanak, ám a technológiát bevezetõ megállapodást elfogadta. egy amerikai börtönben. A Microsoft elutasította a részletek benyújtását.

Az Amazon befektetői májusban szavaznak egy olyan aktivista részvényesek csoportja által támogatott javaslatról, amely megakadályozná a társaságot abban, hogy a Elismerést kormányzati ügynökségeknek adják el, kivéve, ha a társaság igazgatósága úgy dönt, hogy nem jelent veszélyt az emberi jogokra.

A seriff hivatala lehetővé tette a posta újságíróknak, hogy március két napját tömegkocsikban, nyomozók irodáiban és megyei börtönében tölthessék, megfigyelve, hogy a képviselők miként hajtogatták a technológiát a napi ügyükbe. A megkérdezettek többsége azt állította, hogy a szoftver időt takarított meg számukra, növelte a letartóztatások számát, és segített nekik feldolgozni a növekvő vizuális bizonyítékok áttekintését. A helyettesítés és a közvédõ képviselõk szerint a mai napig a letartóztatást nem támadták jogorvoslati kérelem alapján.

De Oregon ügyvédjei szerint a technológiának - amint azt sokan látják - nem szabad közvetlen lépést tenni a rendõrség jövõje felé, és a rendszert nem technikai mérföldkőnek, hanem erkölcsi lépésnek tartják: a rendben van-e további rossz fiúk elkábítása, ha több jó srác is letartóztatható?

"Az emberek szeretik mindig azt mondani:" Hé, ha rossz embereket fog elkapni, nagyszerű, ki érdekel "- mondta Joshua Crowther, az oregonbeli védőfõképviselõ mindaddig, amíg a másik végükre nem kerülnek.

„Megkülönböztethetetlen a mágiától”

Amikor az Amazon nyilvánosságra hozta a felismerést az 2016-ben, a cég áttörésnek nevezte a mélyreható mesterséges intelligencia erőteljes stílusának ábrázolását, amely „a mágiától megkülönböztethetetlen eredményeket” mutatott be. ötletek arra vonatkozóan, hogy miként kezdhetik el az emberek ezt a felhasználást, ideértve a biztonsági ellenőrző pontok vagy hirdetőtáblák használatát is, amelyek adatgyűjtésre szolgálnak a néző arcától.

A leleplezés Chris Adzima, a volt eBay-programozó figyelmét felvette, akit a Washington megyei seriff hivatalába vették fel, hogy dolgozzon egy iPhone alkalmazáson, amelyet a képviselők használnak a fogvatartottak viselkedésének nyomon követésére. Ügynökségének százezrei arcfotói vannak már online, és nincs valódi módja ezek elemzésére. Az Amazon AI-jével kevesebb, mint három hét alatt elkészítette a rendszert.

"Nem igazán tudtak róla, hogy a valóságban bármilyen típusú felhasználási eset létezik-e, de tudták, hogy van egy hatalmas eszközük, amelyet létrehoztak" - mondta Adzima, az információs rendszerek vezető elemzője, aki egy kis kabinban dolgozik a a seriff székhelye. "Szóval, tudod, csak most kezdtem el használni."

A képviselõk azonnal elkezdték az arckeresést a napi ütemezés rendõrségébe, és Adzima meztelen csonttal készített belsõ weboldalt készített, amely megengedte nekik, hogy az ő jármûveikbõl keressenek. Letette a keresési megbízhatóság százalékát, és úgy tervezte meg a rendszert, hogy minden alkalommal öt eredményt adjon vissza: Amikor a rendszer nulla eredményt adott vissza, azt mondta, a képviselők azon gondolkodtak, vajon összezavarják-e valamit. Fűszerezése céljából felesleges lila „szkennelő” animációt is hozzáadott, amikor egy képviselő feltöltött egy fényképet - egy érzés, amelyet ő mondott, a zsaru műsorok, például a „CSI” ihlette.

Olvassa el a teljes történetet itt ...

Csatlakozz a levelező listánkhoz!


avatar
Iratkozz fel
Értesítés