Az Amazon szerint Rekognition AI rendszere „nem különböztethető meg a varázslattól”, de most nominális díjakért kínálja a bűnüldöző szerveknek minden szinten, a helyi városi rendőrségtől és a főkapitányságtól kezdve az FBI-ig. Jelenleg nincs olyan nemzeti törvény, amely szabályozza az arcfelismerés használatát. ⁃ TN szerkesztő
Amikor az Ace Hardware munkatársai arról számoltak be, hogy egy nő 11.99 dolláros tartállyal hegesztett gázzal lépett ki az üzletből, amelyet nem fizetett meg a táskájában, egy bonyolult csúcstechnológiájú bűncselekmény-ellenes művelet indult meg.
A washingtoni megyei seriff nyomozója, az ügynökség speciális nyomozó egységével együttműködve, az Amazon által felépített belső arcfelismerő programon keresztül futtatta az áruház felügyeleti felvételeit, feltárva egy lehetséges meccset.
Ennek a nőnek a rendszámát feltüntették, és három hónappal később egy jelöletlen terepjáróval rendelkező kábítószer-tiszt meglátta, és rádión sugározta a többi járőrhelyettest, hogy megállítsák. Egy helyettes bilincset tapsolt a csuklója körül, és a letartóztatási jelentés szerint. Azt mondta, hogy szüksége van a benzinre a kocsijának megjavításához.
A Nyugat-Oregon e sarkában, az ultraliberal Portland területén kívüli képviselõk a régimódi módon követik fel a bûnözõket, és faxon faxozták az irodában egy gyanúsított kamerával rögzített képeit, abban a reményben, hogy valaki felismeri az arcát.
Aztán 2017 végén a Washington megyei seriff hivatala lett az első rendészeti ügynökség az országban, amelyről ismert, hogy az Amazon mesterséges intelligencia eszközét, a Rekognition alkalmazza, átalakítva ezt az erdő- és külvárosi sűrűséget a kísérleti rendőri felügyelet új hullámának nyilvános tesztterévé. technikák.
Szinte egyik napról a másikra a képviselők feltöltötték vizsgálati hatáskörüket, lehetővé téve számukra, hogy 300,000 óta a megyei börtönben készített több mint 2001 1,000 bögrefelvételen gyanúsított arcát találják meg. Valaki arcának szemcsés képe - biztonsági kamera, közösségi média rögzítette fiók vagy a helyettes okostelefonja - gyorsan összekapcsolódhat személyazonosságukkal, beleértve nevüket, családjukat és címüket. Tavaly több mint XNUMX arcfelismerési keresést regisztráltak - közölték a képviselők, akik az eredményeket néha arra használták, hogy gyanúsított Facebook-oldalát keressék, vagy meglátogassák otthonukat.
De Washington megye nulla alapot nyert egy nagy tétű csatára is a rendészet algoritmusok általi szabályozatlan növekedése miatt. A védőügyvédek, a mesterséges intelligencia kutatói és az állampolgári jogi szakértők azzal érvelnek, hogy a technológia ártatlan emberek jogtalan letartóztatásához vezethet, akik csak hasonlítanak a videoképre. Az elismerés pontosságát szintén hevesen vitatják, és egyes szakértők attól tartanak, hogy a fegyveres képviselők téves identitása veszélyes következményekkel járhat, veszélyeztetheti a magánélet és az emberek életét.
Egyes rendőrségi ügynökségek az utóbbi években arcfelismerési kutatásokat végeztek állami vagy FBI adatbázisok ellen, olyan vállalkozók által épített rendszerek segítségével, mint például a Cognitec, az IDEMIA és a NEC. Az Amazon bevezetése azonban talán a legnagyobb lépést jelentette az ellentmondásos arc-letapogató technológia érvényesítésében. A felismerés könnyen aktiválható, nem igényel jelentős műszaki infrastruktúrát, és gyakorlatilag bárkinek kínálják olcsón. Washington megye körülbelül 700 dollárt költött az első nagy méretű fotó feltöltésére, és most minden kereséséért kb. 7 dollárt fizet havonta.
Azt azonban lehetetlen megmondani, hogy a technológia mennyire volt pontos vagy hatékony a valós tesztek első 18 hónapjában. A képviselőknek nem kell feltüntetniük a letartóztatási jelentésekben, amikor arcfelismerő keresést alkalmaztak, és nem egyértelmű a pontos letartóztatás számának a száma. A seriff tisztviselői szerint a szoftver több tucatnyi letartóztatáshoz vezetett lopás, erőszak vagy más bűncselekmények miatt, de a nyilvános nyilvántartásba vétel iránti kérelemből kilenc olyan esetjelentés érkezett, amelyekben az arcfelismerést említették.
"Csakúgy, mint bármelyik nyomozási technikánkat, mi sem mondjuk el az embereknek, hogyan fogjuk el őket" - mondta Robert Rookhuyzen, az ügynökség fő bűncselekményekkel foglalkozó csoportjának nyomozója, aki szerint "több tucat" keresést hajtott végre, és hasznosnak találta körülbelül 75% -át. az idő. - Azt akarjuk, hogy találgassanak tovább.
A seriff tisztviselői szerint az arcvizsgálatok nem mindig jelentik a vizsgálat végét: A képviselőknek még mindig meg kell állapítaniuk a valószínű okot, vagy bizonyítékot kell találniuk, mielőtt a gyanúsítottat bűncselekménnyel vádolják. De a seriff hivatala meghatározza az arcfelismerés használatára vonatkozó saját szabályait, és lehetővé teszi a képviselők számára, hogy az eszköz segítségével azonosítsák a holttesteket, eszméletlen gyanúsítottakat és a nevüket megtagadó embereket.
A keresőeszköz tökéletlen eredményei azt a veszélyt jelentik, hogy egy ártatlan személyt megjelölnek és letartóztatnak, különösen azokban az esetekben, amikor a beolvasott képek elmosódtak, rossz minőségűek vagy részben rejtettek voltak. A képviselők emellett művészi vázlatokat is futtathatnak a keresés során. Ez a szokatlan felhasználás az AI-szakértők szerint gyakrabban vezethet hamis találathoz.
Az Amazon bűnüldözési irányelvei szerint a tisztviselőknek csak akkor szabad felhasználniuk a Rekognition eredményeit, ha a rendszer 99% -ig bízik egy meccsben. De a képviselők itt nem mutatják be azt a keresési bizalom mérést, amikor használják az eszközt. Ehelyett minden kereséshez öt lehetséges egyezést kapnak, még akkor is, ha a rendszer bizonyossága egy meccsben jóval alacsonyabb.
Miután feltette a The Washington Post kérdéseit, az Amazon nyelvet fűzött ezekhez az irányelvekhez, kijelentve, hogy a tiszteknek manuálisan felül kell vizsgálniuk az összes mérkőzést, mielőtt gyanúsítottat őrizetbe vettek, és hogy a keresést „nem szabad az intézkedés kizárólagos meghatározójaként használni”.
Az Amazon és az Oregon harmadik legnagyobb rendvédelmi ügynöksége közötti kapcsolat kölcsönösen előnyös: A seriff hivatala segít finomítani a rendszert, amelyet az Amazon remél, hogy országszerte elad. De az Amazon törekvése a bűnüldöző szervek eladásaiba aggasztotta néhány jogvédőt, akik szerint a rendszer túl sok kockázatot jelent a polgári szabadságjogokra nézve. (Az Amazon alapítója és vezérigazgatója, Jeff Bezos a The Post tulajdonosa.)
"A kormány hihetetlenül hatalmas, és sokat hozhat egy-egy állampolgárral szemben egy ügyben" - mondta Mary Bruington, a Washington Megyei Államvédő Iroda igazgatója, amely olyan vádlottakat képvisel, akik nem engedhetik meg maguknak az ügyvédet. - Ezt összekapcsolod az Amazon-szal? Ez egy erőteljes partnerség. ”
Matt Wood, a vállalat felhőalapú számítástechnikai részlegének, az Amazon Web Services mesterséges intelligenciájának ügyvezető igazgatója egy nyilatkozatában kijelentette, hogy a Rekognition csak „egy újabb információ a sok más, a 100 százalékos ember által vezérelt nyomozás egyik vezetőjeként”.
Ennek ellenére a vállalat számos szempontból szembesül kritikával: a mesterséges mesterséges intelligencia-kutatók, a kongresszus és az állampolgári jogi csoportok tagjai - valamint az Amazon saját befektetői és alkalmazottai - felszólították a társaságot, hogy hagyja abba a technológia nyújtását a bűnüldöző szervek számára, rámutatva azokra a tanulmányokra, amelyek azt találták, hogy a rendszer kevésbé pontos a sötét bőrű arcoknál. Az Amazon vitatta ezt a kutatást.
Az Amazon néhány riválisa hasonló szerződéseket kötött. Brad Smith, a Microsoft elnöke áprilisban elmondta, hogy a vállalat nemrégiben elutasította arcfelismerő szoftverének egy kaliforniai bűnüldöző szervnek történő átadását, amely bármikor arcszkennelést akart futtatni, amikor a tisztjei valakit áthúztak, de jóváhagyta a technológia bevezetésével foglalkozó megállapodást egy amerikai börtönben. A Microsoft nem volt hajlandó részleteket közölni.
Az Amazon befektetői májusban megszavazzák az aktivista részvényesek egy csoportjának támogatását tartalmazó javaslatot, amely megakadályozná a társaságot abban, hogy eladja a Rekognition kormányzati szerveknek, hacsak a társaság igazgatósága nem állapítja meg, hogy ez nem jelent kockázatot az emberi jogokra.
A Sheriff hivatala engedélyezte a Post újságíróinak, hogy márciusban két napot töltsenek a csapatkocsiiban, a detektív irodáiban és a megyei börtönben, és megfigyeljék, hogy a képviselők hogyan hozták a technológiát a napi ügyeikbe. A megkérdezettek többsége szerint a szoftver időt takarított meg számukra, növelte letartóztatási számukat és segített a vizuális bizonyítékok növekvő tömege feldolgozásában. A mai napig nem indítottak jogi kifogást az letartóztatáson azzal az indokkal, hogy a fotómeccset tévedték - közölték a képviselők és az államvédők is.
De Oregon ügyvédjei szerint a technológiának - amint azt sokan látják - nem szabad közvetlen lépést tenni a rendõrség jövõje felé, és a rendszert nem technikai mérföldkőnek, hanem erkölcsi lépésnek tartják: a rendben van-e további rossz fiúk elkábítása, ha több jó srác is letartóztatható?
"Az emberek imádják mindig azt mondani:" Hé, ha rossz embereket fog meg, nagyszerű, kit érdekel "- mondta Joshua Crowther, az oregoni védő főhelyettese," amíg a másik végén vannak. "
"Nem különböztethető meg a varázslattól"
Amikor az Amazon 2016-ban felfedte a Rekognition programot, a vállalat áttörésnek nevezte a mélyen tanuló mesterséges intelligencia hatékony stílusának, amely „nem különböztethető meg a varázslattól”. Az ügyvezető kutyájának fényképével illusztrált blogbejegyzésben a vállalat néhány általános ötletet ajánlott fel arra vonatkozóan, hogy miként kezdhetik el használni az emberek, többek között biztonsági ellenőrző pontokhoz vagy óriásplakátokhoz, amelyek a néző arcáról gyűjtenek adatokat.
A leleplezés Chris Adzima, az eBay egykori programozójának a figyelmét kapta, akit a Washington megyei seriff hivatalánál alkalmaztak egy iPhone alkalmazás fejlesztésére, amelyet a képviselők a fogvatartottak viselkedésének nyomon követésére használnak. Ügynökségének már több százezer arcfotója volt online, és nincs valós módja annak elemzésére. Az Amazon mesterséges intelligenciájának használatával kevesebb, mint három hét alatt felépített egy rendszert.
"Valójában nem voltak határozott elképzeléseik a való világ bármely típusú felhasználási esetéről, de tudták, hogy van egy hatékony eszközük, amelyet létrehoztak" - mondta Adzima, az információs rendszerek vezető elemzője, aki egy kis fülkében dolgozik a a seriff központja. - Szóval, tudod, most kezdtem el használni.
A képviselők azonnal megkezdték az arckutatásokat a napi rendőri munkájukba, Adzima pedig egy csupasz csontú belső weboldalt készített, amely lehetővé tette számukra, hogy járőrkocsijaikból kutassanak. Eldobta a keresési bizalom százalékát, és úgy tervezte a rendszert, hogy minden alkalommal öt eredményt adjon vissza: Amikor a rendszer nulla eredményt adott, azt mondta, a képviselők arra voltak kíváncsiak, vajon elrontottak-e valamit. Hogy feldobja, felesleges lila „pásztázó” animációt is adott hozzá, valahányszor egy képviselő feltöltött egy fényképet - egy érintést szerinte a „CSI” zsaru show-k ihlettek.
