Ez a történet feltárja, hogy az Amazon, az IBM és a Microsoft miért vonultak ki az arcfelismerő üzletből annak érdekében, hogy elfojthassanak bizonyos kritikát a faji torzítás miatt. Ebben az esetben az algoritmus a rossz fekete embert körbevágta egy olyan bűncselekmény miatt, amelyet nem követett el. ⁃ TN szerkesztő
Január csütörtök délután Robert Julian-Borchak Williams egy autóipari társaság irodájában volt, amikor a Detroiti Rendőrségtől hívást kapott, hogy utasítsa el az őrizetbe vett állomásra. Először azt hitte, hogy ez egy tréfa.
Egy órával később, amikor az autópályára húzott egy csendes megyében, Farmington Hills-ben, egy rendőrautó hátrahúzódott, elzárva. felesége és két fiatal lánya, akiket elvonultak. A rendõrség nem mondaná meg, miért tartóztatták le, csak egy darab papírt mutatott neki a fotójával, valamint a „bűnügyi parancs” és a „lárvás” szavakkal.
Felesége, Melissa, megkérdezte, hová hozták. „Google” - emlékeztet egy válaszadó tiszt.
A rendõrség Williams urat fogvatartási központba vezette. Készítette a bögrét, az ujjlenyomatokat és a DNS-t, és egy éjszakán át tartotta. Péntek dél körül két nyomozó vitték ki a kihallgatóhelyiségbe, és arccal lefelé három darab papírt helyeztek az asztalra.
- Mikor járt utoljára Shinola üzletben? - kérdezte az egyik nyomozó Williams úr emlékezetében. A Shinola egy előkelő butik, amely órákat, kerékpárokat és bőrárukat árusít Detroit divatos belvárosában. Williams úr azt mondta, hogy feleségével megnézte, amikor az üzlet 2014-ben megnyílt.
A nyomozó megfordította az első papírt. Ez egy megfigyelési videóból álló állókép volt, amelyben egy fekete ruhás férfi, vörös St. Louis Cardinals sapkával viselt, egy órajelző előtt állt. Öt 3,800 dollár értékű időmérőt árusítottak el.
- Te vagy te? - kérdezte a nyomozó.
A második papírdarab közelkép volt. A fénykép homályos, de nyilvánvalóan nem Mr. Williams. Felvette a képet, és az arcán tartotta.
- Nem, nem én vagyok - mondta Mr. Williams. - Gondolod, hogy minden fekete ember egyformán néz ki?
Mr. Williams tudta, hogy nem követte el a kérdéses bűncselekményt. A kihallgatási helyiségbe ülve azt nem tudhatta, hogy az eset az első ismert beszámolója arról, hogy egy amerikait jogtalanul tartóztattak le egy arcfelismerési algoritmus hibás mérkőzése alapján, a technológiai és a jogi szakértők szerint .
Hibás rendszer
Egy országos vita dühöng rasszizmus a bűnüldözésben. Az egész országban milliók nem csupán az egyes tisztviselők cselekedeteit tiltakoznak, hanem a közösségek megfigyelésére és az emberek büntetőeljárásra történő azonosítására szolgáló rendszerek torzulását.
Az arcfelismerési rendszereket a rendõri erõk már évek óta használják több mint két évtized alatt. Nemrégiben végzett tanulmányok MIT és a Nemzeti Szabványügyi és Technológiai Intézet, vagy a NIST, úgy találták, hogy bár a technológia viszonylag jól működik a fehér férfiakon, az eredmények kevésbé pontosak más demográfia szempontjából, részben azért, mert a mögöttes adatbázisok létrehozásához használt képek nem sokféleségűek.
Tavaly, a nyilvános meghallgatás során a arcfelismerés Detroitban, a rendõri rendõrtiszter-asszisztens volt azok között, akik aggályokat vettek fel. "A hamis pozitív kérdések kérdésében - ez teljesen tényszerű és jól dokumentált" - mondta James White. "Tehát ez afro-amerikai férfival foglalkozik."
Ebben a hónapban, amazon, microsoft és a IBM bejelentette, hogy abbahagyják vagy szünet arcfelismerési ajánlataik a bűnüldözés számára. A gesztusok nagyrészt szimbolikusak voltak, tekintettel arra, hogy a vállalatok nem nagy szereplők az iparban. A rendőri osztályok által használt technológiát olyan cégek szállítják, amelyek nem háztartási nevek, például a Vigilant Solutions, a Cognitec, a NEC, a Rank XNUMX Computing és Clearview AI.
wpDiscuz
Felejtsd el a fekete embereket ... ... Megtanulnám, hogy ez az ázsiaiaknak SOHA sem fog működni !!
Biztosan megtörtént. Az kap engem, akit a számítógép választ, néha egészen másképp néz ki, mint a tényleges, de ez az, amit a számítógép mond. smh