Amerika-szerte az egész büntető igazságszolgáltatási rendszert rontja az AI technológiának nyilvánvaló visszaélése. A rendőrség nem tudatlan, amikor egy ügy objektív tényei helyett a kívánt eredményeket keresi. Ez összehasonlítható a hamis globális felmelegedés tudományos közösségével. ⁃ TN szerkesztő
Az 2010 májusában, magas rangú botrányok sorozatának kezdeményezésére, New Orleans polgármestere felkérte az Egyesült Államok Igazságügyi Minisztériumát, hogy vizsgálja meg a városi rendőrséget (NOPD). Tíz hónappal később a DOJ felajánlotta hólyagos elemzés: az 2005-től kezdődő felülvizsgálat ideje alatt a NOPD többször megsértette az alkotmányos és szövetségi törvényeket.
Túlzott erőt alkalmazott, és aránytalanul nagy mértékben feketékkel szemben; célzott faji kisebbségek, nem anyanyelvű angolul beszélők és LGBTQ-személyek; és nem foglalkozott a nők elleni erőszakkal. A problémák, mondott Az akkori Thomas Perez ügyvéd asszisztens „komoly, széles körű, szisztematikus és mélyen gyökerezik az osztály kultúrájában”.
A zavaró eredmények ellenére a város belépett a titkos partnerség csak egy évvel később a Palantir adatbányászati vállalkozással egy prediktív rendőrségi rendszer telepítésére. A rendszer a történeti adatokat - ideértve az elfogatóparancsot és az elektronikus rendőrségi jelentéseket - felhasználta a bűnözés előrejelzésére és a közbiztonsági stratégiák kialakításának elősegítésére - vállalat és a városi kormány anyagokat. Ezek az anyagok sehol sem jeleztek semmiféle erőfeszítést az adatok tisztítására vagy módosítására a DOJ által feltárt jogsértések kezelése érdekében. Minden valószínűség szerint a sérült adatokat közvetlenül a rendszerbe táplálták be, megerősítve az osztály diszkriminatív gyakorlatait.
A prediktív rendészeti algoritmusok az Egyesült Államok városaiban a gyakorlatban egyre gyakoribbak. Noha az átláthatóság hiánya megnehezíti a pontos statisztikák meghatározását, a PredPol, a vezető szállító, dicsekszik hogy elősegíti az 1 „védelmét” az 33 amerikaiakban. A szoftvert gyakran úgy emlegetik, hogy segítsen a vékonyan feszített rendõri osztályoknak hatékonyabb, adatközpontú döntéseket hozni.
De az új kutatások azt mutatják, hogy nem csak New Orleans tanította ezeket a rendszereket „piszkos adatokkal” papír A ma kiadott, a NYU Law Review-ban megjelentetésre váró AI AI Institute kutatóközpont kutatói, akik a mesterséges intelligencia társadalmi hatásait vizsgálják, a problémát átterjedtnek találták az általa vizsgált joghatóságok között. Ennek jelentős következményei vannak a bűnügyi igazságügyi rendszerben alkalmazott prediktív rendőrség és más algoritmusok hatékonyságára.
„A rendszered csak annyira jó, mint az az adat, amelyet a továbbképzéshez használsz” - mondja Kate Crawford, az AI Now társalapítója és társigazgatója, valamint a tanulmány szerzője. „Ha maga az adat nem megfelelő, akkor több rendőri erőforrást kell összpontosítani ugyanarra a túlzottan felmérés alatt álló és gyakran faji szempontból célzott közösségekre. Tehát az, amit tettél, valójában egy olyan technológiai mosás, ahol az ezeket a rendszereket használó emberek azt gondolják, hogy valamilyen módon semlegesebbek vagy objektívabbak, ám valójában elmélyítették az alkotmányellenesség vagy az illegális forma egy formáját. ”
A kutatók megvizsgálták az 13 joghatóságokat, összpontosítva azokra, amelyek prediktív rendészeti rendszereket alkalmaztak, és amelyeket kormány megbízásából vizsgáltak ki. Ez utóbbi követelmény biztosította, hogy a rendőri gyakorlatok jogilag ellenőrizhető dokumentációval rendelkezzenek. Kilenc jogrendszerben határozott bizonyítékot találtak arra, hogy a rendszereket „piszkos adatokkal” képzték.
A problémát nemcsak a kisebbségek aránytalan megcélzása torzította, mint New Orleansban. Egyes esetekben a rendőri osztályok intenzív politikai nyomás alatt szándékosan manipulálták vagy hamisították az adatokat a hivatalos bűnözési ráta csökkentése érdekében. Például New Yorkban a bűnügyi statisztikák mesterséges deflációja érdekében a bűnüldözési parancsnokok rendszeresen felkérték az áldozatokat a bűncselekmények helyszínén, hogy ne tegyenek panaszt. Néhány rendőr még ártatlan embereket is kábítószerrel ültetett, hogy megfeleljenek a letartóztatási kvótáknak. A mai prediktív rendőrségi rendszerekben, amelyek gépi tanulásra támaszkodnak a bűnözés előrejelzésére, ezek a sérült adatpontok legitim előrejelzőkké válnak.
wpDiscuz
GIGO! Szemetet be; Szemetet ki!