Számos friss tanulmány kimutatta, hogy a mesterséges mesterséges intelligencia tanulása előítéleteket képes kifejleszteni, akárcsak az emberek. A probléma az, hogy az AI teljesen semmissé teszi az emberi érzelmeket, modellezve a Schizoid személyiségzavarokat. ⁃ TN szerkesztő
Mi van, ha egy robot úgy dönt, hogy utál téged?
Ez ostoba kérdésnek tűnhet, de a kutatások szerint az előítéletek kialakítása másokkal szemben nem igényel magas szintű kognitív képességeket, és ezeket robotok és más mesterségesen intelligens gépek könnyen ki lehet mutatni.
A tanulmány, A Cardiff University és a MIT informatikai és pszichológiai szakértői végezték el, hogy az autonóm gépek csoportjai az előítéleteket demonstrálhatják, ha egyszerűen azonosítják, lemásolják és megtanulják a viselkedést egymástól. Az eredményeket közzétették a folyóiratban Természet.
A robotok hasonlóan az emberekhez képesek előítéleteket kialakítani.
In sajtóközleményt, a kutatócsoport elmagyarázta, hogy bár úgy tűnik, hogy az emberek megismeréséhez szükség lenne mások véleményének kialakítására és sztereotípia kialakítására, úgy tűnik, hogy nem ez a helyzet. Az előítélet nem tűnik emberi specifikus jelenségnek.
Bizonyos típusú számítógépes algoritmusok már olyan előítéleteket mutattak, mint például a rasszizmus és a szexizmus, amelyeket a gépek nyilvános nyilvántartásokból és az emberek által generált egyéb adatokból tanulnak. Az AI két korábbi példányában, amely ilyen előítéletet mutat, a Microsoft chatbots Tay és a Zo lezárultak, miután az emberek megtanították őket a rasszista és szexista megjegyzések felváltására a közösségi médiában.
Ez azt jelenti, hogy a robotok csak annyira gyűlöletesek lehetnek, mint az emberek. És mivel több ezer alkalommal okosabbak nálunk, el tudod képzelni a jövőt, ha elfogultságot alakítottak ki az emberiség ellen?
Nincs szükség emberi beavatkozásra.
Az emberek útmutatása nem szükséges ahhoz, hogy a robotok megtanuljanak bizonyos emberek kedvelését.
Ez a tanulmány azonban kimutatta, hogy AI-nek nincs szüksége provokálásra és trollok inspirálására, hogy előítéletek megjelenjenek: képes mindegyiket önállóan kialakítani.
A kutatás elvégzéséhez a csoport számítógépes szimulációkat készített arról, hogy az előítéletben részesülő egyének miként tudnak csoportot alkotni és kölcsönhatásba lépni egymással. Létrehoztak egy „adj és vegyen” játékot, amelyben minden egyes AI bot döntött arról, hogy adományoz-e vagy sem egy másik személynek saját munkacsoportjában vagy másik csoportjában. A döntéseket az egyes egyének jó hírneve és adományozási stratégiájuk alapján hozták meg, ideértve a külső csoportokban élő egyénekkel szembeni előítélet szintjét is.
A játék előrehaladtával és a szuperszámítógép több ezer szimulációval állt elő, mindegyik új stratégiákat tanult el, másokat másolva, akár a saját csoportjában, akár az egész lakosságban.
A tanulmány társszerzője, Roger Whitaker professzor, a Cardiff Egyetem Bűnügyi és Biztonsági Kutatóintézetéből és a Számítástechnika és Informatika Iskolájából, mondott az eredmények:
Ezeket a szimulációkat több ezer és többszöri futtatásával megértjük, hogyan fejlődik az előítélet, és milyen körülmények között mozdítják elő vagy akadályozzák azt.
A megállapítások során az egyének frissítik az előítélet szintjét oly módon, hogy előnyösen lemásolják azokat, akik rövid távon magasabbak, vagyis ezek a döntések nem feltétlenül igényelnek fejlett kognitív képességeket.
Lehetséges, hogy a diszkriminációval azonosítani és másokat lemásolni képes autonóm gépek a jövőben hajlamosak lehetnek az emberi népességben előforduló előítéletbeli jelenségekre.
Sok AI fejlesztés, amelyet látunk, magában foglalja az önállóságot és az önellenőrzést, azaz az eszközök viselkedését mások is befolyásolják. A járművek és a tárgyak internete két legújabb példa. Tanulmányunk elméleti betekintést nyújt, ahol a szimulált ügynökök időszakonként másokat kérnek valamilyen erőforrásért. (forrás)
wpDiscuz