A mesterséges intelligencia eszközének, amely forradalmasította a számítógépeknek a mindennapi nyelv értelmezésének képességét, kimutatták, hogy feltűnő nemi és faji elfogultságot mutatnak.
Az eredmények felhívják a figyelmet a meglévő társadalmi egyenlőtlenségekre és az előítéletekre, amelyeket új és kiszámíthatatlan módon erősítenek meg, mivel a mindennapi életünket érintő egyre növekvő számú döntést automatizálják.
Az elmúlt években az olyan programok, mint a Google Translate, képessége drámaian javult. Ezeket az eredményeket az új gépi tanulási technikáknak és a nagy mennyiségű online szöveges adatnak a rendelkezésre állásának köszönhetően nyújtják, amelyeken az algoritmusok kiképezhetők.
Mivel azonban a gépek egyre közelebb állnak az emberhez hasonló nyelvi képességek megszerzéséhez, az elnyelik a nyelvhasználat mintáiban rejtett mélyen elmélyült elfogultságot is, a legfrissebb kutatások azt mutatják.
Joanna Bryson, a Bath-i Egyetem számítástechnikája és társszerzője elmondta: „Sokan azt mondják, hogy ez azt mutatja, hogy az AI előítélettel jár. Nem. Ez azt mutatja, hogy előítéleteinkben vagyunk, és hogy az AI megtanulja. "
[the_ad id = ”11018 ″]De Bryson figyelmeztette, hogy az AI megerősítheti a meglévő torzításokat, mivel az emberekkel ellentétben az algoritmusok nem képesek arra, hogy tudatosan ellensúlyozzák a megtanult torzításokat. "Veszélyt jelentene, ha lenne olyan AI-rendszere, amelynek nincs kifejezett része, amelyet erkölcsi ötletek vezetnek, ez rossz lenne" - mondta.
A kutatás a folyóiratban jelent meg Tudomány, a „szóbeágyzás” néven ismert gépi tanulási eszközre összpontosít, amely már átalakítja a számítógépek beszéd és szöveg értelmezésének módját. Egyesek szerint a technológia következő természetes lépése magában foglalhatja gépek, amelyek fejlesztik az emberi jellegű képességeket, mint például a józan ész és a logika.
„A szövegbeágyazások tanulmányozásának egyik fő oka az, hogy látványosan sikeresek voltak az elmúlt néhány évben a számítógépek nyelvmegértésének elősegítésében” - mondta Arvind Narayanan, a Princetoni Egyetem számítástechnikája és a cikk vezető szerzője.
A megközelítés, amelyet már használnak az internetes keresésben és a gépi fordításban, úgy működik, hogy felépíti a nyelv matematikai ábrázolását, amelyben egy szó jelentését számsorra (a szóvektornak nevezik) desztillálják, amely alapján más szavak leggyakrabban mellette jelennek meg. Talán meglepő módon úgy tűnik, hogy ez a tisztán statisztikai megközelítés megragadja annak a gazdag kulturális és társadalmi kontextusát, amit egy szó jelent, oly módon, amelyre a szótár meghatározása nem lenne képes.
Az előítélet az emberi állapot része - társulunk olyan emberekkel, akik hasonlítanak hozzánk, olyan csoportokba gyűjtünk, akik hasonlítanak önmagunkhoz és tartják nézeteinket, gyanakodva tekintünk azokra, akik nem és nem - ez az evolúciós utunk. Ez egy másik hasítási pont, amelyet ez a technokrácia azonosított - ez sértő feszültséget jelent annak a személynek a szövetében, amelyik vagyunk. Az, hogy megtagadjuk tőlünk nézeteltéréseinket és megtagadjuk, hogy megünnepeljük őket, ellentétes természetünkkel, mély szorongást okoz számunkra és arra törekedjünk, amely... Olvass tovább "