A kutatók azt találják, hogy az AI programok faji és nemi elfogultságot tanulnak

A mesterséges intelligencia eszközének, amely forradalmasította a számítógépeknek a mindennapi nyelv értelmezésének képességét, kimutatták, hogy feltűnő nemi és faji elfogultságot mutatnak.

Az eredmények felhívják a figyelmet a meglévő társadalmi egyenlőtlenségekre és az előítéletekre, amelyeket új és kiszámíthatatlan módon erősítenek meg, mivel a mindennapi életünket érintő egyre növekvő számú döntést automatizálják.

Az elmúlt években az olyan programok, mint a Google Translate, képessége drámaian javult. Ezeket az eredményeket az új gépi tanulási technikáknak és a nagy mennyiségű online szöveges adatnak a rendelkezésre állásának köszönhetően nyújtják, amelyeken az algoritmusok kiképezhetők.

Mivel azonban a gépek egyre közelebb állnak az emberhez hasonló nyelvi képességek megszerzéséhez, az elnyelik a nyelvhasználat mintáiban rejtett mélyen elmélyült elfogultságot is, a legfrissebb kutatások azt mutatják.

Joanna Bryson, a Bath-i Egyetem számítástechnikája és társszerzője elmondta: „Sokan azt mondják, hogy ez azt mutatja, hogy az AI előítélettel jár. Nem. Ez azt mutatja, hogy előítéleteinkben vagyunk, és hogy az AI megtanulja. "

De Bryson figyelmeztette, hogy az AI megerősítheti a meglévő torzításokat, mivel az emberekkel ellentétben az algoritmusok nem képesek arra, hogy tudatosan ellensúlyozzák a megtanult torzításokat. "Veszélyt jelentene, ha lenne olyan AI-rendszere, amelynek nincs kifejezett része, amelyet erkölcsi ötletek vezetnek, ez rossz lenne" - mondta.

A kutatás a folyóiratban jelent meg Tudomány, a „szóbeágyzás” néven ismert gépi tanulási eszközre összpontosít, amely már átalakítja a számítógépek beszéd és szöveg értelmezésének módját. Egyesek szerint a technológia következő természetes lépése magában foglalhatja gépek, amelyek fejlesztik az emberi jellegű képességeket, mint például a józan ész és a logika.

„A szövegbeágyazások tanulmányozásának egyik fő oka az, hogy látványosan sikeresek voltak az elmúlt néhány évben a számítógépek nyelvmegértésének elősegítésében” - mondta Arvind Narayanan, a Princetoni Egyetem számítástechnikája és a cikk vezető szerzője.

A megközelítés, amelyet már használnak az internetes keresésben és a gépi fordításban, úgy működik, hogy felépíti a nyelv matematikai ábrázolását, amelyben egy szó jelentését számsorra (a szóvektornak nevezik) desztillálják, amely alapján más szavak leggyakrabban mellette jelennek meg. Talán meglepő módon úgy tűnik, hogy ez a tisztán statisztikai megközelítés megragadja annak a gazdag kulturális és társadalmi kontextusát, amit egy szó jelent, oly módon, amelyre a szótár meghatározása nem lenne képes.

Olvassa el a teljes történetet itt ...