A kutatók azt találják, hogy az AI programok faji és nemi elfogultságot tanulnak

Wikipedia Commons
Kérjük, ossza meg ezt a történetet!

Az AI program, amely azt tanulja meg, amit az emberek tudnak és írnak, természetesen felveszi az összes előítéletet, és azt látja, hogy normálisak. Alapvetõen ez azt jelenti, hogy az emberi viselkedés negatív aspektusai egyszerűen a mesterséges intelligenciára kerülnek.  TN szerkesztő

A mesterséges intelligencia eszközének, amely forradalmasította a számítógépeknek a mindennapi nyelv értelmezésének képességét, kimutatták, hogy feltűnő nemi és faji elfogultságot mutatnak.

Az eredmények felhívják a figyelmet a meglévő társadalmi egyenlőtlenségekre és az előítéletekre, amelyeket új és kiszámíthatatlan módon erősítenek meg, mivel a mindennapi életünket érintő egyre növekvő számú döntést automatizálják.

Az elmúlt években az olyan programok, mint a Google Translate, képessége drámaian javult. Ezeket az eredményeket az új gépi tanulási technikáknak és a nagy mennyiségű online szöveges adatnak a rendelkezésre állásának köszönhetően nyújtják, amelyeken az algoritmusok kiképezhetők.

Mivel azonban a gépek egyre közelebb állnak az emberhez hasonló nyelvi képességek megszerzéséhez, az elnyelik a nyelvhasználat mintáiban rejtett mélyen elmélyült elfogultságot is, a legfrissebb kutatások azt mutatják.

Joanna Bryson, a Bath-i Egyetem számítástechnikája és társszerzője elmondta: „Sokan azt mondják, hogy ez azt mutatja, hogy az AI előítélettel jár. Nem. Ez azt mutatja, hogy előítéleteinkben vagyunk, és hogy az AI megtanulja. "

[the_ad id = ”11018 ″]

De Bryson figyelmeztette, hogy az AI megerősítheti a meglévő torzításokat, mivel az emberekkel ellentétben az algoritmusok nem képesek arra, hogy tudatosan ellensúlyozzák a megtanult torzításokat. "Veszélyt jelentene, ha lenne olyan AI-rendszere, amelynek nincs kifejezett része, amelyet erkölcsi ötletek vezetnek, ez rossz lenne" - mondta.

A kutatás a folyóiratban jelent meg Tudomány, a „szóbeágyzás” néven ismert gépi tanulási eszközre összpontosít, amely már átalakítja a számítógépek beszéd és szöveg értelmezésének módját. Egyesek szerint a technológia következő természetes lépése magában foglalhatja gépek, amelyek fejlesztik az emberi jellegű képességeket, mint például a józan ész és a logika.

„A szövegbeágyazások tanulmányozásának egyik fő oka az, hogy látványosan sikeresek voltak az elmúlt néhány évben a számítógépek nyelvmegértésének elősegítésében” - mondta Arvind Narayanan, a Princetoni Egyetem számítástechnikája és a cikk vezető szerzője.

A megközelítés, amelyet már használnak az internetes keresésben és a gépi fordításban, úgy működik, hogy felépíti a nyelv matematikai ábrázolását, amelyben egy szó jelentését számsorra (a szóvektornak nevezik) desztillálják, amely alapján más szavak leggyakrabban mellette jelennek meg. Talán meglepő módon úgy tűnik, hogy ez a tisztán statisztikai megközelítés megragadja annak a gazdag kulturális és társadalmi kontextusát, amit egy szó jelent, oly módon, amelyre a szótár meghatározása nem lenne képes.

Olvassa el a teljes történetet itt ...

Feliratkozás
Értesítés
vendég

1 Megjegyzés
Legrégebbi
legújabb A legtöbb szavazatot kapott
Inline visszajelzések
Az összes hozzászólás megtekintése
Nigel

Az előítélet az emberi állapot része - társulunk olyan emberekkel, akik hasonlítanak hozzánk, olyan csoportokba gyűjtünk, akik hasonlítanak önmagunkhoz és tartják nézeteinket, gyanakodva tekintünk azokra, akik nem és nem - ez az evolúciós utunk. Ez egy másik hasítási pont, amelyet ez a technokrácia azonosított - ez sértő feszültséget jelent annak a személynek a szövetében, amelyik vagyunk. Az, hogy megtagadjuk tőlünk nézeteltéréseinket és megtagadjuk, hogy megünnepeljük őket, ellentétes természetünkkel, mély szorongást okoz számunkra és arra törekedjünk, amely... Olvass tovább "