Professzor: A harcos liberálisok politizálják a mesterséges intelligenciát

Mi a teendő, ha azokat a döntéseket, amelyeket korábban emberek hoztak, minden elfogultságukkal együtt olyan algoritmusok kezdik meghozni, amelyek matematikailag nem képesek torzításra? Ha racionális vagy, ünnepelj. Ha ön egy militáns liberális, akkor felismeri ezt a fejleményt a halálos fenyegetés miatt, és küzd, hogy visszavegye az irányítást.

Ezt láthatja az AI konferenciákon. Múlt héten részt vettem a NeurIPS, a vezető nemzetközi gépi tanulási konferencia 2020-as kiadásán. Ami egy kis összejövetelnek indult, mára annyi embert gyűjt össze, hogy megtöltsön egy sportarénát. Idén először NeurIPS a legtöbb dokumentumnak tartalmaznia kellett a „tágabb hatásokra” vonatkozó nyilatkozatot, és azt egy etikai bizottságnak kellett felülvizsgálnia. Minden olyan dokumentumban, amely leírja például, hogyan lehet felgyorsítani egy algoritmust, most kell, hogy legyen egy szakasza ennek a homályos technikai fejlődésnek a társadalmi javairól és rosszairól. „Tekintettel a tudományos minőségre vagy hozzájárulásra” – áll a felhívásban – „a beadvány elutasítható… ideértve a tisztességtelen elfogultságot létrehozó vagy megerősítő módszereket, alkalmazásokat vagy adatokat”.

Ez csak a racsni legutóbbi fordulata volt. A korábbiak között szerepelt, hogy a konferenciát politikailag korrektebbre nevezték át, és megkövetelték a résztvevőktől, hogy kifejezetten fogadjanak el egy átfogó „magatartási kódexet”, mielőtt regisztrálhatnának, ami lehetővé teszi, hogy a konferencia kirúgja a résztvevőket azért, mert olyasmit tettek közzé a közösségi médiában, amit a tisztviselők helytelenítettek. Komolyabban szólva, az AI egy egész részterülete alakult ki azzal a kifejezett céllal, hogy többek között az algoritmusokat „elfogja”. Ez most javában zajlik.

Közzétettem néhány tweetet, amelyekben kérdések merültek fel a legújabb változásokkal kapcsolatban – és a törlési maffia rám tört. Sértések, gúnyolódások, fenyegetések – nevezd meg. Azt gondolnád, hogy a tudósok felülmúlják az ilyen viselkedéseket, de nem. Rámutattam arra, hogy a NeurIPS kiugró tényező a szélesebb körű hatásnyilatkozatok megkövetelésében, és a törlők többször is témát váltottak. Érveltem a mesterséges intelligencia politizálása ellen, de ezt minden etikai megfontolások tagadásának tekintették. A gépi tanulás kutatásával foglalkozó vállalati igazgató, egyben Caltech professzor, közzétette a Twitteren, hogy mindenki lássa a lemondandó személyek hosszú listáját, egyetlen bűnük az volt, hogy követtek engem, vagy kedvelték az egyik tweetemet. Ugyanennek a tömegnek sikerült elérnie, hogy az egyetemi kibocsátásom olyan nyilatkozatot tegyen, amely megtagadja nézeteimet, és megerősíti liberális hitelességét.

Miért a felhajtás? Az adatoknak természetesen lehetnek torzításai, akárcsak az adattudósoknak. Az emberek által kódolt algoritmusok pedig elvileg bármit megtehetnek, amit mondunk nekik. De a gépi tanulási algoritmusok, mint a számítástechnikai tankönyvekben található összes algoritmus, lényegében csak összetett matematikai képletek, amelyek semmit sem tudnak a fajról, a nemről vagy a társadalmi-gazdasági helyzetről. Nem lehetnek rasszisták vagy szexisták, mint ahogy az y = ax + b képlet sem lehet.

Daniel Kahneman bestseller könyve, Gondolkodó, gyors és lassú, egy egész fejezetet tartalmaz arról, hogy az algoritmusok objektívebbek, mint az emberek, és ezért jobb döntéseket hoznak. A harcos liberális elme számára azonban ezek a gonoszság szemétdombjai, és ki kell őket takarítani.

Az algoritmusok megtisztítása a gyakorlatban azt jelenti, hogy bizonyos csoportokat előnyben részesítő torzításokat iktatnak beléjük, tulajdonképpen a politikai baloldal által oly nagyra törekvő társadalmi kontrollok automatizált formában történő visszaállítását. Az „elfogultság” más szóval torzítás hozzáadását jelenti. Nem meglepő, hogy emiatt az algoritmusok rosszabbul teljesítenek a tervezett funkciójukban. A hitelkártya-pontozó algoritmusok több képzett jelentkezőt utasíthatnak el annak érdekében, hogy azonos számú nőt és férfit fogadjanak el. A feltételes szabadlábra helyezési konzultációs algoritmusok azt javasolhatják, hogy engedjék szabadon a veszélyesebb bűnözőket annak érdekében, hogy arányos számú fehéret és feketét szabadon engedjenek. Egyesek még azt is támogatják, hogy törvényen kívül helyezzék a fajjal vagy a nemmel korrelált összes változó használatát az algoritmusokban, azon az alapon, hogy ezek az átsorolást jelentik. Ez nemcsak lényegében lehetetlenné tenné a gépi tanulást és annak minden előnyét, de különösen ironikus, mivel ezekre a változókra van szükségünk ahhoz, hogy el tudjuk választani a döntéseket azoktól, amelyeket ki szeretnénk zárni.

Ha megkérdőjelezi ezt vagy bármely mást a mesterséges intelligencia iránti liberális követelések közül, akkor sok bánatban lesz része. Minél prominensebb az a kutató, akit törölnek, annál jobb, mert ez küldi a legborzongatóbb üzenetet mindenki másnak, különösen a fiatal kutatóknak. Jeff Dean, a Google legendás mesterséges intelligencia vezetője és Yann LeCun, a Facebook vezető mesterséges intelligencia-tudósa és a mély tanulás társalapítója egyaránt rendelkezik találták magukat a liberális posse nemtetszésének fogadó oldalán.

A konzervatívok eddig nagyrészt megfeledkeztek arról, hogy a progresszív politika felgyorsul a mesterséges intelligencia elleni küzdelem. Ha a mesterséges intelligencia még mindig homályos és éretlen terület lenne, akkor ez rendben is lenne, de ennek ideje már rég elmúlt. Egyre inkább algoritmusok irányítják az életünket, és egy harcosan liberális (valójában illiberális) társadalmat is rákényszeríthetnek a hátsó ajtóra. Minden alkalommal, amikor internetes keresést végez, közösségi médiát használ, vagy ajánlásokat kap az Amazontól vagy a Netflixtől, az algoritmusok kiválasztják, hogy mit lát. Az algoritmusok segítenek kiválasztani a jelölteket, a politikai kampányokban megcélozandó szavazókat, és még az eddigi embereket is. A vállalkozásoknak és a jogalkotóknak egyaránt biztosítaniuk kell, hogy ne manipulálják őket. És mindannyiunknak tisztában kell lennünk azzal, hogy mi történik, hogy beleszólhassunk. Én például, miután láttam, hogy a haladók siváran előítéleteket rendelnek még olyan algoritmusokhoz is, amelyeknek transzparens módon nem is lehet, elkezdtem megkérdőjelezni az emberi előítéletek ortodox nézetét. Valóban olyan mélységesen és jóvátehetetlenül rasszisták és szexisták vagyunk, mint állítják? Azt hiszem, nem.

Pedro Domingos a Washingtoni Egyetem számítástechnikai és mérnöki professzora.

Olvassa el a teljes történetet itt ...