A technokraták az etikusokhoz fordulnak, hogy „megmentsék a léleküket”

SocratesWikipedia Commons, Greg O'Beirne
Kérjük, ossza meg ezt a történetet!
image_pdfimage_print
A technokraták azért hoznak létre, mert megtehetik, nem azért, mert erkölcsi vagy etikai eset áll fenn. Szerintük a technológia nem etikus vagy erkölcsi, ezért a fejlesztési folyamatok során nem érdemel megfontolást. ⁃ TN szerkesztő

Ötvenkettő emelettel a Salesforce torony teteje alatt egy üvegtáblás konferencia teremben találkozom Paula Goldmannel, ahol az egyenlőség-iroda szavai fel vannak tüntetve egy patchwork banner-bannerben, az a fajta dekoráció, amelyet vásárolhat egy gyermek születésnapi partijához.

Goldman Princetonon és Ph.D.on szerez diplomát. Harvardból, ahol megvizsgálta, hogy az ellentmondásos ötletek hogyan válnak mainstreamre. Megérkezett a Salesforce-be alig több mint egy éve az első etikai és humánus felhasználási főtisztviselővé vált, aki példátlan és határozottan egyértelmű címet kapott, amelyet kifejezetten példa nélküli, félreérthető, mégis nagyon specifikus munkájához hoztak létre: vigyázzon arra, hogy a Salesforce a világot jobbá, nem pedig rosszabbá tegye.

"Azt hiszem, egy pillanat alatt az iparban vagyunk, ahol ezen a inflexiós ponton vagyunk" - mondja nekem Goldman. „Azt hiszem, hogy a technikaipar itt volt már korábban, a biztonság a 80-as években volt. Hirtelen vírusok és férgek voltak, és teljesen új módon kellett gondolkodni róla és kezelni. És látta, hogy azután egy biztonsági ipar növekszik. És most ez csak a szokásos protokoll. Nem szállítana egy nagyobb terméket anélkül, hogy red-teambe állítaná, vagy megbizonyosodna róla, hogy benne vannak a megfelelő biztonsági intézkedések. ”

"Azt hiszem, hasonló helyzetben vagyunk az etikával" - mondja. „Ez nem csak ahhoz szükséges, hogy legyen egy eszközkészlet, amellyel a munkát elvégezze, hanem egy sor sorozat is, amely fontos. Szóval hogyan kell méretezni ezeket a normákat?

Megkérdezem tőle, hogy mindenekelőtt hogyan határozzák meg ezeket a normákat.

"Bizonyos értelemben ez a milliárd dolláros kérdés" - mondja. „Mindezek a kérdések rendkívül bonyolultak, és nagyon kevés olyan kérdés, amelyre a válasz teljesen egyértelmű. Jobb? Nagyon sokkal ez az, amelyik értéket tartja magasabbnak a számításában? ”

···

A Cambridge Analytica botrány, a munkavállalók kikerülése és más politikai és adatvédelmi események nyomán a tech-vállalatok a hívások nak nek bérel amit az Data & Society Research Institute kutatói hívnak fel „Etikai tulajdonosok” azok az emberek, akik felelősek az etikus vizsgálat alapjául szolgáló, az emberi értékekkel kapcsolatos ősi, domain-ugró és megoldatlan viták működéséért - gyakorlati és kimutatható módon.

A Salesforce Goldman-t az Omidyar Network-től bérelte fel csúcspontja egy hét hónapos válságkezelési folyamat, amely akkor következett be, amikor a Salesforce alkalmazottai tiltakoztak a vállalat részvételével a Trump adminisztráció bevándorlási munkájában. Más vállalkozások, reagálva a saját válságukra és aggodalmaikra, kis szakembert béreltek fel hasonló filozófusokkal - filozófusokkal, politikai szakértőkkel, nyelvészekkel és művészekkel -, hogy mindenki biztosítsa, hogy amikor ígéretet tesznek arra, hogy nem gonosz, valójában koherens elképzelésük van a mit jelent ez.

Akkor mi történt?

Miközben egyes tech-cégek konkrét lépéseket tettek az etikus gondolkodás beillesztése érdekében folyamataikba, Catherine Miller, a Doteveryone etikai tanácsadás ideiglenes vezérigazgatója elmondta, hogy a téma sokkal „átcsapódott”.

A kritikusok ezt elutasítják „Etikai-mosó”, Az a gyakorlat, hogy pusztán az erkölcsi értékek irányába vonulnak annak érdekében, hogy elkerüljék a kormányzati szabályozást és a médiakritikát. A kifejezés a technológiai etika körüli egyre növekvő lexikonhoz tartozik, vagyis a „tetika” rövidítéshez, amely szatíraként kezdődött a „Szilícium-völgy” tévéműsorban, ám azóta időnként komoly felhasználásra vált.

"Ha nem alkalmazza ezeket a dolgokat a gyakorlatban és az ösztönző struktúráiban, ha nincs áttekintési folyamata, akkor az erkölcsi gőzölőprogrammá válik" - mondja Shannon Vallor, a Markkula Center technológiai filozófusa. Alkalmazott etika szakértő a Santa Clara Egyetemen. "Ez olyasmi, amit megígértél, és akartad szállítani, de valójában soha nem érkezett meg."

A Google hírhedt módon létrehozta az AI Tanácsot, majd tavaly áprilisban feloszlatta után az alkalmazottak tiltakoztak az LGBTQ-ellenes ügyvéd bevonása. Ma a Google etikai megközelítése magában foglalja a „Modellkártyák”Célja az AI magyarázata.

"Ez nem olyan, aminek nincs foga" - mondja Michael Brent, az Enigma adat etikusa és a Denveri Egyetem filozófia professzora. "Ugyanúgy, mint:" Itt egy igazán szép kártya. "

A társaság erőteljesebb erőfeszítéseket tett: Vallor éppen befejezte a szolgálat körét a Google-on, ahol etikai szemináriumokat tanított a mérnököknek és segített a társaságnak a termékfejlesztés irányítási struktúráinak megvalósításában. „Amikor a szervezeti környezetben az etikáról beszélek, úgy gondolom, hogy gyakran az erkölcsi ismeretek és erkölcsi készség segíti az embereket és a szervezeteket másokkal szembeni kötelezettségeik teljesítésében” - mondja nekem Vallor.

Több mint 100 Google alkalmazott dolgozik részt vett etikai tréningeket fejlesztettek ki a Markkula központban. A cég kifejlesztett egy a méltányossági modul a gépi tanulás összeomlási tanfolyamának részeként, és frissítések negyedévente a „felelős AI gyakorlatok” listáját. "Az ezeket a vállalatokat alkotó emberek túlnyomó többsége olyan termékeket akar építeni, amelyek embereknek kedvesek" - mondja Vallor. „Valójában nem akarják megtörni a demokráciát, és valójában nem akarnak fenyegetni az emberi jólétet, és valóban nem akarják csökkenteni az írástudást és a valóság tudatosságát a társadalomban. Olyan dolgokat akarnak készíteni, amelyekre büszkék. Szóval megteszek mindent, amit segíthetek nekik elérni? Igen."

···

A Markkula központot, ahol Vallor dolgozik, Jike Mike Markkula, a „ismeretlenAz Apple társalapítója, A 1986, ugyanúgy nyújtott a központnak, mint a fiatal Steve Jobs kezdeti hitelt. Soha nem akarta, hogy a neve az épületben legyen - ez meglepetés, hála jele volt az egyetemtől.

Markkula visszahúzódott egy csendes életet élve, és a Woodside-i szétszóródott kapuüzeméből dolgozott. Manapság nincs sok kapcsolat a kezdett társasággal - „csak akkor, ha valami baj van a számítógéppel” - mondja. Amikor azonban a 80-as évek közepén megérkezett a Santa Clara campusba, hogy tájékozódjon lányával, az Apple elnöke volt, és aggódott a völgyben zajló dolgok miatt. "Mindkettőnk számára, Linda [felesége] és én is egyértelmű volt, hogy nagyon sokan voltak olyan döntéshozó pozícióban, akiknek nem volt etikája a radar képernyőjén." - mondja. "Nem úgy, hogy etikátlanok, csak nem voltak olyan eszközök, amelyekkel dolgozni tudnának."

Olvassa el a teljes történetet itt ...

Csatlakozz a levelező listánkhoz!


avatar
3 Megjegyzés szálak
0 Téma válaszok
0 Követő
A legtöbb reagált megjegyzés
A legforróbb megjegyzésséma
2 Komment írók
Steve Prewittcsak mondom Legutóbbi kommentárok
Iratkozz fel
Legújabb legrégebbi leginkább szavaztak
Értesítés
csak mondom
Vendég
csak mondom

„Mindezek a kérdések rendkívül bonyolultak” - mondja. Az értékek az egyéntől függnek. Bizonyos értelemben igen, ez rajtunk múlik, de a kérdés nem bonyolult. Fogták a csalit, és működik. Magától értetődik, és mint olyan, tették maguknak a kis isteneknek, akik tudják a jót és a rosszat, nemcsak maguk számára, hanem választottak is nekünk. Az etikát és a jogtudományt általában az iskolában tanítják, ám a Biblia kihagyta. Csak nézze meg a televízióban reklámozó ügyvédeket. Az az igazság, hogy MINDEN bűnösök vagyunk. Igen azt... Tovább »

Steve Prewitt
Vendég
Steve Prewitt

Az egész cikk „gőzölőnek” tűnt fel. Az etika vicc, amikor az iparág legnagyobb szereplője kesztyűben dolgozik Kínával, létrehozva egy nemzeti technokratikus gulagot (és nem, nem arról beszélek, hogy a muszlimok „újjáélesztési” táborokat alkotnak, amelyek meghatározzák a gonoszt).